💰 Секвоја тивко скока во мега-рундата на Антропик ↗
Секвоја - веќе поврзана со повеќе големи лаборатории за вештачка интелигенција - наводно се приклучува на огромното зголемување на платата на Антропиците. Тоа е еден вид потег што ја подигнува целата мисла „конфликти, без конфликти“, без разлика дали некој го признава тоа или не.
Се вели дека рундата ќе вклучува и други проверки во тешка категорија, туркајќи го Антропик понатаму во таа врвна, мега-вреднувачка линија. Се задржуваат вибрации на меурчиња. Ова можеби е и новата нормалност, иритирачки.
📢 ChatGPT почнува да флертува со реклами - овој пат навистина ↗
Се вели дека OpenAI тестира реклами за некои американски корисници на пониски нивоа, а оние со повисока плата остануваат без реклами. Ветувањето е дека рекламите нема да влијаат на одговорите - што е смирувачко во теорија, дури и кога рефлексот на доверба дава мал потрес.
Поголемиот подтекст е едноставен: инференцијата е скапа, а само претплатите можеби нема да покријат сè засекогаш… или барем така изгледа. Сепак, првиот пат кога ќе видите „спонзорирано“ некаде во близина на четбот, нешто се менува во вашата глава. Атмосферата се менува.
📚 Издавачите се обидуваат да ја искористат тужбата на Google за обука за вештачка интелигенција ↗
Група издавачи се обидува да се придружи на тужба во која се обвинува Google за користење дела заштитени со авторски права за обука на своите системи за вештачка интелигенција. Оваа правна борба постојано се шири, како пукнатина во мраз што постојано ја слушате, но не можете сосема да ја лоцирате.
Доколку судот им дозволи, случајот би можел да се изостри околу тоа што треба да значат „дозвола“ и „плаќање“ за податоците за обука. Секој сака преседан - по можност таков што им е во корист, секако.
🕳️ Трикот за „брза инјекција“ наводно им се меша на Близнаците преку податоците за состаноците ↗
Истражувачите опишаа напад во стилот на „индиректно инјектирање на промпт“, каде што злонамерните инструкции се кријат во содржина што изгледа нормално, а потоа асистент ги следи подоцна кога корисникот ќе праша нешто невино. Без малициозен софтвер, без магии - само вооружен текст, необично елегантен, а воедно и малку одвратен.
Тоа е потсетник дека „LLM чита недоверлив текст“ не е слатка функција - тоа е цела површина за закана. Како да им дозволите на странци да ви ставаат белешки во џебовите цел ден, а потоа да се однесувате изненадено кога една од нив е стапица.
🎮 Извршниот директор на Razer вели дека гејмерите „веќе ја сакаат вештачката интелигенција“ - тие само ја мразат етикетата ↗
Говорот на Razer на CES се фокусираше на вештачката интелигенција како практична алатка за работните процеси на развивачите на игри - контрола на квалитетот, итерација, такви работи - плус некои концепти на асистенти кои се чувствуваат полу-корисни, полу-научно-фантастични реквизит.
Тие исто така во основа го признаваат проблемот со брендирањето: играчите не сакаат „недостаток на вештачка интелигенција“, но сакаат попаметни алатки и поедноставни искуства. Наречете го „помош“ и луѓето кимнуваат со главата. Наречете го „Вештачка интелигенција“ и луѓето посегнуваат по вилите… понекогаш.
⚖️ Судот утврдува правила за адвокатите кои користат генеративна вештачка интелигенција ↗
Судот објави упатство кое во основа се сведува на следново: секако, користете генерациска вештачка интелигенција - но сепак ја поседувате работата. Не можете да го префрлите вашиот професионален суд на генератор на текст, а потоа да се однесувате шокирано кога тој самоуверено ќе измисли нешто.
Интересно е што откривањето не е потребно освен ако судијата не побара - но пораката за одговорност е вистинската суштина на тоа. Вештачката интелигенција може да црта и да средува… а исто така и да халуцинира како претерано самоуверен практикант со талент за фикција.
Најчесто поставувани прашања
Што значи приклучувањето на Sequoia кон мега-рундата на Anthropic за инвестирањето во вештачката интелигенција и конфликтите?
Тоа сугерира дека големите инвеститори може да продолжат да поддржуваат повеќе врвни лаборатории за вештачка интелигенција одеднаш, што очекувано ја оживува дебатата „конфликти, без конфликти“. Кога истиот фонд е поврзан со неколку лаборатории, луѓето почнуваат внимателно да ги испитуваат стимулациите, пристапот и конкурентските предности. Најавената мега-рунда, исто така, го нагласува наклонот кон огромни проверки и високи проценки, дури и кога „вибрациите на меурот“ сè уште висат во воздухот.
Дали ChatGPT добива реклами на бесплатни или поевтини нивоа и дали тие ќе влијаат на одговорите?
Во извештајот се вели дека OpenAI тестира реклами за некои американски корисници на пониски нивоа, додека повисоките платени нивоа остануваат без реклами. Исто така, се тврди дека рекламите нема да влијаат на одговорите, што звучи смирувачки на хартија, но сепак може да го промени начинот на кој луѓето ја перцепираат довербата. Подтекстот е економски: инференцијата е скапа, а претплатите можеби нема да покриваат сè засекогаш.
Зошто издавачите се обидуваат да се приклучат на тужбата на Google за обука за вештачка интелигенција?
Група издавачи бара да се придружи на тужба во која се тврди дека Google користел дела заштитени со авторски права за обука на системи со вештачка интелигенција. Доколку судот им дозволи, случајот би можел да се заостри околу тоа како треба да изгледаат „дозволата“ и „плаќањето“ за податоците за обука. Повеќе страни честопати значат поголем притисок за јасен преседан - особено околу тоа кој добива надомест и под кои услови.
Што е напад со „индиректна брза инјекција“ и зошто е толку важен во вестите за вештачка интелигенција?
Станува збор за напад каде што злонамерните инструкции се скриени во содржина што изгледа нормално, а асистент ги следи подоцна кога корисникот ќе направи невино барање. Основниот проблем е што моделот чита недоверлив текст, претворајќи ги секојдневните документи и пораки во потенцијална површина за закана. Убедлив е бидејќи може да работи без традиционален малициозен софтвер - само вооружен јазик вграден во содржината.
Зошто гејмерите не ја сакаат етикетата „ВИ“, но сепак сакаат алатки за ВИ?
Извршниот директор на Razer тврди дека гејмерите веќе ги сакаат практичните придобивки - побрза контрола на квалитетот, помазна итерација и помагачи во работниот тек - но реагираат негативно на брендирањето. Загриженоста често е „недостаток на вештачката интелигенција“ или содржина што се чини дека бара малку напор и е неавтентична. Преформулирањето како „помош“ или корисна функција може да ја направи да се чувствува како алатка што го подобрува искуството, наместо да ја заменува креативноста.
Што значат правилата на судот за адвокатите што користат генеративна вештачка интелигенција и дали тие мора да ја откријат?
Опишаното упатство е едноставно: адвокатите можат да користат генеративна вештачка интелигенција, но тие остануваат одговорни за работата и не можат да го префрлат професионалното расудување на генератор на текст. Ризикот е халуцинација - самоуверено измислени факти или цитати - па затоа верификацијата и одговорноста остануваат централни. Според извештаите, откривањето не е потребно освен ако не побара судија, но пораката сепак е: вие сте сопственик на исходот.