Извршниот директор на Anthropic го претстави планот за забавување на развојот на вештачката интелигенција
Дарио Амодеи штотуку побара од индустријата да… забави. Не да застане. Темпо. Долг есеј, три чекори и предупредување дека рекурзивното самоподобрување веќе се готви побрзо отколку што возрасните можат да го проверат.
Антропик еднострано поканува вградени евалуатори во зградата - значки, бироа, лаптопи и право да објавуваат наоди без PR филтер. Потоа сака демократските лаборатории да ги координираат безбедносните стандарди. Потоа, некако, договор со авторитарните влади. Лесно на хартија. Тешко насекаде на друго место.
Тој сè уште вели дека вештачката интелигенција би можела да биде чудо. Тој исто така вели дека поспособен, неурамнотежен рој би можел да го преземе интернетот со постојан ботнет и да направи стотици милијарди штета. Овие две реченици стојат една до друга и не се согласуваат.
О - и тој сака тесно ослободување од одговорност за антимонополски прекршоци, за разговорите за безбедност сами по себе да не бидат правен проблем. Сопирачките доаѓаат со документација. Секако дека доаѓаат.
Сем Алтман потврдува дека OpenAI нема да излезе на берза оваа година, велејќи дека IPO сега би се случило во „лошо советуван момент“ со оглед на загриженоста за безбедноста на вештачката интелигенција
Алтман седна на ексклузивно интервју и го прекина календарот за котирање. IPO токму сега, рече тој, би бил „лошо советуван момент“. Работата на безбедноста не е завршена. Усогласувањето не е завршено. Општеството не е подготвено. Кога го притиснаа - не оваа година.
Банкарите веќе кружеа. Доверливиот документ постои. Сега извршниот директор вели дека прво имаат многу работа да завршат, вклучително и да откријат како индустријата и владите воопшто соработуваат. Звучеше речиси олеснет што чека.
Тој исто така рече дека градењето вештачка интелигенција надвор од човечка контрола е „апсолутно“ можно - потоа вети дека ќе ја паузира обуката ако тоа е патот. Смело. Исто така, погодно, можеби. Можеби и двете. Заплетот помеѓу непрофитните/профитните организации, тврдеше тој, постои за да можат да донесуваат одлуки кои очигледно не се во интерес на акционерите. Ќе видиме дали таа реченица ќе преживее контакт со вистински проспект.
Сем Алтман од OpenAI навестува договор со други компании за вештачка интелигенција за справување со безбедносните ризици
Исто интервју, различен наслов, а ова е шепотот. Седнувањето со Амодеј, Маск и Демис Хасабис е природниот следен потег. Алтман: тој мисли дека тоа ќе се случи. Нема однапред да ги најавува приватните разговори. Потоа, во основа, ги најави однапред.
Двоцифрен катастрофален ризик не е прифатлив, рече тој. Сè уште необјавените модели се веќе толку способни што понатамошното продолжување без подобра можност за следење се чини неодговорно. Вистинскиот договор и внимателно протечената атмосфера можат да изгледаат идентично однадвор.
Персоналот веќе слушнал верзија за ова интерно. Јавно, сè уште е магла. Ако се случи такво нешто во собата, одлично. Ако не се случи, цитатот сепак ја завршил работата.
Сем Алтман го поддржува повикот на Дарио Амодеи за забавување и вели дека OpenAI ќе го стори истото
Неколку часа по есејот, Алтман објави дека OpenAI ќе го исполни ветувањето за вграден евалуатор. Пристап сличен на оној на вработените. Наскоро ќе споделиме повеќе. Маск напиша три збора: „Дарио е во право“. Три сопернички извршни директори. Еден слоган. Нелагодна енергија за викенд.
Координацијата и театарот можат да патуваат заедно. Првата точка од планот на Амодеи сега ги вклучува двете најголеми лаборатории кои јавно климаат со главата. Hugging Face - да, тоа Hugging Face - побара да се придружи на програмата за евалуација и започна нешто наречено Иницијатива за отворено усогласување. Транспарентност од луѓето кои беа хакнати. Поетски или остроумен.
Европа, колку и да вреди, нема од кого да бара тоа ослободување од одговорност во американски стил. Брисел одамна престана да дели индивидуални ослободувања. Значи, ракувањето е американско. Остатокот од мапата е… кревање раменици.
OpenAI само сака да победи
Математичарите не се расположени за славење по викендот исполнет со интервјуа. Спринтот Навиер-Стоукс на OpenAI - приближно десет илјади агенти, десетици милиони долари компјутерска работа, осумдесет и осум часа - изгледа како лов на трофеи одвнатре во областа. Математичарите сакаат увид. Лабораторијата, постојано велат, сака да победи.
Тристан Бакмастер им кажал дека OpenAI нуди неограничено пресметување и единствено авторство ако го отпушти својот соработник поврзан со Anthropic. Тој го нарече тоа поткуп. Рече не. OpenAI категорично вели дека неговите упатства од Codex не можеле да влијаат на системот. Тој не е убеден. Андреас Том сè уште се прашува дали ChatGPT разговара за неговата сопствена работа го храни моделот што подоцна се градел врз неа. Само компанијата би знаела. Тој се сомнева дека тие дури и не знаат.
И потоа, најинтересното: OpenAI вели дека веќе постигнал значителен напредок во врска со уште еден проблем со Милениумската награда. Кој останува неименуван. На Клеј сепак му е потребен долг период на прифаќање од страна на заедницата. Значи, никој сè уште не „победил“. Тие само што веќе се тркаат за следниот. Слатко.
Најчесто поставувани прашања
Кој е планот на извршниот директор на Anthropic, Дарио Амодеи, за забрзување на развојот на вештачката интелигенција?
Амодеи објави долг есеј во кој бара од индустријата да забави - а не да застане - бидејќи рекурзивното самоподобрување напредува побрзо отколку што ревизорите можат да следат. Првиот чекор е еднострано поканување на вградени евалуатори во Anthropic со значки, бироа, лаптопи и право да објавуваат наоди без филтер за односи со јавноста. Потоа, тој сака демократските лаборатории да ги координираат безбедносните стандарди и, на крајот, некаков вид договор со авторитарните влади. Тој, исто така, сака тесно ослободување од антимонополски права, за разговорите за безбедност сами по себе да не бидат правен проблем.
Зошто Сем Алтман рече дека OpenAI нема да ја објави својата јавна понуда оваа година?
Во ексклузивно интервју, Алтман рече дека IPO во моментов би бил непромислен момент бидејќи работата за безбедност, усогласување и општествена подготвеност се недовршени. Кога беше притиснат, тој потврди дека тоа нема да се случи оваа година иако банкарите кружеа и постои доверлива документација. Тој тврдеше дека непрофитната/профитната структура постои за да може OpenAI да прави повици кои очигледно не се во интерес на акционерите. Тој исто така рече дека градењето на вештачка интелигенција надвор од човечка контрола е апсолутно можно и вети дека ќе ја паузира обуката ако тоа е патот.
Дали Алтман наговести за безбедносен договор со други лаборатории за вештачка интелигенција?
Во истото интервју, Алтман рече дека мисли дека ќе се одржи средба со колеги како Амодеј, Маск и Демис Хасабис, но одби однапред да ги најави приватните разговори. Тој тврдеше дека двоцифрениот катастрофален ризик не е прифатлив и дека сè уште необјавените модели се веќе толку способни што понатамошното продолжување без подобра можност за следење се чини неодговорно. Персоналот веќе слушнал верзија за ова интерно, па затоа јавните коментари може да ја предвидат координацијата, наместо да потврдат завршен договор.
Дали OpenAI ќе го исполни ветувањето на Anthropic за вграден евалуатор?
Неколку часа по есејот на Амодеи, Алтман објави дека OpenAI ќе го усогласи ветувањето за вграден евалуатор со пристап сличен на оној на вработените, а наскоро ќе има и повеќе детали. Елон Маск напиша дека Дарио е во право, ставајќи тројца конкурентски извршни директори на сличен слоган. Hugging Face побара да се придружи на програмата за евалуатори и започна иницијатива за отворено усогласување. Европа не може да понуди исто ослободување од антимонополски права како во САД. Амодеи се огласи, па затоа ракувањето засега е главно американско.
Зошто математичарите го критикуваат спринтот Навиер-Стоукс на OpenAI?
Математичарите го опишуваат процесот на Навиер-Стоукс на OpenAI, кој трае околу десет илјади агенти и трае осумдесет и осум часа, како лов на трофеи што дава приоритет на освојувањето пред увидот. Тристан Бакмастер рече дека OpenAI понудил неограничено пресметување и единствено авторство ако тој отфрли соработник поврзан со Anthropic; тој го нарече тоа поткуп и одби. OpenAI вели дека неговите Codex инструкции не можеле да влијаат на системот, но тој останува неубеден. Андреас Том сè уште се прашува дали разговорите на ChatGPT за неговата сопствена работа го хранеле подоцнежниот напредок на моделот.
Дали OpenAI тврди дека има напредок во врска со уште еден проблем со Милениумската награда?
ОпенАИ вели дека веќе постигнал значителен напредок во врска со уште еден проблем за наградата Милениум, но нема да наведе кој. Институтот за математика Клеј сè уште бара долг период на прифаќање од страна на заедницата, така што никој официјално сè уште не победил. Внатре во полето, таа тајност плус претходната трка Навиер-Стоукс се толкува како лаборатории кои веќе го спринтаат следниот трофеј. Интервјуата на „Верџ“ ја прикажуваат тензијата како математичарите да сакаат увид, додека ОпенАИ сака да победи.