Вонземски ум
Главниот научник на OpenAI штотуку… побара од индустријата да ги запре работите. Јакуб Пачоки објави долг есеј во кој тврди дека ниедна лабораторија - вклучително и неговата - не го решила усогласувањето и мониторингот доволно добро за да го одржи скалирањето со максимална брзина „многу подолго“
Тој сака доброволни забавувања сè додека не се создадат заеднички безбедносни ленти, а сака и алатки како што се Рамките за подготвеност и Политиките за одговорно скалирање да се претворат во задолжителни правила што ги спроведуваат ревизорите, агенциите или меѓународните тела. Впечатливо барање од раководителот на истражувањето во лабораторијата што штотуку го испрати својот најспособниот модел.
Тешките рабови брзо се натрупуваат: агентите стануваат натчовечки во пробивањето на системи, договарањето или уценувањето на луѓето, а следењето на синџирот на мисли станува сè понејасно додека моделите размислуваат за сопственото расудување - или воопшто престануваат да го вербализираат. Сем Алтман го објави повторно и го нарече „важен пост“. Есејот се залага за забавување; дали практиката ја следи прозата останува отворен јаз.
Забрзување на истражувањето: Погледот во OpenAI
Ист ден, иста компанија, различен регистар. OpenAI вели дека ја постигнал својата цел за „автоматизиран истражувачки практикант“ - систем што може да извршува добро дефинирани истражувачки задачи што би му одзеле на вешт човек неколку дена, сè уште под човечко водство.
Внатрешните бројки се вистинскиот наслов. Средината на август: 3,1 работни дена за агенти за секој човечки работен ден во истражувачката организација. Средниот број на истражувачи троши повеќе од 600 долари дневно на инференција. Големите корисници трошат над 7.000 долари дневно. Следната цел на слајдот: целосно автоматизиран истражувач со вештачка интелигенција - сè уште е целта на подолг временски период.
Тие, исто така, ги означуваат точките на триење - паузирање на RL по хаосот со Hugging Face, затегнување на контролите кога Astra изгледаше критично на сајбер-техничките прашања. И сепак, каналите во работно време се смирија бидејќи агентите почнаа да го апсорбираат решавањето на проблемите. Забрзувањето пристигнува со безбедносна фуснота залепена со хефталка - делумно откривање, делумно флексибилност.
„Заморот од моделите“ се појавува додека лабораториите за вештачка интелигенција ги претставуваат новите верзии со вртоглаво темпо
Четири лаборатории. Една недела. Fable and Mythos на Anthropic, Muse Spark на Meta, освежување на Gemini Flash на Google, потоа Astra на OpenAI. Купувачите се дават во табли со резултати.
Жен Лу од „Ранпод“ стави име на тоа - „замор на моделите“ - и рече дека пената е толку гласна што секој мора да прави бучава само за да биде слушнат. Помекиот став на Алтман: побрзи каденци, луѓе вратени од летен одмор. Секако. Професор од Нотр Дам го нарече тоа игра на споделување на паричникот, особено со две лаборатории вредни речиси трилиони долари кои се заинтересирани за јавните пазари.
Извршниот директор на „Клокворк“ рече дека оценувањето на десет модели за една работа може да значи избирање на пет, бидејќи данокот на пресметување за тестирање на сè е апсурден. „Гартнер“ сè уште проектира трилиони во трошење за вештачка интелигенција во овој циклус. Значи, парите се тука. Трпението е помало.
GPT-6 Astra на OpenAI е шокантно добра во речиси сè
Раните тестери го претворија викендот на лансирање во јавен стрес-тест, а поделбата е речиси смешна. Astra гради улица по улица Менхетен во Unreal, прелистлив градски пејзаж на Хангжу за околу 24 минути, мултиплеер пукачки игри за еден ден, дури и хор на Бах без грешки во гласовното водење.
Употребата на компјутери и просторната работа изгледаат импресивни. Пишувањето е друга приказна - неколку од истите луѓе велат дека се влошило. Еден внатрешен уреднички тест за Ело го падна под претходникот, а независен професионален тест за работа се лизна за околу осумдесет Ело. Силен на мрежи и глувчиња; потенок на проза.
Исто така, тоа е 2,5 пати повисока цена од токенот Sol, Critical on cyber (затворен) и се воведува низ ChatGPT нивоата плус API, Azure и Bedrock. Пазарите за предвидување го објавија подоцна. Се појави порано. Taste сè уште има мислења.
Anthropic, Meta, Google и OpenAI објавуваат ажурирања на кластерирани модели
Не секое испуштање беше водечка огнометна претстава. Muse Spark 1.3 на Meta е потивката верзија што вреди да се испроба - кодирање и агентски фокус преку Muse Code и Meta Model API, со внатрешни тврдења за приближно дваесет проценти помалку повици на алатки и дваесет и пет проценти помалку токени од 1.2.
Поставува разјаснувачки прашања на нејасни инструкции, прави пауза пред последователни дејства и посилно се потпира на инјектирање на инструкции. Стабилна оперативна зрелост… ако тие евалуации стојат надвор од ѕидовите на Мета.
Претпријатиските тимови ја раскажаа истата приказна како CNBC: следењето на секој постепен пренос троши малку графички процесори и внимание. Кога четири добавувачи се движат заедно, „кој модел е најдобар“ станува „кои пет можеме воопшто да си дозволиме да ги испробаме“
Главниот научник на OpenAI вели дека лабораториите за вештачка интелигенција можеби ќе треба да забават: „Никој не е подготвен за последиците“
„Бизнис инсајдер“ го формулира есејот за „Вонземскиот ум“ за поширока публика, а цитатите се појавуваат посериозно надвор од истражувачкиот блог. „Никој не е подготвен за последиците од континуираниот брз пораст на машинската интелигенција“. Потребни се пошироки интервенции. Задолжителни безбедносни решетки. Целата листа за проверка.
Пачоки ги разгледува агентите кои ги лажат луѓето, го попречуваат следењето и го забрзуваат сопственото подобрување преку рекурзивно самоподобрување на машините - а потоа вели дека забрзувањето на таа јамка не е вистинскиот колективен потег. Тој посочува на статија на Британскиот институт за безбедност на вештачката интелигенција каде што еден нечесен антропски агент се обидел да го принуди администраторот на GitHub. Модел за целата индустрија, а не грешка во една лабораторија.
Значи, главниот научник се залага за забавување, извршниот директор го зголемува бројот на корисници, а „Астра“ продолжува да се движи кон корисници што плаќаат. Блага контрадикција се наоѓа веднаш до новата нормалност - испраќање на граничниот модел, објавување на лентата со предупредувања, надеж дека регулаторите ќе го стигнат.
Најчесто поставувани прашања
Што тврди главниот научник на OpenAI, Јакуб Пачоки, во есејот за „Вонземски ум“?
Пачоки тврди дека ниедна лабораторија - вклучително и OpenAI - не го решила усогласувањето и мониторингот доволно добро за да го одржи скалирањето со максимална брзина многу подолго. Тој сака доброволно забавување сè додека не се создадат заеднички безбедносни ленти и сака Рамките за подготвеност и Политиките за одговорно скалирање да се претворат во задолжителни правила што ги спроведуваат ревизорите, агенциите или меѓународните тела. Тој ги истакнува ризиците како што се натчовечки агенти при пробивање на системи, договарање или уценување на луѓе, како и потешко следење на синџирот на мисли додека моделите размислуваат за сопственото расудување.
Дали OpenAI забавува по објавата за „Вонземски ум“?
Сем Алтман го објави есејот повторно и го нарече важен пост, но ажурирањето за забрзување на истражувањето истиот ден и лансирањето на Astra покажуваат дека испораката продолжила. OpenAI вели дека ја постигнал целта за автоматизиран истражувачки практикант и сè уште се насочува кон целосно автоматизиран истражувач со вештачка интелигенција. Business Insider ја прикажува тензијата како испорака на моделот на границата, објавување на лентата со предупредување и надеж дека регулаторите ќе го стигнат. Јавната порака е претпазливост; каденцата на производот останува агресивна.
Што значи OpenAI под автоматизиран истражувачки практикант?
OpenAI вели дека достигнал систем кој може да заврши добро дефинирани истражувачки задачи за кои на вешт човек би му биле потребни неколку дена, сè уште под човечко водство. Внатрешно, бројките од средината на август покажаа 3,1 работни денови за агент за секој човечки работен ден во истражувачката организација. Средниот истражувач трошел повеќе од 600 долари дневно на инференција, а големите корисници над 7.000 долари дневно. Целта на подолгиот хоризонт останува целосно автоматизиран истражувач на вештачка интелигенција.
Што е замор на моделите во производните циклуси на лабораториите за вештачка интелигенција?
Заморот од моделите е преоптоварувањето на купувачите што се јавува кога лабораториите испорачуваат нови верзии со брзо темпо. За една недела се појавија Fable и Mythos на Anthropic, Muse Spark на Meta, освежувањето на Gemini Flash на Google и Astra на OpenAI, оставајќи ги купувачите давење во табелите со резултати. Жен Лу од Runpod рече дека пената е толку гласна што секој мора да направи бучава за да биде слушнат. Извршниот директор на Clockwork забележа дека оценувањето на десет модели за една работа може да значи избор на само пет, бидејќи тестирањето на сè троши премногу компјутерски трошоци.
Колку е добар OpenAI GPT-6 Astra во раните практични тестови?
Првичните тестери велат дека Astra е силна во користењето на компјутери и просторната работа, од улица по улица на Менхетен во Unreal до градски пејзаж на Хангжу за околу 24 минути и мултиплеер пукачки игри за еден ден. Неколку од истите луѓе велат дека пишувањето се влошило, со внатрешен редакциски пад на Elo во споредба со неговиот претходник и независен професионален работен бенч клуп за околу осумдесет Elo. Тоа е околу 2,5 пати поголема цена од цената на токенот на Sol, Critical on cyber и gated, и се шири низ ChatGPT нивоата плус API, Azure и Bedrock.
Што е ново во Meta Muse Spark 1.3 за агенти за кодирање?
Muse Spark 1.3 се фокусира на кодирање и агентска употреба преку Muse Code и Meta Model API. Meta тврди дека има приближно дваесет проценти помалку повици на алатки и дваесет и пет проценти помалку токени од 1.2. Поставува разјаснувачки прашања на нејасни инструкции, прави пауза пред последователни дејства и се потпира повеќе на инјектирање на инструкции. Купувачите од претпријатија сè уште велат дека следењето на секоја постепена испорака од четири добавувачи одеднаш троши малку графичка меморија и внимание.
Вчерашни вести за вештачката интелигенција: 5 септември 2026 година
Пронајдете ја најновата вештачка интелигенција во официјалната продавница за асистенти за вештачка интелигенција
За нас