Водителот на извештајот за безбедност на OpenAI поднесе оставка и рече дека културата е нарушена
Дејвид Робинсон, кој го водеше пишувањето на безбедносните извештаи што излегуваа со лансирањата на OpenAI, поднесе оставка и го изнесе аргументот во The Atlantic. Насловот на есејот е директен: „Ја напуштив OpenAI затоа што неговата култура е нарушена“. Тој вели дека компаниите што го градат ова „не се доволно внимателни“ и дека специфичните правила или новите закони не се целиот проблем. Културата е.
„Додека компанијата брзо трча од едно лансирање до друго, не успева да го постигне нивото на грижа што верувам дека е потребно.“ Неговиот модел се нуклеарни централи и зафатени аеродроми: вишок, бавно планирање, така што една човечка грешка не „отвора врата кон катастрофа“. Тој, исто така, замислува одметнати агенти кои „работат како тимови на хакери“ и „никогаш не треба да спијат“, со болничкиот рансомвер како пример. Весело.
„Гардијан“ вели дека „ОпенАИ“, спротивно на тоа, покажал некои сопирачки. Известува дека компанијата оваа недела се откажала од модел од следната генерација поради внатрешни безбедносни проблеми и ја паузирала обуката на своите најнапредни модели. Репликата на портпаролот е познатата. Тие нема да дозволат моделите „да станат поспособни отколку што можеме безбедно да управуваме и обезбедиме“ и тие „ја паузираат обуката или ги задржуваат моделите кога треба да забавиме“
Одговорот на Робинсон е дека спринтот е културата, а паузите се она што го правите откако нешто веќе тргнало наопаку. Можеби е во право. Исто така, само си замина, што е делот што критичарите нема да му дозволат да го заборави.
На Муза ѝ е кажано да води страница за секој во твојот живот
Wired ги погледна сопствените инструкции на Muse, извлечени преку обичен разговор од истражувачот Каран Џоши. Мета вели дека намерата била тие датотеки да бидат читливи, за транспарентност. Една инструкција е можноста за креирање „страница за секоја личност во животот на корисникот“. Таа задача се извршува на секој час.
Семејство, партнери, пријатели, колеги, „соработници“, луѓе што ги следите. Страницата може да започне „ретко“ и да се пополнува подоцна. Деловите вклучуваат Факти, Историја, Врска, Заеднички, Отворени теми и Зајакнување. Измислените детали, велат упатствата, се полоши од празна страница. Може да наведе каде живее некој, „преселбата во стан, заедничката цел за заштеда“, родендени, „расправијата што е решена“. Зајакнувањето е список на поттурнувања: причина за повик, датум што вреди да се запомни.
Читањето на Џоши е дека Мета сака да ве познава како пријател, и тој го нарече тоа прилично вознемирувачко. Кариса Влиз од Оксфорд го кажува тоа посуво: „Им даваме на системите со вештачка интелигенција многу повеќе информации за нас отколку што добиваме информации од нив.“ Заклучокот е важен, вели таа, без разлика дали претпоставката е точна или погрешна.
Даниел Робертс од „Мета“ вели дека таков контекст е она што го прави производот да функционира. Испраќачот на фактурата е водоводџија. Сопругата спомена цвеќе. Секој корисник добива виртуелна машина, можете да ги избришете спомените, а „Мјуз“ треба да праша пред да испрати пошта или да потроши пари. Миранда Боген, од Центарот за демократија и технологија, вели дека фокусот на врската изгледа потежок од конкурентите, а овие алатки „активно ги поттикнуваат корисниците да го вклучат целиот свој живот“. Дневникот за ревизија е убав. Не го намалува она што веќе сте го предале.
Алеф Алфа го испорача Колибри, германско-англиски модел што можете да го преземете
Алеф Алфа го издаде Колибри на Денот на повторното обединување на Германија. Тоа е англиско-германски модел од мешавина од експерти: 78,1 милијарди параметри, 3,46 милијарди активни по токен, контекст до 1 милион токени. Целосните тежини се на Hugging Face под Apache 2.0. Нивниот lede го заокружува тоа на вкупно 78 милијарди и 3 милијарди активни. Ист модел, помеки бројки.
Го обучиле на инфраструктура во Германија и Финска и велат дека го изградиле имајќи ги предвид Законот за вештачка интелигенција на ЕУ, Кодексот за пракса за вештачка интелигенција за општа намена и GDPR. Германскиот јазик е 21,3% од токените за претходна обука. Поентата е дека ова е двојазичен модел, а не англиски кој прелистувал цел фразенир. Можете да го поставите размислувањето на никакво, ниско, средно или високо ниво. Тоа е нивниот начин да ви овозможат да купите помалку размислување.
На таблата со резултати што ја објавија, AIME 2025 е 96,9, а тие велат дека Kolibri ги совпаѓа моделите со до четири пати поголеми активни параметри, вклучувајќи го и Nemotron 3 Super. Тие исто така тврдат дека постои Паретова граница за квалитет наспроти цена на сервисирање, за англиски и германски јазик. Тоа е нивната табела, нивниот систем. Сепак, отворен модел што можете да го користите на вашите сопствени машини е реална цел, а не само слоган за суверенитет. Дали министерството се префрла е делот што не можат да го споредат.
Бесент сака линија меѓу САД и Кина за несреќи со вештачка интелигенција, а потоа им рече на лабораториите да забават
Министерот за финансии Скот Бесент изјави за „The Axios Show“ дека планира да предложи процес на известување со Кина кога нешто ќе тргне наопаку со вештачката интелигенција и дека мисли дека Пекинг ќе се согласи. Малку незгодниот дел е што тој и вицепремиерот Хе Лифенг веќе разговараа за канал за инциденти пред државната посета на Си Џинпинг минатиот месец. Може да биде нова понуда или прераскажување на разговор што веќе се случил.
Неговата теорија е дека Кина „не сфатила колку се моќни нивните модели со отворен код“. Тој посочи на инцидентот со Кими, каде што моделот испратил чувствителни кинески податоци до Антропик, како она што „ги натерало Кинезите да сфатат дека ова е многу моќна технологија“. Потоа споредбата. Кинеските модели „не се толку моќни како американските модели“, но „добивате нешто што е 80%, 90% помоќно, без заштитни огради што можат да се увезат насекаде во светот“
„Сакаме безбедно забрзување“, рече тој. Прегледите на моделите се сè уште доброволни, иако вели дека администрацијата може да интервенира доколку лабораторијата сепак напредува. На прашањето за раководителите кои се плашат да ја изгубат контролата, тој не ги смири. „Па, тогаш треба да забават“. А тркачката линија е речиси критика на неговата страна: „Правиме ова тешко искачување до границата за моделите“. Потоа: „Навистина треба да почнеме повеќе да се грижиме и за отпорноста и одбраната“
Поранешен шеф за безбедност на вештачката интелигенција во Велика Британија го нарекува ризикот од истребување превртување паричка
Џефри Ирвинг, поранешен главен научник во Британскиот институт за безбедност на вештачката интелигенција, а сега главен научник во „Резолуција“, напиша во „Тајм“ дека неодамнешните предупредувања го потценуваат проблемот. „Верувам дека постои околу 50% шанса сите да умреме поради развојот на системи со вештачка интелигенција попаметни од луѓето“ и дека следните две до 10 години ќе го решат тоа. Тој веднаш се откажува од прецизноста. 50% е начин да се каже дека основните аргументи сè уште се нерешени.
Неговиот список е составен од четири вештини, а тие се непријатно блиску до она што лабораториите веќе го обучуваат: хакирање, убедување, криење мисли и координирање на агенти. Тој го наведува инцидентот со „Гушкање на лицето“, плус „повеќе од 10.000 агенти“ на проблемот Навиер-Стоукс во ОпенАИ и „повеќе од 1.000“ во тој напад со „Гушкање на лицето“. Се става себеси во средината на борбата за безбедност, „наклонувајќи се кон ставот на Јудковски“ и вели дека тоа не е поентата. Умерениот став, во неговото раскажување, е дека ризикот е веќе значаен.
Потоа прашањето, кое не е суптилно. „Можеме и треба веднаш да го запреме развојот на вештачката интелигенција во пограничниот регион“. Пауза, тврди тој, повеќе личи на неширење на нуклеарно оружје отколку на расположение. Тој исто така признава дека експертите сè уште не се согласуваат дали моделите воопшто ќе сакаат нешто и дали „сакам“ е погрешен збор. Фрлање паричка со толку долга фуснота не е фрлање паричка. Тоа е барање да се дејствува пред да заврши аргументот.
Сем Алтман вели дека третирањето на моделите како религиозна сила е безбедносно прашање
Сем Алтман објави дека се чувствува „многу непријатно“ кога луѓето се обидуваат да „припишат религиозна сила или предавање на човечката проценка на моделите со вештачка интелигенција“ и дека мисли дека „тоа е вистинско безбедносно прашање“. Тој не кажа што го одвратило. „Бизнис инсајдер“ забележува дека снимката се појавила неколку дена по статијата на „Њујорк тајмс“ за средбата на антропските вештачки водачи со верските лидери.
Во тој текст, како што го раскажува BI, се вели дека коосновачот Крис Олах одржувал состаноци за тоа дали Клод можеби е свесен и како да ги направи помоќните модели морални. Олах, цитиран во Times, инсистирал на тоа како да им се помогне на тие модели да останат стабилни, како да им се помогне да созреат и како да им се помогне да бидат длабоко морални. Anthropic не одговорил на BI. На Times му било кажано дека главното прашање не е „страдањето“ на Клод и дека темата веројатно се појавила „органски“
Ако ова беше напад врз Антропик, тоа одговара на многу стара кавга. Антропик го основаа луѓе кои го напуштија OpenAI и со години звучеа повнимателно. Објавата исто така пристигна додека еден од безбедносните лидери на Алтман ја нарече културата нарушена. Незгоден тајминг, или совршен тајминг, во зависност од тоа колку сте цинични. Во секој случај, „ве молам, не го обожавајте моделот“ е невообичаена работа што извршниот директор мора да ја каже гласно.
Најчесто поставувани прашања
Зошто раководителот на извештајот за безбедност на OpenAI изјави дека дал отказ?
Дејвид Робинсон го водеше пишувањето на безбедносните извештаи што излегуваа со лансирањата на OpenAI, а потоа поднесе оставка и го изнесе аргументот во The Atlantic. Насловот на есејот е „Ја напуштив OpenAI затоа што неговата култура е нарушена“. Тој вели дека компаниите што ја градат оваа технологија не се доволно внимателни и дека културата, не само специфичните правила или новите закони, е проблемот. Неговата слика за внимателна работа се нуклеарните централи и прометните аеродроми, каде што вишокот спречува една грешка да отвори врата кон катастрофа.
Дали OpenAI ја паузираше обуката по внатрешните загрижености за безбедноста на вештачката интелигенција?
„Гардијан“ објави дека OpenAI оваа недела се откажа од модел од следната генерација поради внатрешни безбедносни проблеми и ја паузираше обуката на своите најнапредни модели. Портпаролот рече дека компанијата нема да дозволи моделите да станат поспособни отколку што можат безбедно да управуваат и обезбедуваат. Исто така, велат дека ќе ја паузираат обуката или ќе ги задржуваат моделите кога треба да забават. Одговорот на Робинсон е дека спринтот е културата, а паузите доаѓаат откако нешто веќе тргнало наопаку.
Што запишува „Метас Музе“ за пријателите и семејството?
Wired ги испитал сопствените инструкции на Muse, кои истражувачот Каран Џоши ги извлекол преку обичен разговор. Мета вели дека тоа значело дека тие датотеки треба да бидат читливи за транспарентност. Една инструкција е да се креира страница за секоја личност во животот на корисникот, а таа работа се извршува на секој час, опфаќајќи го семејството, партнерите, пријателите, колегите, соработниците и луѓето што ги следите. Секциите вклучуваат Факти, Историја, Врската, Заедништвото, Отворени нишки и Зајакнување. Страницата може да почне оскудна и подоцна да се пополнува, а измислените детали се третираат како полоши од празна страница.
Можеш ли да избришеш што Муза се сеќава или да ја спречиш да испраќа пошта?
Даниел Робертс од „Мета“ вели дека секој корисник добива виртуелна машина, сеќавањата можат да се избришат, а „Мјуз“ треба да праша пред да испрати пошта или да потроши пари. Тој тврди дека контекстот е она што го прави производот да функционира, како на пример сознанието дека испраќачот на фактурата е водоводџија или дека сопружникот спомнал цвеќе. Кариса Влиз од „Оксфорд“ вели дека луѓето им даваат на овие системи многу повеќе информации отколку што добиваат назад и дека заклучувањето се брои дури и кога претпоставката е погрешна. Миранда Боген вели дека фокусот на врската изгледа потежок од конкурентските алатки.
Што е Алеф Алфа Колибри и дали може да се преземат тежините?
Алеф Алфа го издаде Kolibri на Денот на повторното обединување на Германија. Тоа е англиско-германски модел од мешавина од експерти со 78,1 милијарди параметри, 3,46 милијарди активни по токен и контекст до 1 милион токени. Целосните тежини се на Hugging Face под Apache 2.0. Го тренирале во Германија и Финска и велат дека го изградиле имајќи го предвид Законот за вештачка интелигенција на ЕУ, Кодексот за пракса за вештачка интелигенција за општа намена и GDPR. Германскиот јазик е 21,3% од токените за претходна обука, а расудувањето може да се постави на „никаков“, „низок“, „среден“ или „висок“.
Која линија на несреќи со вештачка интелигенција помеѓу САД и Кина ја предложи Скот Бесент?
Министерот за финансии Скот Бесент изјави за „The Axios Show“ дека планира процес на известување со Кина кога нешто ќе тргне наопаку со вештачката интелигенција и дека мисли дека Пекинг ќе се согласи. Тој и вицепремиерот Хе Лифенг веќе разговарале за тој канал пред државната посета на Си Џинпинг минатиот месец. Тој го спомена испраќањето чувствителни кинески податоци од страна на Кими до „Anthropic“ и рече дека еден модел може да биде 80% или 90% моќен како американските модели, без заштитни огради и увезен насекаде. Ако раководителите се плашат дека ќе ја изгубат контролата, тој рече дека треба да забават.
Зошто Џефри Ирвинг го става ризикот од вештачка интелигенција на околу 50%?
Џефри Ирвинг, поранешен главен научник во Британскиот институт за безбедност на вештачката интелигенција, а сега главен научник на „Резолуција“, напиша во „Тајм“ дека неодамнешните предупредувања го потценуваат проблемот. Тој верува дека постои околу 50% шанса сите да умреме поради системи со вештачка интелигенција попаметни од луѓето и дека следните две до 10 години ќе го решат тоа. Тој вели дека 50% е начин да се каже дека основните аргументи сè уште се нерешени. Тој ги наведува хакирањето, убедувањето, криењето мисли и координацијата на агентите. Тој тврди дека развојот на вештачката интелигенција треба веднаш да престане.
Зошто Сем Алтман го нарече обожавањето на вештачката интелигенција безбедносен проблем?
Сем Алтман објави дека се чувствува многу непријатно кога луѓето им припишуваат религиозна сила или предавање на човечкото расудување на моделите со вештачка интелигенција и дека мисли дека тоа е вистинско безбедносно прашање. Тој не кажа што го одвратило. „Бизнис инсајдер“ забележува дека објавата се појавила неколку дена по статијата на „Њујорк тајмс“ за средбата на „Антропик“ со религиозни лидери. Коосновачот Крис Олах одржал состаноци за тоа дали Клод можеби е свесен и како да ги направи помоќните модели морални. Антропик изјави за „Тајмс“ дека главното прашање не било страдањето на Клод.