Советниците на Трамп им кажуваат на фирмите за вештачка интелигенција дека нема да тестираат модели со отворена тежина за безбедност, велат извори ↗
Администрацијата на Трамп им кажа на водечките компании за вештачка интелигенција дека нема да тестираат модели со отворена тежина за безбедност, според луѓе запознаени со дискусиите. Тоа остава прилично значаен дел од проценката на ризикот надвор од владината рамка.
Во пракса, програмерите и корисниците можеби ќе треба да преземат поголема одговорност за евалуација на моделите пред објавување или распоредување. Можеби е пријателски настроено кон иновациите... но времето е тешко, бидејќи отворените модели стануваат поспособни со брзо темпо. (Ројтерс)
Моделите со вештачка интелигенција со отворена тежина ја достигнуваат границата. Безбедносниот јаз останува. ↗
Според извештаите, GLM-5.2 на Z.ai е само неколку месеци зад водечките затворени модели во сајбер и биолошки способности. Тестовите на SaferAI покажаа дека тој не одбил ниту една од офанзивните сајбер или двојна намена биолошки задачи што му беа доставени.
Затворените модели можат да се потпираат на обука за одбивање, класификатори и API контроли. Тежините што може да се преземат се поинакво суштество - откако ќе се објават, заштитните мерки можат да се променат или отстранат, правејќи јазот во безбедноста да се чувствува јасно во облик на кањон. (TechCrunch)
Samsung Electronics ја лансира следната генерација на технологија за меморија со вештачка интелигенција ↗
Самсунг претстави прототип на BV-NAND со повеќе од 400 слоеви и нов дизајн на поврзување на плочки. Компанијата вели дека испорачува приближно 58% поголема густина на меморијата од претходната генерација, заедно со побрзи перформанси за читање, пишување и влезно-излезни перформанси.
Самсунг, исто така, претстави вертикално наредена zHBM меморија поставена над AI акцелератори. Тврди дека архитектурата би можела да понуди повеќе од десет пати поголема густина од конвенционалниот HBM5, тројно поголема енергетска ефикасност и значително помала термичка отпорност - значителни ветувања, благо речено. (Ројтерс)
Трката за центри за податоци со вештачка интелигенција создава товар за лизинг од 1 трилион долари за големите технолошки компании ↗
„Мајкрософт“, „Мета“, „Оракл“, „Амазон“ и „Алфабет“ издвоија околу 1,09 трилиони долари за лизинг што сè уште не се започнати, главно за центри за податоци со вештачка интелигенција. Овие обврски се речиси четири пати поголеми од нивните признати обврски за лизинг.
Капацитетот би можел да го поттикне следниот бум во облакот. Или, помалку весело, да ги остави компаниите да плаќаат за огромни објекти ако побарувачката за вештачка интелигенција разочара - палто од трилион долари купено пред некој да ја провери временската прогноза. (Ројтерс)
Anthropic потпиша договор од 10 милијарди долари со стартапот за вештачка интелигенција Volta ↗
Според извештаите, „Антропик“ се согласил да купи компјутерски капацитет во вредност од 10 милијарди долари од стартапот за вештачка интелигенција „Волта“ во период од шест години. Договорот би поддржал норвешки центар за податоци со капацитет од 133 мегавати.
Се очекува компанијата за криптовалути Bitdeer да помогне во развојот на објектот, кој ќе ги користи системите Vera Rubin на Nvidia. Anthropic собира партнерства за пресметување како магнети за фрижидер - освен што овие магнети чинат милијарди. (TechCrunch)
Вештачката интелигенција нуди „спас“ за економиите во развој, вели Светска банка ↗
Светската банка вели дека вештачката интелигенција би можела да им овозможи на економиите во развој да го компресираат еден век напредок во една деценија, под услов да ја подобрат електричната енергија, поврзаноста и дигиталните вештини. Помалите, локално адаптирани алатки би можеле да ја поддржат здравствената заштита, образованието, земјоделството и јавните услуги без да бараат гигантски национални модели.
Во неговиот извештај се проценува дека 4,5% од работните места во земјите со ниски и средни приходи се изложени на генеративна вештачка интелигенција, во споредба со 14,2% во побогатите економии. Сепак, ветувањето доаѓа со јасни предупредувања за нееднаквост, дезинформации и политичка репресија - спасувачка јаже со неколку јазли врзани за него. (Ројтерс)
Најчесто поставувани прашања
Зошто владата на САД не ги тестира безбедноста на моделите со вештачка интелигенција со отворена тежина?
Според статијата, администрацијата на Трамп им кажала на водечките компании за вештачка интелигенција дека моделите со отворена тежина нема да бидат вклучени во нејзината владина рамка за тестирање на безбедноста. Ова им наметнува поголема одговорност на развивачите на модели, дистрибутерите и корисниците, кои можеби ќе треба независно да ги проценат сајбер, биолошките, злоупотребите и ризиците од распоредување пред да ги објават или усвојат овие системи.
Зошто моделите со вештачка интелигенција со отворена тежина се потешки за обезбедување од затворените модели?
Моделите на вештачка интелигенција со отворена тежина можат да се преземаат, модифицираат и работат надвор од инфраструктурата на оригиналниот развивач. Како резултат на тоа, заштитните мерки како што се обука за одбивање, класификатори и контроли на пристап може да бидат ослабени или отстранети. Затворените модели обично се испорачуваат преку контролирани API-ја, давајќи им на давателите на услуги поголем простор за следење на употребата, ограничување на пристапот и ажурирање на заштитните мерки по распоредувањето.
Како организациите треба да ги оценуваат моделите со отворена вештачка интелигенција пред нивното распоредување?
Вообичаен пристап е да се тестира моделот во однос на реални сценарија за злоупотреба, вклучувајќи навредливи сајбер задачи, барања за биолошки потреби со двојна употреба и обиди за заобиколување на заштитните мерки. Организациите треба да испитаат и како ќе биде хостиран моделот, кој ќе може да го модифицира и кои системи за следење се достапни. Распоредувањата со повисок ризик обично бараат построги контроли на пристап и постојан човечки надзор.
Што е новата технологија за меморија со вештачка интелигенција на Samsung дизајнирана да подобри?
Прототипот BV-NAND на Samsung користи повеќе од 400 слоеви и дизајн со поврзување на плочки, наменет за зголемување на густината на меморијата, а воедно и подобрување на перформансите за читање, пишување и влезно-излезни перформанси. Компанијата, исто така, опиша вертикално наредена zHBM меморија поставена над AI акцелераторите. Овие дизајни се наменети да ги задоволат барањата за капацитет, енергија и топлина создадени од сè поинтензивните AI работни оптоварувања.
Зошто закупите на центри за податоци со вештачка интелигенција од страна на големите технолошки компании се сметаат за финансиски ризик?
„Мајкрософт“, „Мета“, „Оракл“, „Амазон“ и „Алфабет“ наводно издвоиле околу 1,09 трилиони долари за договори за закуп кои сè уште не се започнати, од кои голем дел се поврзани со центри за податоци за вештачка интелигенција. Дополнителниот капацитет би можел да поддржи брз раст на побарувачката за облак и вештачка интелигенција. Сепак, компаниите може сè уште да должат значителни плаќања ако побарувачката се развива побавно од очекуваното или инфраструктурата остане недоволно искористена.
Како вештачката интелигенција може да им користи на економиите во развој?
Светската банка тврди дека вештачката интелигенција би можела да им помогне на економиите во развој да ја зајакнат здравствената заштита, образованието, земјоделството и јавните услуги, особено преку помали алатки прилагодени на локалните потреби. Овие придобивки зависат од сигурна електрична енергија, пристап до интернет и дигитални вештини. Владите исто така мора да управуваат со ризици како што се нееднаквоста, дезинформациите и политичката репресија како што се шири усвојувањето.