Дали вештачката интелигенција е сигурна? [Видео и квиз]

Краток одговор: Вештачката интелигенција не е сигурна како особина: зависи од задачата, јамката за пребарување и дали човекот е сè уште одговорен. Времето на работа е дали крајната точка одговорила; вистинитоста е дали одговорот бил таков. Користете ја кога промашувањето е евтино или може да се фати; забавете кога промашувањето е скапо.

Клучни заклучоци:

Одговорност: Наведете кој го врши прегледот, кој може да го спречи тоа и кој е одговорен.

Транспарентност: Проверете го преземениот дел, или сè уште сте во магла.

Редицијабилност: Евидентирање на барањата, преземените делови и испраќањата, за да можат да се проследат промашувањата.

Отпорност на злоупотреба: Неуспешно затворање на прашањата за пари; никогаш не измислувајте броеви, прозорци или политика.

Илустративни резултати: Третирајте го илустративниот тест од 20 прашања како мапа, а не како 95% доказ.

Статии што можеби ќе ве интересираат по оваа:

🔗 Како да се користи вештачката интелигенција во секојдневниот живот
Откријте практични начини како вештачката интелигенција може да ги поедностави секојдневните задачи и рутини.

🔗 Како да користите вештачка интелигенција на работа
Научете практични начини за подобрување на продуктивноста и ефикасноста со вештачка интелигенција.

🔗 Може ли вештачката интелигенција да размислува сама?
Истражете дали вештачката интелигенција навистина може самостојно да размислува и да расудува.

🔗 Кои се видовите на вештачка интелигенција?
Разберете ги главните видови на вештачка интелигенција, можностите и клучните разлики.

Што значи „сигурен“ кога машината е статистички папагал

Сигурноста, во секојдневниот говор, значи дека можете да се потпрете на нешто.

Со автоматизација што зборува, куп различни својства се кријат под еден збор. Фактичност. Доследност. Калибрација - дали довербата на моделот се совпаѓа со веројатноста дека е точен, или дали само... звучи сигурно. Безбедност. Време на работа. Брза чувствителност. Однесување во екстремни случаи. Однесување по промена на дистрибуцијата, кога светот во живо не е светот на обуката. Ниту едно од овие не успева заедно. Тоа е делот што луѓето го прескокнуваат.

Четбот може да биде „активен“ цела недела, а сепак да греши во вторник попладне. Копилотот за кодирање може да биде во ред на стандарден начин, а потоа да халуцинира API што изгледа точно како оригиналниот. Метафората по која луѓето се стремат е „млад колега“. Таа е несовршена - помладите се засрамуваат - но е поблиска од „оракл“.

Тестот во живо е сигурен за тоа што, за кого, со која јамка околу него. Инаку, го оценувате блендерот според тоа дали може да ги плати даноците.

Времето на работа не е вистинитост - два различни вида „сигурност“

Луѓето од Опесите и луѓето од вистината го користат истиот збор и се разминуваат.

Времето на работа е „дали крајната точка го одговори одговорот“. Вистинитоста е „дали одговорот беше така“. Управувањето се грижи за обете, а ризикот од моделот се наоѓа во грдата празнина. Можете да имате услуга што никогаш не трепнува, а сепак да испратите течна лага во тикетот за клиент. Сигурно во смисла на SRE. Несигурно во смисла на „ве молиме не измислувајте политика за враќање пари“.

Претпоставувам дека ова е очигледно запишано. Не е очигледно во 16 часот кога одговорот е брз, а редот е чудовиште. Брзината се чувствува како компетентност. Бавноста порано значеше дека некој размислува. Сега брзината е знак дека никој не размислува.

Безбедноста е уште една оска. Модел кој одбива лош џеилбрејк е „сигурен“ во однос на безбедноста и сепак може да го оштети резимето на вашите сопствени белешки.

Течното и погрешното е полошо од несмасното и директното

Ова е проблемот со самодовербата, и тоа е оној што гризе.

Точноста и течноста се разделија, а течноста го одржа нивото. LLM ќе ви даде ритам, заштита на вистинските места, можеби лажна, но убава форма на цитат. Вашиот мозок чита „оваа личност знае“. Освен што не е личност, а калибрацијата е често ужасна - висока самодоверба, просечна вистина, искажана како клучен говор.

Несмасниот погрешен одговор ве прави сомничави. Течниот погрешен одговор ве тера да престанете да проверувате. Тоа не е мала разлика; целата приказна е во една малку непријатна реченица.

Пристрасноста исто така е тука, не секогаш како навреда, туку повеќе како стандардно објаснување за тоа кој е во просторијата и кој вкус на англискиот јазик се смета за неутрален. Луѓето се лажат затоа што јазикот е нашиот најстар интерфејс за доверба. Ако зборува како кратка содржина, ние го третираме како кратка содржина. Постојано сакам да бидам поциничен во врска со тоа. Потоа читам проѕирен резиме и рамената ми се спуштаат. Влегувајќи на состанок, резимето изгледа завршено. Таа реченица премногу работи, а сепак: така промашувањето влегува во игра.

Сигурност според ситуацијата, а не според брендот

Брендовите се одвлекување на вниманието. Споредбата што си го заработува своето е работата. Расправиите ќе се расправаат едни со други. Тоа е во ред.

Како и да е. Ако вашата омилена алатка е вешта со нацрти и се фатите себеси како ја барате за удобност во правна близина на полноќ, тоа не е надградба. Тоа е мапата што вели дека сте ја напуштиле.

Халуцинации, лебдење и тивок вид на погрешно

Халуцинацијата ги добива насловите затоа што е зачинета: книга што не постои, функција што никогаш не е испратена, клаузула за политика со број што се чувствува официјално.

Дрифтот е помалку кинематографски. Светот се движи. Остатоците од моделот остануваат. Поставувате прашање кое бараше свеж контекст и добивате добро организиран одговор од претходното време. Речиси напишав „од друга ера“ таму, што е претерувањето што го повикува оваа тема. Не е друга ера. Едноставно не е сега.

Тивката погрешност е онаа за која повеќе се грижам. Резиме што го испушта исклучокот. Парафраза што го надградува можеби во задолжително. Фактичкиот став може да биде „технички во ред“ додека значењето се лизнало.

Брзата чувствителност го влошува ова. Променете го пакувањето и „фактите“ ќе заблескаат. Прашајте како скептик, набавете жива ограда. Прашајте како шеф набрзина, добијте брзо претерување. Ако вашата евалуација користи само еден костим, вашата евалуација е малку лажна. Извинете.

Бегањата од затвор се на работ, а јас не сакам филм за кражба. Ако системот може да се убеди да ги отфрли своите манири, сигурноста не е само вистина; туку и дали заштитните огради се јамка или постер.

Остатоци од обука, застоено знаење и зошто заземјувањето не е магично стапче

Генеративните модели се обучуваат на куп, а потоа се насочени кон вашиот вторник. Преземањето е обид на возрасните да ја закачат сегашноста на тој куп. Заземјувањето значи „одговор од ова, а не од маглата“. Кога не успева, не успева учтиво.

Класичен неуспех: преземачот презема документ кој за малку ќе промашел. Генераторот го пишува со целосна смиреност. Гледате објект во облик на извор и вашиот инстинкт за проверка се активира. Јас го правам ова. Веројатно го правите ова. Идејата за цитирање е точна; имплементацијата е добра колку што е добар резултатот.

Застареното знаење е другото протекување. На некои задачи им е потребна активна состојба - цени, залихи, моменталната формулација на полисата. На некои им е потребна стабилна вештина, како на пример како да се структурира меморандум. Измешајте ги и добивате многу сигурен одговор за свет кој веќе се променил. Промена на дистрибуцијата е името за возрасни: активната дистрибуција не е дистрибуција на обука, а рабните случаи живеат во празнината.

Уште нешто, кажано со погрешно поставена цртичка бидејќи така изгледаат моите белешки: заземјувањето е под - а не ореол. Ако не можете да го проверите преземеното парче, сè уште сте во магла, само со подобро осветлување.

Театар за евалуација: зошто демонстрацијата е ужасен тест

Демо снимките се осветлување. Референците се малку поискрени, а сепак не се твоја работа.

Чист налог и задача што моделот ја видел како илјада роднини - секако изгледа остро. Евалуација што мери само тоа што е мерење на сценска претстава. Работните процеси во живо имаат заплеткана паста, недостасувачки датотеки и корисник кој ќе го прифати првиот одговор што ја намалува нивната вознемиреност.

Референците се важни. Тие едноставно не се движат толку добро како што се преправаат колодите. Резултатот од табелата на рангирање не е калибрација на вашите билети. Ризикот од моделот во компанијата е „што се случува кога ова е погрешно по обем“, а не „дали поминало низ квиз“. Тестовите што ви се потребни се суви: останете во рамките на преземениот пасус; означете ја неизвесноста наместо да блефирате; останете доследни кога преформулирате; не успевате затворено (одбивајте, прашувајте, одложувате) наместо да не успевате отворено (измислувате).

Сум видел луѓе како сметаат за доказ едно импресивно завршување. Тоа е како да одлучите дека еден ресторан е „сигурен“ затоа што предјадењето било убаво. Можеби е. Можеби кујната имала добри десет минути.

Мала контрадикција: Сè уште користам демо снимки за да добијам претстава. Едноставно не го изнајмувам чувството.

Дали вештачката интелигенција е сигурна? Само ако некој сè уште е одговорен

Човек-во-јамката- е единствениот дизајн што одговара на режимите на дефект.

Ако никој не е одговорен, системот ќе се користи како да е. Управувањето е непривлечно име за „кој го прегледува, кој може да го запре, што се евидентира, што се случува по промашување“. Агентите го прават ова поостро затоа што преземаат мерки, а не само пасуси. Нацрт што не сте го испратиле е евтин. Повик за алатка што не сте го мислеле не е евтин.

Наведете кој е обвинет. Ако одговорот е „моделот“, немате одговор. Моделите не одат на состанокот по инцидентот. Оди човек, или правосмукалка, а потоа адвокат.

Изберете ги проверките што се совпаѓаат со радиусот на експлозијата. Преглед на ниво на проверка на правопис за објава на социјалните мрежи. Проверка на извор за сè што тврди факт. Професионалец за сè што е поврзано со медицината, правото, кредитот, операциите критични за безбедноста. За нив, човекот не е „во јамката“. Човекот е јамката. Моделот е никулец. Тоа не е скептицизам како личност. Тоа е вкус.

Во моментов е во мода чекот да се скрие зад сјајно копче за испраќање. Денес, така случајно автоматизирате гласина. Во последно време сум посуров во врска со ова, а и работата стана подобра.

Како да прашаш за да го фатиш промашувањето

Можете да ги испрашувате овие системи без да станете професионален сомневач во сончевата светлина.

• Намерно прашувајте за неизвесноста. „Што би го направило ова погрешно?“ е подобро од „да го направи самоуверено“.

• Поделете го пребарувањето од генерација кога можете. Прво погледнете ги пасусите. Потоа побарајте го написот.

• Промени го костимот. Преформулирај го. Побарајте од него да го аргументира спротивното. Брзата чувствителност е како фенерче ако ја користиш на тој начин.

• Присилни ограничувања: „само од текстот што го залепив“, „ако недостасува, кажете недостасува“. Моделите се изненадувачки послушни на ова... сè додека не престанат да се придржуваат. Сепак проверете.

• Претпочитаат задачи со верификатор. Компајлери, линтери, проверки на шеми, втор пар очи. Сигурноста сака оценувач.

• Внимавајте на показателот: дополнителна специфичност. Прецизна фигура, именуван падеж, уредна нумерирана реченица - тоа е местото каде што халуцинацијата сака да се дотера.

• Држете го човечкиот чекор видлив. Ако корисничкиот интерфејс го сокрие чекот, луѓето го прескокнуваат чекот. Тоа е мебел, а не морален неуспех.

Ништо од ова не го прави моделот „вистински“. Јамката ја прави помалку наивна. Што, претпоставувам, е самиот производ.

Каде што мапата те остава

Значи. Прашањето да/не функционира само како врата.

Дали вештачката интелигенција е сигурна? Не како особина. Како својство на задача, збир на податоци, јамка за пребарување, евалуација што не е демо и човек кој сè уште мора да го мисли тоа. Течноста ќе продолжи да нè лаже затоа што сме јазични животни, а овие системи се јазични машини. Времето на работа ќе продолжи да се меша со вистината затоа што и двете се чини дека „работеле“. Копилотите ќе продолжат да си го заработуваат прехранбениот предел - нацрти, резимеа што можете да ги прелистате, код што можете да го компајлирате - и небезбедни кога ја префрламе проценката на пасус на кој не му е гајле.

Користете ги таму каде што промашувањето е евтино или може да се фати. Забавете таму каде што промашувањето е скапо. Тоа е директниот одговор, и вреди повеќе од слоган.

Ако земете за пример едно нешто: престанете да го прашувате моделот дали е сигурен. Гледајте што се случува кога ќе го прашате како би можело да биде погрешно. Потоа одете проверете.

Пример од реалниот свет: Создавање асистент за вештачка интелигенција за политика на членство

Сценарио

Прија управува со знаење за „Харбо членство“, британско трговско тело за независни теретани од 70 члена. Тројца луѓе одговараат на прашања од членовите. Изворот на вистината е прирачник од 180 страници, кој се ажурира секое тримесечје, плус стари PDF-датотеки во заеднички диск што никој нема срце да ги избрише.

Раководството веќе купи копилот за помош. Демо-верзијата беше одлична. Времето на работа беше во ред. Во втората недела, течен нацрт му кажува на членот дека може да замрзне 14 дена и да добие целосна наплата „како стандард“. Тоа не е политика. Агентот го забележал тоа бидејќи сè уште го отвора прирачникот кога се работи за пари. Прашањето на раководството, испратено како да е да или не, е: дали вештачката интелигенција е сигурна?

Прија ја одбива пресудата. Таа ја третира како мапа. Задачата не е „да им се даде на членовите пророштво“. Тоа е „да се изготви одговор од тековниот прирачник, да се покаже пасусот и да се отфрли кога пасусот недостасува“. Ако копилотот не може да го направи тоа, тоа е играчка за изготвување нацрт-верзии, а не биро за политики.

Што му е потребно на асистентот

• Прирачникот од април 2026 година како единствен дозволен корпус, со недопрени броеви на делови

• Стариот PDF-документ од 2023 година е намерно оставен во дискот, за да можат да видат дали преземањето ќе го фати за малку промашувањето

• Пишано правило: нема лични податоци на клиентите во алатките за потрошувачи; нема испраќање без човек; нема измислување броеви, прозорци или „стандардни“ клаузули

• Дозвола за евидентирање на барања, преземени делови и конечно испраќање

• Именуван сопственик (Прија) кој ќе го освои тест сет и ќе го запре копилотот ако не успее, затвори полошо од фрлање паричка на прашања за пари

• Ако алатката поддржува преземање, преземениот дел мора да биде видлив до нацртот. Ако не е видлив, тие ќе го залепат делот рачно. Заземјувањето без пропустлив премин е сè уште магла.

Пример за упатство

Прија го кажува ова на обичен јазик, а не како поттик за сценска претстава:

Одговорете само од пасусите од прирачникот од април 2026 година што ви беа дадени. Наведете го бројот на делот. Ако одговорот не е во тие пасуси, кажете „не е во тековниот прирачник“ и престанете. Не измислувајте прозорци за замрзнување, правила за враќање пари или такси. Не надградувајте „по дискреционо право на теретана“ во „како стандард“. Ако два пасуса се во конфликт, покажете ги двата и наведете кој е тековен. Вие скицирате за човек кој ќе го отвори изворниот код пред сè да му оди на член.

Потоа таа задржува втора инструкција за себе, бидејќи поентата на статијата е јамката, а не моделот:

Пред да испратите, отворете го цитираниот дел. Прашајте „што би го направило ова погрешно?“ Ако нацртот содржи број што го нема во пасусот, отфрлете го. Ако прашав како шеф набрзина, прашајте повторно како скептик и споредете.

Добар нацрт изгледа вака: „Не е во тековниот прирачник (април 2026 година, дел 4.2). Замрзнувањата се по дискреционо право на теретаната. Повраќањето на средства не е автоматско. Ескалирајте.“ Лош нацрт изгледа вака: „Членовите можат да замрзнат 14 дена и да добијат целосна наплата како стандард. Потврдено во прирачникот.“ Ист тон. Само едно од нив е политика.

Како да го тестирате

Прија пишува 20 прашања пред да погледне каков било резултат од копилотот. Редоследот е важен. Демонстрацијата е осветлување. Ова е тест на суво.

Комплетот не е квиз. Тоа е работна маса:

• Осум прашања чии одговори се наоѓаат во еден тековен дел (лесните)

• Четири за малку ќе се случеа неуспеси, каде што PDF-документот од 2023 година е поблизок по формулација од текстот од април

• Три прашања „кои не се во прирачникот“ (спорови околу фактурирањето, прашање „дали оваа обука е безбедна“, прашање „правно“)

• Три прашања за парите (замрзнување, враќање на пари, надомест за приклучување)

• Две обични прашања за членовите (работно време, осигурување на тренери)

Двајца од тие дваесет беа повторно поставени и во втор костим, еднаш како брза шефица и еднаш како скептик, како проверка на чувствителноста. Тие повторни прашања беа евидентирани, а не вклучени во резултатот од 20 прашања.

Рубрика, оценувана од Прија со отворен прирачник: за да се помине потребно е точното тековно правило, вистински број на дел и никаква дополнителна измислена клауза. Тивок неуспех е технички добра реченица која го исфрлила исклучокот или го претворила можеби во задолжително. Отворен неуспех е измислен број или PDF-документ кој за малку ќе пропаднел, третиран како тековен. Времето на работа се брои одделно, бидејќи „одговори“ не е „така беше“.

Прифаќање за одење понатаму: за прашања поврзани со парите, неуспешно затворено наместо неуспешно отворено. Ако копилотот измисли прозорец за враќање на средства, тој не составува билети во живо. Ако никој не го отвори изворниот код, тој исто така не составува билети во живо.

Резултат

Илустративен резултат, од измислен тест од 20 прашања, а не од објавена бројка за членство во Харборот.

Претпоставки: еден копилот од службата за помош; прирачникот од април 2026 година плус преостанатиот PDF-документ од 2023 година; Прија постигна резултат според горенаведената рубрика; времето беше штоперица на телефон од прашањето залепено на „Јас би го испратил ова“; времето на преглед е вклучено во јамчевата состојба и исклучено во непроверената, намерно, така што споредбата останува рамномерна.

Непроверен копилот, прашање во стил на демо: 20 од 20 прашања добија течен одговор (времето на работа изгледаше совршено). 11 од 20 ја исполнија рубриката. Пет беа тивки неуспеси. Четири беа отворени неуспеси, вклучувајќи го и замрзнувањето од 14 дена. Два од четирите отворени неуспеси наведуваа дел во форма на извор од PDF-от од 2023 година. Средното време до нацрт што изгледаше како да може да се испрати беше 1 минута.

Исти 20 прашања, ограничена инструкција, видлив е преземениот дел: 15 од 20 беа целосно точни од априлскиот текст. Три правилно рекоа „не е во тековниот прирачник“ (медицинските и правните прашања, плус еден спор околу фактурирањето), па 18 од 20 беа прифатливи. Две сепак не успеаја: едно го напиша PDF-то за 2023 година, кое за малку ќе промашеше, а едно измисли бројка за надомест за приклучување што не беше во пасусот. Средното време за подготовка на нацртот беше сепак околу 1 минута.

Истите 20, плус Прија што го отвори цитираниот дел пред симулирано испраќање: 19 од 20 би биле прифатливи. Таа го фати PDF-то со кое за малку ќе се промашеше. Преостанатото промашување беше тоа што рецензентот прелистуваше течен пасус и не ја забележа измислената бројка за надомест за приклучување. Средното време, вклучувајќи ја и рецензијата, беше 3 минути.

Стар процес, само пребарување во прирачник, без копилот: 20 од 20 прифатливи. Средно 9 минути.

Низ целиот овој примерок, копилотот со јамка беше 6 минути побрз од пребарувањето прирачници (9 минус 3), или 120 минути на 20 прашања, при што 19 од 20 беа прифатливи наместо 20 од 20. Непроверениот копилот беше 8 минути побрз (9 минус 1) и погрешен, тивко или гласно, на 9 од 20. Тоа не е заштеда од 67% време што ја вложувате во пакет за управување. Тоа е протекување од 9 промашувања што би го автоматизирале.

Верзиите на брзата шефица на двете повторени прашања беа претерани. Скептичните верзии се издвоија. Ист модел, ист прирачник, различен костим. Прија го евидентираше тоа како наод, а не како личност.

Овие бројки се примерна проценка врз основа на наведениот тест, мал сет, билети кои беа полесни од лут член и еден рецензент кој веќе ја знаеше книгата. Тие не покажуваат дека копилотот е „95% сигурен“ или дека Харбор треба да отпушти вработен на шалтер. Тие покажуваат дека времето на работа не било прашање, туку дека проверката била.

Што може да тргне наопаку

• Раководството го наведува времето од 1 минута за драфт и ги прескокнува 9-те промашувања. Брзината сè уште се чувствува како компетентност во 16 часот.

• PDF-от од 2023 година останува во индексот. Пребарувањето постојано го вчитува. Заземјувањето изгледа како зрело и сè уште е речиси неизводливо.

• Корисничкиот интерфејс го крие преземениот дел зад сјајно копче за испраќање. Луѓето престануваат да го отвораат прирачникот, што е начинот на кој замрзнатиот одговор стигнува до членот.

• Прија ги оценува само осумте лесни прашања бидејќи изгледаат поубаво на слајд. Театар за евалуација, само со табела.

• Одговорот на прашање „дали оваа обука е безбедна?“ поврзан со медицината е дозволено да изгледа како краток опис. На мапата пишуваше речиси никогаш. Тонот беше „продолжете“.

• Дневниците се погрешни затоа што „се чувствуваше како дополнително“. По промашување, никој не може да види кој пасус е пронајден.

• Го прашуваат моделот дали е сигурен. Да. Тоа никогаш не бил тестот.

Практичен оброк за носење

Сигурноста не е карактеристика на копилотот што го купи Харбор. Таа е својство од 20 прашања, важечки прирачник, видлив пасус и лице кое сè уште го отвора изворниот код кога се вклучени пари. Течноста ќе продолжи да го поминува тестот за време на работа. Јамката е единственото нешто што го поминува тестот за политика.

Најчесто поставувани прашања

Што значи сигурноста за генеративната вештачка интелигенција?

Секојдневната сигурност значи дека можете да се потпрете на нешто. Со автоматизација што зборува, цела група својства се кријат под еден збор: фактичност, конзистентност, калибрација, безбедност, време на работа, чувствителност на брзина, екстремни случаи и однесување по промена на дистрибуцијата. Ниту едно од овие не успева заедно. Тестот во живо е сигурен во што, за кого, со која јамка околу него. Инаку, оценувате блендер според тоа дали може да ги плати даноците.

Дали вештачката интелигенција е сигурна?

Не како особина. LLM може да биде цврст како карпа на една работа и тивко да се распадне на следната, понекогаш во истото работно време, понекогаш затоа што сте поместиле запирка. Сигурноста е својство на задача, збир на податоци, јамка за пребарување, евалуација што не е демонстрација и човек кој сепак мора да го мисли тоа. Користете ја кога промашувањето е евтино или лесно фатливо. Забавете кога промашувањето е скапо.

Дали времето на работа на вештачката интелигенција е исто што и вистинитоста?

Не. Времето на работа е дали крајната точка одговорила. Вистинитоста е дали одговорот бил таков. Можете да имате услуга што никогаш не трепка, а сепак да испратите течна лага во тикетот за клиенти. Брзината се чувствува како компетентност кога редот е чудовиште. Безбедноста е уште една оска: модел што одбива џеилбрејк може сепак да го уништи резимето на вашите сопствени белешки.

Зошто течната вештачка интелигенција се чувствува доверлива дури и кога греши?

Точноста и течноста се разделија, а течноста ја одржа куќата. LLM ќе ви даде ритам, заштита, можеби лажна, но убава форма на цитат, а вашиот мозок чита „оваа личност знае“. Калибрацијата е често ужасна: висока самодоверба, просечна вистина, искажана како клучен тон. Несмасниот погрешен одговор ве прави сомничави. Течниот погрешен одговор ве тера да престанете да проверувате. Ако зборува како краток преглед, го третираме како краток преглед, и така промашувањето влегува во игра.

Дали вештачката интелигенција е сигурна за медицинска, правна или работа за поддршка на клиенти?

Зависи од работата, а не од брендот. Медицинските и правните совети речиси никогаш не се доволно добри како производ: моделот е резиме, а човекот е професионалец. Поддршката за корисници може да состави нацрт во рамките на строга полиса, но лицето треба да биде сопственик на испраќањето пари и доверба, бидејќи измислената политика и учтивото погрешно „не“ се вообичаениот неуспех. Нацртите и резимеата се прв текст што веќе го знаете. Проверете ги имињата, бројките и редот што би боли.

Зошто вештачката интелигенција халуцинира, талка или тивко греши?

Халуцинацијата е зачинетото промашување: книга што не постои, функција што никогаш не била испратена, клаузула за политика со број што се чувствува официјално. Дрифтот е помалку кинематографски: светот се движи, остатоците од моделот остануваат, а вие добивате добро организиран одговор од претходното време. Тивката грешка е резиме што го испушта исклучокот. Или парафраза што го надградува можеби во задолжително. Фактичноста може да изгледа технички добро додека значењето се лизнало. Брзата чувствителност ги прави фактите да светкаат кога го менувате обвивката.

Дали заземјувањето или преземањето ја прави вештачката интелигенција сигурна?

Заземјувањето значи одговор од ова, а не од маглата. Преземањето го прицврстува сегашното на обучена куп. Кога ќе пропадне, пропаѓа учтиво: документ што речиси промашил, напишана белешка и вашиот инстинкт за проверка се исклучува. Заземјувањето е под, а не ореол. Ако не можете да го проверите преземеното парче, сè уште сте во магла, само со подобро осветлување. Измешајте задачи во живо како што се цени или формулација на полиси со стабилно летање и добивате многу сигурен одговор за свет што веќе се поместил.

Зошто демо-верзијата е лош тест за сигурност на вештачката интелигенција?

Чиста задача и задача за која моделот има видено илјадници роднини ќе изгледаат одлично. Работните процеси во живо имаат заплеткано лепење, недостасувачки датотеки и корисник кој ќе го прифати првиот одговор што ја намалува неговата анксиозност. Резултатот од табелата со рангирање не е калибрација на вашите билети. Ризикот на моделот е она што се случува кога ова е погрешно по обем, а не дали поминало низ сет на квизови. Тестовите што ви се потребни се суви: останете во рамките на преземениот пасус, означете ја неизвесноста наместо да блефирате, останете доследни кога преформулирате и не успевајте во затворањето наместо да измислувате.

Дали вештачката интелигенција е сигурна ако никој не е одговорен?

Не. Ако никој не е одговорен, системот ќе се користи како да е. Човекот-во-јамката е единствениот дизајн што одговара на режимите на дефекти: кој ги прегледува, кој може да го запре, што се евидентира, што се случува по промашување. Ако одговорот е „моделот“, немате одговор. Моделите не одат на состанокот по инцидентот. За операции од медицина, право, кредит или критична безбедносна природа, човекот е јамката, а моделот е резиме.

Како да ја поттикнам вештачката интелигенција за да ги забележам грешките?

Намерно прашајте за неизвесноста: „Што би го направило ова погрешно?“ е подобро од „направи го сигурно“. Поделете го пребарувањето од генерација кога можете. Прво погледнете ги пасусите, а потоа прашајте за написот. Променете го костумот: преформулирајте го или побарајте да го аргументира спротивното. Наметнете ограничувања како што се „само од текстот што го залепив“ или „ако недостасува, кажете дека недостасува“, а сепак проверете. Претпочитајте задачи со верификатор и внимавајте на дополнителната специфичност, бидејќи таму халуцинацијата сака да се дотера.

Референци

1. NIST - nvlpubs.nist.gov

2. NIST - airc.nist.gov

3. NIST - airc.nist.gov

4. МКО - ico.org.uk

5. NCSC - www.ncsc.gov.uk

6. NCSC - www.ncsc.gov.uk

7. OWASP - genai.owasp.org

Пронајдете ја најновата вештачка интелигенција во официјалната продавница за асистенти за вештачка интелигенција

За нас