Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста?

Вовед

Генеративната вештачка интелигенција – системи за вештачка интелигенција способни да создаваат нова содржина или предвидувања – се појавува како трансформативна сила во сајбер безбедноста. Алатки како GPT-4 на OpenAI покажаа способност за анализа на сложени податоци и генерирање текст сличен на човек, овозможувајќи нови пристапи за одбрана од сајбер закани. Професионалци за сајбер безбедност и донесувачи на деловни одлуки низ индустриите истражуваат како генеративната вештачка интелигенција може да ја зајакне одбраната од еволуирачки напади. Од финансии и здравство до малопродажба и влада, организациите во секој сектор се соочуваат со софистицирани обиди за фишинг, малициозен софтвер и други закани на кои генеративната вештачка интелигенција би можела да помогне во справувањето. Во овој бел труд, испитуваме како генеративната вештачка интелигенција може да се користи во сајбер безбедноста , истакнувајќи ги апликациите од реалниот свет, идните можности и важните размислувања за усвојување.

Генеративната вештачка интелигенција се разликува од традиционалната аналитичка вештачка интелигенција не само по тоа што открива шеми, туку и креира содржина - без разлика дали симулира напади за обука на одбрана или произведува објаснувања на природен јазик за сложени безбедносни податоци. Оваа двојна можност ја прави меч со две острици: нуди моќни нови одбранбени алатки, но и актерите на закана можат да ја искористат. Следните делови истражуваат широк спектар на случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста, од автоматизирање на откривање на фишинг до подобрување на одговорот на инциденти. Исто така, ги дискутираме придобивките што ги ветуваат овие иновации во вештачката интелигенција, заедно со ризиците (како „халуцинации“ на вештачката интелигенција или злоупотреба на непријателски начин) што организациите мора да ги управуваат. Конечно, даваме практични заклучоци за да им помогнеме на бизнисите да ја евалуираат и одговорно да ја интегрираат генеративната вештачка интелигенција во нивните стратегии за сајбер безбедност.

Генеративна вештачка интелигенција во сајбер безбедноста: Преглед

Генеративната вештачка интелигенција во сајбер безбедноста се однесува на модели на вештачка интелигенција – честопати големи јазични модели или други невронски мрежи – кои можат да генерираат увиди, препораки, код, па дури и синтетички податоци за да помогнат во безбедносните задачи. За разлика од чисто предвидливите модели, генеративната вештачка интелигенција може да симулира сценарија и да произведува резултати читливи за човекот (на пр. извештаи, предупредувања, па дури и примероци од злонамерен код) врз основа на своите податоци за обука. Оваа можност се користи за предвидување, откривање и реагирање на закани на подинамични начини отколку порано ( Што е генеративна вештачка интелигенција во сајбер безбедноста? - Palo Alto Networks ). На пример, генеративните модели можат да анализираат огромни логови или складишта за разузнавање за закани и да произведат концизен резиме или препорачана акција, функционирајќи речиси како „асистент“ на вештачката интелигенција за безбедносните тимови.

Раните имплементации на генеративна вештачка интелигенција за сајбер одбрана покажаа ветување. Во 2023 година, Microsoft го претстави Security Copilot , асистент за безбедносни аналитичари со GPT-4 поддршка, за да помогне во идентификувањето на прекршувања и анализата на 65 трилиони сигнали што Microsoft ги обработува секојдневно ( Microsoft Security Copilot е нов GPT-4 асистент за сајбер безбедност | The Verge ). Аналитичарите можат да го поттикнат овој систем на природен јазик (на пр. „Сумирајте ги сите безбедносни инциденти во последните 24 часа“ ), а копилотот ќе произведе корисен наративен резиме. Слично на тоа, вештачката интелигенција за закани користи генеративен модел наречен Gemini за да овозможи разговорно пребарување низ огромната база на податоци за закани на Google, брзо анализирајќи сомнителен код и сумирајќи ги наодите за да им помогне на ловците на малициозен софтвер ( Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Овие примери го илустрираат потенцијалот: генеративната вештачка интелигенција може да обработи сложени, големи податоци за сајбер безбедноста и да презентира увиди во достапна форма, забрзувајќи го донесувањето одлуки.

Во исто време, генеративната вештачка интелигенција може да создаде високо реалистична лажна содржина, што е благодет за симулација и обука (и, за жал, за напаѓачите кои создаваат социјален инженеринг). Додека продолжуваме кон специфични случаи на употреба, ќе видиме дека способноста на генеративната вештачка интелигенција и да синтетизира и анализира информации е основа на нејзините многубројни апликации за сајбер безбедност. Подолу, ќе се нурнеме во клучните случаи на употреба, опфаќајќи сè, од спречување на фишинг до безбеден развој на софтвер, со примери за тоа како секоја од нив се применува низ индустриите.

Клучни примени на генеративната вештачка интелигенција во сајбер безбедноста

Слика: Клучните случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста вклучуваат копилоти со вештачка интелигенција за безбедносни тимови, анализа на ранливост на код, адаптивно откривање на закани, симулација на напад од нулти ден, подобрена биометриска безбедност и откривање на фишинг ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ Примери] ).

Детекција и спречување на фишинг

Фишингот останува една од најраспространетите сајбер закани, која ги лаже корисниците да кликнат на злонамерни линкови или да откријат ингеренции. Генеративната вештачка интелигенција се користи и за откривање на обиди за фишинг и за зајакнување на обуката на корисниците за да се спречат успешни напади. Од дефанзивна страна, моделите на вештачка интелигенција можат да ја анализираат содржината на е-поштата и однесувањето на испраќачите за да забележат суптилни знаци на фишинг што филтрите базирани на правила би можеле да ги пропуштат. Со учење од големи бази на податоци од легитимни наспроти лажни е-пораки, генеративен модел може да означи аномалии во тонот, формулацијата или контекстот што укажуваат на измама - дури и кога граматиката и правописот повеќе не ја откриваат. Всушност, истражувачите на Palo Alto Networks забележуваат дека генеративната вештачка интелигенција може да идентификува „суптилни знаци на фишинг е-пораки што инаку би можеле да останат неоткриени“, помагајќи им на организациите да останат еден чекор пред измамниците ( Што е генеративна вештачка интелигенција во сајбер безбедноста? - Palo Alto Networks ).

Безбедносните тимови исто така користат генеративна вештачка интелигенција за симулирање на фишинг напади за обука и анализа. На пример, Ironscales воведе алатка за симулација на фишинг со GPT која автоматски генерира лажни фишинг е-пораки прилагодени на вработените во организацијата ( Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Овие е-пораки изработени од вештачка интелигенција ги одразуваат најновите тактики на напаѓачот, давајќи им на персоналот реалистична пракса во откривањето на фишинг содржина. Ваквата персонализирана обука е клучна бидејќи самите напаѓачи ја користат вештачката интелигенција за да создадат поубедливи мамки. Имено, додека генеративната вештачка интелигенција може да произведе многу дотерани фишинг пораки (заминаа деновите на лесно забележан лош англиски јазик), бранителите открија дека вештачката интелигенција не е непобедлива. Во 2024 година, истражувачите на IBM Security спроведоа експеримент споредувајќи ги фишинг е-пораките напишани од луѓе со оние генерирани од вештачка интелигенција и „изненадувачки, е-пораките генерирани од вештачка интелигенција сè уште беа лесни за откривање и покрај нивната точна граматика“ ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Ова сугерира дека човечката интуиција во комбинација со откривање со помош на вештачка интелигенција сè уште може да препознае суптилни недоследности или сигнали на метаподатоци во измами напишани од вештачка интелигенција.

Генеративната вештачка интелигенција помага во одбраната од фишинг и на други начини. Моделите може да се користат за генерирање автоматски одговори или филтри што тестираат сомнителни е-пораки. На пример, систем со вештачка интелигенција може да одговори на е-пошта со одредени прашања за да ја потврди легитимноста на испраќачот или да користи LLM за да анализира линкови и прилози на е-пошта во песочник, а потоа да сумира каква било злонамерна намера. Безбедносната платформа на NVIDIA, Morpheus, ја демонстрира моќта на вештачката интелигенција во оваа област - користи генеративни NLP модели за брзо анализирање и класифицирање на е-пораки, и се покажа дека го подобрува откривањето на е-пораки со фишинг за 21% во споредба со традиционалните безбедносни алатки ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Morpheus дури и ги профилира шемите на комуникација на корисниците за да открие необично однесување (како корисник одеднаш да испраќа е-пошта на многу надворешни адреси), што може да укаже на компромитирана сметка што испраќа фишинг е-пораки.

Во пракса, компаниите низ индустриите почнуваат да ѝ веруваат на вештачката интелигенција за филтрирање на е-пошта и веб-сообраќај за напади од социјално инженерство. Финансиските фирми, на пример, користат генеративна вештачка интелигенција за скенирање на комуникациите за обиди за лажно претставување што би можеле да доведат до измама преку електронски жици, додека давателите на здравствени услуги користат вештачка интелигенција за да ги заштитат податоците на пациентите од прекршувања поврзани со фишинг. Со генерирање реалистични сценарија за фишинг и идентификување на белезите на злонамерните пораки, генеративната вештачка интелигенција додава моќен слој на стратегиите за превенција од фишинг. Заклучок: вештачката интелигенција може да помогне во побрзо и попрецизно откривање и деактивирање на фишинг напади , дури и кога напаѓачите ја користат истата технологија за да ја подобрат својата игра.

Детекција на малициозен софтвер и анализа на закани

Современиот малициозен софтвер постојано се развива - напаѓачите генерираат нови варијанти или го замаглуваат кодот за да ги заобиколат антивирусните потписи. Генеративната вештачка интелигенција нуди нови техники и за откривање на малициозен софтвер и за разбирање на неговото однесување. Еден пристап е користење на вештачка интелигенција за генерирање „зли близнаци“ на малициозен софтвер : истражувачите за безбедност можат да внесат познат примерок од малициозен софтвер во генеративен модел за да создадат многу мутирани варијанти на тој малициозен софтвер. Со тоа, тие ефикасно ги предвидуваат измените што напаѓачот може да ги направи. Овие варијанти генерирани од вештачка интелигенција потоа можат да се користат за обука на антивирусни системи и системи за откривање на упади, така што дури и модифицираните верзии на малициозниот софтвер се препознаваат во дивината ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Оваа проактивна стратегија помага да се прекине циклусот каде што хакерите малку го менуваат својот малициозен софтвер за да избегнат откривање, а бранителите мора да брзаат да пишуваат нови потписи секој пат. Како што е забележано во еден индустриски подкаст, експертите за безбедност сега користат генеративна вештачка интелигенција за „симулирање на мрежен сообраќај и генерирање на малициозни носивост што имитираат софистицирани напади“, тестирајќи ја нивната одбрана од цела фамилија закани, а не од една единствена инстанца. Ова адаптивно откривање на закани значи дека безбедносните алатки стануваат поотпорни на полиморфниот малициозен софтвер што инаку би се протнал низ нив.

Освен откривањето, генеративната вештачка интелигенција помага во анализата на малициозен софтвер и обратниот инженеринг , кои традиционално се задачи што бараат многу труд за аналитичарите на закани. Големите јазични модели можат да бидат задолжени за испитување на сомнителен код или скрипти и објаснување на јасен јазик за што е наменет кодот. Пример од реалниот свет е VirusTotal Code Insight , функција на VirusTotal на Google што користи генеративен модел на вештачка интелигенција (Sec-PaLM на Google) за да произведе резимеа на природен јазик на потенцијално малициозен код ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Тоа е во суштина „вид на ChatGPT посветен на безбедносно кодирање“, делувајќи како аналитичар на малициозен софтвер со вештачка интелигенција што работи 24/7 за да им помогне на човечките аналитичари да ги разберат заканите ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Наместо да се занимава со непозната скрипта или бинарен код, член на безбедносниот тим може да добие веднаш објаснување од вештачката интелигенција - на пример, „Оваа скрипта се обидува да преземе датотека од XYZ серверот, а потоа да ги измени системските поставки, што укажува на однесување на малициозен софтвер“. Ова драматично го забрзува одговорот на инциденти, бидејќи аналитичарите можат да тријажат и разберат нов малициозен софтвер побрзо од кога било.

Генеративната вештачка интелигенција се користи и за откривање на малициозен софтвер во огромни збирки на податоци . Традиционалните антивирусни мотори скенираат датотеки за познати потписи, но генеративниот модел може да ги процени карактеристиките на датотеката, па дури и да предвиди дали е злонамерна врз основа на научени шеми. Со анализа на атрибути на милијарди датотеки (злонамерни и бенигни), вештачката интелигенција може да открие злонамерна намера таму каде што не постои експлицитен потпис. На пример, генеративниот модел може да означи извршна датотека како сомнителна затоа што нејзиниот профил на однесување „изгледа“ како мала варијација на ransomware што го видел за време на обуката, иако бинарниот код е нов. Ова откривање базирано на однесување помага во спротивставувањето на новиот или нулти-ден малициозен софтвер. Вештачката интелигенција за разузнавање на закани на Google (дел од Chronicle/Mandiant) наводно го користи својот генеративниот модел за да анализира потенцијално малициозен код и „поефикасно и поефективно да им помогне на безбедносните професионалци во борбата против малициозен софтвер и други видови закани“. ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ).

Од друга страна, мора да признаеме дека напаѓачите можат да користат генеративна вештачка интелигенција и овде - за автоматски да креираат малициозен софтвер кој се адаптира сам. Всушност, експертите за безбедност предупредуваат дека генеративната вештачка интелигенција може да им помогне на сајбер-криминалците да развијат малициозен софтвер кој е потежок за откривање ( Што е генеративна вештачка интелигенција во сајбер безбедноста? - Palo Alto Networks ). На моделот на вештачка интелигенција може да му се наложи постојано да го менува малициозниот софтвер (менувајќи ја неговата структура на датотеки, методи на криптирање итн.) сè додека не ги избегне сите познати антивирусни проверки. Оваа контрадикторна употреба е растечка загриженост (понекогаш се нарекува „малициозен софтвер управуван од вештачка интелигенција“ или полиморфен малициозен софтвер како услуга). Ќе разговараме за ваквите ризици подоцна, но тоа нагласува дека генеративната вештачка интелигенција е алатка во оваа игра на мачка и глушец што ја користат и бранителите и напаѓачите.

Генерално, генеративната вештачка интелигенција ја подобрува одбраната од малициозен софтвер преку овозможување на безбедносните тимови да размислуваат како напаѓач - генерирајќи нови закани и решенија внатрешно. Без разлика дали станува збор за производство на синтетички малициозен софтвер за подобрување на стапките на откривање или користење на вештачка интелигенција за објаснување и содржење на вистински малициозен софтвер пронајден во мрежите, овие техники се применуваат во сите индустрии. Банката може да користи анализа на малициозен софтвер водена од вештачка интелигенција за брзо анализирање на сомнително макро во табела, додека производствената фирма може да се потпре на вештачката интелигенција за откривање на малициозен софтвер насочен кон индустриските контролни системи. Со дополнување на традиционалната анализа на малициозен софтвер со генеративна вештачка интелигенција, организациите можат да одговорат на кампањите на малициозен софтвер побрзо и попроактивно отколку порано.

Интелигенција за закани и автоматизирана анализа

Секојдневно, организациите се бомбардирани со податоци за разузнавање за закани - од новооткриени индикатори за компромис (IOC) до извештаи на аналитичарите за новите хакерски тактики. Предизвикот за безбедносните тимови е пребарување низ овој потоп од информации и извлекување на практични сознанија. Генеративната вештачка интелигенција се покажува како непроценлива во автоматизирањето на анализата и потрошувачката на разузнавање за закани . Наместо рачно читање десетици извештаи или записи во базата на податоци, аналитичарите можат да користат вештачка интелигенција за да сумираат и контекстуализираат информации за закани со брзина на машината.

за интелигенција на закани на Google , кој интегрира генеративна вештачка интелигенција (моделот Gemini) со ризницата на податоци за закани на Google од Mandiant и VirusTotal. Оваа вештачка интелигенција обезбедува „разговорно пребарување низ огромното складиште на интелигенција за закани на Google“ , дозволувајќи им на корисниците да поставуваат природни прашања за заканите и да добиваат дестилирани одговори ( Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). На пример, аналитичарот би можел да праша: „Дали сме виделе некаков малициозен софтвер поврзан со Threat Group X што ја таргетира нашата индустрија?“ и вештачката интелигенција ќе извлече релевантни информации, можеби забележувајќи „Да, Threat Group X беше поврзана со фишинг кампања минатиот месец користејќи малициозен софтвер Y“ , заедно со резиме на однесувањето на тој малициозен софтвер. Ова драматично го намалува времето за собирање увиди што инаку би барало пребарување на повеќе алатки или читање долги извештаи.

Генеративната вештачка интелигенција може исто така да ги корелира и сумира трендовите на закани . Може да пребарува низ илјадници објави на блогови за безбедност, вести за пробиви на безбедносни информации и разговори во темната мрежа, а потоа да генерира извршен преглед на „најголемите сајбер закани оваа недела“ за брифинг на CISO. Традиционално, ова ниво на анализа и известување бараше значителен човечки напор; сега добро подесен модел може да го нацрта за секунди, при што луѓето само го рафинираат резултатот. Компании како ZeroFox го развија FoxGPT , алатка за генеративна вештачка интелигенција специјално дизајнирана да „ја забрза анализата и сумирањето на разузнавачките информации низ големи бази на податоци“, вклучувајќи злонамерна содржина и податоци за фишинг ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Со автоматизирање на тешкото кревање на читањето и вкрстеното споредување на податоци, вештачката интелигенција им овозможува на тимовите за разузнавање за закани да се фокусираат на донесување одлуки и одговор.

Друг случај на употреба е разговорното ловење закани . Замислете безбедносен аналитичар кој комуницира со асистент на вештачка интелигенција: „Покажете ми какви било знаци на ексфилтрација на податоци во последните 48 часа“ или „Кои се главните нови ранливости што напаѓачите ги користат оваа недела?“ Вештачката интелигенција може да го протолкува барањето, да пребарува внатрешни логови или надворешни извори на информации и да одговори со јасен одговор или дури и со список на релевантни инциденти. Ова не е далеку од вистината - современите системи за безбедносни информации и управување со настани (SIEM) почнуваат да вклучуваат барања на природен јазик. Безбедносниот пакет QRadar на IBM, на пример, додава генеративна вештачка интелигенција во 2024 година за да им овозможи на аналитичарите „да поставуваат […] специфични прашања за сумираната патека на нападот“ на инцидентот и да добиваат детални одговори. Исто така, може автоматски „протолкува и сумира високо релевантна интелигенција за закани“ Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Во суштина, генеративната вештачка интелигенција претвора планини од технички податоци во увиди со големина на разговор по барање.

Низ индустриите, ова има големи импликации. Давателот на здравствени услуги може да користи вештачка интелигенција за да биде во тек со најновите групи на ransomware кои ги таргетираат болниците, без да посвети аналитичар на истражување со полно работно време. SOC одделот на малопродажна компанија може брзо да сумира нови тактики на POS малициозен софтвер кога ги информира ИТ вработените во продавницата. А во владата, каде што мора да се синтетизираат податоци за закани од различни агенции, вештачката интелигенција може да произведе унифицирани извештаи што ги истакнуваат клучните предупредувања. Со автоматизирање на собирањето и толкувањето на информации за заканите , генеративната вештачка интелигенција им помага на организациите да реагираат побрзо на новите закани и го намалува ризикот од пропуштање на критични предупредувања скриени во бучавата.

Оптимизација на Центарот за безбедносни операции (SOC)

Центрите за безбедносни операции се познати по заморот од аларми и огромниот обем на податоци. Типичен аналитичар за безбедносни операции може да се движи низ илјадници аларми и настани секој ден, истражувајќи потенцијални инциденти. Генеративната вештачка интелигенција делува како множител на сила во безбедносните операции преку автоматизирање на рутинската работа, обезбедување интелигентни резимеа, па дури и оркестрирање на некои одговори. Целта е да се оптимизираат работните процеси на безбедносните операции, така што човечките аналитичари можат да се фокусираат на најкритичните проблеми, додека копилотот на вештачката интелигенција се справува со останатото.

Една главна апликација е користењето на генеративна вештачка интелигенција како „копилот на аналитичарот“ . Копилотот за безбедност на Мајкрософт, забележан претходно, го илустрира ова: тој „е дизајниран да му помогне на аналитичарот за безбедност во работата, а не да го замени“, помагајќи во истрагите и известувањето за инциденти ( Microsoft Security Copilot е нов GPT-4 асистент за вештачка интелигенција за сајбер безбедност | The Verge ). Во пракса, ова значи дека аналитичарот може да внесе сурови податоци - логови на заштитен ѕид, временска рамка на настани или опис на инцидент - и да побара од вештачката интелигенција да ги анализира или сумира. Копилотот може да прикаже наратив како: „Се чини дека во 2:35 часот наутро, сомнително најавување од IP X успешно се случи на Серверот Y, проследено со необични трансфери на податоци, што укажува на потенцијално нарушување на тој сервер“. Овој вид непосредна контекстуализација е непроценлив кога времето е од суштинско значење.

Копилотите со вештачка интелигенција, исто така, помагаат во намалувањето на оптоварувањето со тријажа од ниво 1. Според податоците од индустријата, безбедносниот тим може да помине 15 часа неделно само сортирајќи околу 22.000 известувања и лажни позитивни резултати ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Со генеративна вештачка интелигенција, многу од овие известувања можат автоматски да се тријажираат - вештачката интелигенција може да ги отфрли оние што се очигледно бенигни (со дадено образложение) и да ги истакне оние на кои навистина им е потребно внимание, понекогаш дури и да го предложи приоритетот. Всушност, силата на генеративната вештачка интелигенција во разбирањето на контекстот значи дека може да ги вкрстено поврзува известувањата што може да изгледаат безопасни изолирано, но заедно укажуваат на повеќестепен напад. Ова ја намалува можноста за пропуштање на напад поради „замор од алармирање“.

Аналитичарите на SOC исто така користат природен јазик со вештачка интелигенција за да го забрзаат ловот и истрагите. Платформата Purple AI „поставуваат сложени прашања за лов на закани на едноставен англиски јазик и да добиваат брзи и точни одговори“ ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Аналитичарот би можел да напише: „Дали некои крајни точки комуницирале со доменот badguy123[.]com во последниот месец?“ , а Purple AI ќе пребарува низ логовите за да одговори. Ова го спасува аналитичарот од пишување барања или скрипти во базата на податоци - вештачката интелигенција го прави тоа под хаубата. Исто така, значи дека помладите аналитичари можат да се справат со задачи за кои претходно беше потребен искусен инженер вешт во јазиците за барања, ефикасно подобрувајќи го тимот преку помош од вештачката интелигенција . Всушност, аналитичарите известуваат дека водството од генеративната вештачка интелигенција „ги зголемува нивните вештини и компетентност“ , бидејќи помладиот персонал сега може да добие поддршка за кодирање на барање или совети за анализа од вештачката интелигенција, намалувајќи ја зависноста од постојаното барање помош од постарите членови на тимот ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ).

Друга оптимизација на SOC е автоматско сумирање и документирање на инциденти . Откако ќе се справи со инцидентот, некој мора да го напише извештајот - задача што многумина ја сметаат за досадна. Генеративната вештачка интелигенција може да ги земе форензичките податоци (системски логови, анализа на малициозен софтвер, временска рамка на дејствија) ​​и да генерира првичен нацрт на извештај за инцидент. IBM ја вградува оваа можност во QRadar, така што со „еден клик“ може да се изготви резиме на инцидентот за различни засегнати страни (менаџери, ИТ тимови итн.) ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Ова не само што заштедува време, туку и гарантира дека ништо не е занемарено во извештајот, бидејќи вештачката интелигенција може конзистентно да ги вклучи сите релевантни детали. Слично на тоа, за усогласеност и ревизија, вештачката интелигенција може да пополнува формулари или табели со докази врз основа на податоците за инцидентите.

Резултатите од реалниот свет се убедливи. Раните корисници на SOAR (оркестрација на безбедноста, автоматизација и одговор) управуван од вештачка интелигенција на Swimlane пријавуваат огромни зголемувања на продуктивноста - на пример, Global Data Systems виде како нивниот тим SecOps управува со многу поголем товар на случаи; еден директор рече „она што го правам денес со 7 аналитичари веројатно би му требало на 20 членови на персоналот без“ автоматизацијата управувана од вештачка интелигенција ( Како може генеративната вештачка интелигенција да се користи во сајбер безбедноста ). Со други зборови, вештачката интелигенција во SOC може да го зголеми капацитетот . Низ индустриите, без разлика дали станува збор за технолошка компанија што се занимава со безбедносни предупредувања во облакот или производствен погон што ги следи системите за работа, тимовите на SOC имаат можност да добијат побрзо откривање и одговор, помалку пропуштени инциденти и поефикасно работење со прифаќање на генеративни асистенти со вештачка интелигенција. Станува збор за попаметно работење - дозволувајќи им на машините да се справат со повторувачките задачи и задачите со многу податоци, за да можат луѓето да ја применат својата интуиција и експертиза таму каде што е најважно.

Управување со ранливости и симулација на закани

Идентификувањето и управувањето со ранливостите – слабости во софтверот или системите што напаѓачите би можеле да ги искористат – е основна функција на сајбер-безбедноста. Генеративната вештачка интелигенција го подобрува управувањето со ранливостите преку забрзување на откривањето, помагање во приоритизацијата на закрпите, па дури и симулирање на напади врз тие ранливости за да се подобри подготвеноста. Всушност, вештачката интелигенција им помага на организациите побрзо да ги пронајдат и поправат дупките во нивниот оклоп и проактивно ги тестира одбраните пред да го сторат тоа вистинските напаѓачи.

Една значајна примена е користењето на генеративна вештачка интелигенција за автоматизиран преглед на код и откривање на ранливости . Големите бази на кодови (особено наследените системи) честопати кријат безбедносни недостатоци кои остануваат незабележани. Моделите на генеративна вештачка интелигенција можат да бидат обучени за безбедни практики на кодирање и вообичаени шеми на грешки, а потоа да се активираат на изворниот код или компајлирани бинарни датотеки за да се пронајдат потенцијални ранливости. На пример, истражувачите на NVIDIA развија генеративен цевковод за вештачка интелигенција кој може да анализира наследени контејнери на софтвер и да идентификува ранливости „со голема точност - до 4 пати побрзо од човечките експерти“. ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Вештачката интелигенција во суштина научи како изгледа небезбеден код и можеше да скенира низ софтвер стар со децении за да означи ризични функции и библиотеки, значително забрзувајќи го нормално бавниот процес на рачна ревизија на кодот. Овој вид алатка може да биде пресвртница за индустрии како финансии или влада кои се потпираат на големи, постари бази на кодови - вештачката интелигенција помага во модернизацијата на безбедноста со откривање на проблеми за кои на персоналот може да им требаат месеци или години да ги пронајде (ако воопшто).

Генеративната вештачка интелигенција, исто така, помага во работните процеси за управување со ранливости преку обработка на резултатите од скенирањето на ранливости и нивно приоритизирање. Алатки како ExposureAI користат генеративна вештачка интелигенција за да им овозможат на аналитичарите да ги пребаруваат податоците за ранливости на едноставен јазик и да добијат моментални одговори ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). ExposureAI може да „ја сумира целосната патека на нападот во наратив“ за дадена критична ранливост, објаснувајќи како напаѓачот би можел да ја поврзе со други слабости за да го компромитира системот. Дури препорачува и активности за санирање и одговара на дополнителни прашања во врска со ризикот. Ова значи дека кога ќе се објави нов критичен CVE (чести ранливости и изложености), аналитичарот би можел да ја праша вештачката интелигенција: „Дали некој од нашите сервери е засегнат од овој CVE и кое е најлошото сценарио ако не направиме закрпи?“ и да добие јасна проценка извлечена од сопствените податоци за скенирање на организацијата. Со контекстуализирање на ранливостите (на пр. оваа е изложена на интернет и на сервер со висока вредност, па затоа е врвен приоритет), генеративната вештачка интелигенција им помага на тимовите паметно да закрпиат со ограничени ресурси.

Покрај пронаоѓањето и управувањето со познати ранливости, генеративната вештачка интелигенција придонесува за тестирање на пенетрација и симулација на напади - во суштина откривање на непознати ранливости или тестирање на безбедносни контроли. Генеративните противнички мрежи (GAN), еден вид генеративна вештачка интелигенција, се користат за креирање синтетички податоци што имитираат реален мрежен сообраќај или однесување на корисниците, што може да вклучува скриени шеми на напади. Студија од 2023 година предложи користење на GAN за генерирање реалистичен сообраќај за напад од нулти ден за обука на системи за детекција на упади ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Со хранење на IDS со сценарија за напад создадени од вештачка интелигенција (кои не ризикуваат користење на вистински малициозен софтвер на производствените мрежи), организациите можат да ја обучат својата одбрана да препознава нови закани без да чекаат да бидат погодени од нив во реалноста. Слично на тоа, вештачката интелигенција може да симулира напаѓач што испитува систем - на пример, автоматски обидувајќи се со разни техники на експлоатација во безбедна средина за да види дали некоја од нив ќе успее. Агенцијата за напредни истражувачки проекти за одбрана на САД (DARPA) гледа ветување овде: нејзиниот кибер предизвик за вештачка интелигенција во 2023 година експлицитно користи генеративна вештачка интелигенција (како големи јазични модели) за „автоматско пронаоѓање и поправање на ранливости во софтверот со отворен код“ како дел од натпревар ( DARPA има за цел да развие вештачка интелигенција, апликации за автономија на кои војниците можат да веруваат > Министерство за одбрана на САД > Вести од Министерството за одбрана ). Оваа иницијатива нагласува дека вештачката интелигенција не само што помага да се поправат познатите дупки; таа активно открива нови и предлага поправки, задача што традиционално е ограничена на квалификувани (и скапи) истражувачи за безбедност.

Генеративната вештачка интелигенција може дури и да создаде интелигентни „honeypots“ и дигитални близнаци за одбрана. Стартапите развиваат системи за мамки управувани од вештачка интелигенција кои убедливо емулираат вистински сервери или уреди. Како што објасни еден извршен директор, генеративната вештачка интелигенција може „да клонира дигитални системи за да имитира вистински и да привлекува хакери“ ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Овие „honeypots“ генерирани од вештачка интелигенција се однесуваат како вистинска средина (на пример, лажен IoT уред кој испраќа нормална телеметрија), но постојат единствено за да привлечат напаѓачи. Кога напаѓачот ќе ја таргетира мамката, вештачката интелигенција во суштина ги измамила да ги откријат своите методи, кои бранителите потоа можат да ги проучат и користат за да ги зајакнат вистинските системи. Овој концепт, поттикнат од генеративно моделирање, обезбедува начин насочен кон иднината за свртување на ситуацијата против напаѓачите , користејќи измама подобрена од вештачката интелигенција.

Низ сите индустрии, побрзото и попаметно управување со ранливости значи помалку прекршувања. На пример, во здравствената ИТ, вештачката интелигенција може брзо да забележи ранлива застарена библиотека во медицински уред и да побара поправка на фирмверот пред кој било напаѓач да го искористи. Во банкарството, вештачката интелигенција може да симулира напад одвнатре врз нова апликација за да се осигури дека податоците на клиентите остануваат безбедни во сите сценарија. Генеративната вештачка интелигенција затоа делува и како микроскоп и како тестер на стрес за безбедносната состојба на организациите: таа ги осветлува скриените недостатоци и врши притисок врз системите на имагинативни начини за да обезбеди отпорност.

Генерирање на безбеден код и развој на софтвер

Талентите на генеративната вештачка интелигенција не се ограничени само на откривање напади - тие се протегаат и на создавање побезбедни системи од самиот почеток . Во развојот на софтвер, генераторите на вештачка интелигенција (како GitHub Copilot, OpenAI Codex итн.) можат да им помогнат на програмерите да пишуваат код побрзо со тоа што предлагаат фрагменти од код или дури и цели функции. Аголот на сајбер-безбедноста е да се осигура дека овие делови од кодот предложени од вештачката интелигенција се безбедни и да се користи вештачка интелигенција за подобрување на практиките за кодирање.

Од една страна, генеративната вештачка интелигенција може да дејствува како асистент за кодирање што ги вградува најдобрите практики за безбедност . Програмерите можат да активираат алатка за вештачка интелигенција, „Генерирање функција за ресетирање на лозинка во Python“, и идеално да добијат код што не само што е функционален, туку ги следи и безбедносните упатства (на пр. правилна валидација на внес, евидентирање, справување со грешки без протекување информации итн.). Таквиот асистент, обучен на обемни примери за безбеден код, може да помогне во намалувањето на човечките грешки што водат до ранливости. На пример, ако развивачот заборави да го дезинфицира внесот на корисникот (отворајќи ја вратата за SQL инјекција или слични проблеми), вештачката интелигенција би можела или да го вклучи тоа по дифолт или да го предупреди. Некои алатки за кодирање со вештачка интелигенција сега се дотеруваат со податоци фокусирани на безбедноста за да ја исполнат токму оваа цел - во суштина, спарување на вештачката интелигенција со безбедносна свест .

Сепак, постои и друга страна: генеративната вештачка интелигенција може исто толку лесно да воведе ранливости ако не се регулира правилно. Како што забележа експертот за безбедност на Sophos, Бен Вершерен, користењето на генеративна вештачка интелигенција за кодирање е „добро за краток, проверлив код, но ризично кога непроверен код се интегрира“ во производствените системи. Ризикот е дека вештачката интелигенција може да произведе логички точен код кој е небезбеден на начини што некој што не е експерт можеби нема да ги забележи. Покрај тоа, злонамерните актери би можеле намерно да влијаат врз јавните модели на вештачка интелигенција со тоа што ќе ги засеат со ранливи шеми на код (форма на труење со податоци), така што вештачката интелигенција ќе предложи небезбеден код. Повеќето програмери не се експерти за безбедност , па ако вештачката интелигенција предложи практично решение, тие би можеле да го користат слепо, не сфаќајќи дека има недостаток ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Оваа загриженост е реална - всушност, сега постои листа на OWASP Топ 10 за LLM (големи јазични модели) што ги опишува вообичаените ризици како овој при користење на вештачката интелигенција за кодирање.

За да се справат со овие проблеми, експертите предлагаат „борба против генеративната вештачка интелигенција со генеративна вештачка интелигенција“ во сферата на кодирањето. Во пракса, тоа значи користење на вештачка интелигенција за преглед и тестирање на код што го напишал друга вештачка интелигенција (или луѓе). Вештачката интелигенција може да скенира низ нови комитирања на код многу побрзо од човечки прегледувач на код и да ги означи потенцијалните ранливости или логички проблеми. Веќе гледаме алатки што се појавуваат кои се интегрираат во животниот циклус на развој на софтвер: кодот се пишува (можеби со помош на вештачка интелигенција), потоа генеративен модел обучен на принципи на безбеден код го прегледува и генерира извештај за какви било проблеми (на пример, употреба на застарени функции, проверки за автентикација што недостасуваат итн.). Истражувањето на NVIDIA, споменато претходно, кое постигна 4 пати побрзо откривање на ранливости во кодот е пример за искористување на вештачката интелигенција за анализа на безбеден код ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ).

Понатаму, генеративната вештачка интелигенција може да помогне во креирање безбедни конфигурации и скрипти . На пример, ако компанијата треба да распореди безбедна облачна инфраструктура, инженерот може да побара од вештачката интелигенција да генерира скрипти за конфигурација (инфраструктура како код) со вградени безбедносни контроли (како правилна сегментација на мрежата, IAM улоги со најмалку привилегии). Вештачката интелигенција, откако е обучена на илјадници такви конфигурации, може да произведе основна линија што инженерот потоа ја дотерува. Ова го забрзува безбедното поставување на системите и ги намалува грешките при погрешна конфигурација - чест извор на инциденти со безбедност во облакот.

Некои организации, исто така, користат генеративна вештачка интелигенција за да одржат база на знаење за безбедни шеми на кодирање. Ако развивачот не е сигурен како безбедно да имплементира одредена функција, може да праша внатрешна вештачка интелигенција која научила од минатите проекти и безбедносни упатства на компанијата. Вештачката интелигенција може да врати препорачан пристап или дури и фрагмент од код што е во согласност и со функционалните барања и со безбедносните стандарди на компанијата. Овој пристап го користеле алатки како што е автоматизацијата на прашалници на Secureframe , која извлекува одговори од политиките и минатите решенија на компанијата за да обезбеди конзистентни и точни одговори (во суштина генерирајќи безбедна документација) ( Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Концептот се преведува во кодирање: вештачка интелигенција која „се сеќава“ како безбедно сте имплементирале нешто претходно и ве води да го направите тоа повторно на тој начин.

Накратко, генеративната вештачка интелигенција влијае врз развојот на софтвер со тоа што ја прави помошта за безбедно кодирање подостапна . Индустриите кои развиваат многу софтвер по нарачка - технологија, финансии, одбрана итн. - имаат корист од тоа што имаат копилоти со вештачка интелигенција кои не само што го забрзуваат кодирањето, туку дејствуваат и како секогаш буден безбедносен прегледувач. Кога се правилно управувани, овие алатки за вештачка интелигенција можат да го намалат воведувањето нови ранливости и да им помогнат на тимовите за развој да се придржуваат до најдобрите практики, дури и ако тимот нема вклучен експерт за безбедност во секој чекор. Резултатот е софтвер кој е поотпорен на напади од првиот ден.

Поддршка за одговор на инциденти

Кога ќе се случи инцидент со сајбер безбедноста – без разлика дали станува збор за појава на малициозен софтвер, повреда на податоци или прекин на системот поради напад – времето е критично. Генеративната вештачка интелигенција сè повеќе се користи за поддршка на тимовите за одговор на инциденти (IR) во побрзо сопирање и санирање на инцидентите и со повеќе информации при рака. Идејата е дека вештачката интелигенција може да преземе дел од товарот на истрагата и документацијата за време на инцидентот, па дури и да предложи или автоматизира некои активности за одговор.

Една клучна улога на вештачката интелигенција во информациската историја е анализа и сумирање на инциденти во реално време . Во средината на инцидентот, на одговорните лица може да им бидат потребни одговори на прашања како „Како напаѓачот влегол?“ , „Кои системи се засегнати? и „Кои податоци би можеле да бидат компромитирани?“ . ​​Генеративната вештачка интелигенција може да анализира логови, известувања и форензички податоци од засегнатите системи и брзо да обезбеди увид. На пример, Microsoft Security Copilot му овозможува на одговорникот на инциденти да внесе разни докази (датотеки, URL-адреси, логови на настани) и да побара временска рамка или резиме ( Microsoft Security Copilot е нов GPT-4 асистент за вештачка интелигенција за сајбер безбедност | The Verge ). Вештачката интелигенција може да одговори со: „Нападот веројатно започнал со фишинг е-пошта до корисникот JohnDoe во 10:53 GMT што содржи малициозен софтвер X. Откако е извршен, малициозниот софтвер создал задна врата што била искористена два дена подоцна за да се премести странично до финансискиот сервер, каде што собирал податоци.“ Имањето на оваа кохерентна слика за неколку минути, а не за неколку часа, му овозможува на тимот многу побрзо да донесува информирани одлуки (како кои системи да се изолираат).

Генеративната вештачка интелигенција може да предложи и активности за ограничување и санација . На пример, ако крајната точка е заразена со ransomware, алатката за вештачка интелигенција може да генерира скрипта или збир на инструкции за да ја изолира таа машина, да ги оневозможи одредени сметки и да ги блокира познатите злонамерни IP-адреси на заштитниот ѕид - во суштина извршување на прирачник. Palo Alto Networks забележува дека генеративната вештачка интелигенција е способна да „генерира соодветни активности или скрипти врз основа на природата на инцидентот“ , автоматизирајќи ги почетните чекори на одговор ( Што е генеративна вештачка интелигенција во сајбер безбедноста? - Palo Alto Networks ). Во сценарио каде што безбедносниот тим е преоптоварен (да речеме широко распространет напад на стотици уреди), вештачката интелигенција може дури и директно да изврши некои од овие активности под однапред одобрени услови, дејствувајќи како помлад одговорник кој работи неуморно. На пример, агент на вештачка интелигенција може автоматски да ги ресетира акредитивите за кои смета дека се компромитирани или да ги стави во карантин домаќините кои покажуваат злонамерна активност што одговара на профилот на инцидентот.

За време на одговорот на инцидентот, комуникацијата е од витално значење - и во рамките на тимот и со засегнатите страни. Генеративната вештачка интелигенција може да помогне со изготвување извештаи за ажурирање на инциденти или кратки информации во лет . Наместо инженер да го прекине нивното решавање проблеми за да напише ажурирање по е-пошта, тие би можеле да ја прашаат вештачката интелигенција: „Сумирајте што се случило во овој инцидент досега за да ги информирате раководителите“. Вештачката интелигенција, откако ќе ги внесе податоците за инцидентот, може да изготви концизен резиме: „До 15:00 часот, напаѓачите пристапиле до 2 кориснички сметки и 5 сервери. Засегнатите податоци вклучуваат записи на клиенти во базата на податоци X. Мерки за ограничување: VPN пристапот за компромитирани сметки е отповикан, а серверите се изолирани. Следни чекори: скенирање за какви било механизми за перзистенција“. Одговорникот потоа може брзо да го потврди или измени ова и да го испрати, осигурувајќи се дека засегнатите страни се информирани со точни, најнови информации.

Откако ќе се смири прашината, обично треба да се подготви детален извештај за инцидентот и да се состават научените лекции. Ова е уште една област каде што поддршката од вештачката интелигенција блеска. Може да ги прегледа сите податоци за инцидентот и да генерира извештај по инцидентот што ги опфаќа основната причина, хронологијата, влијанието и препораките. IBM, на пример, интегрира генеративна вештачка интелигенција за да создаде „едноставни резимеа на безбедносни случаи и инциденти што можат да се споделат со засегнатите страни“ со притискање на копче ( Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Со поедноставување на известувањето по акцијата, организациите можат побрзо да имплементираат подобрувања, а исто така да имаат и подобра документација за цели на усогласеност.

Една иновативна употреба насочена кон иднината се симулациите на инциденти управувани од вештачка интелигенција . Слично на тоа како би се спровела вежба за пожар, некои компании користат генеративна вештачка интелигенција за да ги спроведат сценаријата за инциденти „што ако“. Вештачката интелигенција може да симулира како би можел да се прошири рансомвер со оглед на распоредот на мрежата или како некој внатрешен човек би можел да извлече податоци, а потоа да ја оцени ефикасноста на тековните планови за одговор. Ова им помага на тимовите да подготват и усовршат прирачници пред да се случи вистински инцидент. Тоа е како да имате постојано подобрувачки советник за одговор на инциденти кој постојано ја тестира вашата подготвеност.

Во индустриите со висок ризик како што се финансиите или здравството, каде што застојот или губењето на податоци од инциденти е особено скапо, овие можности за IR управувани од вештачка интелигенција се многу привлечни. Болница што доживува сајбер инцидент не може да си дозволи продолжени прекини на системот - вештачката интелигенција што брзо помага во ограничувањето на инцидентот буквално може да спаси живот. Слично на тоа, финансиската институција може да користи вештачка интелигенција за да се справи со почетната тријажа на сомнителен упад во измама во 3 часот наутро, така што додека дежурните луѓе се онлајн, многу теренска работа (одјавување од засегнатите сметки, блокирање трансакции итн.) е веќе завршена. Со зголемување на тимовите за одговор на инциденти со генеративна вештачка интелигенција , организациите можат значително да го намалат времето на одговор и да ја подобрат темелноста на нивното ракување, на крајот ублажувајќи ја штетата од сајбер инциденти.

Аналитика на однесувањето и откривање на аномалии

Многу сајбер напади можат да бидат откриени со забележување кога нешто отстапува од „нормалното“ однесување - без разлика дали станува збор за корисничка сметка што презема необична количина на податоци или мрежен уред што одеднаш комуницира со непознат домаќин. Генеративната вештачка интелигенција нуди напредни техники за анализа на однесувањето и откривање на аномалии , учење на нормалните шеми на корисниците и системите, а потоа означување кога нешто изгледа несоодветно.

Традиционалното откривање на аномалии често користи статистички прагови или едноставно машинско учење на специфични метрики (шилести вредности на користењето на процесорот, најавување во необични часови итн.). Генеративната вештачка интелигенција може да го однесе ова чекор понатаму со создавање на понијансирани профили на однесување. На пример, моделот на вештачка интелигенција може да ги апсорбира најавувањата, шемите за пристап до датотеки и навиките за е-пошта на вработениот со текот на времето и да формира повеќедимензионално разбирање за „нормалното“ на тој корисник. Ако таа сметка подоцна направи нешто драстично надвор од својата норма (како најавување од нова земја и пристап до ризница од човечки ресурси на полноќ), вештачката интелигенција би открила отстапување не само на една метрика, туку како целина на модел на однесување што не одговара на профилот на корисникот. Во техничка смисла, генеративните модели (како автоенкодери или секвенцијални модели) можат да моделираат како изгледа „нормалното“, а потоа да генерираат очекуван опсег на однесување. Кога реалноста ќе излезе надвор од тој опсег, таа се означува како аномалија ( Што е генеративна вештачка интелигенција во сајбер безбедноста? - Palo Alto Networks ).

Една практична имплементација е во следењето на мрежниот сообраќај . Според анкета од 2024 година, 54% од американските организации го навеле следењето на мрежниот сообраќај како врвен случај на употреба за вештачка интелигенција во сајбер безбедноста ( Северна Америка: врвни случаи на употреба на вештачка интелигенција во сајбер безбедноста во светот 2024 година ). Генеративната вештачка интелигенција може да ги научи нормалните комуникациски шеми на мрежата на претпријатието - кои сервери обично комуницираат едни со други, колкав обем на податоци се движат во текот на работното време наспроти преку ноќ, итн. Ако напаѓачот почне да ексфилтрира податоци од сервер, дури и бавно за да избегне откривање, систем базиран на вештачка интелигенција може да забележи дека „Серверот А никогаш не испраќа 500MB податоци во 2 часот наутро на надворешна IP адреса“ и да издаде предупредување. Бидејќи вештачката интелигенција не користи само статички правила, туку и еволутивен модел на однесување на мрежата, може да фати суптилни аномалии што статичките правила (како „аларм ако податоците > X MB“) може да ги пропуштат или погрешно да ги означат. Оваа адаптивна природа е она што го прави откривањето на аномалии управувано од вештачка интелигенција моќно во средини како што се мрежи за банкарски трансакции, облачна инфраструктура или флоти на IoT уреди, каде што дефинирањето на фиксни правила за нормално наспроти абнормално е исклучително сложено.

Генеративната вештачка интелигенција помага и со аналитиката на однесувањето на корисниците (UBA) , што е клучно за откривање на внатрешни закани или компромитирани сметки. Со генерирање на почетна вредност за секој корисник или субјект, вештачката интелигенција може да открие работи како злоупотреба на акредитиви. На пример, ако Боб од сметководството одеднаш почне да ја пребарува базата на податоци на клиентите (нешто што никогаш порано не го правел), моделот на вештачката интелигенција за однесувањето на Боб ќе го означи ова како невообичаено. Можеби не е малициозен софтвер - може да биде случај на кражба на акредитивите на Боб и нивно користење од напаѓач, или Боб истражува таму каде што не треба. Во секој случај, безбедносниот тим добива предупредување да истражи. Вакви UBA системи управувани од вештачка интелигенција постојат во различни безбедносни производи, а техниките за генеративно моделирање ја зголемуваат нивната точност и ги намалуваат лажните аларми со земање предвид на контекстот (можеби Боб е на посебен проект итн., што вештачката интелигенција понекогаш може да го заклучи од други податоци).

Во областа на управувањето со идентитетот и пристапот, откривањето на длабоки лаги е растечка потреба - генеративната вештачка интелигенција може да создаде синтетички гласови и видеа што ја залажуваат биометриската безбедност. Интересно е што генеративната вештачка интелигенција може да помогне и во откривањето на овие длабоки лаги со анализа на суптилни артефакти во аудио или видео што луѓето тешко ги забележуваат. Видовме пример со Accenture, кој користеше генеративна вештачка интелигенција за симулирање на безброј изрази на лицето и услови за да ги обучи своите биометриски системи да ги разликуваат вистинските корисници од длабоките лаги генерирани од вештачка интелигенција. Во текот на пет години, овој пристап му помогна на Accenture да ги елиминира лозинките за 90% од своите системи (преминувајќи на биометрија и други фактори) и да ги намали нападите за 60% ( 6 случаи на употреба за генеративна вештачка интелигенција во сајбер безбедноста [+ примери] ). Во суштина, тие користеа генеративна вештачка интелигенција за зајакнување на биометриската автентикација, правејќи ја отпорна на генеративни напади (одлична илустрација за борбата на вештачката интелигенција против вештачката интелигенција). Овој вид моделирање на однесувањето - во овој случај препознавањето на разликата помеѓу живо човечко лице наспроти лице синтетизирано од вештачка интелигенција - е клучно бидејќи повеќе се потпираме на вештачката интелигенција во автентикацијата.

Детекцијата на аномалии поддржана од генеративна вештачка интелигенција е применлива во сите индустрии: во здравството, следење на однесувањето на медицинските уреди за знаци на хакирање; во финансиите, набљудување на трговските системи за неправилни шеми што би можеле да укажуваат на измама или алгоритамска манипулација; во енергетиката/комуналните услуги, набљудување на сигналите од контролниот систем за знаци на упади. Комбинацијата од ширина (гледање на сите аспекти на однесувањето) и длабочина (разбирање на сложените шеми) што ја обезбедува генеративната вештачка интелигенција ја прави моќна алатка за откривање на индикаторите за игла во пласт сено на сајбер инцидент. Како што заканите стануваат сè поневидливи, криејќи се меѓу нормалните операции, оваа способност прецизно да се карактеризира „нормалното“ и да се извика кога нешто отстапува станува од витално значење. Генеративната вештачка интелигенција затоа служи како неуморен стражар, секогаш учејќи и ажурирајќи ја својата дефиниција за нормалност за да биде во чекор со промените во околината и алармирајќи ги безбедносните тимови за аномалии што заслужуваат подетална проверка.

Можности и придобивки од генеративната вештачка интелигенција во сајбер безбедноста

Примената на генеративната вештачка интелигенција во сајбер безбедноста носи мноштво можности и придобивки за организациите кои се подготвени да ги прифатат овие алатки. Подолу, ги сумираме клучните предности што ја прават генеративната вештачка интелигенција привлечен додаток на програмите за сајбер безбедност:

• Побрзо откривање и одговор на закани: Генеративните системи со вештачка интелигенција можат да анализираат огромни количини на податоци во реално време и да препознаваат закани многу побрзо од рачната човечка анализа. Оваа предност во брзината значи порано откривање на напади и побрзо ограничување на инцидентите. Во пракса, безбедносниот мониторинг управуван од вештачка интелигенција може да открие закани за кои на луѓето би им требало многу подолго време за да ги поврзат. Со брзо реагирање на инциденти (или дури и автономно извршување на почетните одговори), организациите можат драматично да го намалат времето на задржување на напаѓачите во нивните мрежи, минимизирајќи ја штетата.

• Подобрена точност и покриеност на закани: Бидејќи постојано учат од нови податоци, генеративните модели можат да се прилагодат на еволуирачките закани и да откријат посуптилни знаци на злонамерна активност. Ова води до подобрена точност на откривање (помалку лажно негативни и лажно позитивни резултати) во споредба со статичките правила. На пример, вештачка интелигенција која ги научила карактеристиките на фишинг е-пошта или однесување на малициозен софтвер може да идентификува варијанти кои никогаш порано не биле видени. Резултатот е поширока покриеност на типовите на закани - вклучувајќи нови напади - зајакнувајќи ја целокупната безбедносна позиција. Безбедносните тимови, исто така, добиваат детални сознанија од анализата на вештачката интелигенција (на пр. објаснувања за однесувањето на малициозен софтвер), овозможувајќи попрецизна и целна одбрана ( Што е генеративна вештачка интелигенција во сајбер безбедноста? - Palo Alto Networks ).

• Автоматизација на повторувачки задачи: Генеративната вештачка интелигенција е одлична во автоматизирањето на рутинските, трудоинтензивни безбедносни задачи - од пребарување низ логови и составување извештаи до пишување скрипти за одговор на инциденти. Оваа автоматизација го намалува товарот врз човечките аналитичари , ослободувајќи ги да се фокусираат на стратегија на високо ниво и сложено донесување одлуки ( Што е генеративна вештачка интелигенција во сајбер безбедноста? - Palo Alto Networks ). Едноставни, но важни задачи како што се скенирање на ранливости, ревизија на конфигурацијата, анализа на активноста на корисниците и известување за усогласеност може да се извршуваат (или барем прво да се изготват) од вештачката интелигенција. Со справување со овие задачи со брзина на машината, вештачката интелигенција не само што ја подобрува ефикасноста, туку и ги намалува човечките грешки (значаен фактор во прекршувањата).

• Проактивна одбрана и симулација: Генеративната вештачка интелигенција им овозможува на организациите да се префрлат од реактивна на проактивна безбедност. Преку техники како симулација на напади, генерирање синтетички податоци и обука базирана на сценарија, бранителите можат да предвидат и да се подготват за закани пред тие да се материјализираат во реалниот свет. Безбедносните тимови можат да симулираат сајбер напади (фишинг кампањи, епидемии на малициозен софтвер, DDoS итн.) во безбедни средини за да ги тестираат своите одговори и да ги поткрепат сите слабости. Оваа континуирана обука, која честопати е невозможно темелно да се направи само со човечки напор, ја одржува одбраната остри и ажурирани. Тоа е слично на сајбер „вежба за пожар“ - вештачката интелигенција може да фрли многу хипотетички закани врз вашата одбрана за да можете да вежбате и да се подобрувате.

• Зголемување на човечката експертиза (ВИ како множител на сила): Генеративната ВИ делува како неуморен помлад аналитичар, советник и асистент споени во едно. Може да им обезбеди на помалку искусните членови на тимот насоки и препораки што обично се очекуваат од искусни експерти, ефикасно демократизирајќи ја експертизата во целиот тим ( 6 случаи на употреба за генеративна ВИ во сајбер безбедноста [+ примери] ). Ова е особено вредно со оглед на недостатокот на таленти во сајбер безбедноста - ВИ им помага на помалите тимови да прават повеќе со помалку. Искусните аналитичари, од друга страна, имаат корист од ВИ да се справува со тешка работа и да излегува на површина со неочигледни сознанија, кои потоа можат да ги потврдат и да дејствуваат врз основа на нив. Целокупниот резултат е тим за безбедност кој е многу попродуктивен и поспособен, при што ВИ го засилува влијанието на секој човечки член ( Како може да се користи генеративна ВИ во сајбер безбедноста ).

• Подобрена поддршка за донесување одлуки и известување: Со преведување на техничките податоци во увиди на природен јазик, генеративната вештачка интелигенција ја подобрува комуникацијата и донесувањето одлуки. Безбедносните лидери добиваат појасен увид во проблемите преку резимеа генерирани од вештачка интелигенција и можат да донесуваат информирани стратешки одлуки без потреба од анализирање на сурови податоци. Слично на тоа, меѓуфункционалната комуникација (до раководители, службеници за усогласеност итн.) се подобрува кога вештачката интелигенција подготвува лесни за разбирање извештаи за безбедносната состојба и инциденти ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Ова не само што гради доверба и усогласеност во врска со безбедносните прашања на ниво на лидерство, туку помага и во оправдувањето на инвестициите и промените со јасно артикулирање на ризиците и празнините откриени од вештачката интелигенција.

Во комбинација, овие придобивки значат дека организациите што ја користат генеративната вештачка интелигенција во сајбер безбедноста можат да постигнат посилна безбедносна позиција со потенцијално пониски оперативни трошоци. Тие можат да одговорат на заканите што претходно беа огромни, да ги покријат празнините што не беа следени и континуирано да се подобруваат преку повратни јамки водени од вештачката интелигенција. На крајот на краиштата, генеративната вештачка интелигенција нуди можност да се биде понапред од противниците со усогласување на брзината, обемот и софистицираноста на современите напади со подеднакво софистицирана одбрана. Како што покажа едно истражување, над половина од бизнис и сајбер лидерите очекуваат побрзо откривање на закани и зголемена точност преку употреба на генеративна вештачка интелигенција ( [PDF] Глобална перспектива за сајбер безбедноста 2025 | Светски економски форум ) ( Генеративна вештачка интелигенција во сајбер безбедноста: Сеопфатен преглед на LLM ... ) - доказ за оптимизмот околу придобивките од овие технологии.

Ризици и предизвици од користењето на генеративна вештачка интелигенција во сајбер безбедноста

Иако можностите се значајни, од клучно значење е да се пристапи кон генеративната вештачка интелигенција во сајбер безбедноста со отворени очи кон ризиците и предизвиците што се вклучени. Слепото верување во вештачката интелигенција или нејзината злоупотреба може да воведе нови ранливости. Подолу, ги наведуваме главните проблеми и стапици, заедно со контекстот за секоја од нив:

• Непријателска употреба од страна на сајбер-криминалците: Истите генеративни способности што им помагаат на бранителите можат да ги оспособат напаѓачите. Актерите на закана веќе користат генеративна вештачка интелигенција за да создадат поубедливи фишинг е-пораки, да креираат лажни личности и длабоки лажни видеа за социјален инженеринг, да развиваат полиморфен малициозен софтвер што постојано се менува за да избегне откривање, па дури и да ги автоматизираат аспектите на хакирањето ( Што е генеративна вештачка интелигенција во сајбер безбедноста? - Palo Alto Networks ). Речиси половина (46%) од лидерите во сајбер безбедноста се загрижени дека генеративната вештачка интелигенција ќе доведе до понапредни непријателски напади ( Генеративна безбедност на вештачката интелигенција: Трендови, закани и стратегии за ублажување ). Оваа „трка во вооружување со вештачка интелигенција“ значи дека додека бранителите ја прифаќаат вештачката интелигенција, напаѓачите нема да бидат далеку зад себе (всушност, тие може да бидат понапред во некои области, користејќи нерегулирани алатки за вештачка интелигенција). Организациите мора да бидат подготвени за закани подобрени со вештачка интелигенција кои се почести, пософистицирани и тешки за следење.

• Халуцинации и неточности со вештачка интелигенција: Генеративните модели на вештачка интелигенција можат да произведат резултати кои се веродостојни, но неточни или погрешни - феномен познат како халуцинација. Во безбедносен контекст, вештачката интелигенција може да анализира инцидент и погрешно да заклучи дека одредена ранливост е причината, или може да генерира погрешна скрипта за санација која не успева да го спречи нападот. Овие грешки можат да бидат опасни ако се земат здраво за готово. Како што предупредува NTT Data, „генеративната вештачка интелигенција може веродостојно да произведува неточна содржина, а овој феномен се нарекува халуцинации… во моментов е тешко целосно да се елиминираат“ ( Безбедносни ризици од генеративна вештачка интелигенција и контрамерки и нејзиното влијание врз сајбер безбедноста | NTT DATA Group ). Преголемата зависност од вештачката интелигенција без верификација може да доведе до погрешно насочени напори или лажно чувство на безбедност. На пример, вештачката интелигенција може лажно да означи критичен систем како безбеден кога не е, или обратно, да предизвика паника со „откривање“ на прекршување што никогаш не се случило. Ригорозната валидација на резултатите од вештачката интелигенција и вклучувањето на луѓето во јамката за критични одлуки е од суштинско значење за ублажување на овој ризик.

• Лажни позитивни и негативни страни: Поврзани со халуцинациите, ако моделот на вештачка интелигенција е лошо обучен или конфигуриран, може да претерува со пријавувањето на бенигна активност како злонамерна (лажни позитивни страни) или, уште полошо, да пропушти вистински закани (лажни негативни страни) ( Како може генеративната вештачка интелигенција да се користи во сајбер безбедноста ). Прекумерните лажни предупредувања можат да ги преоптоварат безбедносните тимови и да доведат до замор на предупредувања (поништувајќи ги самите подобрувања во ефикасноста што ги вети ветената вештачка интелигенција), додека пропуштените детекции ја оставаат организацијата изложена. Прилагодувањето на генеративните модели за вистинската рамнотежа е предизвикувачко. Секоја средина е единствена и вештачката интелигенција можеби нема веднаш да функционира оптимално веднаш. Континуираното учење е исто така меч со две острици - ако вештачката интелигенција учи од повратни информации што се искривени или од средина што се менува, нејзината точност може да варира. Безбедносните тимови мора да ги следат перформансите на вештачката интелигенција и да ги прилагодат праговите или да обезбедат корективни повратни страни на моделите. Во контексти со висок ризик (како откривање на упади за критична инфраструктура), можеби е разумно да се извршуваат предлози за вештачка интелигенција паралелно со постојните системи за одреден период, за да се осигури дека тие се усогласуваат и надополнуваат, а не се конфликтни.

• Приватност на податоци и протекување: Системите за генеративна вештачка интелигенција честопати бараат големи количини на податоци за обука и работа. Ако овие модели се базирани на облак или не се правилно изолирани, постои ризик чувствителни информации да протекуваат. Корисниците може ненамерно да внесат сопственички податоци или лични податоци во услуга за вештачка интелигенција (замислете да го прашате ChatGPT да сумира доверлив извештај за инцидент), и тие податоци би можеле да станат дел од знаењето на моделот. Всушност, неодамнешна студија откри дека 55% од влезните податоци во алатките за генеративна вештачка интелигенција содржеле чувствителни или лично препознатливи информации , што покренува сериозни загрижености за протекување на податоци ( Безбедност на генеративна вештачка интелигенција: Трендови, закани и стратегии за ублажување ). Дополнително, ако вештачката интелигенција е обучена за внатрешни податоци и е прашана на одредени начини, може да испрати делови од тие чувствителни податоци до некој друг. Организациите мора да спроведат строги политики за ракување со податоци (на пр. користење на локални или приватни инстанци на вештачка интелигенција за чувствителен материјал) и да ги едуцираат вработените да не лепат тајни информации во јавни алатки за вештачка интелигенција. Прописите за приватност (GDPR, итн.) исто така влегуваат во игра - користењето лични податоци за обука на вештачка интелигенција без соодветна согласност или заштита може да биде спротивно на законите.

• Безбедност и манипулација на моделите: Самите модели на генеративна вештачка интелигенција можат да станат цели. Противниците може да се обидат да го трујат моделот , внесувајќи злонамерни или погрешни податоци за време на фазата на обука или преквалификација, така што вештачката интелигенција ќе научи неточни шеми ( Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста ). На пример, напаѓачот може суптилно да ги труе информациите за заканите, така што вештачката интелигенција нема да го препознае сопствениот малициозен софтвер на напаѓачот како злонамерен. Друга тактика е брзо инјектирање или манипулација со излезот , каде што напаѓачот наоѓа начин да испрати влезни податоци до вештачката интелигенција што предизвикуваат таа да се однесува на ненамерни начини - можеби да ги игнорира своите безбедносни огради или да открие информации што не треба (како внатрешни инструкции или податоци). Дополнително, постои ризик од избегнување на моделот : напаѓачите создаваат влезни податоци специјално дизајнирани да ја измамат вештачката интелигенција. Ова го гледаме во спротивставени примери - малку нарушени податоци што човекот ги гледа како нормални, но вештачката интелигенција погрешно ги класифицира. Обезбедувањето на безбедноста на синџирот на снабдување со вештачка интелигенција (интегритет на податоците, контрола на пристап до моделот, тестирање на робусноста на контрадикторност) е нов, но неопходен дел од сајбер безбедноста при имплементација на овие алатки ( Што е генеративна вештачка интелигенција во сајбер безбедноста? - Palo Alto Networks ).

• Преголема зависност и ерозија на вештини: Постои помал ризик организациите да станат премногу зависни од вештачката интелигенција и да дозволат човечките вештини да атрофираат. Доколку помладите аналитичари почнат слепо да им веруваат на резултатите од вештачката интелигенција, тие можеби нема да го развијат критичкото размислување и интуицијата потребни кога вештачката интелигенција е недостапна или погрешна. Сценарио што треба да се избегне е тим за безбедност кој има одлични алатки, но нема идеја како да работи ако тие алатки се расипат (слично на пилотите кои премногу се потпираат на автопилот). Редовните обуки без помош од вештачката интелигенција и негувањето на начинот на размислување дека вештачката интелигенција е асистент, а не непогрешлив пророк, се важни за да се одржат човечките аналитичари остри. Луѓето мора да останат крајни донесувачи на одлуки, особено за пресуди со големо влијание.

• Етички предизвици и предизвици во однос на усогласеноста: Употребата на вештачка интелигенција во сајбер безбедноста покренува етички прашања и може да предизвика проблеми со усогласеноста со регулативите. На пример, ако систем на вештачка интелигенција погрешно имплицира вработен како злонамерен инсајдер поради аномалија, тоа може неправедно да го оштети угледот или кариерата на тоа лице. Одлуките донесени од вештачката интелигенција можат да бидат непроѕирни (проблемот со „црната кутија“), што го отежнува објаснувањето на ревизорите или регулаторите зошто се преземени одредени дејствија. Бидејќи содржината генерирана од вештачка интелигенција станува сè поприсутна, обезбедувањето транспарентност и одржувањето на одговорноста е од клучно значење. Регулаторите почнуваат да ја испитуваат вештачката интелигенција - Законот за вештачка интелигенција на ЕУ, на пример, ќе наметне барања за „високоризични“ системи со вештачка интелигенција, а вештачката интелигенција во сајбер безбедноста може да спаѓа во таа категорија. Компаниите ќе треба да се снајдат во овие регулативи и евентуално да се придржуваат до стандарди како што е Рамката за управување со ризик од вештачка интелигенција на NIST за одговорно користење на генеративна вештачка интелигенција ( Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Усогласеноста се протега и на лиценцирањето: користењето модели со отворен код или модели од трети страни може да има услови што ограничуваат одредени употреби или бараат подобрувања во споделувањето.

Накратко, генеративната вештачка интелигенција не е сребрен куршум - ако не се имплементира внимателно, може да воведе нови слабости дури и додека решава други. Студијата на Светскиот економски форум од 2024 година истакна дека ~47% од организациите го наведуваат напредокот во генеративната вештачка интелигенција од страна на напаѓачите како примарна грижа, што ја прави „најзагрижувачкото влијание на генеративната вештачка интелигенција“ во сајбер безбедноста ( [PDF] Глобална сајбер-безбедност - перспективи 2025 | Светски економски форум ) ( Генеративна вештачка интелигенција во сајбер безбедноста: сеопфатен преглед на LLM ... ). Затоа, организациите мора да усвојат избалансиран пристап: да ги искористат придобивките од вештачката интелигенција, додека строго управуваат со овие ризици преку управување, тестирање и човечки надзор. Следно ќе разговараме како практично да се постигне таа рамнотежа.

Идни перспективи: Еволутивната улога на генеративната вештачка интелигенција во сајбер безбедноста

Гледано напред, генеративната вештачка интелигенција е подготвена да стане составен дел од стратегијата за сајбер безбедност - а исто така и алатка што сајбер-противниците ќе продолжат да ја експлоатираат. Динамиката на мачка и глушец ќе се забрза, со вештачка интелигенција од двете страни на оградата. Еве некои сознанија за тоа како генеративната вештачка интелигенција би можела да ја обликува сајбер-безбедноста во наредните години:

• Кибер одбраната со вештачка интелигенција (AI) станува стандард: До 2025 година и понатаму, можеме да очекуваме дека повеќето средни до големи организации ќе имаат инкорпорирано алатки управувани од AI во своите безбедносни операции. Исто како што антивирусите и заштитните ѕидови се стандардни денес, копилотите со AI и системите за откривање аномалии може да станат основни компоненти на безбедносните архитектури. Овие алатки веројатно ќе станат поспецијализирани - на пример, различни модели на AI фино подесени за безбедност во облакот, за следење на IoT уредите, за безбедност на апликацискиот код и така натаму, сите работејќи заедно. Како што се забележува едно предвидување, „во 2025 година, генеративната AI ќе биде составен дел од сајбер безбедноста, овозможувајќи им на организациите проактивно да се бранат од софистицирани и еволуирачки закани“ ( Како може генеративната AI да се користи во сајбер безбедноста ). AI ќе го подобри откривањето на закани во реално време, ќе автоматизира многу акции за одговор и ќе им помогне на безбедносните тимови да управуваат со многу поголеми количини на податоци отколку што би можеле рачно.

• Континуирано учење и адаптација: Идните генеративни системи на вештачка интелигенција во сајбер-интерфејсот ќе станат подобри во учењето во лет од нови инциденти и разузнавачки информации за закани, ажурирајќи ја својата база на знаење во речиси реално време. Ова би можело да доведе до вистински адаптивни одбрани - замислете вештачка интелигенција која дознава за нова фишинг кампања што ја погодува друга компанија наутро, а до попладне веќе ги прилагодила филтрите за е-пошта на вашата компанија како одговор. Безбедносните услуги на вештачка интелигенција базирани во облак би можеле да го олеснат овој вид колективно учење, каде што анонимизираните сознанија од една организација им користат на сите претплатници (слично на споделувањето информации за закани, но автоматизирано). Сепак, ова ќе бара внимателно ракување за да се избегне споделување чувствителни информации и да се спречат напаѓачите да внесуваат лоши податоци во споделените модели.

• Конвергенција на вештачката интелигенција и талентот за сајбер безбедност: Сетот вештини на професионалците за сајбер безбедност ќе се развива за да вклучува познавање на вештачката интелигенција и науката за податоци. Исто како што денешните аналитичари учат јазици за пребарување и скриптирање, утрешните аналитичари би можеле редовно да ги дотеруваат моделите на вештачката интелигенција или да пишуваат „прирачници“ што вештачката интелигенција ќе ги извршува. Може да видиме нови улоги како „Тренер за безбедност на вештачката интелигенција“ или „Инженер за сајбер безбедност на вештачката интелигенција“ - луѓе кои се специјализирани за прилагодување на алатките за вештачка интелигенција кон потребите на организацијата, потврдување на нивните перформанси и обезбедување безбедно работење. Од друга страна, сајбер безбедноста сè повеќе ќе влијае на развојот на вештачката интелигенција. Системите за вештачка интелигенција ќе бидат изградени со безбедносни карактеристики од самиот почеток (безбедна архитектура, откривање на неовластени измени, дневници за ревизија за одлуки за вештачка интелигенција итн.), а рамките за доверлива вештачка интелигенција (фер, објаснива, робусна и безбедна) ќе го водат нивното распоредување во контексти критични за безбедноста.

• Пософистицирани напади со вештачка интелигенција: За жал, пејзажот на закани исто така ќе се развива со вештачката интелигенција. Очекуваме почеста употреба на вештачка интелигенција за откривање на ранливости од нулти ден, за креирање на високо насочени spear phishing (на пр. вештачка интелигенција што ги пребарува социјалните медиуми за да создаде совршено прилагодена мамка) и за генерирање убедливи deepfake гласови или видеа за да се заобиколи биометриската автентикација или да се изврши измама. Може да се појават автоматизирани агенти за хакирање кои можат самостојно да извршуваат повеќестепени напади (извидување, експлоатација, странично движење итн.) со минимален човечки надзор. Ова ќе ги притисне бранителите да се потпрат и на вештачката интелигенција - во суштина автоматизација наспроти автоматизација . Некои напади може да се појават со брзина на машината, како што се ботови со вештачка интелигенција кои пробуваат илјадници пермутации на е-пошта за фишинг за да видат која ќе помине низ филтрите. Кибер-одбраната ќе треба да работи со слична брзина и флексибилност за да биде во чекор ( Што е генеративна вештачка интелигенција во сајбер-безбедноста? - Palo Alto Networks ).

• Регулација и етичка вештачка интелигенција во безбедноста: Како што вештачката интелигенција станува длабоко вкоренета во функциите за сајбер безбедност, ќе има поголем надзор и евентуално регулација за да се обезбеди дека овие системи за вештачка интелигенција се користат одговорно. Можеме да очекуваме рамки и стандарди специфични за вештачката интелигенција во безбедноста. Владите би можеле да постават упатства за транспарентност - на пр., да бараат значајните безбедносни одлуки (како прекинување на пристапот на вработен поради сомнителна злонамерна активност) да не можат да се донесат само од вештачката интелигенција без човечки преглед. Може да има и сертификати за безбедносни производи за вештачка интелигенција, за да се уверат купувачите дека вештачката интелигенција е оценета за пристрасност, робусност и безбедност. Понатаму, меѓународната соработка може да се зголеми околу сајбер заканите поврзани со вештачката интелигенција; на пример, договори за справување со дезинформации создадени од вештачката интелигенција или норми против одредени сајбер оружја управувани од вештачката интелигенција.

• Интеграција со поширока вештачка интелигенција и ИТ екосистеми: Генеративната вештачка интелигенција во сајбер безбедноста веројатно ќе се интегрира со други системи на вештачка интелигенција и алатки за управување со ИТ. На пример, вештачка интелигенција што управува со оптимизацијата на мрежата би можела да работи со безбедносната вештачка интелигенција за да се осигури дека промените нема да отворат дупки во законот. Бизнис аналитиката водена од вештачка интелигенција би можела да споделува податоци со безбедносни вештачки интелигенции за да ги поврзе аномалиите (како ненадеен пад на продажбата со можен проблем со веб-страницата поради напад). Во суштина, вештачката интелигенција нема да живее во силос - таа ќе биде дел од поголема интелигентна ткаенина на работењето на организацијата. Ова отвора можности за холистичко управување со ризици каде што оперативните податоци, податоците за заканите, па дури и податоците за физичка безбедност би можеле да бидат комбинирани од вештачката интелигенција за да се добие 360-степенски преглед на безбедносната состојба на организацијата.

На долг рок, се надеваме дека генеративната вештачка интелигенција ќе помогне да се навалува рамнотежата во корист на бранителите. Со справување со обемот и сложеноста на модерните ИТ средини, вештачката интелигенција може да го направи сајбер-просторот поодбранлив. Сепак, тоа е патување и ќе има растечки тешкотии додека ги усовршуваме овие технологии и учиме соодветно да им веруваме. Организациите кои остануваат информирани и инвестираат во одговорно усвојување на вештачката интелигенција за безбедност веројатно ќе бидат оние кои се во најдобра позиција да се справат со заканите на иднината.

Како што е наведено во неодамнешниот извештај за трендовите во сајбер безбедноста на Гартнер, „појавата на случаи на употреба (и ризици) на генеративна вештачка интелигенција создава притисок за трансформација“ ( Трендови во сајбер безбедноста: Отпорност преку трансформација - Гартнер ). Оние кои ќе се адаптираат ќе ја искористат вештачката интелигенција како моќен сојузник; оние кои заостануваат може да се најдат надминати од противниците овластени од вештачката интелигенција. Следните неколку години ќе бидат клучно време во дефинирањето на тоа како вештачката интелигенција го преобликува сајбер бојното поле.

Практични заклучоци за усвојување на генеративна вештачка интелигенција во сајбер безбедноста

За бизнисите што проценуваат како да ја искористат генеративната вештачка интелигенција во нивната стратегија за сајбер безбедност, еве неколку практични заклучоци и препораки за водење на одговорно и ефикасно усвојување:

1. Започнете со образование и обука: Осигурајте се дека вашиот тим за безбедност (и поширокиот ИТ персонал) разбира што генеративната вештачка интелигенција може, а што не може да направи. Обезбедете обука за основите на безбедносните алатки управувани од вештачка интелигенција и ажурирајте ги вашите програми за подигање на свеста за безбедноста за сите вработени за да ги опфатат заканите овозможени од вештачката интелигенција. На пример, обучете го персоналот како вештачката интелигенција може да генерира многу убедливи фишинг измами и лажни повици. Истовремено, обучете ги вработените за безбедна и одобрена употреба на алатки за вештачка интелигенција во нивната работа. Добро информираните корисници имаат помала веројатност да се справат со вештачката интелигенција или да станат жртви на напади подобрени од вештачка интелигенција ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ).

2. Дефинирајте јасни политики за користење на вештачка интелигенција: Третирајте ја генеративната вештачка интелигенција како и секоја моќна технологија - со управување. Развијте политики што специфицираат кој може да користи алатки за вештачка интелигенција, кои алатки се санкционирани и за кои цели. Вклучете упатства за ракување со чувствителни податоци (на пр., забрана за внесување доверливи податоци во надворешни услуги за вештачка интелигенција) за да се спречи протекување. На пример, може да дозволите само членовите на безбедносниот тим да користат внатрешен асистент за вештачка интелигенција за одговор на инциденти, а маркетингот може да користи проверена вештачка интелигенција за содржина - сите други се ограничени. Многу организации сега експлицитно се осврнуваат на генеративната вештачка интелигенција во своите ИТ политики, а водечките тела за стандардизација охрабруваат политики за безбедно користење, наместо целосни забрани ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Осигурајте се дека ги споделувате овие правила и образложението зад нив со сите вработени.

3. Ублажување на „сенката на вештачката интелигенција“ и следење на употребата: Слично на сенка на ИТ, „сенката на вештачката интелигенција“ се јавува кога вработените почнуваат да користат алатки или услуги за вештачка интелигенција без знаење на ИТ (на пр. развивач кој користи неовластен асистент за код на вештачка интелигенција). Ова може да воведе невидени ризици. Спроведување мерки за откривање и контрола на неовластената употреба на вештачка интелигенција . Мониторингот на мрежата може да ги означи врските со популарните API-ја на вештачката интелигенција, а анкетите или ревизиите на алатките можат да откријат што користи персоналот. Нудење одобрени алтернативи за добронамерните вработени да не бидат во искушение да станат нечесни (на пример, обезбедување официјална сметка на ChatGPT Enterprise ако луѓето сметаат дека е корисна). Со изнесување на употребата на вештачката интелигенција на виделина, безбедносните тимови можат да го проценат и управуваат ризикот. Мониторингот е исто така клучен - евидентирање на активностите и резултатите од алатките за вештачка интелигенција колку што е можно повеќе, за да има ревизорска трага за одлуките врз кои вештачката интелигенција влијаела ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ).

4. Користете ја вештачката интелигенција за одбрана – не заостанувајте: Препознајте дека напаѓачите ќе користат вештачка интелигенција, па затоа и вашата одбрана треба да го стори тоа. Идентификувајте неколку области со големо влијание каде што генеративната вештачка интелигенција би можела веднаш да им помогне на вашите безбедносни операции (можеби тријажа на аларми или автоматска анализа на логови) и стартувајте пилот-проекти. Зголемете ја вашата одбрана со брзината и обемот на вештачката интелигенција за да се спротивставите на брзо движечките закани ( Како може да се користи генеративната вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Дури и едноставните интеграции, како што е користењето вештачка интелигенција за сумирање на извештаи за малициозен софтвер или генерирање барања за лов на закани, можат да им заштедат часови на аналитичарите. Започнете со мали чекори, оценете ги резултатите и повторувајте. Успесите ќе го изградат случајот за пошироко усвојување на вештачката интелигенција. Целта е да се користи вештачката интелигенција како множител на сила – на пример, ако фишинг нападите го преоптоваруваат вашиот сервис за помош, распоредете класификатор на е-пошта со вештачка интелигенција за проактивно да го намалите тој обем.

5. Инвестирајте во безбедни и етички практики за вештачка интелигенција: При имплементирање на генеративна вештачка интелигенција, следете ги практиките за безбеден развој и распоредување. Користете приватни или самостојно хостирани модели за чувствителни задачи за да ја задржите контролата врз податоците. Доколку користите услуги за вештачка интелигенција од трети страни, прегледајте ги нивните мерки за безбедност и приватност (енкрипција, политики за задржување на податоци итн.). Вклучете рамки за управување со ризик од вештачка интелигенција (како што се Рамката за управување со ризик од вештачка интелигенција на NIST или упатствата ISO/IEC) за систематски да се справите со работи како пристрасност, објаснување и робусност во вашите алатки за вештачка интелигенција ( Како може да се користи генеративна вештачка интелигенција во сајбер безбедноста? 10 примери од реалниот свет ). Исто така, планирајте ажурирања/закрпи на моделите како дел од одржувањето - моделите на вештачка интелигенција исто така можат да имаат „ранливости“ (на пр., можеби ќе им треба преквалификација ако почнат да се менуваат или ако се открие нов вид на непријателски напад врз моделот). Со вклучување на безбедноста и етиката во вашата употреба на вештачката интелигенција, градите доверба во резултатите и обезбедувате усогласеност со новите регулативи.

6. Држете ги луѓето во тек: Користете вештачка интелигенција за да помогнете, а не целосно да ја замените, човековата проценка во сајбер безбедноста. Определете ги точките на донесување одлуки каде што е потребна човечка валидација (на пример, вештачката интелигенција може да состави извештај за инцидент, но аналитичарот го прегледува пред дистрибуција; или вештачката интелигенција може да предложи блокирање на корисничка сметка, но човекот ја одобрува таа акција). Ова не само што спречува грешките на вештачката интелигенција да останат непроверени, туку му помага и на вашиот тим да учи од вештачката интелигенција и обратно. Поттикнете колаборативен работен тек: аналитичарите треба да се чувствуваат удобно да ги преиспитуваат резултатите од вештачката интелигенција и да вршат проверки на разумноста. Со текот на времето, овој дијалог може да ги подобри и вештачката интелигенција (преку повратни информации) и вештините на аналитичарите. Во суштина, дизајнирајте ги вашите процеси така што вештачката интелигенција и човечките предности се надополнуваат едни со други - вештачката интелигенција се справува со обемот и брзината, луѓето се справуваат со двосмисленоста и конечните одлуки.

7. Мерење, следење и прилагодување: Конечно, третирајте ги вашите генеративни алатки за вештачка интелигенција како живи компоненти на вашиот безбедносен екосистем. Континуирано мерете ги нивните перформанси - дали го намалуваат времето на одговор на инциденти? Ги откриваат заканите порано? Како се движи трендот на стапката на лажно позитивни резултати? Побарајте повратни информации од тимот: дали препораките на вештачката интелигенција се корисни или создаваат бучава? Користете ги овие метрики за да ги рафинирате моделите, да ги ажурирате податоците за обука или да го прилагодите начинот на кој е интегрирана вештачката интелигенција. Кибер заканите и деловните потреби се развиваат, а вашите модели на вештачка интелигенција треба периодично да се ажурираат или преобучуваат за да останат ефикасни. Имајте план за управување со моделите, вклучително и кој е одговорен за неговото одржување и колку често се прегледува. Со активно управување со животниот циклус на вештачката интелигенција, осигурувате дека таа останува предност, а не обврска.

Како заклучок, генеративната вештачка интелигенција може значително да ги подобри можностите за сајбер безбедност, но успешното усвојување бара внимателно планирање и постојан надзор. Компаниите кои ги едуцираат своите луѓе, поставуваат јасни упатства и ја интегрираат вештачката интелигенција на избалансиран, безбеден начин ќе ги пожнеат плодовите од побрзо и попаметно управување со заканите. Овие заклучоци даваат мапа на патот: комбинирање на човечката експертиза со автоматизацијата на вештачката интелигенција, покривање на основите на управувањето и одржување на агилноста како што и технологијата на вештачката интелигенција и пејзажот на закани неизбежно еволуираат.

Со преземање на овие практични чекори, организациите можат со сигурност да одговорат на прашањето „Како може генеративната вештачка интелигенција да се користи во сајбер безбедноста?“ – не само во теорија, туку и во секојдневната пракса – и со тоа да ја зајакнат својата одбрана во нашиот сè повеќе дигитален и управуван од вештачката интелигенција свет. ( Како може генеративната вештачка интелигенција да се користи во сајбер безбедноста )

Бели книги што можеби ќе сакате да ги прочитате по оваа:

🔗 Работни места што вештачката интелигенција не може да ги замени и кои работни места ќе ги замени вештачката интелигенција?
Истражете го глобалниот поглед на тоа кои улоги се безбедни од автоматизација, а кои не.

🔗 Може ли вештачката интелигенција да го предвиди берзата?
Подетален поглед на ограничувањата, откритијата и митовите околу способноста на вештачката интелигенција да ги предвиди движењата на пазарот.

🔗 На што може да се потпре генеративната вештачка интелигенција без човечка интервенција?
Разберете каде вештачката интелигенција може да работи независно и каде човечкиот надзор е сè уште неопходен.