Чӣ гуна зеҳни сунъии тавлидкунандаро дар амнияти киберӣ истифода бурдан мумкин аст?

Муқаддима

Генеративии AI - системаҳои зеҳни сунъӣ, ки қодиранд мундариҷа ё пешгӯиҳои нав эҷод кунанд - ҳамчун як қувваи тағирёбанда дар киберамният пайдо мешаванд. Асбобҳо ба монанди GPT-4-и OpenAI қобилияти таҳлили маълумоти мураккаб ва тавлиди матни ба инсон монандро нишон доданд, ки равишҳои навро барои дифоъ аз таҳдидҳои киберӣ фароҳам меоранд. Мутахассисони соҳаи киберамният ва тасмимгирандагони тиҷорат дар тамоми соҳаҳо омӯхта истодаанд, ки чӣ гуна AI-и тавлидкунанда метавонад муҳофизатро аз ҳамлаҳои таҳаввулшаванда тақвият диҳад. Аз молия ва тандурустӣ то чакана ва ҳукумат, созмонҳо дар ҳама бахшҳо бо кӯшишҳои фишинг, нармафзори зараровар ва дигар таҳдидҳое рӯбарӯ мешаванд, ки АИ тавлидшуда метавонад дар муқобила бо онҳо кӯмак кунад. Дар ин коғази сафед, мо меомӯзем, ки чӣ гуна AI-и тавлидкунандаро дар киберамният истифода бурдан мумкин аст , бо нишон додани барномаҳои воқеии ҷаҳон, имкониятҳои оянда ва мулоҳизаҳои муҳим барои қабул.

AI тавлидшуда аз АИ аналитикии анъанавӣ на танҳо бо муайян кардани намунаҳо, балки инчунин эҷод кардани мундариҷа фарқ мекунад - хоҳ тақлид кардани ҳамлаҳо барои омӯзиши муҳофизат ё тавлиди тавзеҳоти табиӣ барои маълумоти мураккаби амниятӣ. Ин қобилияти дугона онро шамшери дудама месозад: он асбобҳои нави мудофиавии пурқувватро пешниҳод мекунад, аммо фаъолони таҳдид низ метавонанд аз он истифода баранд. Дар бахшҳои зерин доираи васеи ҳолатҳои истифода барои AI тавлидкунанда дар киберамният, аз автоматикунонии ошкоркунии фишинг то баланд бардоштани вокуниш ба ҳодисаҳо омӯхта мешаванд. Мо инчунин манфиатҳоеро, ки ин навовариҳои AI ваъда медиҳанд, дар баробари хатарҳо (ба монанди “галлюцинатсияҳо” ё истифодаи сӯиистифодаи мухолиф), ки созмонҳо бояд идора кунанд, муҳокима мекунем. Ниҳоят, мо дастурҳои амалӣ пешниҳод менамоем, то ба корхонаҳо дар арзёбӣ ва бо масъулияти ҳамгироӣ кардани AI-и тавлидкунанда ба стратегияҳои амнияти киберҷинояткорӣ кӯмак расонанд.

AI тавлидкунанда дар киберамният: Шарҳи

AI тавлидкунанда дар киберамният ба моделҳои AI - аксар вақт моделҳои забонҳои калон ё дигар шабакаҳои нейронӣ дахл дорад, ки метавонанд фаҳмишҳо, тавсияҳо, рамзҳо ё ҳатто маълумоти синтетикиро барои кӯмак дар вазифаҳои амниятӣ тавлид кунанд. Баръакси моделҳои комилан пешгӯӣ, AI-и тавлидшуда метавонад сенарияҳоро тақлид кунад ва дар асоси маълумоти омӯзишии худ натиҷаҳоеро, ки ба одамон хонда мешавад (масалан, гузоришҳо, огоҳиҳо ё ҳатто намунаҳои коди зараровар) тавлид кунад. пешгӯӣ, ошкор ва вокуниш ба таҳдидҳо бо тарзҳои динамиктар аз пештара истифода мешавад Интиқоли сунъӣ дар киберамният чист? - Шабакаҳои Пало Алто ). Масалан, моделҳои тавлидшуда метавонанд гузоришҳои васеъ ё анбори иктишофии таҳдидҳоро таҳлил кунанд ва хулосаи мухтасар ё амали тавсияшударо таҳия кунанд, ки тақрибан ба мисли "ёрирасони AI" барои гурӯҳҳои амниятӣ амал мекунанд.

Татбиқи барвақти AI-и тавлидкунанда барои дифоъи киберӣ ваъда доданд. Дар соли 2023, Microsoft Security Copilot -ро барои таҳлилгарони амниятӣ бо GPT-4 муаррифӣ кард, то дар муайян кардани вайронкуниҳо ва аз байн бурдани 65 триллион сигналҳои Microsoft ҳамарӯза коркард кунад ( Microsoft Security Copilot ёвари нави GPT-4 AI оид ба киберамният | The Verge ). Таҳлилгарон метавонанд ин системаро бо забони табиӣ пешниҳод кунанд (масалан, “Ҳамаи ҳодисаҳои амниятӣ дар 24 соати охир ҷамъбаст кунед” ) ва пилот хулосаи муфиди ҳикояро таҳия хоҳад кард. Ба ҳамин монанд, Google Threat Intelligence AI модели тавлидкунандаро бо номи Gemini , то ҷустуҷӯи гуфтугӯро тавассути махзани бузурги таҳдидҳои Google-ро фаъол созад, коди шубҳанокро зуд таҳлил кунад ва бозёфтҳоро барои кӯмак ба шикорчиёни нармафзори зараровар ҷамъбаст кунад ( Чӣ тавр AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Ин мисолҳо потенсиалро нишон медиҳанд: AI-и тавлидшуда метавонад маълумоти мураккаб ва миқёси калон оид ба киберамниятро ҳазм кунад ва фаҳмишҳоро дар шакли дастрас пешниҳод кунад ва қабули қарорҳоро суръат бахшад.

Ҳамзамон, AI-и тавлидшуда метавонад мундариҷаи хеле воқеии қалбакиро эҷод кунад, ки ин барои моделиронӣ ва омӯзиш (ва мутаассифона, барои ҳамлагароне, ки муҳандисии иҷтимоиро таҳия мекунанд) фоидаовар аст. Вақте ки мо ба ҳолатҳои мушаххаси истифода мегузарем, мо хоҳем дид, ки қобилияти тавлидии AI барои ҳам синтез ва ҳам таҳлил кардани иттилоот ба бисёр барномаҳои киберамнияти он такя мекунад. Дар зер, мо ба ҳолатҳои калидии истифода ғарқ мешавем, ки ҳама чизро аз пешгирии фишинг то таҳияи нармафзори бехатар бо мисолҳо дар бораи он, ки чӣ гуна ҳар як дар тамоми соҳаҳо татбиқ мешавад, фаро мегирад.

Барномаҳои асосии зеҳни сунъии тавлидӣ дар амнияти киберӣ

Тасвири: Ҳолатҳои асосии истифодаи AI тавлидкунандаи AI дар киберамният аз пилотҳои AI барои гурӯҳҳои амниятӣ, таҳлили осебпазирии кодҳо, муайянкунии таҳдидҳои мутобиқшавӣ, моделиронии ҳамлаи сифрӣ, амнияти мукаммали биометрӣ ва муайянкунии фишинг иборатанд ( 6 Ҳолати истифода барои AI тавлидкунандаи AI дар киберамният [+ Намунаҳо] ).

Ошкор ва пешгирии фишинг

Фишинг яке аз паҳнтарин таҳдидҳои киберӣ боқӣ мемонад, ки корбаронро ба клик кардани истинодҳои зараровар ё ифшои маълумоти эътимоднома фиреб медиҳад. ошкор кардани кӯшишҳои фишинг ва тақвият додани омӯзиши корбарон барои пешгирии ҳамлаҳои муваффақ истифода мешавад Дар паҳлӯи дифоъ, моделҳои AI метавонанд мундариҷаи почтаи электронӣ ва рафтори ирсолкунандагонро таҳлил кунанд, то нишонаҳои нозуки фишингро муайян кунанд, ки филтрҳои бар қоида асосёфтаро аз даст дода метавонанд. Бо омӯхтани маҷмӯаҳои бузурги почтаи электронии қонунӣ ва қаллобӣ, модели тавлидкунанда метавонад аномалияҳоро дар оҳанг, матн ё контекст, ки қаллобиро нишон медиҳанд, қайд кунад - ҳатто вақте ки грамматика ва имло дигар онро намедиҳад. Дарвоқеъ, муҳаққиқони Пало Алто Шабакаҳо қайд мекунанд, ки AI тавлидкунанда метавонад "аломатҳои нозуки мактубҳои фишингро, ки дар акси ҳол метавонанд ошкор нашаванд" ва ба созмонҳо дар як қадам пеш аз қаллобон ёрӣ расонад ( Генералии AI дар киберамният чист? - Palo Alto Networks ).

тақлид кардани ҳамлаҳои фишинг барои омӯзиш ва таҳлил истифода мебаранд Масалан, Ironscales як абзори симулятсияи фишинги бо GPT-ро муаррифӣ кард, ки ба таври худкор паёмҳои қалбакии фишингиро, ки ба кормандони созмон мутобиқ карда шудаанд, тавлид мекунад ( Чӣ тавр AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Ин мактубҳои аз ҷониби AI таҳияшуда тактикаи охирини ҳамлагаронро инъикос намуда, ба кормандон таҷрибаи воқеии дарёфти мундариҷаи фишӣ медиҳад. Чунин омӯзиши инфиродӣ муҳим аст, зеро худи ҳамлагарон AI-ро барои эҷод кардани фиребҳои боварибахш қабул мекунанд. Қобили зикр аст, ки дар ҳоле ки AI-и тавлидшуда метавонад паёмҳои фишингии хеле сайқалёфтаро тавлид кунад (рӯзҳои шикастани забони англисӣ ба осонӣ мушоҳида мешавад), муҳофизон дарёфтанд, ки AI мағлубнашаванда нест. Дар соли 2024, муҳаққиқони IBM Security озмоишеро гузарониданд, ки мактубҳои фишинги аз ҷониби инсон навишташуда бо мактубҳои аз ҷониби AI тавлидшуда муқоиса карда мешаванд ва "аҷоиб аст, ки мактубҳои аз ҷониби AI тавлидшуда новобаста аз грамматикаи дурусташон ошкор кардан осон буданд" ( 6 Ҳолати истифода барои AI дар киберамният [+ Намунаҳо] ). Ин аз он шаҳодат медиҳад, ки интуитсияи инсон дар якҷоягӣ бо кашфи кӯмаки AI метавонад номутобиқатии нозук ё сигналҳои метамаълумотро дар қаллобӣ бо AI навишташуда эътироф кунад.

AI-и тавлидшуда ба муҳофизати фишинг бо роҳҳои дигар низ кӯмак мекунад. посухҳои худкор ё филтрҳое истифода бурдан мумкин аст , ки паёмҳои шубҳанокро месанҷанд. Масалан, системаи AI метавонад ба почтаи электронӣ бо дархостҳои муайян ҷавоб диҳад, то қонунияти ирсолкунандаро тафтиш кунад ё LLM-ро барои таҳлили истинодҳо ва замимаҳои почтаи электронӣ дар қуттии сандуқ истифода барад ва сипас ҳама гуна нияти бадқасдонаро ҷамъбаст кунад. Платформаи амниятии NVIDIA Morpheus қудрати AI-ро дар ин арса нишон медиҳад - он моделҳои тавлидкунандаи NLP-ро барои зуд таҳлил ва тасниф кардани мактубҳо истифода мебарад ва маълум шуд, ки ошкоркунии почтаи электронии найза-фишинг нисбат ба абзорҳои анъанавии амниятӣ 21% 6 Ҳолати истифода барои AI дар киберамният [+ Намунаҳо] ). Морфей ҳатто шакли муоширати корбаронро барои ошкор кардани рафтори ғайриоддӣ (ба мисли корбар ногаҳон ба суроғаҳои зиёди берунӣ бо почтаи электронӣ ирсол мекунад) профилактика мекунад, ки метавонад ҳисоби осебдидаеро, ки паёмҳои фишинг мефиристад, нишон диҳад.

Дар амал, ширкатҳои саросари соҳаҳо ба AI бовар мекунанд, ки почтаи электронӣ ва трафики вебро барои ҳамлаҳои муҳандисии иҷтимоӣ филтр кунанд. Масалан, ширкатҳои молиявӣ AI-и тавлидиро барои скан кардани муошират барои кӯшишҳои тақаллуб, ки метавонад ба қаллобӣ дар сим оварда расонад, истифода мебаранд, дар ҳоле ки провайдерҳои тиббӣ AI-ро барои ҳифзи маълумоти беморон аз вайронкуниҳои марбут ба фишинг истифода мебаранд. Бо тавлиди сенарияҳои воқеии фишинг ва муайян кардани аломатҳои паёмҳои зараровар, AI тавлидкунанда ба стратегияҳои пешгирии фишинг як қабати пурқувват илова мекунад. Баровард: зудтар ва дақиқтар ошкор ва безарар созад

Муайян кардани нармафзори зараровар ва таҳлили таҳдид

Нармафзори зараровари муосир пайваста таҳаввул мекунад - ҳамлагарон вариантҳои нав тавлид мекунанд ё коди печидаро барои гузаштан аз имзоҳои антивирус эҷод мекунанд. Генеративии AI усулҳои навро барои ошкор кардани нармафзори зараровар ва фаҳмидани рафтори он пешниҳод мекунад. Як равиш истифодаи AI барои тавлиди “дугоникҳои бад”-и нармафзори зараровар : муҳаққиқони амниятӣ метавонанд намунаи маълуми нармафзори зарароварро ба модели тавлидкунанда ворид кунанд, то вариантҳои зиёди мутатсияшудаи ин нармафзорро эҷод кунанд. Бо ин кор, онҳо ба таври муассир твиксҳоеро, ки ҳамлакунанда метавонад анҷом диҳад, пешбинӣ мекунанд. Пас аз ин вариантҳои аз ҷониби AI тавлидшуда метавонанд барои омӯзонидани системаҳои антивирус ва ошкоркунии ҳамлаҳо истифода шаванд, то ҳатто версияҳои тағирёфтаи нармафзори зараровар дар ваҳшӣ эътироф карда шаванд ( 6 ҳолати истифодабарии AI-и тавлидшуда дар киберамният [+ Намунаҳо] ). Ин стратегияи фаъол барои шикастани давра кӯмак мекунад, ки ҳакерҳо нармафзори зараровари худро каме тағир медиҳанд, то аз ошкоркунӣ канорагирӣ кунанд ва муҳофизон бояд ҳар дафъа барои навиштани имзоҳои нав мубориза баранд. Тавре ки дар як подкаст дар соҳа қайд карда шуд, коршиносони амният ҳоло AI-и тавлидкунандаро барои "тақлид кардани трафики шабака ва тавлиди борҳои зараровар, ки ба ҳамлаҳои мураккаб тақлид мекунанд" истифода мебаранд, ки муҳофизати худро аз як мисол, на як мисол, стресс-озмоиш мекунанд. Ин муайянкунии таҳдидҳои мутобиқшавӣ маънои онро дорад, ки асбобҳои амниятӣ ба нармафзори зараровари полиморфӣ, ки дар акси ҳол аз онҳо мегузаранд, тобовартар мешаванд.

Ғайр аз ошкор, AI тавлидкунанда дар таҳлили нармафзори зараровар ва муҳандисии баръакс , ки одатан барои таҳлилгарони таҳдидҳо вазифаҳои меҳнатталаб мебошанд. Моделҳои забонҳои калон метавонанд вазифадор шаванд, ки код ё скриптҳои шубҳанокро тафтиш кунанд ва бо забони оддӣ фаҳмонанд, ки код барои чӣ кор кардан пешбинӣ шудааст. Намунаи воқеии ҷаҳон ин VirusTotal Code Insight , ки хусусияти VirusTotal-и Google мебошад, ки аз модели тавлидкунандаи AI (Sec-PaLM-и Google) барои тавлиди хулосаи забони табиии коди эҳтимолан зараровар истифода мебарад ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Ин аслан "як намуди ChatGPT бахшида ба рамзгузории амният" мебошад, ки ҳамчун таҳлилгари нармафзори зараровари AI амал мекунад, ки 24/7 барои кӯмак ба таҳлилгарони инсон дарк кардани таҳдидҳо кор мекунад ( 6 Ҳолати истифода барои AI тавлидшуда дар киберамният [+ Намунаҳо] ). Ба ҷои дидани скрипти ношинос ё коди дуӣ, як узви гурӯҳи амниятӣ метавонад аз AI шарҳи фаврӣ гирад - масалан, "Ин скрипт кӯшиш мекунад, ки файлро аз сервери XYZ зеркашӣ кунад ва сипас танзимоти системаро тағир диҳад, ки ин нишон медиҳад, ки рафтори нармафзори зараровар аст." Ин вокуниши ҳодисаҳоро ба таври назаррас суръат мебахшад, зеро таҳлилгарон метавонанд аз ҳарвақта зудтар аз ҳарвақта нармафзори навро тафтиш ва дарк кунанд.

муайян кардани нармафзори зараровар дар маҷмӯаҳои азим истифода мешавад . Муҳаррикҳои антивируси анъанавӣ файлҳоро барои имзоҳои маълум скан мекунанд, аммо модели тавлидкунанда метавонад хусусиятҳои файлро арзёбӣ кунад ва ҳатто дар асоси намунаҳои омӯхташуда зараровар будани онро пешгӯӣ кунад. Бо таҳлили атрибутҳои миллиардҳо файлҳо (зарарнок ва бад), AI метавонад нияти бадқасдонаеро, ки имзои возеҳ вуҷуд надорад, дастгир кунад. Масалан, модели тавлидкунанда метавонад файли иҷрошавандаро ҳамчун шубҳанок қайд кунад, зеро профили рафтори он "ба назар мерасад" , ҳарчанд бинарӣ нав аст. Ин ошкоркуни дар асоси рафтор ба мубориза бо нармафзори нав ё сифр-рӯз кӯмак мекунад. Тибқи гузоришҳо, Google Threat Intelligence AI (қисми Chronicle/Mandiant) модели тавлидкунандаи худро барои таҳлили коди эҳтимолии зараровар истифода мебарад ва "ба мутахассисони амният дар мубориза бо нармафзори зараровар ва дигар намудҳои таҳдидҳо самараноктар ва муассиртар кӯмак мекунад." ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳонӣ ).

Аз тарафи дигар, мо бояд эътироф кунем, ки ҳамлагарон метавонанд дар ин ҷо низ AI-и тавлидкунандаро истифода баранд - барои ба таври худкор нармафзори зарароваре, ки худ мутобиқ мешавад, эҷод кунанд. Дарвоқеъ, коршиносони амният ҳушдор медиҳанд, ки AI-и тавлидшуда метавонад ба киберҷинояткорон дар таҳияи нармафзори зараровар , ки ошкор кардани онҳо душвортар аст, кӯмак кунад ( Генералии AI дар киберамният чист? - Palo Alto Networks ). Модели AI метавонад дастур дода шавад, ки як пораи нармафзори зарароварро такроран тағир диҳад (тағйир додани сохтори файл, усулҳои рамзгузорӣ ва ғ.), то он даме, ки он аз ҳама санҷишҳои маълуми антивирус саркашӣ кунад. Ин истифодаи мухолиф боиси нигаронии афзоянда мегардад (баъзан ҳамчун "зараровар аз ҷониби AI" ё нармафзори зараровар полиморфӣ ҳамчун хидмат номида мешавад). Мо ин гуна хатарҳоро баъдтар муҳокима хоҳем кард, аммо он таъкид мекунад, ки AI-и тавлидӣ як абзор дар ин бозии гурба ва муш аст, ки ҳам ҳимоятгарон ва ҳам ҳамлагарон истифода мебаранд.

Умуман, AI-и тавлидкунанда муҳофизати нармафзори зарароварро тақвият медиҳад ва ба гурӯҳҳои амниятӣ имкон медиҳад, ки мисли ҳамлагар фикр кунанд - тавлиди таҳдидҳо ва ҳалли нав дар дохили хона. Новобаста аз он ки он истеҳсоли нармафзори зараровари синтетикиро барои беҳтар кардани суръати ошкоркунӣ ё истифодаи AI барои шарҳ додан ва дарбар гирифтани нармафзори зараровар дар шабакаҳо истифода мебарад, ин усулҳо дар тамоми соҳаҳо татбиқ мешаванд. Бонк метавонад барои зуд таҳлил кардани макроси шубҳанок дар ҷадвал таҳлили нармафзори зарароварро истифода барад, дар ҳоле ки як ширкати истеҳсолӣ метавонад ба AI такя кунад, ки нармафзори зарароварро ба системаҳои назорати саноатӣ муайян кунад. Бо афзоиши таҳлили анъанавии нармафзори зараровар бо AI тавлидкунанда, созмонҳо метавонанд ба маъракаҳои зараровар нисбат ба пештара зудтар ва фаъолтар вокуниш нишон диҳанд.

Таҳлили иктишофии таҳдидҳо ва автоматикунонӣ

Ҳар рӯз, созмонҳо бо маълумоти иктишофии таҳдид бомбаборон карда мешаванд - аз каналҳои нишондиҳандаҳои нав кашфшудаи созиш (IOCs) то гузоришҳои таҳлилгарон дар бораи тактикаи пайдоиши ҳакерҳо. Мушкилоти дастаҳои амниятӣ аз ин тӯфони иттилоот ва истихроҷи фаҳмишҳои амалишаванда иборат аст. автоматикунонии таҳлил ва истеъмоли иктишофии таҳдид бебаҳост . Ба ҷои дастӣ хондани даҳҳо гузоришҳо ё вурудоти пойгоҳи додаҳо, таҳлилгарон метавонанд AI-ро барои ҷамъбаст ва контекстӣ кардани Intel таҳдид бо суръати мошин истифода баранд.

Як мисоли мушаххас маҷмӯи Google Threat Intelligence , ки AI-и тавлидкунандаро (модели Gemini) бо маҷмӯаи маълумотҳои таҳдидии Google аз Mandiant ва VirusTotal муттаҳид мекунад. Ин сунъии сунъӣ "ҷустуҷӯи гуфтугӯиро дар саросари анбори бузурги иктишофии таҳдидҳои Google" , ки ба корбарон имкон медиҳад, ки дар бораи таҳдидҳо саволҳои табиӣ бидиҳанд ва ҷавобҳои дақиқ гиранд ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Масалан, таҳлилгар метавонад пурсад: "Оё мо ягон нармафзори зарароварро дидем, ки ба гурӯҳи Threat X алоқаманд аст, ки ба соҳаи мо нигаронида шудааст?" ва AI маълумоти дахлдорро ҷалб хоҳад кард ва шояд қайд кунад, ки "Бале, Гурӯҳи таҳдиди X моҳи гузашта бо истифода аз нармафзори зараровар Y бо як маъракаи фишинг алоқаманд буд" ва инчунин хулосаи рафтори ин нармафзори зараровар. Ин вақтро барои ҷамъоварии фаҳмишҳо, ки дар акси ҳол дархости асбобҳои сершумор ё хондани гузоришҳои дарозро талаб мекунанд, ба таври назаррас коҳиш медиҳад.

AI-и тавлидшуда инчунин метавонад тамоюлҳои таҳдидҳоро муқоиса ва ҷамъбаст кунад . Он метавонад ҳазорон паёмҳои блоги амниятӣ, хабарҳои вайронкунӣ ва сӯҳбати торики вебро ҷамъ кунад ва сипас барои брифинги CISO хулосаи иҷроияи "таҳдидҳои беҳтарини киберӣ дар ин ҳафта" тавлид кунад. Одатан, ин сатҳи таҳлил ва гузоришдиҳӣ кӯшишҳои зиёди инсониро талаб мекард; Ҳоло модели хуб танзимшуда метавонад онро дар тӯли сонияҳо таҳия кунад ва одамон танҳо натиҷаро такмил медиҳанд. FoxGPT- , як абзори тавлидкунандаи AI-ро таҳия кардаанд "тезонидани таҳлил ва ҷамъбасти иктишоф дар маҷмӯи додаҳои калон", аз ҷумла мундариҷаи зараровар ва маълумоти фишинг тарҳрезӣ шудааст ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Бо автоматикунонии бардошти вазнини хониш ва истинодҳои байнисоҳавӣ, AI ба гурӯҳҳои иктишофии таҳдид имкон медиҳад, ки ба қабули қарор ва вокуниш тамаркуз кунанд.

Ҳолати дигари истифода шикори таҳдиди гуфтугӯӣ . Тасаввур кунед, ки як таҳлилгари амният бо ёрдамчии AI муошират мекунад: "Ягон аломати ихроҷи маълумотро дар 48 соати охир ба ман нишон диҳед" ё "Кадом осебпазириҳои навтарин ҳамлагарон дар ин ҳафта истифода мекунанд?" AI метавонад дархостро шарҳ диҳад, гузоришҳои дохилӣ ё манбаъҳои берунаи интеллектуалиро ҷустуҷӯ кунад ва бо ҷавоби дақиқ ё ҳатто рӯйхати ҳодисаҳои дахлдор посух диҳад. Ин дур нест - системаҳои муосири иттилооти амниятӣ ва идоракунии рӯйдодҳо (SIEM) ба ворид кардани дархости забони табиӣ шурӯъ мекунанд. Масалан, пакети амнияти QRadar-и IBM, дар соли 2024 хусусиятҳои тавлидкунандаи AI-ро илова мекунад, то ба таҳлилгарон имкон диҳад, ки "саволҳои мушаххасро дар бораи роҳи ҷамъбасти ҳамла" -и ҳодиса бипурсанд ва посухҳои муфассал гиранд. Он инчунин метавонад "тафсир ва ҷамъбасти иктишофии таҳдидҳои хеле муҳим" ( Чӣ тавр метавонад AI тавлидшуда дар киберамният истифода шавад? 10 мисоли воқеии ҷаҳон ). Аслан, AI тавлидкунанда кӯҳҳои маълумоти техникиро ба фаҳмишҳои андозаи чат мувофиқи талабот табдил медиҳад.

Дар тамоми соҳаҳо, ин оқибатҳои калон дорад. Провайдери тиббӣ метавонад AI-ро истифода барад, то дар бораи гурӯҳҳои охирини нармафзори ransomware, ки ба беморхонаҳо нигаронида шудаанд, бидуни ҷудо кардани як таҳлилгар ба таҳқиқоти пурравақт. SOC як ширкати чакана метавонад ҳангоми брифинги кормандони мағозаи IT тактикаи нармафзори зараровари POS-ро зуд ҷамъбаст кунад. Ва дар ҳукумат, ки маълумотҳои таҳдид аз агентиҳои гуногун бояд синтез карда шаванд, AI метавонад гузоришҳои ягонаеро таҳия кунад, ки огоҳиҳои калидиро таъкид мекунанд. Бо автоматикунонии ҷамъоварӣ ва тафсири маълумоти иктишофии таҳдид , AI-и тавлидкунанда ба созмонҳо кӯмак мекунад, ки ба таҳдидҳои пайдошуда зудтар вокуниш нишон диҳанд ва хатари аз даст рафтани огоҳиҳои муҳими дар садо пинҳоншударо коҳиш диҳад.

Optimization Center Operations Security (SOC)

Марказҳои Амнияти Амният бо хастагии ҳушдор ва миқдори харобиовари маълумот маъруфанд. Таҳлилгари маъмулии SOC метавонад ҳар рӯз ҳазорҳо ҳушдорҳо ва рӯйдодҳоро гузарад ва ҳодисаҳои эҳтимолиро тафтиш кунад. AI тавлидкунанда ҳамчун мултипликатори қувва дар SOCs тавассути автоматикунонии кори муқаррарӣ, пешниҳоди хулосаҳои оқилона ва ҳатто ташкили баъзе посухҳо амал мекунад. Ҳадаф оптимизатсияи ҷараёнҳои кории SOC мебошад, то таҳлилгарони инсонӣ ба масъалаҳои муҳимтарин тамаркуз кунанд, дар ҳоле ки пилоти AI боқимондаро ҳал мекунад.

Як барномаи асосӣ истифодаи AI-и тавлидкунанда ҳамчун "Копилот аз таҳлилгар" . Копилоти Амнияти Microsoft, ки қаблан зикр шуда буд, инро мисол меорад: он "барои кӯмак расонидан ба кори таҳлилгари амният тарҳрезӣ шудааст, на иваз кардани он" ва кӯмак дар таҳқиқи ҳодисаҳо ва гузоришдиҳӣ ( Microsoft Security Copilot ёвари нави GPT-4 AI оид ба киберамният | The Verge ). Дар амал, ин маънои онро дорад, ки таҳлилгар метавонад маълумоти хомро ворид кунад - гузоришҳои брандмауэр, ҷадвали рӯйдодҳо ё тавсифи ҳодиса - ва аз AI хоҳиш кунад, ки онро таҳлил кунад ё ҷамъбаст кунад. Пилот метавонад чунин гузоришеро барорад, ба монанди: "Чунин ба назар мерасад, ки дар соати 2:35 саҳар воридшавии шубҳанок аз IP X ба сервери Y муваффақ шудааст ва пас аз он интиқоли ғайриоддии маълумот, ки вайронкунии эҳтимолии ин серверро нишон медиҳад." Ин гуна контекстизатсияи фаврӣ вақте ки вақт муҳим аст, бебаҳост.

Пилотҳои AI инчунин дар коҳиш додани бори триажи дараҷаи 1 кӯмак мекунанд. Тибқи маълумоти соҳа, як гурӯҳи амниятӣ метавонад дар як ҳафта 15 соатро танҳо барои ҷудо кардани тақрибан 22,000 огоҳӣ ва мусбатҳои бардурӯғ сарф кунад ( 6 Ҳолати истифодабарии AI-и тавлидшуда дар киберамният [+ Намунаҳо] ). Бо сунъии тавлидшуда, бисёре аз ин огоҳиҳо метавонанд ба таври худкор танзим карда шаванд - AI метавонад онҳоеро, ки ба таври возеҳ (бо далелҳо) беэътиноӣ мекунанд, рад кунад ва онҳоеро, ки воқеан таваҷҷӯҳ доранд, таъкид кунанд ва баъзан ҳатто афзалиятро пешниҳод кунанд. Дарвоқеъ, қудрати тавлидкунандаи AI дар фаҳмидани контекст маънои онро дорад, ки он метавонад огоҳиҳоеро, ки дар алоҳидагӣ безарар ба назар мерасанд, мутақобила кунанд, аммо дар якҷоягӣ ҳамлаи бисёрмарҳаларо нишон медиҳанд. Ин имкони аз даст додани ҳамларо аз сабаби "ҳастагии ҳушдор" коҳиш медиҳад.

Таҳлилгарони SOC инчунин забони табииро бо AI истифода мебаранд, то шикор ва тафтишотро суръат бахшанд. Масалан, платформаи Purple AI -и SentinelOne "саволҳои мураккаби шикори таҳдидро бо забони оддии англисӣ пурсанд ва ҷавобҳои зуд ва дақиқ ба даст оранд" ( Чӣ тавр AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Таҳлилгар метавонад нависед, "Оё дар як моҳи охир ягон нуқтаи ниҳоӣ бо домени badguy123[.]com иртибот дошт?" , ва Purple AI барои посух додан тавассути гузоришҳо ҷустуҷӯ мекунад. Ин таҳлилгарро аз навиштани дархостҳои пойгоҳи додаҳо ё скриптҳо наҷот медиҳад - AI онро дар зери сарпӯш иҷро мекунад. Ин инчунин маънои онро дорад, ки таҳлилгарони наврас метавонанд вазифаҳоеро ҳал кунанд, ки қаблан муҳандиси ботаҷрибаи забонҳои пурсишро талаб мекарданд ва ба таври муассир малакаи дастаро тавассути кӯмаки AI баланд мебардоранд . Воқеан, таҳлилгарон гузориш медиҳанд, ки роҳнамоии тавлидкунандаи AI "маҳорат ва маҳорати онҳоро баланд мебардорад" , зеро кормандони наврас акнун метавонанд аз AI кӯмаки дархостӣ оид ба рамзгузорӣ ё маслиҳатҳои таҳлилӣ гиранд ва эътимодро аз дархости ҳамеша аз аъзоёни калон барои кӯмак коҳиш диҳанд ( 6 Ҳолати истифода барои AI тавлидкунандаи AI дар киберамният [+ Намунаҳо] ).

Боз як оптимизатсияи SOC ҷамъбасти автоматии ҳодиса ва ҳуҷҷатгузорӣ . Пас аз коркарди ҳодиса, касе бояд гузориш нависад - ин кор барои бисёриҳо дилгиркунанда аст. AI-и тавлидшуда метавонад маълумоти криминалистиро (журналҳои система, таҳлили нармафзори зараровар, ҷадвали амалҳо) гирад ва гузориши аввалини ҳодисаро таҳия кунад. IBM ин қобилиятро дар QRadar месозад, то бо "як клик" хулосаи ҳодисаро барои ҷонибҳои гуногуни манфиатдор (роҳбарон, гурӯҳҳои IT ва ғ.) таҳия карда шавад ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Ин на танҳо вақтро сарфа мекунад, балки кафолат медиҳад, ки дар гузориш ҳеҷ чиз нодида нагирад, зеро AI метавонад ҳама тафсилоти дахлдорро пайваста дар бар гирад. Ба ҳамин монанд, барои мутобиқат ва аудит, AI метавонад дар асоси маълумоти ҳодиса варақаҳо ё ҷадвалҳои далелҳоро пур кунад.

Натиҷаҳои воқеии ҷаҳонӣ ҷолибанд. Истеъмолкунандагони барвақти SOAR-и бо AI идорашавандаи Swimlane (оркестри амният, автоматизатсия ва вокуниш) дар бораи дастовардҳои бузурги маҳсулнокӣ гузориш медиҳанд - Масалан, Global Data Systems диданд, ки гурӯҳи SecOps онҳо бори бештари парвандаро идора мекунанд; як директор гуфт, ки "он коре, ки ман имрӯз бо 7 таҳлилгар мекунам, эҳтимолан 20 нафар кормандонро бидуни автоматикунонии сунъӣ мегирад" ( Чӣ тавр AI тавлидшавандаро дар киберамният истифода бурдан мумкин аст ). Ба ибораи дигар, AI дар SOC метавонад иқтидорро афзоиш диҳад . Дар тамоми соҳаҳо, хоҳ он як ширкати технологӣ бошад, ки бо огоҳиҳои амнияти абрӣ ё як корхонаи истеҳсолии мониторинги системаҳои OT сарукор дорад, гурӯҳҳои SOC бо истифода аз ассистентҳои тавлидкунандаи AI бояд зудтар ошкор ва вокуниш ба даст оранд, ҳодисаҳои бедаракшуда ва амалиёти муассиртарро ба даст оранд. Ин дар бораи кор кардан оқилонатар аст - ба мошинҳо имкон медиҳад, ки вазифаҳои такроршаванда ва вазнини маълумотро иҷро кунанд, то одамон тавонанд интуисия ва таҷрибаи худро дар ҷои муҳимтарин истифода баранд.

Идоракунии осебпазирӣ ва моделиронии таҳдид

Муайян ва идоракунии осебпазириҳо - заъфҳои нармафзор ё системаҳое, ки ҳамлагарон метавонанд онҳоро истифода баранд - як вазифаи асосии амнияти киберӣ мебошад. AI-и тавлидшуда идоракунии осебпазириро тавассути суръат бахшидан ба кашф, кӯмак дар афзалият додани ямоқиҳо ва ҳатто тақлид кардани ҳамлаҳо ба ин осебпазириҳо барои беҳтар кардани омодагӣ беҳтар мекунад. Аслан, AI ба созмонҳо кӯмак мекунад, ки сӯрохиҳои зиреҳи худро зудтар пайдо ва ислоҳ кунанд ва муҳофизатро пеш аз ҳамлаи воқеӣ озмоиш кунанд .

Як барномаи муҳим ин истифодаи AI-и тавлидкунанда барои баррасии автоматии код ва кашфи осебпазирӣ . Пойгоҳҳои рамзҳои калон (махсусан системаҳои кӯҳна) аксар вақт камбудиҳои амниятӣ доранд, ки нодида гирифта мешаванд. Моделҳои тавлидии AI метавонанд дар бораи амалияҳои бехатари рамзгузорӣ ва намунаҳои маъмулии хатогиҳо омӯзонида шаванд, сипас дар коди манбаъ ё дуликҳои тартибдодашуда барои дарёфти осебпазириҳои эҳтимолӣ кушода шаванд. Масалан, муҳаққиқони NVIDIA лӯлаи тавлидии AI-ро таҳия карданд, ки метавонад контейнерҳои нармафзори кӯҳнаро таҳлил кунад ва осебпазириро "бо дақиқии баланд - то 4 маротиба тезтар аз коршиносони инсонӣ" муайян кунад. ( 6 Ҳолатҳои истифода барои AI-и тавлидӣ дар киберамният [+ Намунаҳо] ). AI аслан фаҳмид, ки рамзи ноамн чӣ гуна аст ва тавонист тавассути нармафзори даҳсолаҳои кӯҳна скан кунад, то функсияҳо ва китобхонаҳои хатарнокро қайд кунад ва раванди муқаррарии сусти санҷиши коди дастиро ба таври назаррас суръат бахшад. Ин гуна асбоб метавонад барои соҳаҳое, ба монанди молия ё ҳукумат, ки ба кодҳои калон ва кӯҳна такя мекунанд, тағирдиҳандаи бозиҳо бошад - AI ба модернизатсияи амният тавассути кофтани масъалаҳое, ки кормандон метавонанд моҳҳо ё солҳоро дарёбанд (агар бошад) кӯмак мекунад.

AI-и тавлидшуда инчунин дар ҷараёни идоракунии осебпазирӣ тавассути коркарди натиҷаҳои скан кардани осебпазирӣ ва афзалият додани онҳо кӯмак мекунад. Асбобҳо ба монанди ExposureAI -ро истифода мебаранд, то ба таҳлилгарон имкон диҳад, ки маълумоти осебпазириро бо забони оддӣ пурсанд ва ҷавобҳои фаврӣ гиранд ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). ExposureAI метавонад "роҳи пурраи ҳамларо дар тавсиф ҷамъбаст кунад" ва фаҳмонад, ки чӣ гуна ҳамлакунанда метавонад онро бо дигар заъфҳо барои осеб расонидан ба система занҷир кунад. Он ҳатто амалҳоро барои ислоҳ кардан тавсия медиҳад ва ба саволҳои минбаъда дар бораи хатар ҷавоб медиҳад. Ин маънои онро дорад, ки ҳангоми эълони нави муҳими CVE (Осиятҳои умумӣ ва Exposures), таҳлилгар метавонад аз AI пурсад: "Оё ягон сервери мо аз ин CVE осеб дидааст ва бадтарин сенарияи ҳолат, агар мо часпак накунем?" ва баҳодиҳии дақиқеро, ки аз маълумоти скании худи созмон гирифта шудааст, гиред. Бо контекстизатсияи осебпазириҳо (масалан, ин ба интернет ва дар сервери пурарзиш дучор мешавад, аз ин рӯ афзалияти аввалиндараҷа аст), AI тавлидкунанда ба дастаҳо кӯмак мекунад, ки бо захираҳои маҳдуд оқилона ислоҳ кунанд.

Илова ба дарёфт ва идоракунии осебпазириҳои маълум, AI тавлидкунанда ба санҷиши воридшавӣ ва моделиронии ҳамла - аслан кашф кардани номаълум ё санҷиши назорати амният. Шабакаҳои генеративии рақобатӣ (GANs), як навъи AI тавлидкунанда, барои эҷоди маълумоти синтетикӣ, ки ба трафики воқеии шабака ё рафтори корбар тақлид мекунанд, истифода шудаанд, ки метавонанд намунаҳои ҳамлаҳои пинҳониро дар бар гиранд. Таҳқиқоти соли 2023 истифодаи GAN-ро барои тавлиди трафики воқеии ҳамлаи сифрӣ барои омӯзиши системаҳои ошкоркунии ҳамлаҳо пешниҳод кард ( 6 Ҳолати истифодабарии AI-и тавлидӣ дар киберамният [+ Намунаҳо] ). Бо ғизо додани IDS бо сенарияҳои ҳамлаҳои аз ҷониби AI таҳияшуда (ки хатари истифодаи нармафзори зарароварро дар шабакаҳои истеҳсолӣ надоранд), созмонҳо метавонанд муҳофизати худро барои шинохти таҳдидҳои нав бидуни интизори зарба задани онҳо омӯзонанд. Ба ҳамин монанд, AI метавонад ба ҳамлагаре тақлид кунад, ки системаро тафтиш мекунад - масалан, ба таври худкор усулҳои гуногуни истисморро дар муҳити бехатар санҷед, то бубинад, ки оё онҳо муваффақ мешаванд. Агентии Лоиҳаҳои Тадқиқоти Пешқадами Мудофиаи ИМА (DARPA) дар ин ҷо ваъда медиҳад: AI Cyber ​​Challenge дар соли 2023 барои “ба таври худкор осебпазирӣ дар нармафзори кушодаасос” ҳамчун як қисми озмун AI тавлидкунандаро (ба мисли моделҳои забонҳои калон) истифода мебарад ( DARPA Ҳадафи таҳияи барномаҳои AI, Департаменти мудофиаи ИМА) Ахбор ). Ин ташаббус таъкид мекунад, ки AI на танҳо дар ислоҳ кардани сӯрохиҳои маълум кӯмак мекунад; он фаъолона кашфи нав ва пешниҳоди ислоҳҳо мебошад, ки ин вазифа одатан ба муҳаққиқони бомаҳорат (ва гаронарзиш) маҳдуд аст.

Генератив AI ҳатто метавонад асалҳои интеллектуалӣ ва дугоникҳои рақамиро барои дифоъ эҷод кунад. Стартапҳо системаҳои фиребгарии сунъиро таҳия мекунанд, ки ба серверҳо ё дастгоҳҳои воқеӣ тақлид мекунанд. Тавре ки як директори генералӣ шарҳ дод, AI-и тавлидшуда метавонад "системаҳои рақамиро барои тақлид ба системаҳои воқеӣ клон кунад ва ҳакерҳоро ҷалб кунад" ( 6 Ҳолати истифодабарии AI-и тавлидӣ дар киберамният [+ Намунаҳо] ). Ин асалҳои аз ҷониби AI тавлидшуда мисли муҳити воқеӣ рафтор мекунанд (масалан, дастгоҳи қалбакии IoT, ки телеметрияи муқаррариро мефиристад), аммо танҳо барои ҷалби ҳамлагарон вуҷуд доранд. Вақте ки ҳамлагар фиребро ҳадаф қарор медиҳад, AI аслан онҳоро фиреб дод, то усулҳои худро ошкор кунад, ки муҳофизатгарон метавонанд онҳоро барои таҳкими системаҳои воқеӣ омӯхта ва истифода баранд. Ин консепсия, ки бо моделсозии тавлидӣ асос ёфтааст, роҳи дурбинонаи табдил додани ҷадвалҳоро ба ҳамлагарон бо истифода аз фиреби сунъӣ такмил медиҳад.

Дар саросари соҳаҳо, идоракунии тезтар ва оқилонаи осебпазирӣ маънои камтари вайронкуниро дорад. Масалан, дар соҳаи IT дар соҳаи тандурустӣ, AI метавонад китобхонаи осебпазири кӯҳнаро дар дастгоҳи тиббӣ зуд муайян кунад ва пеш аз он ки ягон ҳамлакунанда аз он истифода кунад, ислоҳи нармафзорро талаб кунад. Дар бонкдорӣ, AI метавонад ҳамлаи инсайдериро ба замимаи нав тақлид кунад, то маълумоти муштариён дар ҳама сенарияҳо бехатар боқӣ монад. Ҳамин тариқ, AI-и тавлидшуда ҳамчун микроскоп ва стресс-озмоиш барои мавқеи амнияти созмонҳо амал мекунад: он камбудиҳои пинҳоншударо равшан мекунад ва системаҳоро бо роҳҳои хаёлӣ барои таъмини устуворӣ равшан мекунад.

Тавлиди коди бехатар ва таҳияи нармафзор

Истеъдодҳои тавлидии AI бо ошкор кардани ҳамлаҳо маҳдуд нестанд - онҳо инчунин барои эҷоди системаҳои бехатартар аз ибтидо . Дар таҳияи нармафзор, генераторҳои коди AI (ба монанди GitHub Copilot, OpenAI Codex ва ғайра) метавонанд ба таҳиягарон дар навиштани код тавассути пешниҳоди порчаҳои код ё ҳатто тамоми функсияҳо кӯмак расонанд. Кунҷи киберамният кафолат медиҳад, ки ин қисмҳои коди аз ҷониби AI пешниҳодшуда бехатар бошанд ва AI-ро барои беҳтар кардани амалияи рамзгузорӣ истифода баранд.

Аз як тараф, AI-и тавлидшуда метавонад ҳамчун ёвари рамзгузорӣ амал кунад, ки таҷрибаҳои беҳтарини амниятро дар бар мегирад . Таҳиягарон метавонанд асбоби AI-ро пешниҳод кунанд, "Функсияи азнавсозии парол дар Python тавлид кунед" ва ба таври идеалӣ рамзи бозгаштро ба даст оранд, ки на танҳо функсионалӣ, балки дастурҳои бехатарро низ риоя мекунад (масалан, тасдиқи дурусти вуруд, сабти сабт, коркарди хатогиҳо бидуни ифшои иттилоот ва ғайра). Чунин ёрдамчӣ, ки аз рӯи мисолҳои васеи коди бехатар таълим гирифтааст, метавонад дар кам кардани хатогиҳои инсонӣ, ки боиси осебпазирӣ мегардад, кӯмак кунад. Масалан, агар таҳиякунанда тоза кардани вуруди корбарро фаромӯш кунад (кушодани дар ба сӯзандоруи SQL ё мушкилоти шабеҳ), AI метавонад онро ба таври нобаёнӣ дар бар гирад ё онҳоро огоҳ кунад. Баъзе асбобҳои рамзгузории AI ҳоло бо маълумоти ба амният нигаронидашуда барои иҷрои ин ҳадафи дақиқ танзим карда мешаванд - аслан, барномасозии ҷуфти AI бо виҷдони амниятӣ .

Аммо, як паҳлӯи дигар вуҷуд дорад: AI тавлидкунанда метавонад ба осонӣ осебпазириро ҷорӣ кунад, агар дуруст идора карда нашавад. Тавре ки коршиноси амнияти Sophos Бен Вершарен қайд кард, истифодаи AI-и тавлидкунанда барои рамзгузорӣ "барои коди кӯтоҳ ва санҷидашаванда хуб аст ба системаҳои истеҳсолӣ ворид мешавад, хатарнок аст" Хавф дар он аст, ки AI метавонад коди аз ҷиҳати мантиқӣ дурустро тавлид кунад, ки аз ҷиҳати коршиносон ноамн аст. Гузашта аз ин, фаъолони бадхоҳ метавонанд қасдан ба моделҳои ҷамъиятии AI тавассути тухми онҳо бо намунаҳои коди осебпазир (як шакли заҳролудшавии маълумот) таъсир расонанд, то AI рамзи ноамнро пешниҳод кунад. Аксари таҳиягарон коршиносони амният нестанд , аз ин рӯ, агар AI ҳалли мувофиқро пешниҳод кунад, онҳо метавонанд онро кӯрона истифода баранд, дарк намекунанд, ки он камбуди дорад ( 6 Ҳолати истифодабарии AI-и тавлидшуда дар киберамният [+ Намунаҳо] ). Ин нигаронӣ воқеӣ аст - воқеан, ҳоло рӯйхати OWASP Top 10 барои LLMҳо (моделҳои забонҳои калон) мавҷуд аст, ки хатарҳои умумиро ба монанди ин ҳангоми истифодаи AI барои рамзгузорӣ тавсиф мекунад.

Барои муқовимат бо ин мушкилот, коршиносон пешниҳод мекунанд, ки "мубориза бо АИ тавлидӣ бо AI тавлидкунанда" дар соҳаи рамзгузорӣ. Дар амал, ин маънои онро дорад, ки истифодаи AI барои баррасӣ ва санҷиши коде , ки дигар AI (ё одамон) навиштааст. AI метавонад тавассути коди нав нисбат ба баррасикунандаи коди инсонӣ зудтар скан кунад ва осебпазирӣ ё мушкилоти мантиқиро нишон диҳад. Мо аллакай мебинем, ки асбобҳое пайдо мешаванд, ки ба давраи зиндагии таҳияи нармафзор ҳамгиро мешаванд: код навишта мешавад (шояд бо кӯмаки AI), пас модели тавлидшуда, ки аз рӯи принсипҳои коди бехатар омӯзонида шудааст, онро баррасӣ мекунад ва дар бораи ҳама гуна нигарониҳо гузориш медиҳад (масалан, истифодаи функсияҳои бекоршуда, тафтиши аутентификатсия ва ғ.). Тадқиқоти NVIDIA, ки дар боло зикр гардид, ки 4 маротиба зудтар ошкор кардани осебпазириро дар код ба даст овардааст, намунаи истифодаи AI барои таҳлили коди амн мебошад ( 6 Ҳолати истифодабарии AI-и тавлидӣ дар киберамният [+ Намунаҳо] ).

Ғайр аз он, AI-и тавлидшуда метавонад дар эҷоди конфигуратсияҳо ва скриптҳои бехатар . Масалан, агар ба ширкат инфрасохтори абрии амн ниёз дошта бошад, муҳандис метавонад аз AI хоҳиш кунад, ки скриптҳои конфигуратсияро (Инфраструктура ҳамчун код) бо назорати амният (ба монанди сегментатсияи дурусти шабака, нақшҳои имтиёзи камтари IAM) тавлид кунад. Ин танзими бехатари системаҳоро суръат мебахшад ва хатогиҳои конфигуратсияи нодурустро коҳиш медиҳад - манбаи умумии ҳодисаҳои амнияти абрӣ.

Баъзе созмонҳо инчунин аз AI-и тавлидкунанда истифода мебаранд, то базаи дониши намунаҳои рамзгузории бехатарро нигоҳ доранд. Агар таҳиякунанда намедонад, ки чӣ тавр ба таври бехатар татбиқ кардани хусусияти муайян, онҳо метавонанд AI-и дохилиро, ки аз лоиҳаҳои қаблии ширкат ва дастурҳои амниятӣ омӯхтаанд, дархост кунанд. AI метавонад як равиши тавсияшуда ё ҳатто порчаи кодро баргардонад, ки ҳам ба талаботи функсионалӣ ва ҳам стандартҳои амнияти ширкат мувофиқат кунад. Automation Questionnaire's Secureframe истифода шудааст , ки ҷавобҳоро аз сиёсатҳои ширкат ва қарорҳои қаблии ширкат барои таъмини посухҳои пайваста ва дақиқ (аслан тавлиди ҳуҷҷатҳои бехатар) мегирад ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Ин консепсия ба рамзгузорӣ тарҷума мешавад: AI, ки "дар хотир дорад", ки чӣ гуна шумо пештар чизеро бехатар амалӣ карда будед ва шуморо роҳнамоӣ мекунад, ки онро дубора иҷро кунед.

Хулоса, AI-и тавлидкунанда ба таҳияи нармафзор тавассути дастрас кардани кӯмаки рамзгузории бехатар . Соҳаҳое, ки бисёр нармафзорҳои фармоиширо таҳия мекунанд - технологӣ, молия, дифоъ ва ғайра - аз доштани пилотҳои AI, ки на танҳо рамзгузориро суръат мебахшанд, балки ҳамчун як таҳлилгари ҳамеша ҳушёри амният амал мекунанд, манфиат мегиранд. Вақте ки дуруст идора карда мешавад, ин абзорҳои AI метавонад воридшавии осебпазириҳои навро коҳиш диҳад ва ба гурӯҳҳои таҳиякунанда дар риояи таҷрибаҳои беҳтарин кӯмак кунад, ҳатто агар гурӯҳ дар ҳар як қадам коршиноси амниятӣ надошта бошад. Натиҷа нармафзорест, ки аз рӯзи аввал бар зидди ҳамлаҳо устувортар аст.

Дастгирии вокуниш ба ҳодисаҳо

Вақте ки як ҳодисаи киберамният рух медиҳад - хоҳ хуруҷи нармафзори зараровар, хоҳ вайрон кардани маълумот ё қатъи система аз ҳамла - вақт муҳим аст. дастгирии гурӯҳҳои вокуниш ба ҳодисаҳо (IR) дар нигоҳ доштан ва ислоҳ кардани ҳодисаҳо зудтар ва бо маълумоти бештар дар даст истифода мешавад Идеяи он аст, ки AI метавонад як қисми бори тафтишотӣ ва ҳуҷҷатгузориро ҳангоми ҳодиса бар дӯш гирад ва ҳатто баъзе амалҳои вокунишро пешниҳод кунад ё автоматӣ кунад.

Яке аз нақши калидии AI дар IR таҳлил ва ҷамъбасти ҳодисаҳо дар вақти воқеӣ . Дар байни ҳодиса, посухдиҳандагон шояд ба саволҳое, ки ба монанди "Ҳамлагар чӣ гуна ворид шуд?" , "Кадом системаҳо таъсир мерасонанд?" , ва "Кадом маълумот метавонад халалдор шавад?" . AI-и тавлидшуда метавонад гузоришҳо, огоҳиҳо ва маълумоти криминалистиро аз системаҳои зарардида таҳлил кунад ва зуд фаҳмиш диҳад. Масалан, Microsoft Security Copilot ба посухдиҳандаи ҳодиса имкон медиҳад, ки дар қисмҳои гуногуни далелҳо (файлҳо, URL-ҳо, гузоришҳои рӯйдодҳо) ғизо диҳад ва ҷадвал ё хулосаро дархост кунад ( Microsoft Security Copilot ёвари нави GPT-4 AI барои киберамният аст | The Verge ). AI метавонад чунин посух диҳад: "Эҳтимол, вайронкунӣ бо паёми фишинг ба корбари JohnDoe дар соати 10:53 GMT оғоз шуда буд, ки дорои нармафзори зараровар X мебошад. Пас аз иҷро шудан, нармафзори зараровар паси дареро эҷод кард, ки пас аз ду рӯз барои интиқоли паҳлӯ ба сервери молиявӣ истифода мешуд ва дар он ҷо маълумот ҷамъоварӣ мекард." Доштани ин тасвири мувофиқ дар дақиқаҳо, на соатҳо, ба даста имкон медиҳад, ки қарорҳои оқилона қабул кунанд (масалан, кадом системаҳоро ҷудо кардан) зудтар.

AI-и тавлидшуда инчунин метавонад амалҳои нигоҳдорӣ ва ислоҳро пешниҳод кунад . Масалан, агар нуқтаи ниҳоӣ бо ransomware сироят карда шавад, асбоби AI метавонад скрипт ё маҷмӯи дастурҳоро барои ҷудо кардани он мошин, ғайрифаъол кардани ҳисобҳои муайян ва масдуд кардани IP-ҳои маълуми зараровар дар брандмауэр тавлид кунад - аслан иҷрои китоби бозӣ. Palo Alto Networks қайд мекунад, ки AI тавлидкунанда қодир аст "амалҳо ё скриптҳои мувофиқро дар асоси хусусияти ҳодиса тавлид кунад" ва автоматикунонии қадамҳои аввалини вокуниш ( AI Generative AI дар киберамният чист? - Networks Palo Alto ). Дар сенарияе, ки гурӯҳи амниятӣ аз ҳад зиёд пурқувват аст (бигӯед, ки ҳамлаи васеъ дар байни садҳо дастгоҳҳо), AI метавонад ҳатто баъзе аз ин амалҳоро дар шароити қаблан тасдиқшуда мустақиман иҷро кунад ва ҳамчун посухдиҳандаи хурде, ки беист кор мекунад, амал кунад. Масалан, агенти AI метавонад ба таври худкор маълумоти эътимодномаеро, ки ба назари онҳо осеб дидааст, аз нав барқарор кунад ё ҳостҳоеро, ки фаъолияти зарароварро, ки ба профили ҳодиса мувофиқат мекунанд, дар карантин нигоҳ доранд.

Ҳангоми вокуниш ба ҳодиса, муошират муҳим аст - ҳам дар дохили гурӯҳ ва ҳам барои ҷонибҳои манфиатдор. AI-и тавлидшуда метавонад тавассути таҳияи гузоришҳои навсозии ҳодисаҳо ё мухтасарҳои фаврӣ . Ба ҷои он ки як муҳандис ҳалли мушкилоти худро барои навиштани навсозии почтаи электронӣ қатъ кунад, онҳо метавонанд аз AI пурсанд: "Ҷамъбаст кунед, ки дар ин ҳодиса чӣ рӯй дод, то ба роҳбарон хабар диҳад." AI, ки маълумоти ҳодисаро ворид карда, метавонад хулосаи мухтасар таҳия кунад: "То соати 15:00 ҳамлагарон ба 2 ҳисоби корбар ва 5 сервер дастрасӣ пайдо карданд. Маълумоти зарардида сабтҳои муштариро дар пойгоҳи додаи X дар бар мегирад. Тадбирҳои нигоҳдорӣ: Дастрасии VPN барои ҳисобҳои осебдида лағв карда шуд ва серверҳо ҷудо карда шуданд. Қадамҳои оянда: сканер кардани ҳама гуна механизмҳои устувор." Пас посухдиҳанда метавонад онро зуд тафтиш кунад ё тағир диҳад ва онро фиристад, то ҷонибҳои манфиатдор дар ҳалқа бо маълумоти дақиқ ва замонавӣ нигоҳ дошта шаванд.

Пас аз пошидани чанг, одатан гузориши муфассал дар бораи ҳодиса мавҷуд аст, ки барои омода кардан ва дарсҳои ҷамъоварӣ омӯхтаанд. Ин як соҳаи дигарест, ки дар он дастгирии AI медурахшад. Он метавонад тамоми маълумоти ҳодисаро баррасӣ кунад ва гузориши пас аз ҳодисаро таҳия кунад, ки сабаби аслӣ, хронология, таъсир ва тавсияҳоро дар бар мегирад. Масалан, IBM AI-и тавлидкунандаро барои эҷод кардани "ҷамъбасти оддии парвандаҳо ва ҳодисаҳои амниятӣ, ки метавонанд бо ҷонибҳои манфиатдор мубодила шаванд" бо пахши тугма муттаҳид мекунад ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Бо ба тартиб даровардани ҳисоботдиҳии пас аз амал, ташкилотҳо метавонанд беҳбудиро зудтар амалӣ созанд ва инчунин барои мақсадҳои мувофиқат ҳуҷҷатҳои беҳтаре дошта бошанд.

Яке аз истифодаи инноватсионии ба пеш нигаронидашуда симулятсияи ҳодисаҳои аз ҷониби AI асосёфта . Монанди он ки чӣ гуна як машқҳои сӯхторро иҷро кардан мумкин аст, баъзе ширкатҳо барои иҷро кардани сенарияи ҳодисаҳои "чӣ-агар" аз AI-и тавлидкунанда истифода мебаранд. AI метавонад тақлид кунад, ки чӣ гуна нармафзори ransomware бо назардошти тарҳбандии шабака паҳн шавад ё чӣ гуна инсайдер метавонад маълумотро хориҷ кунад ва сипас самаранокии нақшаҳои вокуниши ҷорӣро баҳо диҳад. Ин ба дастаҳо кӯмак мекунад, ки пеш аз рух додани ҳодисаи воқеӣ китобҳои бозиро таҳия ва такмил диҳанд. Ин ба он монанд аст, ки мушовири ҳамеша такмилшавандаи вокуниш ба ҳодисаҳо, ки доимо омодагии шуморо месанҷад.

Дар соҳаҳои серҳаракат ба монанди молия ё тандурустӣ, ки дар он ҷо бекорӣ ё талафи маълумот аз ҳодисаҳо гаронарзиш аст, ин қобилиятҳои IR, ки ба AI асос ёфтааст, хеле ҷолибанд. Беморхонае, ки бо як ҳодисаи киберӣ дучор мешавад, наметавонад қатъи тӯлонии системаро нигоҳ дорад - AI, ки ба зудӣ дар пешгирӣ кӯмак мекунад, метавонад воқеан ҳаётро наҷот диҳад. Ба ҳамин монанд, як муассисаи молиявӣ метавонад AI-ро барои коркарди ибтидоии ҳамлаи гумонбаршудаи қаллобӣ дар соати 3 саҳар истифода барад, то вақте ки одамони зангзада онлайнанд, бисёр корҳои заминавӣ (баромадан аз ҳисобҳои зарардида, бастани транзаксияҳо ва ғайра) аллакай анҷом дода мешаванд. Бо зиёд кардани гурӯҳҳои вокуниш ба ҳодисаҳо бо AI тавлидкунанда , созмонҳо метавонанд вақти вокунишро ба таври назаррас коҳиш диҳанд ва ҳамаҷонибаи коркарди онҳоро беҳтар созанд ва дар ниҳоят хисоротро аз ҳодисаҳои киберӣ коҳиш диҳанд.

Таҳлили рафтор ва ошкор кардани аномалия

Бисёр ҳамлаҳои кибериро тавассути пай бурдан мумкин аст, ки вақте чизе аз рафтори "муқаррарӣ" дур мешавад - хоҳ ин ҳисоби корбарест, ки миқдори ғайриоддии маълумотро зеркашӣ мекунад ё дастгоҳи шабакавӣ ногаҳон бо мизбони ношинос муошират мекунад. Генеративии AI усулҳои пешрафтаи таҳлили рафтор ва ошкор кардани аномалия , омӯхтани намунаҳои муқаррарии корбарон ва системаҳоро пешниҳод мекунад ва пас аз он вақте ки чизе ба назар намерасад.

Муайян кардани аномалияҳои анъанавӣ аксар вақт ҳадди ниҳоии оморӣ ё омӯзиши оддии мошинро аз рӯи ченакҳои мушаххас истифода мебарад (хӯшаҳои истифодаи CPU, воридшавӣ дар соатҳои тоқ ва ғайра). AI-и тавлидшуда метавонад ин корро тавассути эҷоди профилҳои нозукиҳои рафтор идома диҳад. Масалан, модели AI метавонад бо мурури замон воридшавӣ, қолабҳои дастрасии файлҳо ва одатҳои почтаи электронии кормандро ворид кунад ва фаҳмиши бисёрҷанбаро дар бораи “муқаррарӣ”-и ин корбар ташаккул диҳад. Агар ин ҳисоб дертар коре берун аз меъёри худ анҷом диҳад (ба монанди ворид шудан аз кишвари нав ва дастрасӣ ба файлҳои HR дар нисфи шаб), AI инҳиротро на танҳо дар як метрика, балки ҳамчун як шакли рафтор, ки ба профили корбар мувофиқат намекунад, муайян мекунад. Ба истилоҳи техникӣ, моделҳои тавлидкунанда (ба монанди автоматикодерҳо ё моделҳои пайдарпай) метавонанд модели "муқаррарӣ" чӣ гунаанд ва сипас доираи интизории рафторро тавлид кунанд. Вақте ки воқеият берун аз ин диапазон меистад, он ҳамчун аномалия қайд карда мешавад ( Ҳеҷ гуна AI дар киберамният чист? - Шабакаҳои Пало Алто ).

Як амали амалӣ ин мониторинги трафики шабака . Тибқи як назарсанҷии соли 2024, 54% ташкилотҳои ИМА мониторинги трафики шабакаро ҳамчун як ҳолати маъмултарини истифодаи AI дар киберамният номиданд ( Амрикои Шимолӣ: ҳолатҳои беҳтарини истифодаи AI дар киберамният дар саросари ҷаҳон 2024 ). AI-и тавлидшуда метавонад шаклҳои муътадили иртиботи шабакаи корхонаро омӯзад - кадом серверҳо маъмулан бо ҳамдигар сӯҳбат мекунанд, чӣ миқдор маълумот дар давоми соатҳои корӣ дар муқоиса бо як шабонарӯз ҳаракат мекунад ва ғайра. Агар ҳамлакунанда ба хориҷ кардани маълумот аз сервер оғоз кунад, ҳатто барои пешгирӣ кардани ошкор, системаи сунъии сунъӣ метавонад пайхас кунад, ки "Сервери А ҳеҷ гоҳ 500 МБ маълумотро дар соати 2:00 ба IP ирсол намекунад" . Азбаски AI на танҳо қоидаҳои статикиро истифода мебарад, балки як модели таҳаввулшавандаи рафтори шабакаро истифода мебарад, он метавонад аномалияҳои нозукеро, ки қоидаҳои статикӣ (ба монанди “огоҳӣ дар ҳолати маълумот > X МБ”) аз даст диҳанд ё иштибоҳан парчам кунанд, дастгир кунад. Ин табиати мутобиқшавӣ он чизест, ки муайянкунии аномалияи аз ҷониби AI асосёфтаро дар муҳитҳое ба мисли шабакаҳои транзаксионии бонкӣ, инфрасохтори абрӣ ё паркҳои дастгоҳҳои IoT, ки дар он ҷо муайян кардани қоидаҳои муқарраршуда барои муқаррарӣ ва ғайримуқаррарӣ хеле мураккаб аст, пурқувват мекунад.

таҳлили рафтори корбарон (UBA) кӯмак мекунад , ки калиди ошкор кардани таҳдидҳои инсайдерӣ ё ҳисобҳои зери хатар аст. Бо тавлиди як пойгоҳи ҳар як корбар ё муассиса, AI метавонад чизҳоеро, ба монанди сӯиистифодаи эътимодномаро ошкор кунад. Масалан, агар Боб аз ҳисоби муҳосибӣ ногаҳон ба пурсиши пойгоҳи муштариён шурӯъ кунад (чизе ки қаблан ин корро накарда буд), модели AI барои рафтори Боб инро ғайриоддӣ қайд мекунад. Ин метавонад нармафзори зараровар набошад - ин метавонад як ҳолати дуздида шудани маълумоти эътимоднокии Боб аз ҷониби ҳамлагар истифода шавад ё Боб дар ҷое, ки набояд онро тафтиш кунад. Дар ҳар сурат, гурӯҳи амниятӣ барои тафтиш сарварӣ мекунад. Чунин системаҳои UBA, ки аз ҷониби AI идорашаванда дар маҳсулоти гуногуни амниятӣ мавҷуданд ва усулҳои моделсозии тавлидӣ дақиқии онҳоро баландтар мекунанд ва ҳушдорҳои бардурӯғро бо назардошти контекст коҳиш медиҳанд (шояд Боб дар як лоиҳаи махсус бошад ва ғайра, ки AI баъзан метавонад аз маълумоти дигар хулоса барорад).

Дар соҳаи шахсият ва идоракунии дастрасӣ, ошкорсозии амиқи қалбакӣ эҳтиёҷоти рӯзафзун аст - AI тавлидкунанда метавонад садоҳо ва видеоҳои синтетикиро эҷод кунад, ки амнияти биометриро фиреб медиҳанд. Ҷолиб он аст, ки AI-и тавлидшуда инчунин метавонад тавассути таҳлили артефактҳои нозук дар аудио ё видео, ки барои одамон пайхас кардан душвор аст, дар ошкор кардани ин чуқурҳо кӯмак кунад. Мо як мисолро бо Accenture дидем, ки AI-и тавлидкунандаро барои тақлид кардани ифодаҳои бешумори чеҳра ва шароитҳо барои омӯзонидани системаҳои биометрии онҳо барои фарқ кардани корбарони воқеӣ аз AI тавлидшуда истифода бурд. Дар тӯли панҷ сол, ин равиш ба Accenture кӯмак кард, ки паролҳоро барои 90% системаҳои худ (гузаштан ба биометрия ва дигар омилҳо) нест кунад ва ҳамлаҳоро 60% кам кунад ( 6 Ҳолати истифодабарии AI-и тавлидшуда дар киберамният [+ Намунаҳо] ). Аслан, онҳо барои таҳкими аутентификатсияи биометрӣ AI-и тавлидкунандаро истифода бурда, онро бар зидди ҳамлаҳои генеративӣ тобовар мегардонанд (мисли олии мубориза бо AI) . Ин намуди моделсозии рафтор - дар ин ҳолат эътироф кардани фарқи байни чеҳраи зиндаи инсон ва чеҳраи синтезшудаи AI - муҳим аст, зеро мо дар тасдиқи аутентификатсия ба AI бештар такя мекунем.

Муайян кардани аномалия, ки аз ҷониби AI-и тавлидшуда дар тамоми соҳаҳо истифода мешавад: дар соҳаи тандурустӣ, мониторинги рафтори дастгоҳи тиббӣ барои нишонаҳои ҳакерӣ; дар соҳаи молия, тамошои системаҳои савдо барои намунаҳои номунтазам, ки метавонанд қаллобӣ ё алгоритмиро нишон диҳанд; дар корхонаҳои энергетикӣ/коммуналӣ, мушоҳидаи сигналҳои системаи идоракунӣ барои аломатҳои ҳамла. Маҷмӯаи васеъ (дар назар ба тамоми паҳлӯҳои рафтор) ва амиқ (дарки намунаҳои мураккаб) , ки AI-и тавлидкунанда таъмин мекунад, онро як воситаи тавоно барои муайян кардани нишондиҳандаҳои сӯзан дар алафҳои бегона дар як ҳодисаи киберӣ месозад. Вақте ки таҳдидҳо махфӣ мешаванд ва дар байни амалиёти муқаррарӣ пинҳон мешаванд, ин қобилияти дақиқ тавсиф кардани "муқаррарӣ" ва дод задан, вақте ки чизе аз кор меравад, ҳаётан муҳим мешавад. Ҳамин тариқ, AI-и тавлидшуда ҳамчун посбони хасташуда хизмат мекунад, ҳамеша таърифи муқаррарии худро меомӯзад ва навсозӣ мекунад, то бо тағирот дар муҳити атроф пайгирӣ кунад ва гурӯҳҳои амниятро дар бораи аномалияҳое, ки бояд тафтиши наздиктар бошанд, огоҳ мекунанд.

Имкониятҳо ва манфиатҳои тавлидии AI дар киберамният

Татбиқи AI-и тавлидкунанда дар киберамният барои созмонҳое, ки мехоҳанд ин абзорҳоро қабул кунанд, имкониятҳо ва манфиатҳоро Дар зер, мо бартариҳои асосиро ҷамъбаст мекунем, ки AI-и тавлидкунандаро иловаи ҷолиб ба барномаҳои киберамният мегардонанд:

• Муайян кардани таҳдид ва вокуниши зудтар: Системаҳои тавлидии AI метавонанд миқдори зиёди маълумотро дар вақти воқеӣ таҳлил кунанд ва таҳдидҳоро нисбат ба таҳлили дастӣ ба инсон зудтар эътироф кунанд. Ин бартарии суръат маънои пештар ошкор кардани ҳамлаҳо ва зудтар боздоштани ҳодисаро дорад. Дар амал, мониторинги амниятие, ки ба AI асос ёфтааст, метавонад таҳдидҳоеро дарёфт кунад, ки барои муқовимат ба одамон вақти зиёдтар лозим аст. Бо вокуниши фаврӣ ба ҳодисаҳо (ё ҳатто ба таври мустақил иҷро кардани посухҳои аввалия), созмонҳо метавонанд вақти будубоши ҳамлагаронро дар шабакаҳои худ ба таври назаррас коҳиш дода, зарарро кам кунанд.

• Дақиқӣ ва фарогирии мукаммали таҳдидҳо: Азбаски онҳо пайваста аз маълумоти нав меомӯзанд, моделҳои тавлидкунанда метавонанд ба таҳдидҳои таҳаввулшаванда мутобиқ шаванд ва нишонаҳои нозуки фаъолияти зарароварро дарёфт кунанд. Ин дар муқоиса бо қоидаҳои статикӣ ба дақиқии беҳтари ошкор (камтар манфиҳои бардурӯғ ва мусбатҳои бардурӯғ) оварда мерасонад. Масалан, AI, ки аломатҳои аломати почтаи фишинг ё рафтори нармафзори зарароварро омӯхтааст, метавонад вариантҳоеро муайян кунад, ки қаблан дида нашуда буданд. Дар натиҷа фарогирии васеътари намудҳои таҳдидҳо, аз ҷумла ҳамлаҳои нав - таҳкими ҳолати умумии амният мебошад. Гурӯҳҳои амниятӣ инчунин аз таҳлили AI (масалан, тавзеҳоти рафтори нармафзори зараровар) фаҳмиши муфассал мегиранд, ки муҳофизати дақиқтар ва мақсаднокро фароҳам меоранд ( Генералии AI дар киберамният чист? - Palo Alto Networks ).

• Автоматикунонии вазифаҳои такроршаванда: AI-и тавлидшуда дар автоматикунонии вазифаҳои реҷавӣ ва меҳнатталаби амният бартарӣ дорад - аз шона кардан тавассути гузоришҳо ва тартиб додани гузоришҳо то навиштани скриптҳои вокуниш ба ҳодисаҳо. Ин автоматизатсия сарбории таҳлилгарони инсониро коҳиш дода , онҳоро озод мекунад, ки ба стратегияи сатҳи баланд ва қабули қарорҳои мураккаб тамаркуз кунанд ( Генералии AI дар киберамният чист? - Palo Alto Networks ). Корҳои оддӣ, вале муҳим, аз қабили сканкунии осебпазирӣ, аудити конфигуратсия, таҳлили фаъолияти корбар ва гузоришдиҳии мутобиқат метавонанд аз ҷониби AI ҳал карда шаванд (ё ҳадди аққал аввалин тарҳрезӣ). Бо иҷрои ин вазифаҳо бо суръати мошин, AI на танҳо самаранокиро беҳтар мекунад, балки хатогиҳои инсониро коҳиш медиҳад (омили муҳим дар вайронкуниҳо).

• Муҳофизати фаъол ва моделиронӣ: AI тавлидшуда ба созмонҳо имкон медиҳад, ки аз реактивӣ ба амнияти проактивӣ гузаранд. Тавассути усулҳои монанди моделиронии ҳамла, тавлиди маълумоти синтетикӣ ва омӯзиши сенариявӣ, муҳофизон метавонанд таҳдидҳоро пеш аз он ки онҳо дар ҷаҳони воқеӣ амалӣ шаванд, пешбинӣ кунанд ва омода созанд. Гурӯҳҳои амниятӣ метавонанд ҳамлаҳои киберӣ (маъракаҳои фишинг, хуруҷи нармафзори зараровар, DDoS ва ғ.) -ро дар муҳити амн тақлид кунанд, то посухҳои худро санҷанд ва ҳама гуна заъфҳоро бартараф кунанд. Ин омӯзиши муттасил, ки аксар вақт бо саъю кӯшиши инсон комилан ғайриимкон аст, муҳофизатро тез ва замонавӣ нигоҳ медорад. Он ба як "машқи оташнишонӣ" шабоҳат дорад - AI метавонад ба муҳофизати шумо таҳдидҳои фарзияи зиёдеро пардозад, то шумо машқ кунед ва такмил диҳед.

• Баланд бардоштани таҷрибаи инсонӣ (AI ҳамчун мултипликатори қувва): AI-и тавлидшуда ҳамчун таҳлилгари хурдсол, мушовир ва ёвари беист амал мекунад. Он метавонад ба аъзоёни камтаҷрибаи даста роҳнамо ва тавсияҳоеро, ки одатан аз коршиносони ботаҷриба интизоранд, таъмин намояд ва таҷрибаро дар тамоми даста ба таври муассир демократӣ гардонад ( 6 ҳолати истифодабарии AI-и тавлидшуда дар киберамният [+ Намунаҳо] ). Ин махсусан бо назардошти норасоии истеъдодҳо дар киберамният арзишманд аст - AI ба дастаҳои хурдтар кӯмак мекунад, ки бо сарфи камтар кор кунанд. Аз тарафи дигар, таҳлилгарони ботаҷриба аз коркарди AI ва ошкор кардани фаҳмишҳои норавшан баҳра мебаранд, ки онҳо метавонанд онҳоро тасдиқ ва амал кунанд. Натиҷаи умумӣ як гурӯҳи амниятӣ мебошад, ки хеле самараноктар ва қобилиятноктар аст ва AI таъсири ҳар як узви инсонро тақвият медиҳад ( Чӣ гуна AI-и тавлидшуда дар киберамният истифода мешавад ).

• Дастгирии мукаммали қарорҳо ва гузоришдиҳӣ: Бо тарҷумаи маълумоти техникӣ ба фаҳмиши забони табиӣ, AI тавлидкунанда муошират ва қабули қарорҳоро беҳтар мекунад. Роҳбарони амният тавассути хулосаҳои аз ҷониби AI тавлидшуда мушкилотро равшантар ба даст меоранд ва метавонанд бидуни таҳлили маълумоти хом қарорҳои стратегии огоҳона қабул кунанд. Ба ҳамин монанд, иртиботи байнифунксионалӣ (ба роҳбарон, афсарони риоя ва ғ.) беҳтар мешавад, вақте ки AI гузоришҳои осон дар бораи ҳолати амният ва ҳодисаҳоро омода мекунад ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Ин на танҳо эътимод ва ҳамоҳангиро дар масъалаҳои амниятӣ дар сатҳи роҳбарӣ эҷод мекунад, балки инчунин барои асоснок кардани сармоягузорӣ ва тағирот тавассути ифодаи дақиқи хатарҳо ва камбудиҳои аз ҷониби AI кашфшуда кӯмак мекунад.

Дар маҷмӯъ, ин манфиатҳо маънои онро доранд, ки созмонҳое, ки аз AI-и тавлидкунанда дар киберамният истифода мебаранд, метавонанд ба мавқеи мустаҳкамтари амният бо хароҷоти эҳтимолии камтари амалиёт ноил шаванд. Онҳо метавонанд ба таҳдидҳое, ки қаблан аз ҳад зиёд буданд, посух диҳанд, холигоҳҳоеро, ки назоратнашаванда буданд, пӯшонанд ва тавассути ҳалқаҳои бозгашти ба AI асосёфта пайваста такмил диҳанд. Дар ниҳоят, AI-и тавлидшуда имкон медиҳад, ки аз рақибон бо мувофиқат кардани суръат, миқёс ва мураккабии ҳамлаҳои муосир бо дифои яксон мураккабтар пеш ояд. Тавре ки як назарсанҷӣ нишон дод, беш аз нисфи роҳбарони тиҷорат ва киберҷинояткорӣ тавассути истифодаи AI-и тавлидӣ ( [PDF] Global Cybersecurity Outlook 2025 | Форуми Ҷаҳонии Иқтисодӣ ) зудтар ошкор кардани таҳдидҳо ва баланд бардоштани дақиқиро интизоранд ( дар атрофи ин технологияҳо ...

Хавфҳо ва мушкилоти истифодаи AI-и тавлидӣ дар киберамният

Дар ҳоле ки имкониятҳо назаррасанд, муносибати AI-и тавлидкунанда дар киберамният бо чашми кушода ба хатарҳо ва мушкилоти марбут хеле муҳим аст. Кӯр-кӯрона бовар кардан ба AI ё нодуруст истифода бурдани он метавонад осебпазириҳои навро ба вуҷуд орад. Дар зер, мо нигарониҳои асосӣ ва домҳоро дар якҷоягӣ бо контексти ҳар кадоми онҳо баён мекунем:

• Истифодаи рақиб аз ҷониби киберҷинояткорон: Ҳамон қобилиятҳои тавлидкунандае, ки ба ҳимоягарон кӯмак мекунанд, метавонанд ҳамлагаронро тавоно кунанд. Фаъолони таҳдид аллакай аз AI-и тавлидшаванда барои таҳияи паёмҳои фишингии боварибахш, эҷод кардани шахсиятҳои қалбакӣ ва видеоҳои амиқи муҳандисии иҷтимоӣ, таҳияи нармафзори зараровар полиморфӣ, ки пайваста барои пешгирӣ аз ошкоркунӣ тағир меёбанд ва ҳатто ҷанбаҳои ҳакериро автоматӣ мекунанд ( Генералии AI дар киберамният чист? - Palo Alto Networks ). Тақрибан нисфи (46%) роҳбарони амнияти кибернӣ аз он нигаронанд, ки AI-и тавлидшуда ба ҳамлаҳои нисбатан пешрафтаи мухолиф оварда мерасонад ( Генералии AI: Амният: Тамоюлҳо, таҳдидҳо ва стратегияҳои камкунӣ ). Ин "мусобиқаи аслиҳаи AI" маънои онро дорад, ки ҳангоми қабули муҳофизон AI, ҳамлагарон аз ақиб нахоҳанд монд (воқеан, онҳо метавонанд дар баъзе минтақаҳо бо истифода аз абзорҳои танзимнашавандаи AI пеш бошанд). Созмонҳо бояд ба таҳдидҳои мукаммали AI, ки зуд-зуд, мураккабтар ва пайгирӣашон душворанд, омода бошанд.

• Галлюцинатсияҳо ва нодурустии AI: Моделҳои тавлидии AI метавонанд натиҷаҳоеро ба вуҷуд оранд, ки қобили эътимоданд, аммо нодуруст ё гумроҳкунандаанд - падидае бо номи галлюцинатсия. Дар заминаи амният, AI метавонад ҳодисаро таҳлил кунад ва ба таври хато хулоса барорад, ки осебпазирии муайян сабаб шудааст ё он метавонад скрипти ислоҳи хатоеро тавлид кунад, ки ҳамларо дар бар намегирад. Ин хатогиҳо метавонанд хатарнок бошанд, агар бо арзиши аслӣ гирифта шаванд. Тавре ки NTT Data ҳушдор медиҳад, "Ин падидаи тавлидшуда метавонад ба таври қобили мулоҳиза мундариҷаи бардурӯғро барорад ва ин падида галлюцинатсия номида мешавад ... дар айни замон бартараф кардани онҳо комилан душвор аст" ( Хатарҳои амниятии AI ва зидди чораҳо ва таъсири он ба киберамният | NTT DATA Group ). Вобастагии аз ҳад зиёд ба AI бидуни санҷиш метавонад ба кӯшишҳои нодуруст ё ҳисси бардурӯғи амният оварда расонад. Масалан, AI метавонад як системаи муҳимро дар ҳолати бехатар буданаш бардурӯғ қайд кунад ё баръакс, тавассути "ошкор кардани" вайронкуние, ки ҳеҷ гоҳ рух надодааст, воҳимаро ба вуҷуд меорад. Санҷиши дақиқи натиҷаҳои AI ва доштани одамон дар ҳалқаи қабули қарорҳои муҳим барои коҳиш додани ин хатар муҳим аст.

• Муносибатҳои бардурӯғ ва манфӣ: Дар робита ба галлюцинатсияҳо, агар модели AI ба таври кофӣ омӯзонида ё конфигуратсия карда шуда бошад, он метавонад фаъолияти зарароварро ҳамчун зараровар (мусбатҳои бардурӯғ) аз ҳад зиёд гузориш диҳад ё бадтараш, таҳдидҳои воқеиро (манфиҳои бардурӯғ) аз даст диҳад ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст ). Огоҳиҳои аз ҳад зиёди бардурӯғ метавонанд гурӯҳҳои амниятиро сарнагун созанд ва ба хастагии ҳушдор оварда расонанд (барбод додани дастовардҳои хеле самаранокии ваъдашудаи AI), дар ҳоле ки ошкоркунии аз даст додашуда созмонро фош мекунад. Танзими моделҳои тавлидкунанда барои тавозуни дуруст душвор аст. Ҳар як муҳит беназир аст ва AI метавонад фавран ба таври оптималӣ берун аз қуттӣ кор накунад. Омӯзиши пайваста низ шамшери дудама аст - агар AI аз фикру мулоҳизаҳои каҷ ё аз муҳити тағирёбанда ёд гирад, дақиқии он метавонад тағир ёбад. Гурӯҳҳои амниятӣ бояд иҷрои AI-ро назорат кунанд ва ҳаддиҳоро танзим кунанд ё ба моделҳо фикру мулоҳизаҳои ислоҳиро пешниҳод кунанд. Дар контекстҳои дорои хатарҳои баланд (ба монанди ошкор кардани ҳамла барои инфрасохтори муҳим), метавонад оқилона бошад, ки пешниҳодҳои AI-ро дар баробари системаҳои мавҷуда дар тӯли як давра иҷро кунанд, то онҳо на низоъ мувофиқат кунанд ва пурра кунанд.

• Махфияти маълумот ва ихроҷи маълумот: Системаҳои тавлидии AI аксар вақт барои омӯзиш ва фаъолият миқдори зиёди маълумотро талаб мекунанд. Агар ин моделҳо ба абр асосёфта бошанд ё ба таври дуруст силос карда нашуда бошанд, хатари паҳн шудани маълумоти ҳассос вуҷуд дорад. Истифодабарандагон метавонанд нохост маълумоти хусусӣ ё маълумоти шахсиро ба хидмати AI интиқол диҳанд (фикр кунед, ки аз ChatGPT дархост кунед, ки гузориши махфии ҳодисаро ҷамъбаст кунад) ва ин маълумот метавонад як ҷузъи дониши модел гардад. Воқеан ҳам, як таҳқиқоти ба наздикӣ 55% воридот ба абзорҳои тавлидкунандаи AI дорои маълумоти ҳассос ё шахсияти муайяншаванда буда , нигарониҳои ҷиддиро дар бораи ихроҷи додаҳо ба вуҷуд меорад ( Амнияти тавлидии AI: Тамоюлҳо, таҳдидҳо ва стратегияҳои коҳишдиҳӣ ). Илова бар ин, агар AI оид ба маълумоти дохилӣ омӯзонида шуда бошад ва он бо роҳҳои муайян дархост карда шавад, он метавонад қисмҳои ин маълумоти ҳассосро ба ягон каси дигар расонад Ташкилотҳо бояд сиёсатҳои қатъии коркарди маълумотро (масалан, бо истифода аз намунаҳои сунъии дохили ё шахсии AI барои маводи ҳассос) татбиқ кунанд ва кормандонро омӯзанд, ки маълумоти махфиро ба асбобҳои ҷамъиятии AI нагузоранд. Қоидаҳои дахолатнопазирӣ (GDPR ва ғайра) низ ба кор медароянд - истифодаи маълумоти шахсӣ барои омӯзиши AI бе розигии дуруст ё муҳофизат метавонад ба қонуншиканӣ оварда расонад.

• Амнияти модел ва манипуляция: Моделҳои тавлидии AI метавонанд ҳадаф гардад. Рақибон метавонанд кӯшиш кунанд, ки заҳролуд кардани модел , ғизо додани маълумоти бадқасдона ё гумроҳкунандаро дар марҳилаи омӯзиш ё бозомӯзӣ омӯзанд, то AI намунаҳои нодурустро омӯзад ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст ). Масалан, ҳамлакунанда метавонад маълумоти Intel-и таҳдидро ба таври нозук заҳролуд кунад, то AI нармафзори зарароварро ҳамчун зараровар эътироф накунад. Тактикаи дигар инъекцияи фаврӣ ё манипуляцияи баромад , ки дар он ҳамлакунанда роҳи додани вуруд ба AI-ро пайдо мекунад, ки боиси он мегардад, ки он ба тарзҳои ғайричашмдошт рафтор кунад - шояд барои нодида гирифтани паноҳгоҳҳои бехатарии он ё ошкор кардани маълумоте, ки набояд онро нишон диҳад (ба мисли дастурҳои дохилӣ ё маълумот). Илова бар ин, хатари саркашӣ аз модел : ҳамлагарон воридотеро таҳия мекунанд, ки махсус барои фиреб додани AI тарҳрезӣ шудаанд. Мо инро дар мисолҳои мухолиф мебинем - маълумоти каме изтиробоваре, ки инсон онро муқаррарӣ медонад, аммо АИ нодуруст тасниф мекунад. Таъмини бехатарии занҷири таъминоти AI (ягонагии маълумот, назорати дастрасии моделҳо, санҷиши устувории муқобил) як қисми нав, вале зарурии киберамният ҳангоми ҷойгиркунии ин абзорҳо мебошад ( Генералии AI дар киберамният чист? - Palo Alto Networks ).

• Эрозияи аз ҳад зиёд вобастагӣ ва маҳорат: Хатари нармтаре вуҷуд дорад, ки созмонҳо метавонанд ба AI аз ҳад зиёд такя кунанд ва малакаҳои инсониро вайрон кунанд. Агар таҳлилгарони наврас ба натиҷаҳои сунъӣ кӯр-кӯрона бовар кунанд, онҳо метавонанд тафаккури интиқодӣ ва интуисияи заруриро инкишоф надиҳанд, ки ҳангоми мавҷуд набудани AI лозим аст. Сенарияе, ки бояд пешгирӣ кард, як гурӯҳи амниятӣ аст, ки дорои абзорҳои олӣ аст, аммо намедонад, ки чӣ гуна кор кардан дар сурати аз кор рафтани ин асбобҳо (монанд ба халабонҳое, ки ба автопилот аз ҳад зиёд такя мекунанд). Машқҳои мунтазами омӯзишӣ бидуни кӯмаки AI ва ташаккул додани тафаккур дар бораи он, ки AI ассистент аст, на оркули беэътино, барои тез нигоҳ доштани таҳлилгарони инсон муҳим аст. Одамон бояд тасмимгирандагони ниҳоии қарор бимонанд, махсусан барои ҳукмҳои таъсирбахш.

• Мушкилоти ахлоқӣ ва мутобиқат: Истифодаи AI дар киберамният саволҳои ахлоқӣ ба вуҷуд меорад ва метавонад мушкилоти риояи меъёрҳоро ба вуҷуд орад. Масалан, агар системаи AI кормандро ба далели аномалия ба таври нодуруст ҳамчун инсайдери бадқасдона ҷалб кунад, он метавонад ба таври беадолатона ба обрӯ ё мансаби он шахс зарар расонад. Қарорҳои аз ҷониби AI қабулшуда метавонанд ношаффоф бошанд (мушкилоти "қуттии сиёҳ"), фаҳмонидани он ки ба аудиторҳо ё танзимгарон барои чӣ амалҳои муайян андешида шудаанд, душвор аст. Азбаски мундариҷаи аз ҷониби AI тавлидшуда бештар паҳн мешавад, таъмини шаффофият ва нигоҳ доштани масъулият муҳим аст. Танзимгарон ба баррасии дақиқи AI шурӯъ мекунанд - масалан, Санади AI-и ИА, ба системаҳои "хатари баланд" AI талаботро ҷорӣ хоҳад кард ва AI-и киберамният метавонад ба ин категория дохил шавад. Ба ширкатҳо лозим меояд, ки ин қоидаҳоро паймоиш кунанд ва эҳтимолан ба стандартҳо, ба монанди Чаҳорчӯбаи идоракунии хатарҳои NIST AI риоя кунанд, то аз АИ тавлидшуда бомасъулият истифода баранд ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Мутобиқат ба иҷозатномадиҳӣ низ дахл дорад: истифодаи моделҳои кушодаасос ё шахсони сеюм метавонад шартҳое дошта бошад, ки истифодаи муайянро маҳдуд мекунанд ё такмилдиҳии мубодиларо талаб мекунанд.

Хулоса, AI-и тавлидӣ як тири нуқра нест - агар бодиққат татбиқ карда нашавад, он метавонад заъфҳои навро ворид кунад, ҳатто вақте ки дигаронро ҳал мекунад. Таҳқиқоти Форуми ҷаҳонии иқтисодӣ дар соли 2024 қайд кард, ки ~ 47% ташкилотҳо пешрафтҳои AI-и тавлидиро аз ҷониби ҳамлагарон ҳамчун нигаронии аввалиндараҷа унвон мекунанд ва онро "таъсири бештари AI-и тавлидкунанда" дар киберамният ( [PDF] Global Cybersecurity Outlook 2025 | Форуми умумиҷаҳонии иқтисодӣ ) ( Generative L.I.M. of Review... ). Аз ин рӯ, созмонҳо бояд як равиши мутавозинро истифода баранд: аз манфиатҳои AI истифода баранд ва ҳамзамон ин хатарҳоро тавассути идоракунӣ, санҷиш ва назорати одамон ба таври қатъӣ идора кунанд. Мо минбаъд муҳокима хоҳем кард, ки чӣ гуна ба он мувозинат ноил шудан мумкин аст.

Дурнамои оянда: Нақши таҳаввулкунандаи AI дар киберамният

Ба пеш нигоҳ карда, AI-и тавлидкунанда омода аст як ҷузъи ҷудонашавандаи стратегияи киберамният шавад - ва ба ин монанд, абзоре, ки рақибони киберӣ минбаъд низ истифода хоҳанд кард. гурба ва муш бо AI дар ҳар ду тарафи девор суръат хоҳад гирифт. Инҳоянд чанд фаҳмиши ояндадор дар бораи он ки чӣ гуна AI тавлидкунанда метавонад амнияти киберназариро дар солҳои оянда ташаккул диҳад:

• Мудофиаи киберҷиноятии сунъӣ ба стандарт табдил меёбад: То соли 2025 ва баъд аз он, мо метавонем интизор шавем, ки аксари созмонҳои миёна ва калон ба амалиёти амниятии худ абзорҳои сунъиро ворид мекунанд. Тавре ки имрӯз антивирусҳо ва деворҳои деворҳо стандартӣ мебошанд, пилотҳои AI ва системаҳои муайянкунии аномалия метавонанд ҷузъҳои асосии меъмории амният шаванд. Ин воситаҳо эҳтимолан махсусгардонида мешаванд - масалан, моделҳои алоҳидаи AI, ки барои амнияти абрӣ, барои мониторинги дастгоҳи IoT, амнияти коди барномаҳо ва ғайра хуб танзим шудаанд, ки ҳама дар як консерт кор мекунанд. Тавре ки як пешгӯӣ қайд мекунад, "дар соли 2025, AI тавлидкунандаи AI ҷузъи ҷудонашавандаи киберамният хоҳад буд ва ба созмонҳо имкон медиҳад, ки аз таҳдидҳои мураккаб ва таҳаввулшаванда фаъолона дифоъ кунанд" ( Чӣ тавр AI тавлидшавандаро дар киберамният истифода бурдан мумкин аст ). AI ошкорсозии таҳдидҳоро дар вақти воқеӣ такмил медиҳад, бисёр амалҳои вокунишро автоматӣ мекунад ва ба гурӯҳҳои амниятӣ дар идора кардани ҳаҷми хеле калонтари додаҳо дар муқоиса бо дастӣ кӯмак мекунад.

• Омӯзиш ва мутобиқсозии доимӣ: зуд омӯхтан беҳтар мешаванд ва пойгоҳи дониши худро дар вақти воқеӣ навсозӣ мекунанд. Ин метавонад ба муҳофизати воқеии мутобиқшавӣ оварда расонад - тасаввур кунед, ки AI, ки дар бораи маъракаи нави фишинг дар саҳар ба як ширкати дигар дучор мешавад ва то нисфирӯзӣ аллакай филтрҳои почтаи электронии ширкати шуморо танзим кардааст, тасаввур кунед. Хидматҳои амниятии AI дар асоси абрӣ метавонад ба ин навъи омӯзиши дастаҷамъӣ мусоидат кунанд, ки дар он фаҳмишҳои беном аз як созмон ба ҳама муштариён фоида меорад (ба монанди таҳдиди мубодилаи Intel, аммо автоматӣ). Аммо, ин барои пешгирӣ кардани мубодилаи маълумоти ҳассос ва пешгирии ҳамлагарон аз интиқоли маълумоти бад ба моделҳои муштарак муносибати эҳтиёткоронаро талаб мекунад.

• Конвергенсияи AI ва истеъдодҳои киберамният: Маҷмӯи маҳорати мутахассисони киберамният таҳаввул хоҳад кард, то маҳорати AI ва илми маълумотро дар бар гирад. Тавре ки таҳлилгарони имрӯза забонҳои пурсиш ва скриптро меомӯзанд, таҳлилгарони фардо метавонанд мунтазам моделҳои AI-ро дуруст танзим кунанд ё барои иҷрои AI “китобҳои бозӣ” нависанд. Мо метавонем нақшҳои навро ба мисли "Тренери амнияти AI" ё "Муҳандиси AI дар киберамният" - одамоне, ки дар мутобиқсозии абзорҳои AI ба эҳтиёҷоти созмон, тасдиқи кори онҳо ва таъмини бехатарии онҳо тахассус доранд. Аз тарафи дигар, мулоҳизаҳои киберамният ба рушди AI бештар таъсир хоҳанд кард. Системаҳои AI бо хусусиятҳои амниятӣ аз ибтидо сохта хоҳанд шуд (меъмории амн, ошкоркунии вайронкуниҳо, гузоришҳои аудит барои қарорҳои AI ва ғайра) ва чаҳорчӯба барои AI-и боэътимод (одилона, фаҳмо, мустаҳкам ва бехатар) густариши онҳоро дар заминаҳои муҳими амният роҳнамоӣ мекунанд.

• Ҳамлаҳои мураккабтаре, ки бо AI кор мекунанд: Мутаассифона, манзараи таҳдид низ бо AI таҳаввул хоҳад кард. Мо интизорем, ки истифодаи бештари AI барои ошкор кардани осебпазириҳои сифрӣ, таҳияи фишинги хеле ҳадафнок (масалан, AI тавассути васоити ахбори иҷтимоӣ барои эҷоди доми комилан мутобиқшуда) ва тавлид кардани садоҳо ё видеоҳои боварибахши амиқи қалбакӣ барои гузаштан аз аутентификатсияи биометрӣ ё қаллобӣ. Агентҳои ҳакерии автоматӣ метавонанд пайдо шаванд, ки метавонанд мустақилона ҳамлаҳои бисёрмарҳиларо (разведка, истисмор, ҳаракати паҳлӯ ва ғ.) бо ҳадди ақали назорати инсон анҷом диҳанд. Ин ба муҳофизон фишор меорад, ки ба AI низ такя кунанд - аслан автоматизатсия ва автоматизатсия . Баъзе ҳамлаҳо метавонанд бо суръати мошин рух диҳанд, ба монанди ботҳои AI кӯшиш мекунанд, ки ҳазорон тағироти почтаи электронии фишингро бубинанд, ки кадоме аз онҳо филтрҳои гузаштаро мегирад. Мудофиаҳои киберӣ бояд бо суръат ва чандирии шабеҳ кор кунанд ( Ин тавлиди AI дар киберамният чист? - Шабакаҳои Пало Алто ).

• Танзим ва ахлоқи AI дар амният: Вақте ки AI дар функсияҳои киберамният амиқ ворид мешавад, тафтиши бештар ва эҳтимолан танзим барои таъмини истифодаи масъулиятноки ин системаҳои AI вуҷуд хоҳад дошт. Мо метавонем чаҳорчӯбаҳо ва стандартҳои мушаххаси AI дар амниятро интизор шавем. Ҳукуматҳо метавонанд дастурҳоро оид ба шаффофият муқаррар кунанд, масалан, талаб кардани он, ки қарорҳои муҳими амниятӣ (ба монанди қатъ кардани дастрасии корманд ба фаъолияти шубҳанок) наметавонанд танҳо аз ҷониби AI бидуни баррасии инсон қабул карда шаванд. Инчунин метавонад сертификатсияҳо барои маҳсулоти амнияти AI вуҷуд дошта бошанд, то ба харидорон итминон диҳанд, ки AI барои ғаразнокӣ, устуворӣ ва бехатарӣ арзёбӣ шудааст. Ғайр аз он, ҳамкории байналмилалӣ метавонад дар атрофи таҳдидҳои киберии марбут ба AI афзоиш ёбад; масалан, созишномаҳо оид ба коркарди маълумоти бардурӯғ ё меъёрҳо бар зидди баъзе силоҳҳои киберии аз ҷониби AI сохташуда.

• Интегратсия бо экосистемаҳои васеътари AI ва IT: AI тавлидшуда дар киберамният эҳтимолан бо дигар системаҳои AI ва абзорҳои идоракунии IT ҳамгиро шавад. Масалан, AI, ки оптимизатсияи шабакаро идора мекунад, метавонад бо AI-и амниятӣ кор кунад, то тағиротҳо холигоҳҳоро боз накунанд. Таҳлилҳои тиҷорӣ, ки ба AI асос ёфтааст, метавонанд маълумотро бо AI-ҳои амниятӣ мубодила кунанд, то аномалияҳоро муқоиса кунанд (ба монанди коҳиши ногаҳонии фурӯш бо мушкилоти эҳтимолии вебсайт дар натиҷаи ҳамла). Аслан, AI дар силос зиндагӣ намекунад - он як қисми бофтаи интеллектуалии бештари амалиёти созмон хоҳад буд. Ин имкониятҳоро барои идоракунии ҳамаҷонибаи хатарҳо мекушояд, ки дар он маълумоти амалиётӣ, маълумоти таҳдидҳо ва ҳатто маълумоти амнияти физикӣ аз ҷониби AI муттаҳид карда мешаванд, то 360-дараҷаи мавқеи амнияти созмонро пешниҳод кунанд.

Дар дарозмуддат, умедворем, ки AI-и тавлидшуда ба тавозуни мувозинат ба фоидаи ҳимоятгарон кӯмак хоҳад кард. Бо коркарди миқёс ва мураккабии муҳитҳои муосири IT, AI метавонад фазои киберфазоро муҳофизатшавандатар кунад. Бо вуҷуди ин, ин сафар аст ва вақте ки мо ин технологияҳоро такмил медиҳем ва ба таври мувофиқ эътимод карданро меомӯзем, дардҳо зиёд хоҳанд шуд. Созмонҳое, ки огоҳ бошанд ва ба қабули масъулиятноки AI барои амният сармоягузорӣ кунанд, эҳтимолан созмонҳое хоҳанд буд, ки барои мубориза бо таҳдидҳои оянда беҳтарин мавқеъ доранд.

Тавре ки дар гузориши охирини тамоюлҳои киберамнияти Gartner қайд шудааст, "пайдоиши ҳолатҳои тавлиди истифодаи AI (ва хатарҳо) фишорро барои тағирот эҷод мекунад" ( Тамоюлҳои киберамният: устуворӣ тавассути трансформатсия - Gartner ). Онҳое, ки мутобиқат мекунанд, AI-ро ҳамчун шарики пурқувват истифода мебаранд; онҳое, ки ақиб мондаанд, метавонанд аз рақибони дорои қудрати AI пештар шаванд. Чанд соли оянда барои муайян кардани он, ки AI майдони ҷанги кибериро тағир медиҳад, як давраи муҳим хоҳад буд.

Роҳҳои амалӣ барои қабули сунъии тавлидшуда дар киберамният

Барои корхонаҳое, ки чӣ тавр истифода бурдани AI-и тавлидкунандаро дар стратегияи киберамният арзёбӣ мекунанд, дар ин ҷо баъзе маслиҳатҳои амалӣ ва тавсияҳо барои роҳнамоии қабули масъулиятнок ва муассир ҳастанд:

1. Аз омӯзиш ва омӯзиш оғоз кунед: Боварӣ ҳосил кунед, ки гурӯҳи амниятии шумо (ва кормандони васеътари IT) фаҳманд, ки AI-и тавлидкунанда чӣ кор карда метавонад ва чӣ кор карда наметавонад. Оид ба асосҳои абзорҳои амниятие, ки аз ҷониби AI идора карда мешаванд, омӯзиш гузаронед ва барномаҳои огоҳии амнияти барои ҳамаи кормандон навсозӣ кунед, то таҳдидҳои аз ҷониби AI фаъолшударо пӯшонед. Масалан, ба кормандон омӯзонед, ки чӣ тавр AI метавонад қаллобии фишингҳои боварибахш ва зангҳои фейкро тавлид кунад. Ҳамзамон, ба кормандон оид ба истифодаи бехатар ва тасдиқшудаи воситаҳои AI дар кори худ омӯзонед. Корбарони бохабар эҳтимолияти нодурусти AI ё қурбонии ҳамлаҳои мукаммалшудаи AI мешаванд ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ).

2. Сиёсати равшани истифодаи AI-ро муайян кунед: Ба AI-и тавлидшуда мисли ҳама гуна технологияи пурқувват муносибат кунед - бо идоракунӣ. Сиёсатҳоеро таҳия кунед, ки кӣ метавонад асбобҳои AI-ро истифода барад, кадом асбобҳо иҷозат дода мешаванд ва бо кадом мақсадҳо. дастурҳоро оид ба коркарди маълумоти ҳассос дохил кунед (масалан, бидуни интиқоли маълумоти махфӣ ба хидматҳои берунаи AI). Ҳамчун мисол, шумо метавонед танҳо ба аъзои гурӯҳи амният иҷозат диҳед, ки як ёвари дохилии AI-ро барои вокуниш ба ҳодисаҳо истифода баранд ва маркетинг метавонад AI-и санҷидашударо барои мундариҷа истифода барад - ҳар каси дигар маҳдуд аст. Бисёр созмонҳо ҳоло дар сиёсатҳои IT-и худ ба таври возеҳ ба АИ тавлидшаванда муроҷиат мекунанд ва мақомоти пешбари стандартҳо сиёсати истифодаи бехатарро ташвиқ мекунанд, на манъи мустақим ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Боварӣ ҳосил кунед, ки ин қоидаҳо ва асосҳои онҳоро ба ҳамаи кормандон расонед.

3. Кам кардани "Shadow AI" ва мониторинги истифода: Монанди IT сояафкан, "сояи AI" вақте ба вуҷуд меояд, ки кормандон бидуни огоҳии IT ба истифода аз абзорҳо ё хидматҳои AI оғоз мекунанд (масалан, таҳиягар бо истифода аз ёвари коди беиҷозати AI). Ин метавонад хатарҳои ноаёнро ба вуҷуд орад. Тадбирҳо барои ошкор ва назорати истифодаи беиҷозати AI . Мониторинги шабака метавонад пайвастҳоро ба API-ҳои маъмули AI нишон диҳад ва пурсишҳо ё аудити асбобҳо метавонанд ошкор кунанд, ки кормандон аз чӣ истифода мебаранд. Алтернативаҳои тасдиқшударо пешниҳод кунед, то коргарони хуб ба васваса наафтанд, ки фиребгарӣ накунанд (масалан, ҳисоби расмии ChatGPT Enterprise пешниҳод кунед, агар одамон онро муфид донанд). Бо овардани истифодаи AI ба равшанӣ, гурӯҳҳои амниятӣ метавонанд хатарро арзёбӣ ва идора кунанд. Мониторинг инчунин муҳим аст – фаъолиятҳо ва натиҷаҳоро ба қадри имкон ба қайд гиред, бинобар ин, барои қарорҳое, ки ба AI таъсир расонидааст, пайгирии аудит мавҷуд аст ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ).

4. Фишанги AI-ро ба таври муҳофизатӣ истифода баред - пас наафтед: Эътироф кунед, ки ҳамлагарон AI-ро истифода мебаранд, аз ин рӯ муҳофизати шумо низ бояд. Якчанд минтақаҳои таъсирбахшро муайян кунед, ки дар он AI-и тавлидкунанда метавонад фавран ба амалиёти амниятии шумо (шояд сети огоҳӣ ё таҳлили автоматии гузориш) кумак кунад ва лоиҳаҳои озмоиширо иҷро кунад. Муҳофизати худро бо суръат ва миқёси AI барои муқобила бо таҳдидҳои босуръат афзоиш диҳед ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Ҳатто ҳамгироии оддӣ, ба монанди истифодаи AI барои ҷамъбасти гузоришҳои нармафзори зараровар ё тавлиди дархостҳои шикори таҳдид, метавонад соатҳои таҳлилгаронро сарфа кунад. Аз хурд оғоз кунед, натиҷаҳоро арзёбӣ кунед ва такрор кунед. Муваффақиятҳо барои қабули васеътари AI замина эҷод мекунанд. Ҳадаф ин аст, ки AI ҳамчун мултипликатори қувва истифода шавад - масалан, агар ҳамлаҳои фишингӣ маркази ёрирасони шуморо фаро гиранд, таснифи почтаи электронии AI-ро ҷойгир кунед, то ин ҳаҷми онро фаъолона кам кунад.

5. Дар амалияҳои бехатар ва ахлоқии AI сармоягузорӣ кунед: Ҳангоми татбиқи AI тавлидкунанда, таҷрибаҳои бехатари рушд ва густаришро риоя кунед. Барои иҷрои вазифаҳои ҳассос барои нигоҳ доштани назорат аз болои додаҳо, моделҳои хусусӣ ё худидорашавандаро истифода баред Агар хидматҳои AI-и тарафи сеюмро истифода баред, чораҳои амниятӣ ва махфияти онҳоро (рамзгузорӣ, сиёсати нигоҳдории маълумот ва ғ.) баррасӣ кунед. Чаҳорчӯбҳои идоракунии хавфҳои AI-ро (ба монанди чаҳорчӯбаи идоракунии хатарҳои AI ё роҳнамоии ISO/IEC) барои ба таври мунтазам ҳал кардани чизҳое ба монанди ғаразнокӣ, фаҳмондадиҳӣ ва устуворӣ дар асбобҳои AI-и худ ворид кунед ( Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон ). Инчунин барои навсозиҳо/патчҳои модел ҳамчун як қисми нигоҳдорӣ ба нақша гиред – Моделҳои AI низ метавонанд “заифӣ” дошта бошанд (масалан, онҳо метавонанд ба бозомӯзӣ ниёз дошта бошанд, агар онҳо дрейфро оғоз кунанд ё як навъи нави ҳамлаи мухолиф ба модел кашф шавад). Бо нонпазӣ кардани амният ва ахлоқ дар истифодаи AI, шумо эътимодро ба натиҷаҳо эҷод мекунед ва риояи қоидаҳои навро таъмин мекунед.

6. Одамонро дар ҳалқа нигоҳ доред: AI-ро истифода баред, то ба доварии инсон дар киберамният кӯмак кунад, на комилан иваз кунед. Нуқтаҳои қарорро муайян кунед, ки дар он ҷо тасдиқи инсон зарур аст (масалан, AI метавонад гузориши ҳодисаро таҳия кунад, аммо таҳлилгар онро пеш аз паҳнкунӣ баррасӣ мекунад; ё AI метавонад масдуд кардани ҳисоби корбарро пешниҳод кунад, аммо инсон ин амалро тасдиқ мекунад). Ин на танҳо аз беназорат мондани хатогиҳои AI пешгирӣ мекунад, балки инчунин ба дастаи шумо дар омӯхтани AI ва баръакс кӯмак мекунад. Ҷараёни кори муштаракро ташвиқ кунед: таҳлилгарон бояд ҳангоми пурсиш кардани натиҷаҳои AI ва санҷиши солимфикрӣ худро бароҳат ҳис кунанд. Бо гузашти вақт, ин муколама метавонад ҳам AI (тавассути фикру мулоҳиза) ва ҳам малакаҳои таҳлилгаронро такмил диҳад. Аслан, равандҳои худро тавре тарроҳӣ кунед, ки AI ва қувваҳои инсонӣ ҳамдигарро пурра кунанд - AI ҳаҷм ва суръатро идора мекунад, одамон номуайянӣ ва қарорҳои ниҳоиро ҳал мекунанд.

7. Андоза кунед, назорат кунед ва танзим кунед: Ниҳоят, асбобҳои тавлидкунандаи AI-и худро ҳамчун ҷузъҳои зиндаи экосистемаи амнияти худ баррасӣ кунед. Фаъолияти онҳоро пайваста - оё онҳо вақти вокуниш ба ҳодисаҳоро кам мекунанд? Пештар таҳдидҳоро гирифтаед? Тамоюли суръати мусбати бардурӯғ чӣ гуна аст? Аз даста фикру мулоҳизаҳо пурсед: оё тавсияҳои AI муфиданд ё ин садо эҷод мекунад? Ин ченакҳоро барои такмил додани моделҳо, навсозии маълумоти омӯзишӣ ё танзим кардани тарзи ҳамгироии AI истифода баред. Таҳдидҳои киберӣ ва эҳтиёҷоти тиҷорӣ таҳаввул меёбанд ва моделҳои AI-и шумо бояд давра ба давра нав карда шаванд ё аз нав омӯзонида шаванд, то самаранок бошанд. Нақшаи идоракунии намунавӣ дошта бошед, аз он ҷумла барои нигоҳдории он кӣ масъул аст ва чӣ қадар зуд-зуд аз назар гузаронида мешавад. Бо идоракунии фаъолонаи давраи зиндагии AI, шумо кафолат медиҳед, ки он дороиҳо боқӣ мемонад, на ӯҳдадор.

Хулоса, AI-и тавлидшуда метавонад қобилиятҳои киберамниятро ба таври назаррас афзоиш диҳад, аммо қабули бомуваффақият банақшагирии оқилона ва назорати доимиро талаб мекунад. Корхонаҳое, ки одамони худро таълим медиҳанд, дастурҳои дақиқ муқаррар мекунанд ва AI-ро ба таври мутавозин ва бехатар муттаҳид мекунанд, аз идоракунии тезтар ва оқилонаи таҳдидҳо мукофот хоҳанд гирифт. Ин роҳхатҳо харитаи роҳро пешниҳод мекунанд: таҷрибаи инсониро бо автоматизатсияи AI муттаҳид кунед, асосҳои идоракуниро фаро гиред ва чолокиро нигоҳ доред, зеро ҳам технологияи AI ва ҳам манзараи таҳдид ногузир таҳаввул меёбанд.

Бо андешидани ин қадамҳои амалӣ, созмонҳо метавонанд ба саволи "Чӣ гуна AI-и тавлидкунандаро дар киберамният истифода бурдан мумкин аст?" - на танҳо дар назария, балки дар амалияи ҳаррӯза - ва ба ин васила муҳофизати онҳоро дар ҷаҳони афзояндаи рақамӣ ва AI идорашавандаи мо мустаҳкам мекунанд. ( Чӣ гуна метавонад AI-и тавлидиро дар киберамният истифода кард )

Китобҳои сафеде, ки шумо метавонед баъд аз ин хонед, инҳоянд:

🔗 Корҳое, ки сунъии сунъиро иваз карда наметавонад ва AI кадом корҳоро иваз мекунад?
Дурнамои ҷаҳониро омӯзед, ки кадом нақшҳо аз автоматизатсия бехатаранд ва кадоме аз онҳо не.

🔗 Оё AI метавонад бозори саҳмияҳоро пешгӯӣ кунад?
Назари амиқ ба маҳдудиятҳо, пешрафтҳо ва афсонаҳо дар бораи қобилияти AI барои пешгӯии ҳаракатҳои бозор.

🔗 Бе дахолати инсон ба чӣ гуна сунъии тавлидшуда такя кардан мумкин аст?
Бифаҳмед, ки дар куҷо AI мустақилона кор карда метавонад ва дар куҷо назорати инсон ҳанӯз муҳим аст.