Чӣ гуна зеҳни сунъии тавлидкунандаро дар амнияти киберӣ истифода бурдан мумкин аст?

Муқаддима

Зеҳни сунъии тавлидӣ - системаҳои зеҳни сунъӣ, ки қодиранд мундариҷа ё пешгӯиҳои нав эҷод кунанд - ҳамчун як нерӯи табдилдиҳанда дар амнияти киберӣ пайдо мешавад. Асбобҳо ба монанди GPT-4-и OpenAI қобилияти таҳлили маълумоти мураккаб ва тавлиди матни ба инсон монандро нишон доданд, ки имкон медиҳад равишҳои нав барои муҳофизат аз таҳдидҳои киберӣ фароҳам оварда шаванд. Мутахассисони амнияти киберӣ ва қабулкунандагони қарорҳои тиҷоратӣ дар тамоми соҳаҳо меомӯзанд, ки чӣ гуна зеҳни сунъии тавлидӣ метавонад дифоъро аз ҳамлаҳои таҳаввулёбанда тақвият диҳад. Аз молия ва тандурустӣ то чакана ва ҳукумат, ташкилотҳо дар ҳар як бахш бо кӯшишҳои мураккаби фишинг, нармафзори зараровар ва дигар таҳдидҳое рӯбарӯ мешаванд, ки зеҳни сунъии тавлидӣ метавонад ба онҳо муқобилат кунад. Дар ин мақолаи сафед, мо меомӯзем, ки чӣ гуна зеҳни сунъии тавлидиро дар амнияти киберӣ истифода бурдан мумкин аства замимаҳои воқеӣ, имкониятҳои оянда ва мулоҳизаҳои муҳимро барои қабул таъкид мекунем.

Зеҳни сунъии тавлидӣ аз зеҳни сунъии анъанавии таҳлилӣ на танҳо бо ошкор кардани нақшҳо, балки инчунин эҷоди мундариҷа фарқ мекунад - хоҳ тақлид кардани ҳамлаҳо барои мудофиаи омӯзишӣ ё тавлиди шарҳҳои забони табиӣ барои маълумоти мураккаби амниятӣ. Ин қобилияти дугона онро ба шамшери дудама табдил медиҳад: он воситаҳои нави пуриқтидори дифоъиро пешниҳод мекунад, аммо субъектҳои таҳдид низ метавонанд аз он истифода баранд. Дар бахшҳои зерин доираи васеи ҳолатҳои истифодаи зеҳни сунъии тавлидӣ дар амнияти киберӣ, аз автоматикунонии ошкоркунии фишинг то беҳтар кардани вокуниш ба ҳодисаҳо, баррасӣ мешаванд. Мо инчунин манфиатҳоеро, ки ин навовариҳои зеҳни сунъӣ ваъда медиҳанд, дар баробари хатарҳо (ба монанди "галлютсинатсияҳо"-и зеҳни сунъӣ ё сӯиистифода аз мухолифат), ки ташкилотҳо бояд онҳоро идора кунанд, баррасӣ мекунем. Дар ниҳоят, мо маслиҳатҳои амалиро пешниҳод мекунем, то ба тиҷорат дар арзёбӣ ва ҳамгироии масъулиятноки зеҳни сунъии тавлидӣ ба стратегияҳои амнияти киберии худ кӯмак расонем.

AI тавлидкунанда дар киберамният: Шарҳи

Зеҳни сунъии тавлидӣ дар амнияти киберӣ ба моделҳои зеҳни сунъӣ - аксар вақт моделҳои забони калон ё дигар шабакаҳои асабӣ - ишора мекунад, ки метавонанд фаҳмишҳо, тавсияҳо, рамз ё ҳатто маълумоти синтетикиро барои кӯмак дар вазифаҳои амниятӣ тавлид кунанд. Бар хилофи моделҳои комилан пешгӯикунанда, зеҳни сунъии тавлидӣ метавонад сенарияҳоро тақлид кунад ва натиҷаҳои барои инсон хондашаванда (масалан, гузоришҳо, огоҳиҳо ё ҳатто намунаҳои рамзи зараровар)-ро дар асоси маълумоти омӯзишии худ тавлид кунад. Ин қобилият барои пешгӯӣ, ошкор ва вокуниш ба таҳдидҳо бо роҳҳои динамикӣ нисбат ба пештара истифода мешавад (Зеҳни сунъии тавлидӣ дар амнияти киберӣ чист? - Шабакаҳои Пало Алто). Масалан, моделҳои тавлидӣ метавонанд гузоришҳои калон ё анборҳои иттилоотии таҳдидро таҳлил кунанд ва хулосаи мухтасар ё амали тавсияшударо таҳия кунанд, ки қариб мисли "ёрдамчии" зеҳни сунъӣ барои гурӯҳҳои амниятӣ амал мекунанд.

Татбиқи аввали зеҳни сунъии тавлидӣ барои дифоъи киберӣ умедбахш буд. Дар соли 2023, Microsoft Security Copilot-ро, як ёвари GPT-4 барои таҳлилгарони амниятӣ, муаррифӣ кард, то ба муайян кардани вайронкуниҳо ва аз назар гузаронидани 65 триллион сигнале, ки Microsoft ҳар рӯз коркард мекунад, кумак кунад (Microsoft Security Copilot як ёвари нави зеҳни сунъии GPT-4 барои амнияти киберӣ аст | The Verge). Таҳлилгарон метавонанд ин системаро бо забони табиӣ фаъол созанд (масалан, "Ҳама ҳодисаҳои амниятиро дар 24 соати охир ҷамъбаст кунед") ва copilot хулосаи муфиди ривоятӣ эҷод мекунад. Ба ҳамин монанд, зеҳни сунъии Threat Intelligence аз модели тавлидӣ бо номи Gemini , то ҷустуҷӯи гуфтугӯиро тавассути пойгоҳи додаҳои бузурги таҳлили таҳдидҳои Google имконпазир созад, рамзи шубҳанокро зуд таҳлил кунад ва натиҷаҳоро ҷамъбаст кунад, то ба шикорчиёни нармафзори зараровар кумак кунад (Чӣ гуна зеҳни сунъии тавлидиро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ). Ин мисолҳо имкониятро нишон медиҳанд: зеҳни сунъии тавлидӣ метавонад маълумоти мураккаб ва калонҳаҷми амнияти кибериро ҳазм кунад ва фаҳмишҳоро дар шакли дастрас пешниҳод кунад ва қабули қарорро суръат бахшад.

Дар айни замон, зеҳни сунъии тавлидӣ метавонад мундариҷаи қалбакии хеле воқеӣ эҷод кунад, ки барои симулятсия ва омӯзиш (ва мутаассифона, барои ҳамлагароне, ки муҳандисии иҷтимоиро таҳия мекунанд) як бартарӣ аст. Ҳангоми баррасии ҳолатҳои мушаххаси истифода, мо мебинем, ки қобилияти зеҳни сунъии тавлидӣ барои ҳам синтез ва ҳам таҳлили иттилоот заминаи бисёр барномаҳои амнияти киберии онро ташкил медиҳад. Дар зер, мо ба ҳолатҳои асосии истифода, ки ҳама чизро аз пешгирии фишинг то таҳияи нармафзори амн дар бар мегиранд, бо мисолҳои чӣ гуна татбиқ шудани ҳар яки онҳо дар соҳаҳо, назар мекунем.

Барномаҳои асосии зеҳни сунъии тавлидӣ дар амнияти киберӣ

Тасвири: Ҳолатҳои асосии истифодаи AI тавлидкунандаи AI дар киберамният аз пилотҳои AI барои гурӯҳҳои амниятӣ, таҳлили осебпазирии кодҳо, муайянкунии таҳдидҳои мутобиқшавӣ, моделиронии ҳамлаи сифрӣ, амнияти мукаммали биометрӣ ва муайянкунии фишинг иборатанд (6 Ҳолати истифода барои AI тавлидкунандаи AI дар киберамният [+ Намунаҳо] ).

Ошкор ва пешгирии фишинг

Фишинг яке аз таҳдидҳои паҳншудаи киберӣ боқӣ мемонад, ки корбаронро ба пахш кардани истинодҳои зараровар ё ифшои эътимодномаҳо фиреб медиҳад. Сеҳри тавлидкунандаи зеҳни сунъӣ ҳам барои ошкор кардани кӯшишҳои фишинг ва ҳам барои тақвияти омӯзиши корбарон барои пешгирии ҳамлаҳои муваффақ истифода мешавад. Аз тарафи дифоъӣ, моделҳои Сеҳри сунъӣ метавонанд мундариҷаи почтаи электронӣ ва рафтори фиристандаро таҳлил кунанд, то аломатҳои нозуки фишингро, ки филтрҳои қоидавӣ метавонанд аз даст диҳанд, муайян кунанд. Бо омӯхтани маҷмӯаҳои калони додаҳои почтаи электронии қонунӣ ва қаллобӣ, модели тавлидкунанда метавонад аномалияҳоро дар оҳанг, калимаҳо ё контексте, ки қаллобиро нишон медиҳанд, қайд кунад - ҳатто вақте ки грамматика ва имло дигар онро нишон намедиҳанд. Дар асл, муҳаққиқони Palo Alto Networks қайд мекунанд, ки Сеҳри тавлидкунанда метавонад "аломатҳои нозуки почтаи электронии фишингиро, ки дар акси ҳол метавонанд ошкор нашаванд, муайян кунад" ва ба ташкилотҳо кӯмак мекунад, ки як қадам аз қаллобон пеш бошанд (Сеҳри тавлидкунанда дар амнияти киберӣ чист? - Palo Alto Networks).

Гурӯҳҳои амниятӣ инчунин аз зеҳни сунъии тавлидӣ барои тақлид кардани ҳамлаҳои фишинг барои омӯзиш ва таҳлил истифода мебаранд . Масалан, Ironscales як воситаи симулятсияи фишинги бо дастгирии GPT-ро муаррифӣ кард, ки ба таври худкор почтаи электронии қалбакии фишингиро барои кормандони ташкилот тавлид мекунад ( Чӣ гуна зеҳни сунъии тавлидиро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ ). Ин почтаи электронии сохташуда тактикаҳои охирини ҳамлагаронро инъикос мекунад ва ба кормандон дар муайян кардани мундариҷаи фишингӣ таҷрибаи воқеӣ медиҳад. Чунин омӯзиши фардӣ муҳим аст, зеро худи ҳамлагарон зеҳни сунъиро барои эҷоди доми боварибахштар истифода мебаранд. Қобили зикр аст, ки дар ҳоле ки зеҳни сунъии тавлидӣ метавонад паёмҳои хеле сайқалёфтаи фишингро тавлид кунад (рӯзҳои забони англисии ба осонӣ муайяншаванда гузаштаанд), ҳимоятгарон муайян карданд, ки зеҳни сунъӣ беҳамто нест. Дар соли 2024, муҳаққиқони IBM Security озмоишеро анҷом доданд, ки почтаи электронии фишингиро, ки аз ҷониби инсон навишта шудааст, бо почтаи электронии тавлидшудаи зеҳни сунъӣ муқоиса мекунад ва "тааҷҷубовар аст, ки почтаи электронии тавлидшудаи зеҳни сунъӣ сарфи назар аз грамматикаи дурусти онҳо ҳанӯз ҳам осон муайян карда мешуд" ( 6 ҳолати истифода барои зеҳни сунъии тавлидшуда дар амнияти киберӣ [+ мисолҳо] ). Ин нишон медиҳад, ки зеҳни инсонӣ дар якҷоягӣ бо ошкоркунии бо ёрии зеҳни сунъӣ метавонад номувофиқатиҳои нозук ё сигналҳои метамаълумотро дар қаллобӣ, ки аз ҷониби зеҳни сунъӣ навишта шудаанд, эътироф кунад.

Зеҳни сунъии тавлидӣ (Generative Intelligence) ба муҳофизат аз фишинг бо роҳҳои дигар низ мусоидат мекунад. Моделҳоро метавон барои тавлиди посухҳои автоматӣ ё филтрҳое , ки почтаи электронии шубҳанокро месанҷанд, истифода бурд. Масалан, системаи зеҳни сунъӣ метавонад ба почтаи электронӣ бо дархостҳои муайян посух диҳад, то қонунияти фиристандаро тасдиқ кунад ё аз LLM барои таҳлили истинодҳо ва замимаҳои почтаи электронӣ дар қуттии рег истифода барад ва сипас ҳама гуна нияти зарароварро ҷамъбаст кунад. Платформаи амниятии NVIDIA Morpheus қудрати зеҳни сунъиро дар ин соҳа нишон медиҳад - он аз моделҳои NLP тавлидӣ барои таҳлили зуд ва тасниф кардани почтаи электронӣ истифода мебарад ва муайян карда шуд, ки он ошкоркунии почтаи электронии фишинги наҳӣ-фишингиро дар муқоиса бо абзорҳои анъанавии амниятӣ 21% беҳтар мекунад ( 6 ҳолати истифода барои зеҳни сунъии тавлидӣ дар амнияти киберӣ [+ мисолҳо] ). Morpheus ҳатто намунаҳои муоширати корбарро барои муайян кардани рафтори ғайриоддӣ (масалан, корбаре, ки ногаҳон ба суроғаҳои беруна почтаи электронӣ мефиристад), ки метавонад нишон диҳад, ки ҳисоби осебдида почтаи электронии фишингиро мефиристад.

Дар амал, ширкатҳои саросари соҳаҳо ба AI бовар мекунанд, ки почтаи электронӣ ва трафики вебро барои ҳамлаҳои муҳандисии иҷтимоӣ филтр кунанд. Масалан, ширкатҳои молиявӣ AI-и тавлидиро барои скан кардани муошират барои кӯшишҳои тақаллуб, ки метавонад ба қаллобӣ дар сим оварда расонад, истифода мебаранд, дар ҳоле ки провайдерҳои тиббӣ AI-ро барои ҳифзи маълумоти беморон аз вайронкуниҳои марбут ба фишинг истифода мебаранд. Бо тавлиди сенарияҳои воқеии фишинг ва муайян кардани аломатҳои паёмҳои зараровар, AI тавлидкунанда ба стратегияҳои пешгирии фишинг як қабати пурқувват илова мекунад. Баровард: AI метавонад ҳамлаҳои фишингро зудтар ва дақиқтар ошкор ва безарар созад , ҳатто вақте ки ҳамлагарон барои пешрафти бозии худ ҳамон технологияро истифода мебаранд.

Муайян кардани нармафзори зараровар ва таҳлили таҳдид

Нармафзори муосири зараровар пайваста таҳаввул меёбад - ҳамлагарон вариантҳои нав эҷод мекунанд ё рамзро печида мекунанд, то имзоҳои антивирусро аз байн баранд. Зеҳни сунъии тавлидӣ усулҳои наверо барои ошкор кардани зараровар ва фаҳмидани рафтори он пешниҳод мекунад. Як равиш истифодаи зеҳни сунъӣ барои тавлиди "дугоникҳои бад"-и нармафзори зараровар аст: муҳаққиқони амниятӣ метавонанд намунаи маълуми зарароварро ба модели тавлидӣ ворид кунанд, то бисёр вариантҳои мутатсияшудаи он нармафзори зарароварро эҷод кунанд. Бо ин кор, онҳо самаранок интизор мешаванд, ки ҳамлагар метавонад тағйирот ворид кунад. Сипас, ин вариантҳои тавлидшудаи зеҳни сунъӣ метавонанд барои омӯзонидани системаҳои антивирусӣ ва ошкоркунии дахолат истифода шаванд, то ҳатто версияҳои тағирёфтаи нармафзори зараровар дар табиат шинохта шаванд (6 ҳолати истифода барои зеҳни сунъии тавлидӣ дар амнияти киберӣ [+ мисолҳо] ). Ин стратегияи пешгирикунанда ба шикастани даврае кӯмак мекунад, ки дар он ҳакерҳо нармафзори зараровари худро каме тағйир медиҳанд, то аз ошкоркунӣ канорагирӣ кунанд ва ҳимоятгарон бояд ҳар дафъа имзоҳои нав нависанд. Тавре ки дар як подкасти соҳавӣ қайд карда шуд, коршиносони амниятӣ ҳоло зеҳни сунъии тавлидиро барои "тақлид кардани трафики шабака ва тавлиди борҳои зарароваре, ки ҳамлаҳои мураккабро тақлид мекунанд" дифои худро бар зидди як оилаи тамоми таҳдидҳо, на як мисол, стресс-санҷиш мекунанд. Ин ошкоркунии таҳдидҳои мутобиқшаванда маънои онро дорад, ки воситаҳои амниятӣ ба нармафзори зараровари полиморфӣ, ки дар акси ҳол аз он мегузаштанд, тобовартар мешаванд.

Ғайр аз ошкоркунӣ, AI тавлидкунанда ба таҳлили нармафзори зараровар ва муҳандисии баръакс, ки анъанавӣ вазифаҳои меҳнатталаб барои таҳлилгарони таҳдид мебошанд, кӯмак мекунад. Моделҳои калони забон метавонанд барои таҳқиқи рамз ё скриптҳои шубҳанок ва шарҳ додани он ки рамз барои чӣ пешбинӣ шудааст, бо забони оддӣ вазифадор карда шаванд. Мисоли воқеӣ VirusTotal Code Insight, ки хусусияти VirusTotal-и Google мебошад, ки аз модели AI тавлидкунанда (Sec-PaLM-и Google) барои тавлиди хулосаҳои забони табиии рамзи эҳтимолан зараровар истифода мебарад (Чӣ гуна AI тавлидкунандаро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ). Он асосан "як намуди ChatGPT барои рамзгузории амниятӣ" ва ҳамчун таҳлилгари нармафзори зараровари AI амал мекунад, ки шабонарӯзӣ кор мекунад, то ба таҳлилгарони инсонӣ дар фаҳмидани таҳдидҳо кӯмак кунад (6 ҳолати истифода барои AI тавлидкунанда дар амнияти киберӣ [+ мисолҳо] ). Ба ҷои он ки ба скрипти ношинос ё рамзи дуӣ диққат диҳад, узви дастаи амниятӣ метавонад аз AI шарҳи фаврӣ гирад - масалан, "Ин скрипт кӯшиш мекунад, ки файлро аз сервери XYZ зеркашӣ кунад ва сипас танзимоти системаро тағир диҳад, ки ин нишондиҳандаи рафтори нармафзори зараровар аст." Ин вокуниш ба ҳодисаҳоро ба таври назаррас суръат мебахшад, зеро таҳлилгарон метавонанд нармафзори зараровари навро нисбат ба пештара зудтар муайян ва дарк кунанд.

Зеҳни сунъии тавлидӣ инчунин барои муайян кардани нармафзори зараровар дар маҷмӯи бузурги додаҳо истифода мешавад . Муҳаррикҳои антивируси анъанавӣ файлҳоро барои имзоҳои маълум скан мекунанд, аммо модели тавлидӣ метавонад хусусиятҳои файлро арзёбӣ кунад ва ҳатто дар асоси намунаҳои омӯхташуда зараровар будани онро пешгӯӣ кунад. Бо таҳлили хусусиятҳои миллиардҳо файлҳо (зараровар ва безарар), зеҳни сунъӣ метавонад нияти зарароварро дар ҷойҳое, ки имзои возеҳ вуҷуд надорад, ошкор кунад. Масалан, модели тавлидӣ метавонад файли иҷрошавандаро ҳамчун шубҳанок қайд кунад, зеро профили рафтори он ба як варианти ночизи нармафзори фидя, ки ҳангоми омӯзиш дида буд, "ба назар мерасад" , ҳатто агар файли дуӣ нав бошад. Ин ошкоркунии асосёфта ба рафтор барои муқобила бо нармафзори нав ё сифрии зараровар кӯмак мекунад. Тибқи гузоришҳо, зеҳни сунъии Google Threat Intelligence (қисми Chronicle/Mandiant) модели тавлидии худро барои таҳлили рамзи эҳтимолан зараровар ва "кӯмак ба мутахассисони амниятӣ дар мубориза бо нармафзори зараровар ва дигар намудҳои таҳдидҳо самараноктар ва муассиртар" истифода мебарад. ( Чӣ гуна зеҳни сунъии тавлидӣ метавонад дар амнияти киберӣ истифода шавад? 10 мисоли воқеӣ ).

Аз тарафи дигар, мо бояд эътироф кунем, ки ҳамлагарон метавонанд дар ин ҷо низ аз зеҳни сунъии тавлидӣ истифода баранд - барои эҷоди худкори нармафзори зарароваре, ки худаш мутобиқ мешавад. Дар асл, коршиносони амниятӣ ҳушдор медиҳанд, ки зеҳни сунъии тавлидӣ метавонад ба ҷинояткорони киберӣ кӯмак кунад, ки нармафзори зараровареро таҳия кунанд , ки муайян карданаш душвортар аст (Зеҳни сунъии тавлидӣ дар амнияти киберӣ чист? - Пало Алто Шабакаҳо). Ба модели зеҳни сунъӣ дастур додан мумкин аст, ки як порча нармафзори зарароварро борҳо тағйир диҳад (сохтори файли он, усулҳои рамзгузорӣ ва ғайраро тағйир диҳад), то он даме, ки аз ҳама санҷишҳои маълуми антивирус канорагирӣ кунад. Ин истифодаи мухолиф як нигаронии афзоянда аст (баъзан онро "нармафзори зараровари дорои зеҳни сунъӣ" ё нармафзори зараровари полиморфӣ ҳамчун хидмат меноманд). Мо чунин хатарҳоро баъдтар баррасӣ хоҳем кард, аммо он таъкид мекунад, ки зеҳни сунъии тавлидӣ абзоре дар ин бозии "гурба ва муш" аст, ки ҳам ҳимоятгарон ва ҳам ҳамлагарон истифода мебаранд.

Умуман, зеҳни сунъии тавлидӣ муҳофизати нармафзори зарароварро тавассути имкон додан ба гурӯҳҳои амниятӣ барои фикр кардан мисли ҳамлагар - тавлиди таҳдидҳо ва роҳҳои ҳалли нав дар дохили ширкат, тақвият медиҳад. Новобаста аз он ки он истеҳсоли нармафзори зараровари синтетикӣ барои беҳтар кардани сатҳи ошкоркунӣ ё истифодаи зеҳни сунъӣ барои шарҳ додан ва нигоҳ доштани нармафзори воқеии зараровар, ки дар шабакаҳо мавҷуданд, ин усулҳо дар тамоми соҳаҳо татбиқ мешаванд. Бонк метавонад таҳлили нармафзори зарароварро, ки аз зеҳни сунъӣ идора мешавад, барои таҳлили зуди макрои шубҳанок дар ҷадвали электронӣ истифода барад, дар ҳоле ки як ширкати истеҳсолӣ метавонад ба зеҳни сунъӣ барои ошкор кардани нармафзори зарароваре, ки системаҳои назорати саноатиро ҳадаф қарор медиҳанд, такя кунад. Бо такмил додани таҳлили анъанавии нармафзори зараровар бо зеҳни сунъии тавлидӣ, ташкилотҳо метавонанд ба маъракаҳои нармафзори зараровар нисбат ба пештара зудтар ва фаъолтар посух диҳанд.

Таҳлили иктишофии таҳдидҳо ва автоматикунонӣ

Ҳар рӯз, ташкилотҳо бо маълумоти иктишофии таҳдидҳо - аз манбаъҳои нишондиҳандаҳои нав кашфшудаи созиш (IOC) то гузоришҳои таҳлилгарон дар бораи тактикаҳои ҳакерҳои нав - дучор мешаванд. Мушкилот барои гурӯҳҳои амниятӣ аз ин сели иттилоот ва гирифтани фаҳмишҳои амалӣ иборат аст. Зеҳни сунъии тавлидӣ дар автоматикунонии таҳлил ва истеъмоли иктишофии таҳдидҳо. Ба ҷои дастӣ хондани даҳҳо гузоришҳо ё вурудоти пойгоҳи додаҳо, таҳлилгарон метавонанд зеҳни сунъиро барои ҷамъбаст ва контекстуализатсияи иктишофии таҳдидҳо бо суръати мошин истифода баранд.

Як мисоли мушаххас маҷмӯи Threat Intelligence -и Google мебошад , ки зеҳни сунъии тавлидкунанда (модели Gemini)-ро бо маҷмӯаи маълумоти таҳдидҳои Google аз Mandiant ва VirusTotal муттаҳид мекунад. Ин зеҳни сунъӣ "ҷустуҷӯи гуфтугӯӣ дар саросари анбори бузурги зеҳнии таҳдидҳои Google"-ро таъмин мекунад , ки ба корбарон имкон медиҳад, ки саволҳои табиӣ дар бораи таҳдидҳо диҳанд ва ҷавобҳои нодуруст гиранд ( Чӣ гуна зеҳни сунъии тавлидкунандаро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ ). Масалан, як таҳлилгар метавонад пурсад: "Оё мо ягон нармафзори зараровареро, ки ба Threat Group X марбут аст ва ба соҳаи мо нигаронида шудааст, дидем?" ва зеҳни сунъӣ маълумоти дахлдорро мегирад ва шояд қайд кунад, ки "Бале, Threat Group X моҳи гузашта бо истифода аз нармафзори зараровари Y ба маъракаи фишинг пайваст карда шуда буд" , дар баробари хулосаи рафтори он нармафзори зараровар. Ин вақти ҷамъоварии маълумотеро, ки дар акси ҳол дархости асбобҳои гуногун ё хондани гузоришҳои дарозро талаб мекунад, ба таври назаррас кам мекунад.

Зеҳни сунъии тавлидӣ инчунин метавонад тамоюлҳои таҳдидҳоро бо ҳам муқоиса ва ҷамъбаст кунад. Он метавонад ҳазорҳо паёмҳои блоги амниятӣ, хабарҳои вайронкунӣ ва сӯҳбатҳои торикро аз назар гузаронад ва сипас хулосаи иҷроияи "таҳдидҳои асосии киберӣ дар ин ҳафта"-ро барои брифинги CISO таҳия кунад. Анъанавӣ, ин сатҳи таҳлил ва гузоришдиҳӣ саъю кӯшиши зиёди инсониро талаб мекард; ҳоло як модели хуб танзимшуда метавонад онро дар тӯли чанд сония таҳия кунад ва одамон танҳо натиҷаро такмил диҳанд. Ширкатҳо ба монанди ZeroFox FoxGPT-ро, ки як абзори тавлидкунандаи зеҳни сунъӣ аст, ки махсус барои "суръат бахшидан ба таҳлил ва ҷамъбасти маълумоти иктишофӣ дар маҷмӯи додаҳои калон", аз ҷумла мундариҷаи зараровар ва маълумоти фишинг тарҳрезӣ шудааст (Чӣ гуна зеҳни сунъии тавлидӣ метавонад дар амнияти киберӣ истифода шавад? 10 мисоли воқеӣ). Бо автоматикунонии кори вазнини хондан ва истинодҳои салиб, зеҳни сунъӣ ба гурӯҳҳои иктишофии таҳдидҳо имкон медиҳад, ки ба қабули қарор ва вокуниш диққат диҳанд.

Ҳолати дигари истифода шикори таҳдидҳои гуфтугӯӣ. Тасаввур кунед, ки як таҳлилгари амниятӣ бо ёвари зеҳни сунъӣ муошират мекунад: "Ба ман ягон аломати хориҷ кардани маълумотро дар 48 соати охир нишон диҳед" ё "Ҳамлагарон дар ин ҳафта кадом осебпазириҳои навро истифода мебаранд?" Зеҳни сунъӣ метавонад дархостро тафсир кунад, гузоришҳои дохилӣ ё манбаъҳои берунаи иттилоотиро ҷустуҷӯ кунад ва бо ҷавоби равшан ё ҳатто рӯйхати ҳодисаҳои дахлдор посух диҳад. Ин дур нест - системаҳои муосири иттилоот ва идоракунии рӯйдодҳои амниятӣ (SIEM) ба ворид кардани дархостҳои забони табиӣ шурӯъ мекунанд. Масалан, маҷмӯи амниятии QRadar-и IBM дар соли 2024 хусусиятҳои зеҳни сунъии тавлидиро илова мекунад, то ба таҳлилгарон имкон диҳад, ки "[…] саволҳои мушаххасро дар бораи роҳи ҷамъбастии ҳамла" -и ҳодиса диҳанд ва ҷавобҳои муфассал гиранд. Он инчунин метавонад "зеҳни таҳдидҳои хеле муҳимро тафсир ва ҷамъбаст кунад" (Чӣ гуна зеҳни сунъии тавлидӣ метавонад дар амнияти киберӣ истифода шавад? 10 мисоли воқеӣ). Асосан, зеҳни сунъии тавлидӣ кӯҳҳои маълумоти техникиро ба фаҳмишҳои андозаи чат дар талабот табдил медиҳад.

Дар тамоми соҳаҳо, ин оқибатҳои калон дорад. Як провайдери тиббӣ метавонад аз зеҳни сунъӣ барои огоҳ будан аз гурӯҳҳои охирини нармафзори фидя, ки ба беморхонаҳо нигаронида шудаанд, истифода барад, бе он ки таҳлилгари худро ба таҳқиқоти пурравақт бахшад. SOC-и як ширкати чакана метавонад ҳангоми шиносоии кормандони IT мағоза тактикаҳои нави нармафзори зараровари POS-ро зуд ҷамъбаст кунад. Ва дар ҳукумат, ки дар он ҷо маълумоти таҳдид аз агентиҳои гуногун бояд синтез карда шаванд, зеҳни сунъӣ метавонад гузоришҳои муттаҳидшударо таҳия кунад, ки огоҳиҳои асосиро нишон медиҳанд. Бо автоматикунонии ҷамъоварӣ ва тафсири иттилооти таҳдид, зеҳни сунъии тавлидкунанда ба ташкилотҳо кӯмак мекунад, ки ба таҳдидҳои пайдошуда зудтар вокуниш нишон диҳанд ва хатари аз даст додани огоҳиҳои муҳимро, ки дар садо пинҳон шудаанд, коҳиш диҳанд.

Optimization Center Operations Security (SOC)

Марказҳои Амнияти Амният бо хастагии ҳушдор ва миқдори харобиовари маълумот маъруфанд. Таҳлилгари маъмулии SOC метавонад ҳар рӯз ҳазорҳо ҳушдорҳо ва рӯйдодҳоро гузарад ва ҳодисаҳои эҳтимолиро тафтиш кунад. AI тавлидкунанда ҳамчун мултипликатори қувва дар SOCs тавассути автоматикунонии кори муқаррарӣ, пешниҳоди хулосаҳои оқилона ва ҳатто ташкили баъзе посухҳо амал мекунад. Ҳадаф оптимизатсияи ҷараёнҳои кории SOC мебошад, то таҳлилгарони инсонӣ ба масъалаҳои муҳимтарин тамаркуз кунанд, дар ҳоле ки пилоти AI боқимондаро ҳал мекунад.

Яке аз барномаҳои асосӣ истифодаи зеҳни сунъии тавлидкунанда ҳамчун "Копилоти таҳлилгар". Копилоти амниятии Microsoft, ки қаблан қайд шуда буд, инро нишон медиҳад: он "барои кӯмак ба кори таҳлилгари амниятӣ тарҳрезӣ шудааст, на иваз кардани он", ки ба тафтишот ва гузоришдиҳии ҳодисаҳо кӯмак мекунад (Копилоти амниятии Microsoft як ёвари нави зеҳни сунъии GPT-4 барои амнияти киберӣ аст | The Verge). Дар амал, ин маънои онро дорад, ки таҳлилгар метавонад маълумоти хом - гузоришҳои девори оташ, ҷадвали рӯйдод ё тавсифи ҳодиса - ворид кунад ва аз зеҳни сунъӣ хоҳиш кунад, ки онро таҳлил кунад ё ҷамъбаст кунад. Копилот метавонад ривоятеро ба монанди ин нашр кунад: "Чунин ба назар мерасад, ки соати 2:35-и шаб як вуруди шубҳанок аз IP X дар сервери Y муваффақ шуд, ки пас аз он интиқоли ғайриоддии маълумот сурат гирифт, ки нишон медиҳад, ки вайронкунии эҳтимолии он сервер вуҷуд дорад." Ин намуди контексткунонии фаврӣ вақте ки вақт муҳим аст, бебаҳо аст.

Ҳампилотҳои зеҳни сунъӣ инчунин ба коҳиш додани бори триажи сатҳи 1 мусоидат мекунанд. Тибқи маълумоти соҳа, як гурӯҳи амниятӣ метавонад дар як ҳафта 15 соат вақтро танҳо барои ҷудо кардани тақрибан 22,000 огоҳӣ ва мусбатҳои бардурӯғ сарф кунад (6 ҳолати истифода барои зеҳни сунъии тавлидӣ дар амнияти киберӣ [+ мисолҳо] ). Бо зеҳни сунъии тавлидӣ, бисёре аз ин огоҳиҳоро ба таври худкор триаж кардан мумкин аст - зеҳни сунъӣ метавонад онҳоеро, ки ба таври возеҳ безараранд (бо далелҳои додашуда) рад кунад ва онҳоеро, ки воқеан ба таваҷҷӯҳ ниёз доранд, таъкид кунад ва баъзан ҳатто афзалиятро пешниҳод кунад. Дар асл, қувваи зеҳни сунъии тавлидӣ дар фаҳмидани контекст маънои онро дорад, ки он метавонад огоҳиҳоеро, ки метавонанд дар алоҳидагӣ безарар ба назар расанд, вале дар якҷоягӣ ҳамлаи бисёрмарҳилавиро нишон диҳанд, бо ҳам алоқаманд кунад. Ин имкони аз даст додани ҳамларо аз сабаби "хастагии огоҳӣ" кам мекунад.

Таҳлилгарони SOC инчунин забони табииро бо зеҳни сунъӣ барои суръат бахшидан ба шикор ва тафтишот истифода мебаранд. Масалан, платформаи зеҳни сунъии Purple аз SentinelOne интерфейси асоси LLM-ро бо маълумоти амниятии вақти воқеӣ муттаҳид мекунад, ки ба таҳлилгарон имкон медиҳад, ки "саволҳои мураккаби шикори таҳдидҳоро бо забони англисии оддӣ пурсанд ва ҷавобҳои зуд ва дақиқ гиранд" ( Чӣ гуна зеҳни сунъии тавлидкунандаро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ ). Таҳлилгар метавонад нависад: "Оё ягон нуқтаи ниҳоӣ бо домени badguy123[.]com дар моҳи охир муошират кардааст?" ва зеҳни сунъии Purple барои посух додан дар гузоришҳо ҷустуҷӯ мекунад. Ин таҳлилгарро аз навиштани дархостҳо ё скриптҳои пойгоҳи додаҳо наҷот медиҳад - зеҳни сунъӣ ин корро дар зери сарлавҳа анҷом медиҳад. Ин инчунин маънои онро дорад, ки таҳлилгарони хурдсол метавонанд вазифаҳоеро иҷро кунанд, ки қаблан муҳандиси ботаҷрибаеро талаб мекарданд, ки дар забонҳои дархостҳо маҳорат дошт ва маҳорати дастаро тавассути кӯмаки зеҳни сунъӣ самаранок баланд мебардорад . Дар ҳақиқат, таҳлилгарон гузориш медиҳанд, ки роҳнамоии тавлидкунандаи зеҳни сунъӣ "маҳорат ва маҳорати онҳоро афзоиш медиҳад" , зеро кормандони хурд ҳоло метавонанд аз зеҳни сунъӣ дастгирии рамзгузорӣ ё маслиҳатҳои таҳлилиро дар асоси дархост гиранд ва вобастагиро ба дархости ҳамеша аз аъзоёни калони даста барои кӯмак коҳиш медиҳанд ( 6 ҳолати истифода барои зеҳни сунъии тавлидӣ дар амнияти киберӣ [+ мисолҳо] ).

Як роҳи дигари беҳсозии SOC ин ҷамъбаст ва ҳуҷҷатгузории автоматии ҳодисаҳо. Пас аз коркарди ҳодиса, касе бояд гузориш нависад - вазифае, ки бисёриҳо онро дилгиркунанда меҳисобанд. Зеҳни сунъии тавлидшаванда метавонад маълумоти криминалистиро (гузоришҳои система, таҳлили нармафзори зараровар, мӯҳлати амалҳо) гирифта, гузориши аввалини ҳодисаро тавлид кунад. IBM ин қобилиятро дар QRadar месозад, то бо "як клик" хулосаи ҳодиса барои ҷонибҳои манфиатдор (роҳбарон, гурӯҳҳои IT ва ғайра) таҳия карда шавад. (Чӣ гуна зеҳни сунъии тавлидшавандаро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ). Ин на танҳо вақтро сарфа мекунад, балки кафолат медиҳад, ки дар гузориш ҳеҷ чиз нодида гирифта намешавад, зеро зеҳни сунъӣ метавонад ҳама тафсилоти дахлдорро мунтазам дар бар гирад. Ба ҳамин монанд, барои риоя ва аудит, зеҳни сунъӣ метавонад шаклҳо ё ҷадвалҳои далелҳоро дар асоси маълумоти ҳодиса пур кунад.

Натиҷаҳои воқеӣ ҷолибанд. Қабулкунандагони аввалини SOAR (оркестратсияи амниятӣ, автоматизатсия ва вокуниш)-и Swimlane, ки аз ҷониби AI идора мешавад, аз афзоиши бузурги ҳосилнокӣ хабар медиҳанд - масалан, Global Data Systems мушоҳида карданд, ки дастаи SecOps-и онҳо бори хеле калонтари парвандаҳоро идора мекунад; як директор гуфт: "Он чизе, ки ман имрӯз бо 7 таҳлилгар мекунам, эҳтимолан 20 кормандро бе автоматикунонии AI мегирад" (Чӣ гуна AI-и тавлидшавандаро дар амнияти киберӣ истифода бурдан мумкин аст). Ба ибораи дигар, AI дар SOC метавонад иқтидорро афзоиш диҳад. Дар тамоми соҳаҳо, хоҳ ширкати технологӣ бошад, ки бо огоҳиҳои амнияти абрӣ сарукор дорад ё корхонаи истеҳсолӣ, ки системаҳои OT-ро назорат мекунад, дастаҳои SOC бо истифода аз ёварони AI тавлидкунандаи AI, ошкоркунӣ ва вокуниши зудтар, ҳодисаҳои камтари аз даст рафта ва амалиёти самараноктарро ба даст меоранд. Гап дар бораи кор бо оқилона аст - имкон додан ба мошинҳо барои иҷрои вазифаҳои такроршаванда ва пур аз маълумот, то одамон тавонанд интуисия ва таҷрибаи худро дар ҷое, ки муҳимтар аст, истифода баранд.

Идоракунии осебпазирӣ ва моделиронии таҳдид

Муайян ва идоракунии осебпазириҳо - нуқсонҳои нармафзор ё системаҳое, ки ҳамлагарон метавонанд аз онҳо истифода баранд - як вазифаи асосии амнияти киберӣ мебошад. Зеҳни сунъии тавлидӣ идоракунии осебпазириҳоро тавассути суръат бахшидан ба кашфиёт, мусоидат ба афзалиятдиҳии часбҳо ва ҳатто тақлид кардани ҳамлаҳо ба ин осебпазириҳо барои беҳтар кардани омодагӣ беҳтар мекунад. Дар асл, зеҳни сунъӣ ба ташкилотҳо кӯмак мекунад, ки сӯрохиҳои зиреҳи худро зудтар пайдо ва ислоҳ кунанд ва пеш аз он ки ҳамлагарони воқеӣ ин корро кунанд, мудофиаро фаъолона санҷанд

Яке аз барномаҳои муҳим истифодаи зеҳни сунъии тавлидӣ барои баррасии автоматии рамз ва кашфи осебпазирӣ. Пойгоҳҳои калони рамзҳо (хусусан системаҳои кӯҳна) аксар вақт камбудиҳои амниятиро дар бар мегиранд, ки нодида гирифта мешаванд. Моделҳои зеҳни сунъии тавлидӣ метавонанд дар бораи амалияҳои рамзгузории амн ва намунаҳои маъмулии хатогиҳо омӯзонида шаванд, сипас барои ёфтани осебпазириҳои эҳтимолӣ дар рамзи сарчашма ё файлҳои дуӣ тартиб дода шаванд. Масалан, муҳаққиқони NVIDIA як лӯлаи зеҳни сунъии тавлидиро таҳия карданд, ки метавонад контейнерҳои нармафзори кӯҳнаро таҳлил кунад ва осебпазириҳоро "бо дақиқии баланд - то 4 маротиба тезтар аз коршиносони инсонӣ" муайян кунад. (6 ҳолати истифодаи зеҳни сунъии тавлидӣ дар амнияти киберӣ [+ мисолҳо] ). Зеҳни сунъӣ асосан фаҳмид, ки рамзи ноамн чӣ гуна аст ва тавонист нармафзори даҳсолаҳоро скан кунад, то функсияҳо ва китобхонаҳои хатарнокро қайд кунад ва раванди одатан сусти аудити дастии рамзро хеле суръат бахшад. Ин гуна абзор метавонад барои соҳаҳо ба монанди молия ё ҳукумат, ки ба пойгоҳҳои калон ва кӯҳнаи рамзҳо такя мекунанд, тағйирдиҳандаи бозӣ бошад - зеҳни сунъӣ ба муосирсозии амният тавассути кофтани масъалаҳое, ки кормандон метавонанд моҳҳо ё солҳоро барои ёфтанашон сарф кунанд (агар ягон бор бошад), кӯмак мекунад.

Зеҳни сунъии тавлидӣ инчунин ба ҷараёнҳои кории идоракунии осебпазирӣ тавассути коркарди натиҷаҳои сканкунии осебпазирӣ ва афзалият додан ба онҳо мусоидат мекунад. Асбобҳо ба монанди ExposureAI аз зеҳни сунъии тавлидӣ истифода мебаранд, то ба таҳлилгарон имкон диҳанд, ки маълумоти осебпазириро бо забони оддӣ пурсанд ва ҷавобҳои фаврӣ гиранд (Чӣ гуна зеҳни сунъии тавлидиро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ). ExposureAI метавонад "роҳи пурраи ҳамларо дар як ривоят ҷамъбаст кунад" ва шарҳ диҳад, ки чӣ гуна ҳамлагар метавонад онро бо дигар заъфҳо барои осеб расонидан ба система пайваст кунад. Он ҳатто амалҳоро барои ислоҳ тавсия медиҳад ва ба саволҳои минбаъда дар бораи хатар ҷавоб медиҳад. Ин маънои онро дорад, ки вақте CVE-и нави муҳим (осебпазириҳо ва таъсири муштарак) эълон карда мешавад, таҳлилгар метавонад аз зеҳни сунъӣ пурсад: "Оё ягон сервери мо аз ин CVE зарар дидааст ва агар мо ислоҳ накунем, бадтарин сенария кадом аст?" ва арзёбии возеҳро аз маълумоти сканкунии худи ташкилот гирад. Бо контексткунонии осебпазириҳо (масалан, ин осебпазирӣ ба интернет ва дар сервери арзишманд дучор мешавад, аз ин рӯ он афзалияти аввалиндараҷа аст), зеҳни сунъии тавлидӣ ба дастаҳо дар ислоҳи оқилона бо захираҳои маҳдуд кӯмак мекунад.

Илова бар ёфтан ва идоракунии осебпазириҳои маълум, зеҳни сунъии тавлидӣ ба санҷиши воридшавӣ ва симулятсияи ҳамла мусоидат мекунад - асосан кашф кардани осебпазириҳои номаълум ё санҷиши назорати амниятӣ. Шабакаҳои рақобатии тавлидӣ (GAN), як навъи зеҳни сунъии тавлидӣ, барои эҷоди маълумоти синтетикӣ истифода шудаанд, ки трафики воқеии шабака ё рафтори корбарро тақлид мекунанд, ки метавонад намунаҳои ҳамлаи пинҳониро дар бар гирад. Таҳқиқоти соли 2023 истифодаи GAN-ҳоро барои тавлиди трафики воқеии ҳамлаи рӯзи сифр барои омӯзонидани системаҳои ошкоркунии дахолат пешниҳод кард ( 6 ҳолати истифода барои зеҳни сунъии тавлидӣ дар амнияти киберӣ [+ мисолҳо] ). Бо таъмин кардани IDS бо сенарияҳои ҳамлаи сохташудаи зеҳни сунъӣ (ки хатари истифодаи нармафзори воқеии зарароварро дар шабакаҳои истеҳсолӣ надоранд), ташкилотҳо метавонанд дифоъи худро барои шинохтани таҳдидҳои нав бе интизори зарба задан ба онҳо дар асл омӯзонанд. Ба ҳамин монанд, зеҳни сунъӣ метавонад ҳамлагарро, ки системаро месанҷад, тақлид кунад - масалан, ба таври худкор усулҳои гуногуни истисморро дар муҳити бехатар санҷад, то бубинад, ки оё ягонтои онҳо муваффақ шудаанд. Агентии лоиҳаҳои тадқиқоти пешрафтаи дифоъи ИМА (DARPA) дар ин ҷо умед мебинад: мусобиқаи киберии он дар соли 2023 аз зеҳни сунъии тавлидӣ (ба монанди моделҳои забони калон) ҳамчун як қисми рақобат истифода мебарад ( DARPA ҳадаф дорад зеҳни сунъӣ ва барномаҳои мустақилро таҳия кунад, ки ҷанговарон метавонанд ба онҳо эътимод кунанд > Вазорати дифоъи ИМА > Хабарҳои Вазорати дифоъ ). Ин ташаббус таъкид мекунад, ки зеҳни сунъӣ на танҳо барои ислоҳи сӯрохиҳои маълум кӯмак мекунад; он фаъолона сӯрохиҳои навро кашф мекунад ва ислоҳҳоро пешниҳод мекунад, вазифае, ки анъанавӣ ба муҳаққиқони ботаҷриба (ва гаронбаҳо)-и амниятӣ маҳдуд аст.

Ҳатто метавонад сӯзишвории тавлидӣ (AI)-и интеллектуалӣ ва дугоникҳои рақамиро барои мудофиа эҷод кунад. Ширкатҳои навтаъсис системаҳои фиребандаи зеҳни сунъиро таҳия мекунанд, ки серверҳо ё дастгоҳҳои воқеиро ба таври боварибахш тақлид мекунанд. Тавре ки яке аз директорони генералӣ шарҳ дод, AI-и тавлидкунанда метавонад "системаҳои рақамиро барои тақлид кардани системаҳои воқеӣ клон кунад ва ҳакерҳоро ҷалб кунад" (6 ҳолати истифодаи AI -и тавлидкунанда дар амнияти киберӣ [+ мисолҳо]). Ин сӯзишвориҳои тавлидшуда аз ҷониби AI мисли муҳити воқеӣ рафтор мекунанд (масалан, дастгоҳи қалбакии IoT, ки телеметрияи муқаррариро мефиристад), аммо танҳо барои ҷалби ҳамлагарон вуҷуд доранд. Вақте ки ҳамлагар сӯзишвориро ҳадаф қарор медиҳад, AI асосан онҳоро фиреб додааст, то усулҳои онҳоро ошкор кунанд, ки сипас ҳимоятгарон метавонанд онҳоро омӯзанд ва барои тақвияти системаҳои воқеӣ истифода баранд. Ин консепсия, ки бо моделсозии тавлидкунанда кор мекунад, роҳи дурнамоеро барои тағйир додани мизҳо ба ҳамлагаронбо истифода аз фиребе, ки аз ҷониби AI такмил дода шудааст, фароҳам меорад.

Дар саросари соҳаҳо, идоракунии тезтар ва оқилонаи осебпазирӣ маънои камтари вайронкуниро дорад. Масалан, дар соҳаи IT дар соҳаи тандурустӣ, AI метавонад китобхонаи осебпазири кӯҳнаро дар дастгоҳи тиббӣ зуд муайян кунад ва пеш аз он ки ягон ҳамлакунанда аз он истифода кунад, ислоҳи нармафзорро талаб кунад. Дар бонкдорӣ, AI метавонад ҳамлаи инсайдериро ба замимаи нав тақлид кунад, то маълумоти муштариён дар ҳама сенарияҳо бехатар боқӣ монад. Ҳамин тариқ, AI-и тавлидшуда ҳамчун микроскоп ва стресс-озмоиш барои мавқеи амнияти созмонҳо амал мекунад: он камбудиҳои пинҳоншударо равшан мекунад ва системаҳоро бо роҳҳои хаёлӣ барои таъмини устуворӣ равшан мекунад.

Тавлиди коди бехатар ва таҳияи нармафзор

Истеъдодҳои зеҳни сунъии тавлидӣ танҳо бо ошкор кардани ҳамлаҳо маҳдуд намешаванд - онҳо инчунин барои эҷоди системаҳои бехатартар аз ибтидо. Дар таҳияи нармафзор, генераторҳои рамзи зеҳни сунъӣ (ба монанди GitHub Copilot, OpenAI Codex ва ғайра) метавонанд ба таҳиягарон дар навиштани код бо пешниҳоди порчаҳои рамз ё ҳатто тамоми функсияҳо кӯмак расонанд. Кунҷи амнияти киберӣ дар он аст, ки ин қисмҳои рамзи пешниҳодшуда аз ҷониби зеҳни сунъӣ бехатар бошанд ва аз зеҳни сунъӣ барои беҳтар кардани амалияҳои рамзгузорӣ истифода баранд.

Аз як тараф, зеҳни сунъии тавлидӣ метавонад ҳамчун ёвари рамзгузорӣ амал кунад, ки беҳтарин таҷрибаҳои амниятиро дар бар мегирад. Таҳиягарон метавонанд аз асбоби зеҳни сунъӣ хоҳиш кунанд, ки "Функсияи аз нав танзимкунии паролро дар Python тавлид кунед" ва дар ҳолати беҳтарин рамзеро баргардонанд, ки на танҳо функсионалӣ, балки инчунин дастурҳои бехатарро риоя мекунад (масалан, тасдиқи дурусти вуруд, сабти ном, коркарди хатогиҳо бидуни ихроҷи маълумот ва ғайра). Чунин ёваре, ки дар мисолҳои васеи рамзи бехатарӣ омӯзонида шудааст, метавонад ба коҳиш додани хатогиҳои инсонӣ, ки ба осебпазириҳо оварда мерасонанд, мусоидат кунад. Масалан, агар таҳиягар фаромӯш кунад, ки вуруди корбарро безарар гардонад (кушодани роҳ барои ворид кардани SQL ё масъалаҳои монанд), зеҳни сунъӣ метавонад онро пешфарз дар бар гирад ё онҳоро огоҳ кунад. Баъзе асбобҳои рамзгузории зеҳни сунъӣ ҳоло бо маълумоти ба амният нигаронидашуда барои хидмат ба ин ҳадафи дақиқ танзим карда мешаванд - асосан, ҷуфт кардани барномасозии зеҳни сунъӣ бо виҷдони амниятӣ.

Аммо, як тарафи дигар низ ҳаст: зеҳни сунъии тавлидӣ метавонад ба осонӣ осебпазириҳоро ба вуҷуд орад, агар дуруст идора карда нашавад. Чунон ки коршиноси амниятии Sophos Бен Вершаерен қайд кард, истифодаи зеҳни сунъии тавлидӣ барои рамзгузорӣ "барои рамзи кӯтоҳ ва тасдиқшаванда хуб аст, аммо вақте ки рамзи санҷиданашуда ба системаҳои истеҳсолӣ ворид карда мешавад, хатарнок аст" . Хатар дар он аст, ки зеҳни сунъӣ метавонад рамзи мантиқии дурустро тавлид кунад, ки ба тарзе ноамн аст, ки шахси ғайримутахассис шояд пай набарад. Ғайр аз ин, шахсони бадхоҳ метавонанд қасдан ба моделҳои зеҳни сунъии оммавӣ тавассути тухми намунаҳои рамзи осебпазир (як шакли заҳролудшавии маълумот) таъсир расонанд, то зеҳни сунъӣ рамзи ноамнро пешниҳод кунад. Аксари таҳиягарон коршиносони амниятӣ нестанд, аз ин рӯ, агар зеҳни сунъӣ ҳалли қулайро пешниҳод кунад, онҳо метавонанд онро кӯр-кӯрона истифода баранд, бе он ки дарк кунанд, ки он камбудие дорад (6 ҳолати истифода барои зеҳни сунъии тавлидӣ дар амнияти киберӣ [+ мисолҳо] ). Ин нигаронӣ воқеӣ аст - дар асл, ҳоло рӯйхати 10 беҳтарини OWASP барои LLM (моделҳои забони калон) мавҷуд аст, ки хатарҳои маъмулиро ба монанди ин дар истифодаи зеҳни сунъӣ барои рамзгузорӣ нишон медиҳад.

Барои муқобила бо ин масъалаҳо, коршиносон пешниҳод мекунанд, ки дар соҳаи рамзгузорӣ "мубориза бо зеҳни сунъии тавлидӣ бо зеҳни сунъии тавлидӣ" анҷом дода шавад. Дар амал, ин маънои истифодаи зеҳни сунъӣ барои баррасӣ ва санҷиши рамзе , ки дигар зеҳни сунъӣ (ё одамон) навиштаанд, дорад. Зеҳни сунъӣ метавонад рамзи навро нисбат ба як баррасикунандаи рамзи инсонӣ хеле зудтар тафтиш кунад ва осебпазириҳо ё мушкилоти мантиқии эҳтимолиро қайд кунад. Мо аллакай асбобҳоеро мебинем, ки ба давраи ҳаёти таҳияи нармафзор ворид мешаванд: рамз навишта мешавад (шояд бо ёрии зеҳни сунъӣ), сипас модели тавлидӣ, ки дар принсипҳои рамзи бехатар омӯзонида шудааст, онро баррасӣ мекунад ва гузоришеро дар бораи ҳама гуна нигарониҳо (масалан, истифодаи функсияҳои кӯҳнашуда, санҷишҳои аутентификатсияи гумшуда ва ғайра) тавлид мекунад. Таҳқиқоти NVIDIA, ки қаблан зикр шуда буд, муайян кардани осебпазирии 4 маротиба тезтарро дар рамз ба даст овард, мисоли истифодаи зеҳни сунъӣ барои таҳлили рамзи бехатар аст ( 6 ҳолати истифода барои зеҳни сунъии тавлидӣ дар амнияти киберӣ [+ мисолҳо] ).

Ғайр аз ин, зеҳни сунъии тавлидӣ метавонад дар эҷоди конфигуратсияҳо ва скриптҳои бехатар. Масалан, агар ба ширкат лозим ояд, ки инфрасохтори абрии амнро ҷойгир кунад, муҳандис метавонад аз зеҳни сунъӣ хоҳиш кунад, ки скриптҳои конфигуратсияро (инфрасохтор ҳамчун рамз) бо назорати амниятӣ (ба монанди сегментатсияи дурусти шабака, нақшҳои IAM бо имтиёзҳои камтар) тавлид кунад. Зеҳни сунъӣ, ки дар бораи ҳазорҳо чунин конфигуратсияҳо омӯзонида шудааст, метавонад як хатти асосиро эҷод кунад, ки муҳандис сипас онро такмил медиҳад. Ин танзими бехатари системаҳоро суръат мебахшад ва хатогиҳои нодурусти конфигуратсияро коҳиш медиҳад - манбаи маъмули ҳодисаҳои амнияти абрӣ.

Баъзе ташкилотҳо инчунин аз зеҳни сунъии тавлидӣ барои нигоҳ доштани пойгоҳи дониш дар бораи намунаҳои рамзгузории амн истифода мебаранд. Агар таҳиягар дар бораи чӣ гуна бехатар татбиқ кардани хусусияти муайян итминон надошта бошад, онҳо метавонанд аз зеҳни сунъии дохилӣ, ки аз лоиҳаҳои гузашта ва дастурҳои амниятии ширкат омӯхтааст, пурсиш кунанд. Зеҳни сунъӣ метавонад равиши тавсияшуда ё ҳатто порчаи рамзро баргардонад, ки ҳам бо талаботи функсионалӣ ва ҳам бо стандартҳои амниятии ширкат мувофиқат мекунад. Ин равиш аз ҷониби абзорҳо ба монанди Automation Questionnaire Automation-и Secureframe, ки ҷавобҳоро аз сиёсатҳо ва роҳҳои ҳалли қаблии ширкат барои таъмини посухҳои мувофиқ ва дақиқ (асосан тавлиди ҳуҷҷатҳои амн) мегирад (Чӣ гуна зеҳни сунъии тавлидӣ метавонад дар амнияти киберӣ истифода шавад? 10 мисоли воқеӣ). Ин консепсия ба рамзгузорӣ табдил меёбад: зеҳни сунъӣ, ки чӣ гуна шумо чизеро қаблан бехатар татбиқ кардаед, "ба ёд меорад" ва шуморо барои иҷрои он роҳнамоӣ мекунад.

Хулоса, зеҳни сунъии тавлидӣ тавассути дастрастар кардани кӯмаки рамзгузории амн. Соҳаҳое, ки нармафзори фармоишии зиёдеро таҳия мекунанд - технология, молия, мудофиа ва ғайра - аз доштани ҳампилотҳои зеҳни сунъӣ, ки на танҳо рамзгузориро суръат мебахшанд, балки ҳамчун як баррасии доимии амниятӣ амал мекунанд, баҳра мебаранд. Ҳангоми дуруст идора кардан, ин абзорҳои зеҳни сунъӣ метавонанд пайдоиши осебпазириҳои навро кам кунанд ва ба гурӯҳҳои таҳиякунанда кӯмак расонанд, ки ба беҳтарин таҷрибаҳо риоя кунанд, ҳатто агар даста дар ҳар як қадам коршиноси амниятӣ надошта бошад. Натиҷа нармафзорест, ки аз рӯзи аввал нисбат ба ҳамлаҳо устувортар аст.

Дастгирии вокуниш ба ҳодисаҳо

Вақте ки ҳодисаи амнияти киберӣ рух медиҳад - хоҳ паҳншавии нармафзори зараровар, хоҳ вайроншавии маълумот ё қатъи система аз ҳамла - вақт муҳим аст. Сеҳри сунъии тавлидӣ барои дастгирии гурӯҳҳои вокуниш ба ҳодисаҳо (IR) дар пешгирӣ ва бартараф кардани ҳодисаҳо зудтар ва бо маълумоти бештар истифода мешавад. Идея дар он аст, ки Сеҳри сунъӣ метавонад қисме аз бори тафтишотӣ ва ҳуҷҷатгузориро ҳангоми ҳодиса ба дӯш гирад ва ҳатто баъзе амалҳои вокунишро пешниҳод ё автоматӣ кунад.

Як нақши калидии зеҳни сунъӣ дар IR таҳлил ва ҷамъбасти ҳодисаҳо дар вақти воқеӣ. Дар миёни ҳодиса, посухдиҳандагон метавонанд ба саволҳое ба монанди "Ҳамлагар чӣ гуна ворид шуд?", "Кадом системаҳо осеб дидаанд?"ва "Кадом маълумот метавонад осеб дида бошад?". Зеҳни сунъии тавлидкунанда метавонад гузоришҳо, огоҳиҳо ва маълумоти криминалистиро аз системаҳои осебдида таҳлил кунад ва зуд маълумот пешниҳод кунад. Масалан, Microsoft Security Copilot ба посухдиҳандаи ҳодиса имкон медиҳад, ки далелҳои гуногунро (файлҳо, URL-ҳо, гузоришҳои рӯйдодҳо) пешниҳод кунад ва ҷадвали вақт ё хулосаро талаб кунад (Microsoft Security Copilot як ёвари нави зеҳни сунъии GPT-4 барои амнияти киберӣ аст | The Verge). Зеҳни сунъӣ метавонад бо чунин посух диҳад: "Ҳуҷуми эҳтимолӣ бо почтаи электронии фишинг ба корбар JohnDoe соати 10:53 GMT, ки дорои нармафзори зараровари X мебошад, оғоз ёфт. Пас аз иҷро, нармафзори зараровар дари қафоеро эҷод кард, ки ду рӯз пас барои гузаштан ба сервери молиявӣ истифода мешуд, ки дар он ҷо маълумот ҷамъ мекард." Доштани ин тасвири мувофиқ дар дақиқаҳо ба ҷои соатҳо ба даста имкон медиҳад, ки қарорҳои огоҳона (масалан, кадом системаҳоро ҷудо кардан лозим аст) хеле зудтар қабул кунанд.

Зеҳни сунъии тавлидӣ инчунин метавонад амалҳои маҳдудкунӣ ва барқароркуниро пешниҳод кунад. Масалан, агар нуқтаи ниҳоӣ аз ҷониби нармафзори фидя сироят ёфта бошад, воситаи зеҳни сунъӣ метавонад скрипт ё маҷмӯи дастурҳоро барои ҷудо кардани он мошин, ғайрифаъол кардани ҳисобҳои муайян ва масдуд кардани IP-ҳои зараровари маълум дар девори оташӣ тавлид кунад - асосан як иҷрои китоби бозӣ. Palo Alto Networks қайд мекунад, ки зеҳни сунъии тавлидӣ қодир аст "амалҳо ё скриптҳои мувофиқро вобаста ба хусусияти ҳодиса тавлид кунад"ва қадамҳои аввали вокунишро автоматӣ кунад (Зеҳни сунъии тавлидӣ дар амнияти киберӣ чист? - Palo Alto Networks). Дар сенарияе, ки дастаи амниятӣ аз ҳад зиёд кор мекунад (масалан, ҳамлаи васеъ дар садҳо дастгоҳ), зеҳни сунъӣ ҳатто метавонад мустақиман баъзе аз ин амалҳоро дар шароити пешакӣ тасдиқшуда иҷро кунад ва мисли як посухдиҳандаи хурдсол амал кунад, ки бемайлон кор мекунад. Масалан, як агенти зеҳни сунъӣ метавонад ба таври худкор эътимодномаҳоеро, ки онро вайрон кардаанд, аз нав танзим кунад ё хостҳоеро, ки фаъолияти зарароварро нишон медиҳанд, ки ба профили ҳодиса мувофиқат мекунанд, карантин кунад.

Ҳангоми вокуниш ба ҳодиса, муошират муҳим аст - ҳам дар дохили даста ва ҳам барои ҷонибҳои манфиатдор. Зеҳни сунъии тавлидкунанда метавонад тавассути таҳияи гузоришҳо ё хулосаҳои навсозии ҳодисаҳо фавран. Ба ҷои он ки муҳандис мушкилоти худро қатъ кунад ва навсозии почтаи электрониро нависад, онҳо метавонанд аз зеҳни сунъӣ пурсанд: "Хулосаи он чизеро, ки дар ин ҳодиса то ҳол рух додааст, барои огоҳ кардани роҳбарон ҷамъбаст кунед." Зеҳни сунъӣ, ки маълумоти ҳодисаро қабул кардааст, метавонад хулосаи мухтасар тартиб диҳад: "То соати 3:00, ҳамлагарон ба 2 ҳисоби корбар ва 5 сервер дастрасӣ пайдо кардаанд. Маълумоти осебдида сабтҳои муштариёнро дар пойгоҳи додаҳои X дар бар мегирад. Чораҳои маҳдудкунӣ: Дастрасии VPN барои ҳисобҳои осебдида бекор карда шудааст ва серверҳо ҷудо карда шудаанд. Қадамҳои оянда: ҷустуҷӯи ҳама гуна механизмҳои пойдорӣ." Сипас, посухдиҳанда метавонад инро зуд тафтиш ё танзим кунад ва онро фиристад ва кафолат диҳад, ки ҷонибҳои манфиатдор бо маълумоти дақиқ ва муосир дар ҷараён бошанд.

Пас аз ором шудани чанг, одатан гузориши муфассали ҳодиса барои омода кардан ва дарсҳои омӯхташуда барои тартиб додан вуҷуд дорад. Ин як самти дигаре аст, ки дастгирии зеҳни сунъӣ дар он дурахшон аст. Он метавонад ҳамаи маълумоти ҳодисаро баррасӣ кунад ва гузориши пас аз ҳодисаро, ки сабаби аслӣ, хронология, таъсир ва тавсияҳоро дар бар мегирад, таҳия кунад. Масалан, IBM зеҳни сунъии тавлидиро барои эҷоди "хулосаҳои оддии парвандаҳо ва ҳодисаҳои амниятӣ, ки метавонанд бо ҷонибҳои манфиатдор мубодила карда шаванд" бо пахш кардани тугма муттаҳид мекунад (Чӣ гуна зеҳни сунъии тавлидиро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ). Бо содда кардани гузоришдиҳии пас аз амал, ташкилотҳо метавонанд беҳбудиҳоро зудтар амалӣ кунанд ва инчунин ҳуҷҷатҳои беҳтарро барои риояи қонунҳо дошта бошанд.

Як истифодаи инноватсионии ояндадор симулятсияҳои ҳодисаҳои зеҳни сунъӣ. Мисли он ки чӣ тавр машқҳои сӯхторхомӯшкуниро анҷом додан мумкин аст, баъзе ширкатҳо аз зеҳни сунъии тавлидкунанда барои иҷро кардани сенарияҳои ҳодисаҳои "чӣ мешавад, агар" истифода мебаранд. Зеҳни сунъӣ метавонад тарзи паҳншавии нармафзори фидяро бо назардошти тарҳбандии шабака ё чӣ гуна шахси дохилӣ метавонад маълумотро берун кунад ва сипас самаранокии нақшаҳои вокуниши ҷориро баҳо диҳад. Ин ба дастаҳо кӯмак мекунад, ки пеш аз рух додани ҳодисаи воқеӣ китобҳои бозиро омода ва такмил диҳанд. Ин мисли доштани мушовири доимо такмилёбандаи вокуниш ба ҳодисаҳо аст, ки омодагии шуморо мунтазам месанҷад.

Дар соҳаҳои сердаромад ба монанди молия ё тандурустӣ, ки дар он ҷо вақти корношоямӣ ё аз даст додани маълумот аз ҳодисаҳо махсусан гарон аст, ин қобилиятҳои IR, ки аз ҷониби зеҳни сунъӣ идора мешаванд, хеле ҷолибанд. Беморхонае, ки аз ҳодисаи киберӣ азият мекашад, наметавонад қатъи тӯлонии системаро таҳаммул кунад - зеҳни сунъӣ, ки зуд ба маҳдудкунӣ мусоидат мекунад, метавонад воқеан ҳаётро наҷот диҳад. Ба ҳамин монанд, як муассисаи молиявӣ метавонад зеҳни сунъиро барои коркарди ибтидоии ҳамлаи гумонбаршудаи қаллобӣ соати 3-и шаб истифода барад, то вақте ки одамони навбатдор онлайн ҳастанд, корҳои зиёде (аз ҳисоб хориҷ кардани ҳисобҳои зарардида, бастани муомилот ва ғайра) аллакай анҷом дода шаванд. Бо зиёд кардани гурӯҳҳои вокуниш ба ҳодисаҳо бо зеҳни сунъии тавлидӣ, ташкилотҳо метавонанд вақти вокунишро ба таври назаррас кам кунанд ва дақиқии коркарди онҳоро беҳтар созанд ва дар ниҳоят зарарро аз ҳодисаҳои киберӣ кам кунанд.

Таҳлили рафтор ва ошкор кардани аномалия

Бисёре аз ҳамлаҳои киберӣ метавонанд бо мушоҳида кардани он, ки чизе аз рафтори "муқаррарӣ" дур мешавад, ошкор карда шаванд - хоҳ ҳисоби корбар миқдори ғайриоддии маълумотро зеркашӣ кунад, хоҳ дастгоҳи шабакавӣ, ки ногаҳон бо мизбони ношинос муошират мекунад. Генеративи зеҳни сунъӣ усулҳои пешрафтаро барои таҳлили рафтор ва ошкор кардани аномалияҳо, омӯхтани намунаҳои муқаррарии корбарон ва системаҳо ва сипас вақте ки чизе нодуруст ба назар мерасад, қайд карданро пешниҳод мекунад.

Муайянкунии анъанавии аномалия аксар вақт аз остонаҳои оморӣ ё омӯзиши оддии мошинӣ дар метрикаҳои мушаххас (афзоиши истифодаи CPU, воридшавӣ дар соатҳои тоқ ва ғайра) истифода мебарад. Зеҳни сунъии тавлидӣ метавонад инро бо эҷоди профилҳои нозуки рафтор пеш барад. Масалан, модели зеҳни сунъӣ метавонад воридшавӣ, намунаҳои дастрасӣ ба файлҳо ва одатҳои почтаи электронии кормандро бо мурури замон қабул кунад ва фаҳмиши бисёрҷанбаи "муқаррарии" он корбарро ташкил диҳад. Агар ин ҳисоб баъдтар кореро ба таври назаррас берун аз меъёри худ анҷом диҳад (масалан, ворид шудан аз кишвари нав ва дастрасӣ ба як маҷмӯаи файлҳои HR дар нисфи шаб), зеҳни сунъӣ инҳирофро на танҳо дар як метрика, балки ҳамчун як намунаи тамоми рафтор, ки ба профили корбар мувофиқат намекунад, муайян мекунад. Аз нигоҳи техникӣ, моделҳои тавлидӣ (ба монанди худкодерҳо ё моделҳои пайдарпай) метавонанд модели "муқаррарӣ"-ро модел кунанд ва сипас доираи интизории рафторро тавлид кунанд. Вақте ки воқеият аз ин диапазон берун меравад, он ҳамчун аномалия қайд карда мешавад (Зеҳни сунъии тавлидӣ дар амнияти киберӣ чист? - Шабакаҳои Пало Алто).

Як амали амалӣ дар мониторинги трафики шабакавӣ. Тибқи як пурсиши соли 2024, 54% ташкилотҳои ИМА мониторинги трафики шабакаро ҳамчун ҳолати асосии истифодаи зеҳни сунъӣ дар амнияти киберӣ зикр кардаанд (Амрикои Шимолӣ: ҳолатҳои асосии истифодаи зеҳни сунъӣ дар амнияти киберӣ дар саросари ҷаҳон 2024). Зеҳни сунъии тавлидӣ метавонад намунаҳои муқаррарии муоширати шабакаи корхонаро омӯзад - кадом серверҳо одатан бо ҳамдигар сӯҳбат мекунанд, кадом ҳаҷми маълумот дар вақти корӣ ё шабона ҳаракат мекунад ва ғайра. Агар ҳамлагар маълумотро аз сервер, ҳатто оҳиста, барои пешгирӣ аз ошкоркунӣ, филтратсия кунад, системаи асоси зеҳни сунъӣ метавонад пай барад, ки "Сервери А ҳеҷ гоҳ 500 МБ маълумотро соати 2-и шаб ба IP-и беруна намефиристад" ва огоҳӣ медиҳад. Азбаски зеҳни сунъӣ на танҳо қоидаҳои статикӣ, балки модели таҳаввулёбандаи рафтори шабакаро истифода мебарад, он метавонад аномалияҳои нозукеро, ки қоидаҳои статикӣ (ба монанди "огоҳӣ агар маълумот > X МБ") метавонанд аз даст диҳанд ё хато қайд кунанд, пайгирӣ кунад. Ин хусусияти мутобиқшаванда он чизест, ки ошкоркунии аномалияҳои аз ҷониби зеҳни сунъӣ идорашавандаро дар муҳитҳо ба монанди шабакаҳои муомилоти бонкӣ, инфрасохтори абрӣ ё флоти дастгоҳҳои IoT пурқувват мегардонад, ки дар он муайян кардани қоидаҳои муқаррарӣ ва ғайримуқаррарӣ хеле мураккаб аст.

Зеҳни сунъии тавлидӣ инчунин ба таҳлили рафтори корбарон (UBA) кумак мекунад , ки калиди муайян кардани таҳдидҳои дохилӣ ё ҳисобҳои осебдида мебошад. Бо тавлиди як хати ибтидоии ҳар як корбар ё субъект, зеҳни сунъӣ метавонад чизҳоеро ба монанди сӯиистифода аз эътимодномаҳо муайян кунад. Масалан, агар Боб аз муҳосибӣ ногаҳон ба пойгоҳи додаҳои муштариён муроҷиат кунад (коре, ки ӯ қаблан ҳеҷ гоҳ накарда буд), модели зеҳни сунъӣ барои рафтори Боб инро ғайриоддӣ қайд мекунад. Ин метавонад нармафзори зараровар набошад - ин метавонад ҳолати дуздида шудани эътимодномаҳои Боб аз ҷониби ҳамлагар ва истифода бурдани онҳо ё Боб дар ҷое бошад, ки набояд ин корро кунад. Дар ҳар сурат, гурӯҳи амниятӣ барои тафтиш огоҳӣ мегирад. Чунин системаҳои UBA, ки аз ҷониби зеҳни сунъӣ идора мешаванд, дар маҳсулоти гуногуни амниятӣ мавҷуданд ва усулҳои моделсозии тавлидӣ дақиқии онҳоро баландтар мекунанд ва бо назардошти контекст (шояд Боб дар лоиҳаи махсус ва ғайра аст, ки зеҳни сунъӣ баъзан метавонад аз дигар маълумот хулоса барорад) ҳушдорҳои бардурӯғро кам мекунанд.

Дар соҳаи ҳувият ва идоракунии дастрасӣ, ошкоркунии қаллобии амиқ ниёзи афзоянда аст - зеҳни сунъии тавлидкунанда метавонад овозҳо ва видеоҳои синтетикиро эҷод кунад, ки амнияти биометриро фиреб медиҳанд. Ҷолиб он аст, ки зеҳни сунъии тавлидкунанда инчунин метавонад ба ошкор кардани ин қаллобиҳои амиқ тавассути таҳлили артефактҳои нозук дар аудио ё видео, ки барои одамон душвор аст, кӯмак кунад. Мо як мисолро бо Accenture дидем, ки аз зеҳни сунъии тавлидкунанда барои тақлид кардани ифодаҳои бешумори чеҳра ва шароит барои омӯзонидани системаҳои биометрии худ барои фарқ кардани корбарони воқеӣ аз қаллобиҳои амиқ, ки аз ҷониби зеҳни сунъӣ тавлид шудаанд, истифода мебурд. Дар тӯли панҷ сол, ин равиш ба Accenture кӯмак кард, ки паролҳоро барои 90% системаҳои худ (гузариш ба биометрия ва дигар омилҳо) нест кунад ва ҳамлаҳоро 60% кам кунад (6 ҳолати истифода барои зеҳни сунъии тавлидкунанда дар амнияти киберӣ [+ мисолҳо] ). Асосан, онҳо зеҳни сунъии тавлидкунандаро барои тақвияти аутентификатсияи биометрӣ истифода бурданд ва онро ба ҳамлаҳои тавлидкунанда устувор карданд (як мисоли олии мубориза бо зеҳни сунъӣ). Ин намуди моделсозии рафторӣ - дар ин ҳолат эътироф кардани фарқи байни чеҳраи зиндаи инсон ва чеҳраи синтезшудаи зеҳни сунъӣ - муҳим аст, зеро мо дар аутентификатсия бештар ба зеҳни сунъӣ такя мекунем.

Муайянкунии аномалияҳо, ки бо истифода аз зеҳни сунъии тавлидӣ кор мекунад, дар тамоми соҳаҳо татбиқ мешавад: дар соҳаи тандурустӣ, назорати рафтори дастгоҳҳои тиббӣ барои нишонаҳои ҳакерӣ; дар соҳаи молия, мушоҳидаи системаҳои тиҷоратӣ барои намунаҳои номунтазам, ки метавонанд қаллобӣ ё манипуляцияи алгоритмиро нишон диҳанд; дар энергетика/коммуналӣ, мушоҳидаи сигналҳои системаи идоракунӣ барои нишонаҳои дахолат. Омезиши паҳнӣ (нигаред ба ҳама ҷанбаҳои рафтор) ва амиқӣ (фаҳмидани намунаҳои мураккаб) , ки зеҳни сунъии тавлидӣ пешниҳод мекунад, онро ба як воситаи пуриқтидор барои муайян кардани нишондиҳандаҳои сӯзан дар алафзори киберӣ табдил медиҳад. Вақте ки таҳдидҳо пинҳон мешаванд ва дар байни амалиётҳои муқаррарӣ пинҳон мешаванд, ин қобилияти тавсифи дақиқи "муқаррарӣ" ва дод задан ҳангоми аз байн рафтани чизе муҳим мегардад. Ҳамин тариқ, зеҳни сунъии тавлидӣ ҳамчун посбони хастанашаванда хизмат мекунад, ки ҳамеша таърифи муқаррарии худро меомӯзад ва нав мекунад, то бо тағйирот дар муҳити зист ҳамқадам бошад ва гурӯҳҳои амниятиро аз аномалияҳое, ки ба санҷиши наздиктар ниёз доранд, огоҳ мекунад.

Имкониятҳо ва манфиатҳои тавлидии AI дар киберамният

Татбиқи AI-и тавлидкунанда дар киберамният барои созмонҳое, ки мехоҳанд ин абзорҳоро қабул кунанд,Дар зер, мо бартариҳои асосиро ҷамъбаст мекунем, ки AI-и тавлидкунандаро иловаи ҷолиб ба барномаҳои киберамният мегардонанд: як қатор имкониятҳо ва манфиатҳоро меорад.

• Муайян кардани таҳдид ва вокуниши зудтар: Системаҳои тавлидии AI метавонанд миқдори зиёди маълумотро дар вақти воқеӣ таҳлил кунанд ва таҳдидҳоро нисбат ба таҳлили дастӣ ба инсон зудтар эътироф кунанд. Ин бартарии суръат маънои пештар ошкор кардани ҳамлаҳо ва зудтар боздоштани ҳодисаро дорад. Дар амал, мониторинги амниятие, ки ба AI асос ёфтааст, метавонад таҳдидҳоеро дарёфт кунад, ки барои муқовимат ба одамон вақти зиёдтар лозим аст. Бо вокуниши фаврӣ ба ҳодисаҳо (ё ҳатто ба таври мустақил иҷро кардани посухҳои аввалия), созмонҳо метавонанд вақти будубоши ҳамлагаронро дар шабакаҳои худ ба таври назаррас коҳиш дода, зарарро кам кунанд.

• Беҳтар шудани дақиқӣ ва фарогирии таҳдидҳо: Азбаски онҳо пайваста аз маълумоти нав меомӯзанд, моделҳои тавлидкунанда метавонанд ба таҳдидҳои таҳаввулёбанда мутобиқ шаванд ва нишонаҳои нозуки фаъолияти зарароварро муайян кунанд. Ин ба беҳтар шудани дақиқии ошкоркунӣ (камтар шудани манфии бардурӯғ ва мусбати бардурӯғ) дар муқоиса бо қоидаҳои статикӣ оварда мерасонад. Масалан, зеҳни сунъӣ, ки нишонаҳои рафтори почтаи электронии фишинг ё нармафзори зарароварро омӯхтааст, метавонад вариантҳоеро муайян кунад, ки қаблан ҳеҷ гоҳ дида нашуда буданд. Натиҷа фарогирии васеътари намудҳои таҳдидҳо - аз ҷумла ҳамлаҳои нав - мебошад, ки вазъи умумии амниятиро тақвият медиҳад. Гурӯҳҳои амниятӣ инчунин аз таҳлили зеҳни сунъӣ (масалан, шарҳҳои рафтори нармафзори зараровар) фаҳмиши муфассалтар мегиранд, ки имкон медиҳад дифоъҳои дақиқтар ва мақсадноктар ба даст оварда шаванд (Зеҳни сунъии тавлидкунанда дар амнияти киберӣ чист? - Шабакаҳои Пало Алто).

• Автоматикунонии вазифаҳои такроршаванда: Зеҳни сунъии тавлидшаванда дар автоматикунонии вазифаҳои муқаррарии амниятӣ ва меҳнатталаб - аз тафтиши гузоришҳо ва тартиб додани гузоришҳо то навиштани скриптҳои вокуниш ба ҳодисаҳо - бартарӣ дорад. Ин автоматикунонӣ бори таҳлилгарони инсониро кам мекунадва онҳоро озод мекунад, ки ба стратегияи сатҳи баланд ва қабули қарорҳои мураккаб тамаркуз кунанд (Зеҳни сунъии тавлидшаванда дар амнияти киберӣ чист? - Шабакаҳои Пало Алто). Корҳои оддӣ, вале муҳим, ба монанди сканкунии осебпазирӣ, аудити конфигуратсия, таҳлили фаъолияти корбар ва гузоришдиҳии мутобиқатро метавон аз ҷониби зеҳни сунъӣ иҷро кард (ё ҳадди аққал аввал таҳияшуда). Бо иҷрои ин вазифаҳо бо суръати мошин, зеҳни сунъӣ на танҳо самаранокиро беҳтар мекунад, балки хатогиҳои инсониро низ коҳиш медиҳад (омили муҳим дар вайронкуниҳо).

• Мудофиа ва симулятсияи фаъол: Симулятсияи тавлидӣ ба созмонҳо имкон медиҳад, ки аз амнияти реактивӣ ба амнияти проактивӣ гузаранд. Тавассути усулҳо ба монанди симулятсияи ҳамла, тавлиди маълумоти синтетикӣ ва омӯзиши асосёфта ба сенарияҳо, мудофеъон метавонанд таҳдидҳоро пеш аз он ки онҳо дар ҷаҳони воқеӣ амалӣ шаванд, пешбинӣ ва омодагӣ бинанд. Гурӯҳҳои амниятӣ метавонанд ҳамлаҳои киберӣ (маъракаҳои фишинг, паҳншавии нармафзори зараровар, DDoS ва ғайра)-ро дар муҳити бехатар симулятсия кунанд, то посухҳои худро санҷанд ва ҳама гуна заъфҳоро бартараф кунанд. Ин омӯзиши пайваста, ки аксар вақт танҳо бо саъю кӯшиши инсонӣ анҷом додани он ғайриимкон аст, мудофиаро тез ва муосир нигоҳ медорад. Ин ба як "машқи оташсӯзӣ"-и киберӣ монанд аст - Симулятсияи зеҳнӣ метавонад таҳдидҳои зиёди фарзиро ба мудофиаи шумо партояд, то шумо машқ кунед ва такмил диҳед.

• Тақвияти таҷрибаи инсонӣ (AI ҳамчун зарбкунандаи қувва): AI тавлидкунанда ҳамчун як таҳлилгари ҷавон, мушовир ва ёвари хастанопазир дар як ҷо амал мекунад. Он метавонад ба аъзои камтаҷрибаи даста роҳнамоӣ ва тавсияҳоеро пешниҳод кунад, ки одатан аз коршиносони ботаҷриба интизор мешаванд ва таҷрибаи тамоми дастаро самаранок демократӣ мекунанд (6 ҳолати истифода барои AI тавлидкунанда дар амнияти киберӣ [+ мисолҳо] ). Ин махсусан бо назардошти норасоии истеъдодҳо дар амнияти киберӣ арзишманд аст - AI ба дастаҳои хурдтар кӯмак мекунад, ки бо камтар корҳои бештар анҷом диҳанд. Аз тарафи дигар, таҳлилгарони ботаҷриба аз коркарди корҳои душвор ва пайдо кардани фаҳмишҳои ғайриошкор баҳра мебаранд, ки онҳо метавонанд онҳоро тасдиқ кунанд ва амал кунанд. Натиҷаи умумӣ як дастаи амниятӣ аст, ки хеле самараноктар ва қобилиятноктар аст ва AI таъсири ҳар як узви инсонро афзоиш медиҳад (Чӣ гуна AI тавлидкунандаро дар амнияти киберӣ истифода бурдан мумкин аст).

• Дастгирии мукаммали қарорҳо ва гузоришдиҳӣ: Бо тарҷумаи маълумоти техникӣ ба фаҳмиши забони табиӣ, AI тавлидкунанда муошират ва қабули қарорҳоро беҳтар мекунад. Роҳбарони амният тавассути хулосаҳои аз ҷониби AI тавлидшуда мушкилотро равшантар ба даст меоранд ва метавонанд бидуни таҳлили маълумоти хом қарорҳои стратегии огоҳона қабул кунанд. Ба ҳамин монанд, иртиботи байнифунксионалӣ (ба роҳбарон, афсарони риоя ва ғ.) беҳтар мешавад, вақте ки AI гузоришҳои осон дар бораи ҳолати амният ва ҳодисаҳоро омода мекунад (Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон). Ин на танҳо эътимод ва ҳамоҳангиро дар масъалаҳои амниятӣ дар сатҳи роҳбарӣ эҷод мекунад, балки инчунин барои асоснок кардани сармоягузорӣ ва тағирот тавассути ифодаи дақиқи хатарҳо ва камбудиҳои аз ҷониби AI кашфшуда кӯмак мекунад.

Дар маҷмӯъ, ин манфиатҳо маънои онро доранд, ки ташкилотҳое, ки зеҳни сунъии тавлидиро дар амнияти киберӣ истифода мебаранд, метавонанд мавқеи қавитари амниятӣ бо хароҷоти эҳтимолан камтари амалиётӣ ба даст оранд. Онҳо метавонанд ба таҳдидҳое, ки қаблан аз ҳад зиёд буданд, посух диҳанд, камбудиҳоеро, ки назорат нашуда буданд, пӯшонанд ва пайваста тавассути ҳалқаҳои фикру мулоҳизаи аз ҷониби зеҳни сунъӣ идорашаванда такмил диҳанд. Дар ниҳоят, зеҳни сунъии тавлидӣ имкон медиҳад, ки бо мувофиқ кардани суръат, миқёс ва мураккабии ҳамлаҳои муосир бо мудофиаҳои ба ҳамин андоза мураккаб аз рақибон пеш гузарад. Тавре ки як пурсиш нишон дод, беш аз нисфи роҳбарони тиҷорат ва киберӣ муайян кардани таҳдидҳои зудтар ва дақиқии бештарро тавассути истифодаи зеҳни сунъии тавлидӣ интизоранд ([PDF] Дурнамои ҷаҳонии амнияти киберӣ 2025 | Форуми иқтисодии ҷаҳонӣ) (Зеҳни сунъии тавлидӣ дар амнияти киберӣ: Шарҳи ҳамаҷонибаи LLM ...) - далели хушбинӣ дар бораи манфиатҳои ин технологияҳо.

Хавфҳо ва мушкилоти истифодаи AI-и тавлидӣ дар киберамният

Дар ҳоле ки имкониятҳо назаррасанд, муносибати AI-и тавлидкунанда дар киберамният бо чашми кушода ба хатарҳо ва мушкилоти марбут хеле муҳим аст. Кӯр-кӯрона бовар кардан ба AI ё нодуруст истифода бурдани он метавонад осебпазириҳои навро ба вуҷуд орад. Дар зер, мо нигарониҳои асосӣ ва домҳоро дар якҷоягӣ бо контексти ҳар кадоми онҳо баён мекунем:

• Истифодаи рақобатӣ аз ҷониби киберҷинояткорон: Ҳамон қобилиятҳои тавлидӣ, ки ба ҳимоятгарон кӯмак мекунанд, метавонанд ба ҳамлагарон қудрат бахшанд. Таҳдидгарон аллакай аз зеҳни сунъии тавлидӣ барои эҷоди почтаи электронии фишинги боварибахштар, эҷоди персонажҳои қалбакӣ ва видеоҳои қалбакии амиқ барои муҳандисии иҷтимоӣ, таҳияи нармафзори зараровари полиморфӣ, ки доимо барои пешгирӣ аз ошкоркунӣ тағйир меёбад ва ҳатто ҷанбаҳои ҳакериро автоматӣ мекунанд, истифода мебаранд (Зеҳни сунъии тавлидӣ дар амнияти киберӣ чист? - Шабакаҳои Пало Алто). Қариб нисфи (46%) роҳбарони амнияти киберӣ нигаронанд, ки зеҳни сунъии тавлидӣ ба ҳамлаҳои пешрафтаи рақобатӣ оварда мерасонад (Амнияти зеҳнии тавлидӣ: Тамоюлҳо, таҳдидҳо ва стратегияҳои коҳиш). Ин "мусобиқаи силоҳи зеҳнии тавлидӣ" маънои онро дорад, ки вақте ҳимоятгарон зеҳни сунъиро қабул мекунанд, ҳамлагарон аз он хеле қафо нахоҳанд монд (дар асл, онҳо метавонанд дар баъзе соҳаҳо бо истифода аз абзорҳои танзимнашудаи зеҳни сунъӣ пешсаф бошанд). Ташкилотҳо бояд барои таҳдидҳои такмилёфтаи зеҳни сунъӣ, ки зуд-зуд, мураккабтар ва пайгирӣ карданашон душвортаранд, омода бошанд.

• Галлютсинатсияҳо ва нодақиқии зеҳни сунъӣ: Моделҳои тавлидкунандаи зеҳни сунъӣ метавонанд натиҷаҳои эҳтимолӣ, вале нодуруст ё гумроҳкунандаро - падидае, ки бо номи галлютсинатсия маълум аст. Дар заминаи амниятӣ, зеҳни сунъӣ метавонад ҳодисаро таҳлил кунад ва ба таври хато ба хулосае ояд, ки осебпазирии муайян сабаб шудааст, ё он метавонад скрипти ислоҳи ноқисро ба вуҷуд орад, ки ҳамларо дар бар намегирад. Ин хатогиҳо метавонанд хатарнок бошанд, агар ба маънои аслӣ гирифта шаванд. Тавре ки NTT Data огоҳ мекунад, "зеҳни сунъии тавлидӣ метавонад мундариҷаи нодурустро ба вуҷуд орад ва ин падида галлютсинатсия номида мешавад... дар айни замон бартараф кардани онҳо комилан душвор аст" (Хатарҳои амниятии зеҳни сунъии тавлидӣ ва чораҳои муқобил ва таъсири он ба амнияти киберӣ | NTT DATA Group). Такяи аз ҳад зиёд ба зеҳни сунъӣ бидуни тасдиқ метавонад ба кӯшишҳои нодуруст ё эҳсоси бардурӯғи амният оварда расонад. Масалан, зеҳни сунъӣ метавонад як системаи муҳимро дар ҳоле ки он бехатар нест, бардурӯғ ҳамчун бехатар нишон диҳад ё баръакс, бо "ошкор кардани" вайронкуние, ки ҳеҷ гоҳ рух надодааст, воҳимаро ба вуҷуд орад. Тасдиқи қатъии натиҷаҳои зеҳни сунъӣ ва ҳузур доштани одамон дар ҳалқаи қарорҳои муҳим барои коҳиш додани ин хатар муҳим аст.

• Ҷиҳатҳои мусбат ва манфӣ: Дар робита ба галлютсинатсияҳо, агар модели зеҳни сунъӣ ба таври нодуруст омӯзонида ё танзим шуда бошад, он метавонад фаъолияти безарарро аз ҳад зиёд ҳамчун зараровар (ҷавобҳои мусбати бардурӯғ) гузориш диҳад ё бадтараш, таҳдидҳои воқеиро аз даст диҳад (ҷавобҳои манфии бардурӯғ) (Чӣ гуна зеҳни сунъии тавлидӣ дар амнияти киберӣ истифода мешавад). Огоҳиҳои бардурӯғи аз ҳад зиёд метавонанд гурӯҳҳои амниятиро саркӯб кунанд ва ба хастагии огоҳӣ оварда расонанд (бартараф кардани дастовардҳои самаранокии ваъдашудаи зеҳни сунъӣ), дар ҳоле ки ошкоркуниҳои аз даст рафта ташкилотро фош мекунанд. Танзими моделҳои тавлидӣ барои тавозуни дуруст душвор аст. Ҳар як муҳит беназир аст ва зеҳни сунъӣ метавонад фавран ба таври оптималӣ берун аз қуттӣ кор накунад. Омӯзиши пайваста низ як шамшери дудама аст - агар зеҳни сунъӣ аз фикру мулоҳизаҳои каҷ ё аз муҳитест, ки тағйир меёбад, омӯзад, дақиқии он метавонад тағйир ёбад. Гурӯҳҳои амниятӣ бояд кори зеҳни сунъиро назорат кунанд ва остонаҳоро танзим кунанд ё ба моделҳо фикру мулоҳизаҳои ислоҳӣ диҳанд. Дар заминаҳои хавфнок (ба монанди ошкоркунии дахолат барои инфрасохтори муҳим), шояд оқилона бошад, ки пешниҳодҳои зеҳни сунъӣ дар муддати муайян бо системаҳои мавҷуда мувозӣ бошанд, то боварӣ ҳосил кунанд, ки онҳо мувофиқат мекунанд ва мукаммал мекунанд, на низоъ.

• Махфият ва ихроҷи маълумот: Системаҳои тавлидкунандаи зеҳни сунъӣ аксар вақт барои омӯзиш ва кор ба миқдори зиёди маълумот ниёз доранд. Агар ин моделҳо дар асоси абр бошанд ё дуруст махфӣ карда нашуда бошанд, хатари ихроҷи маълумоти ҳассос вуҷуд дорад. Истифодабарандагон метавонанд тасодуфан маълумоти хусусӣ ё маълумоти шахсиро ба хидмати зеҳни сунъӣ ворид кунанд (фикр кунед, ки аз ChatGPT хоҳиш кунед, ки гузориши махфии ҳодисаро ҷамъбаст кунад) ва ин маълумот метавонад қисми дониши модел гардад. Дар ҳақиқат, як таҳқиқоти ахир нишон дод, ки 55% вурудҳо ба абзорҳои тавлидкунандаи зеҳни сунъӣ дорои маълумоти ҳассос ё шахсии муайяншаванда мебошанд, ки нигарониҳои ҷиддиро дар бораи ихроҷи маълумот ба миён меорад (Амнияти зеҳни сунъии тавлидшаванда: Тамоюлҳо, таҳдидҳо ва стратегияҳои коҳиш). Илова бар ин, агар зеҳни сунъӣ дар бораи маълумоти дохилӣ омӯзонида шуда бошад ва он бо роҳҳои муайян дархост карда шавад, он метавонад барорад . Ташкилотҳо бояд сиёсати қатъии коркарди маълумотро амалӣ кунанд (масалан, истифодаи мисолҳои маҳаллии зеҳни сунъӣ ё хусусӣ барои маводи ҳассос) ва кормандонро дар бораи часпондани маълумоти махфӣ ба абзорҳои оммавии зеҳни сунъӣ таълим диҳанд. Қоидаҳои махфият (GDPR ва ғайра) низ ба кор медароянд - истифодаи маълумоти шахсӣ барои омӯзонидани зеҳни сунъӣ бидуни розигии мувофиқ ё ҳимоя метавонад хилофи қонун бошад.

• Амнияти модел ва коркард: Моделҳои тавлидкунандаи зеҳни сунъӣ худ метавонанд ба ҳадаф табдил ёбанд. Мухолифон метавонанд кӯшиш кунанд, ки моделро заҳролуд кунанд, дар марҳилаи омӯзиш ё бозомӯзӣ маълумоти зараровар ё гумроҳкунандаро пешниҳод кунанд, то зеҳни сунъӣ намунаҳои нодурустро омӯзад (Чӣ гуна зеҳни сунъии тавлидшударо дар амнияти киберӣ истифода бурдан мумкин аст). Масалан, ҳамлагар метавонад маълумоти зеҳнии таҳдидро ба таври нозук заҳролуд кунад, то зеҳни сунъӣ нармафзори зараровари худи ҳамлагарро ҳамчун зараровар эътироф накунад. Тактикаи дигар ин воридкунии фаврӣ ё коркарди баромад, ки дар он ҳамлагар роҳеро барои ворид кардани вуруд ба зеҳни сунъӣ пайдо мекунад, ки боиси рафтори номатлуби он мегардад - шояд барои нодида гирифтани деворҳои амниятии он ё ошкор кардани маълумоте, ки набояд (ба монанди дархостҳои дохилӣ ё маълумот)). Илова бар ин, хатари саркашӣ аз модел: ҳамлагарон вурудро махсус барои фиреб додани зеҳни сунъӣ тарҳрезӣ мекунанд. Мо инро дар мисолҳои мухолиф мебинем - маълумоти каме печида, ки инсон онро муқаррарӣ мешуморад, аммо зеҳни сунъӣ нодуруст тасниф мекунад. Таъмини амнияти занҷири таъминоти зеҳни сунъӣ (якпорчагии маълумот, назорати дастрасии модел, санҷиши устувории рақобатӣ) қисми нав, вале зарурии амнияти киберӣ ҳангоми истифодаи ин абзорҳо мебошад (Зеҳни сунъии тавлидӣ дар амнияти киберӣ чист? - Шабакаҳои Пало Алто).

• Эътимод ва коҳиши малакаҳо: Хатари камтаре вуҷуд дорад, ки ташкилотҳо метавонанд аз ҳад зиёд ба зеҳни сунъӣ такя кунанд ва ба атрофияи малакаҳои инсонӣ роҳ диҳанд. Агар таҳлилгарони ҷавон ба натиҷаҳои зеҳни сунъӣ кӯр-кӯрона эътимод кунанд, онҳо шояд тафаккури интиқодӣ ва фаҳмиши заруриро дар сурати дастнорас будан ё нодуруст будани зеҳни сунъӣ инкишоф надиҳанд. Сенарияе, ки бояд пешгирӣ карда шавад, ин як гурӯҳи амниятӣ аст, ки асбобҳои олӣ дорад, аммо намедонад, ки чӣ гуна кор кунад, агар ин асбобҳо аз кор монанд (монанди такяи аз ҳад зиёди халабонон ба автопилот). Машқҳои мунтазами омӯзишӣ бидуни кӯмаки зеҳни сунъӣ ва тарбияи тарзи фикрронӣ дар бораи он ки зеҳни сунъӣ ёвар аст, на фолбини бехато, барои нигоҳ доштани зеҳни таҳлилгарони инсонӣ муҳиманд. Инсонҳо бояд қабулкунандагони ниҳоӣ бошанд, хусусан барои қарорҳои баландсифат.

• Мушкилоти ахлоқӣ ва риояи қоидаҳо: Истифодаи зеҳни сунъӣ дар амнияти киберӣ саволҳои ахлоқиро ба миён меорад ва метавонад мушкилоти риояи қоидаҳои танзимкуниро ба вуҷуд орад. Масалан, агар системаи зеҳни сунъӣ кормандро аз сабаби ягон аномалия нодуруст ҳамчун шахси зараровари инсайдерӣ муаррифӣ кунад, он метавонад ба обрӯ ё касби он шахс ноодилона зарар расонад. Қарорҳое, ки аз ҷониби зеҳни сунъӣ қабул карда мешаванд, метавонанд ношаффоф бошанд (мушкилоти "қуттии сиёҳ"), ки ба аудиторҳо ё танзимгарон фаҳмонидани сабаби андешидани баъзе амалҳоро душвор мегардонад. Бо афзоиши маъруфияти мундариҷаи тавлидшуда аз ҷониби зеҳни сунъӣ, таъмини шаффофият ва нигоҳ доштани ҳисоботдиҳӣ муҳим аст. Танзимгарон ба таҳқиқи зеҳни сунъӣ шурӯъ мекунанд - масалан, Қонуни зеҳни сунъии ИА талаботро ба системаҳои зеҳни сунъии "хатари баланд" муқаррар мекунад ва зеҳни сунъии амнияти киберӣ метавонад ба ин категория дохил шавад. Ширкатҳо бояд ин қоидаҳоро паймоиш кунанд ва эҳтимолан ба стандартҳо ба монанди Чаҳорчӯбаи идоракунии хатарҳои зеҳни сунъии NIST риоя кунанд, то зеҳни сунъии тавлидкунандаро бомасъулият истифода баранд (Чӣ гуна зеҳни сунъии тавлидкунандаро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ). Риояи қоидаҳо инчунин ба иҷозатномадиҳӣ дахл дорад: истифодаи моделҳои кушодаасос ё тарафи сеюм метавонад шартҳое дошта бошад, ки баъзе истифодаҳоро маҳдуд мекунанд ё беҳбудиҳоро талаб мекунанд.

Хулоса, зеҳни сунъии тавлидӣ як тири нуқра нест - агар бодиққат татбиқ карда нашавад, он метавонад камбудиҳои навро ба вуҷуд орад, ҳатто дар ҳоле ки камбудиҳои дигарро ҳал мекунад. Тадқиқоти Форуми иқтисодии ҷаҳонӣ дар соли 2024 нишон дод, ки тақрибан 47% ташкилотҳо пешрафтҳоро дар зеҳни сунъии тавлидӣ аз ҷониби ҳамлагарон ҳамчун нигаронии асосӣ зикр мекунанд, ки онро "таъсири нигаронкунандаи зеҳни сунъии тавлидӣ" дар амнияти киберӣ мегардонад ([PDF] Global Cybersecurity Outlook 2025 | World Economic Forum) (Зеҳни сунъии тавлидӣ дар амнияти киберӣ: Шарҳи ҳамаҷонибаи LLM ...). Аз ин рӯ, ташкилотҳо бояд як равиши мутавозинро қабул кунанд: аз манфиатҳои зеҳни сунъӣ истифода баранд ва дар айни замон ин хатарҳоро тавассути идоракунӣ, санҷиш ва назорати инсонӣ қатъиян идора кунанд. Дар оянда мо дар бораи чӣ гуна ба даст овардани ин тавозун дар амал муҳокима хоҳем кард.

Дурнамои оянда: Нақши таҳаввулкунандаи AI дар киберамният

Бо назардошти оянда, зеҳни сунъии тавлидӣ (AI) метавонад ба қисми ҷудонашавандаи стратегияи амнияти киберӣ табдил ёбад ва ба ҳамин монанд, абзоре бошад, ки душманони киберӣ минбаъд низ аз он истифода хоҳанд бурд. Динамикаи "гурба ва муш" бо зеҳни сунъӣ дар ҳарду тарафи девор суръат хоҳад гирифт. Дар ин ҷо баъзе аз фаҳмишҳои дурнамо дар бораи он ки чӣ гуна зеҳни сунъии тавлидӣ метавонад амнияти кибериро дар солҳои оянда ташаккул диҳад, оварда шудаанд:

• Мудофиаи киберии такмилёфта бо зеҳни сунъӣ стандартӣ мешавад: То соли 2025 ва баъд аз он, мо метавонем интизор шавем, ки аксари ташкилотҳои миёна ва калон асбобҳои аз зеҳни сунъӣ идорашавандаро дар амалиёти амниятии худ ҷорӣ хоҳанд кард. Ҳамон тавре ки имрӯз антивирус ва деворҳои оташӣ стандартӣ мебошанд, ҳампилотҳои зеҳни сунъӣ ва системаҳои ошкоркунии аномалия метавонанд ҷузъҳои асосии меъмории амниятӣ шаванд. Ин абзорҳо эҳтимолан махсустар хоҳанд шуд - масалан, моделҳои алоҳидаи зеҳни сунъӣ барои амнияти абрӣ, барои мониторинги дастгоҳҳои IoT, барои амнияти рамзи барнома ва ғайра танзим карда мешаванд, ки ҳама дар якҷоягӣ кор мекунанд. Тавре ки як пешгӯи қайд мекунад, "дар соли 2025, зеҳни сунъии тавлидӣ ҷузъи ҷудонашавандаи амнияти киберӣ хоҳад буд ва ба ташкилотҳо имкон медиҳад, ки аз таҳдидҳои мураккаб ва таҳаввулёбанда фаъолона муҳофизат кунанд" (Чӣ гуна зеҳни сунъии тавлидӣ метавонад дар амнияти киберӣ истифода шавад). Зеҳни сунъӣ ошкоркунии таҳдидҳоро дар вақти воқеӣ беҳтар мекунад, бисёр амалҳои вокунишро автоматӣ мекунад ва ба гурӯҳҳои амниятӣ дар идоракунии ҳаҷми хеле зиёди маълумот нисбат ба дастӣ кӯмак мекунад.

• Омӯзиш ва мутобиқшавии пайваста: Системаҳои тавлидкунандаи ояндаи зеҳни сунъӣ дар соҳаи киберӣ дар омӯхтани фаврӣ аз ҳодисаҳои нав ва иттилооти таҳдидҳо беҳтар хоҳанд шуд ва пойгоҳи дониши худро дар вақти воқеӣ навсозӣ хоҳанд кард. Ин метавонад ба мудофиаҳои воқеан мутобиқшаванда оварда расонад - тасаввур кунед, ки зеҳни сунъӣ субҳ дар бораи як маъракаи нави фишинг, ки ба ширкати дигар таъсир мерасонад, огоҳ мешавад ва то нисфирӯзӣ аллакай филтрҳои почтаи электронии ширкати шуморо дар посух танзим кардааст. Хидматҳои амниятии абрӣ метавонанд ин гуна омӯзиши дастаҷамъиро осон кунанд, ки дар он иттилооти беном аз як созмон ба ҳамаи муштариён фоида меорад (монанд ба мубодилаи иттилооти таҳдид, аммо автоматӣ). Аммо, ин барои пешгирӣ аз мубодилаи маълумоти ҳассос ва пешгирӣ аз ворид кардани маълумоти бад аз ҷониби ҳамлагарон ба моделҳои муштарак, коркарди бодиққатро талаб мекунад.

• Ҳамгироии истеъдодҳои зеҳни сунъӣ ва амнияти киберӣ: Маҷмӯи маҳорати мутахассисони амнияти киберӣ барои дохил кардани маҳорат дар соҳаи зеҳни сунъӣ ва илми додаҳо таҳаввул хоҳад ёфт. Ҳамон тавре ки таҳлилгарони имрӯза забонҳои дархост ва скриптҳоро меомӯзанд, таҳлилгарони фардо метавонанд мунтазам моделҳои зеҳни сунъиро такмил диҳанд ё барои иҷрои зеҳни сунъӣ "дафтарҳои бозӣ" нависанд. Мо метавонем нақшҳои наверо ба монанди "Мураббии амнияти зеҳни сунъӣ" ё "Муҳандиси амнияти зеҳни сунъии киберӣ" - одамоне, ки дар мутобиқ кардани абзорҳои зеҳни сунъӣ ба ниёзҳои созмон, тасдиқи фаъолияти онҳо ва таъмини фаъолияти бехатари онҳо тахассус доранд. Аз тарафи дигар, мулоҳизаҳои амнияти киберӣ ба рушди зеҳни сунъӣ таъсири бештар хоҳанд гузошт. Системаҳои зеҳни сунъӣ бо хусусиятҳои амниятӣ аз сифр сохта мешаванд (меъмории бехатар, ошкор кардани таҷовуз, гузоришҳои аудит барои қарорҳои зеҳни сунъӣ ва ғайра) ва чаҳорчӯбаҳо барои зеҳни сунъии боэътимод (одилона, фаҳмо, устувор ва бехатар) ҷойгиркунии онҳоро дар заминаҳои муҳими амниятӣ роҳнамоӣ хоҳанд кард.

• Ҳамлаҳои мураккабтар бо зеҳни сунъӣ: Мутаассифона, манзараи таҳдидҳо низ бо зеҳни сунъӣ таҳаввул хоҳад ёфт. Мо интизорем, ки истифодаи зудтари зеҳни сунъӣ барои ошкор кардани осебпазириҳои рӯзи сифр, барои эҷоди фишинги хеле мақсадноки найзаӣ (масалан, зеҳни сунъӣ барои эҷоди домҳои комилан фармоишӣ) ва тавлиди овозҳо ё видеоҳои боварибахши қалбакӣ барои убур аз аутентификатсияи биометрӣ ё содир кардани қаллобӣ пайдо шавад. Агентҳои ҳакерии худкор метавонанд мустақилона ҳамлаҳои бисёрмарҳилавӣ (разведка, истисмор, ҳаракати паҳлӯӣ ва ғайра)-ро бо назорати ҳадди ақали инсон анҷом диҳанд. Ин ба ҳимоятгарон фишор меорад, ки ба зеҳни сунъӣ низ такя кунанд - асосан автоматизатсия ва автоматизатсия. Баъзе ҳамлаҳо метавонанд бо суръати мошин рух диҳанд, ба монанди ботҳои зеҳни сунъӣ, ки ҳазорҳо ивазкунии почтаи электронии фишингиро месанҷанд, то бубинанд, ки кадоме аз онҳо аз филтрҳо мегузарад. Мудофиаҳои киберӣ бояд бо суръат ва чандирии якхела кор кунанд, то аз онҳо пайравӣ кунанд (Зеҳни сунъии тавлидӣ дар амнияти киберӣ чист? - Шабакаҳои Пало Алто).

• Танзим ва зеҳни сунъӣ дар амният: Вақте ки зеҳни сунъӣ дар вазифаҳои амнияти киберӣ амиқ ҷойгир мешавад, барои таъмини истифодаи масъулиятноки ин системаҳои зеҳни сунъӣ назорати бештар ва эҳтимолан танзимкунӣ сурат мегирад. Мо метавонем интизор шавем, ки чаҳорчӯбаҳо ва стандартҳои хоси зеҳни сунъӣ дар амният татбиқ карда шаванд. Ҳукуматҳо метавонанд дастурҳоро барои шаффофият муқаррар кунанд - масалан, талаб кунанд, ки қарорҳои муҳими амниятӣ (ба монанди қатъ кардани дастрасии корманд барои фаъолияти шубҳаноки зараровар) танҳо аз ҷониби зеҳни сунъӣ бидуни баррасии инсонӣ қабул карда нашаванд. Инчунин метавонад сертификатсияҳо барои маҳсулоти амнияти зеҳни сунъӣ мавҷуд бошанд, то ба харидорон итминон диҳанд, ки зеҳни сунъӣ аз ҷиҳати ғаразнокӣ, устуворӣ ва бехатарӣ арзёбӣ шудааст. Ғайр аз ин, ҳамкориҳои байналмилалӣ метавонанд дар атрофи таҳдидҳои киберии марбут ба зеҳни сунъӣ рушд кунанд; масалан, созишномаҳо дар бораи коркарди маълумоти нодуруст ё меъёрҳо нисбати баъзе силоҳҳои киберии аз ҷониби зеҳни сунъӣ эҷодшуда.

• Ҳамгироӣ бо зеҳни сунъӣ ва экосистемаҳои IT васеътар: Зеҳни сунъии тавлидӣ дар амнияти киберӣ эҳтимолан бо дигар системаҳои зеҳни сунъӣ ва абзорҳои идоракунии IT ҳамгиро хоҳад шуд. Масалан, зеҳни сунъӣ, ки беҳсозии шабакаро идора мекунад, метавонад бо зеҳни сунъии амниятӣ кор кунад, то боварӣ ҳосил кунад, ки тағйирот сӯрохиҳоро боз намекунанд. Таҳлили тиҷоратии аз зеҳни сунъӣ идорашаванда метавонад маълумотро бо зеҳни сунъии амниятӣ мубодила кунад, то аномалияҳоро (масалан, коҳиши ногаҳонии фурӯш бо мушкилоти эҳтимолии вебсайт аз сабаби ҳамла) ҳамоҳанг созад. Дар асл, зеҳни сунъӣ дар як силос зиндагӣ намекунад - он қисми сохтори бузургтари интеллектуалии амалиёти ташкилот хоҳад буд. Ин имкониятҳоро барои идоракунии ҳамаҷонибаи хатарҳо фароҳам меорад, ки дар он маълумоти амалиётӣ, маълумоти таҳдид ва ҳатто маълумоти амнияти ҷисмонӣ метавонанд аз ҷониби зеҳни сунъӣ якҷоя карда шаванд, то назари 360-дараҷаи вазъи амниятии ташкилотро пешниҳод кунанд.

Дар муддати тӯлонӣ, умед аст, ки зеҳни сунъии тавлидӣ ба тавозун ба манфиати ҳимоятгарон мусоидат хоҳад кард. Бо идора кардани миқёс ва мураккабии муҳитҳои муосири IT, зеҳни сунъӣ метавонад фазои кибернетикиро бештар дифоъшаванда гардонад. Аммо, ин як сафари тӯлонӣ аст ва бо такмил додани ин технологияҳо ва омӯхтани эътимод ба онҳо, мушкилоти бештаре хоҳад буд. Ташкилотҳое, ки огоҳ мемонанд ва ба қабули масъулиятноки зеҳни сунъӣ барои амният сармоягузорӣ мекунанд, эҳтимолан онҳое хоҳанд буд, ки беҳтарин мавқеъро барои паймоиш дар муқобили таҳдидҳои оянда пайдо мекунанд.

Тавре ки дар гузориши ахири Gartner дар бораи тамоюлҳои амнияти киберӣ қайд шудааст, "пайдоиши ҳолатҳои истифодаи зеҳни сунъии тавлидӣ (ва хатарҳо) фишорро барои табдилдиҳӣ эҷод мекунад" (Cybersecurity Trends: Resilience Through Transformation - Gartner). Онҳое, ки мутобиқ мешаванд, зеҳни сунъиро ҳамчун иттифоқчии пуриқтидор истифода хоҳанд бурд; онҳое, ки ақиб мемонанд, метавонанд аз ҷониби рақибони дорои қудрати зеҳни сунъӣ пешсаф бошанд. Чанд соли оянда як давраи муҳим барои муайян кардани он хоҳад буд, ки чӣ гуна зеҳни сунъӣ майдони муборизаи кибериро аз нав шакл медиҳад.

Роҳҳои амалӣ барои қабули сунъии тавлидшуда дар киберамният

Барои корхонаҳое, ки чӣ тавр истифода бурдани AI-и тавлидкунандаро дар стратегияи киберамният арзёбӣ мекунанд, дар ин ҷо баъзе маслиҳатҳои амалӣ ва тавсияҳо барои роҳнамоии қабули масъулиятнок ва муассир ҳастанд:

1. Аз омӯзиш ва омӯзиш оғоз кунед: Боварӣ ҳосил кунед, ки гурӯҳи амниятии шумо (ва кормандони васеътари IT) фаҳманд, ки AI-и тавлидкунанда чӣ кор карда метавонад ва чӣ кор карда наметавонад. Оид ба асосҳои абзорҳои амниятие, ки аз ҷониби AI идора карда мешаванд, омӯзиш гузаронед ва барномаҳои огоҳии амнияти барои ҳамаи кормандон навсозӣ кунед, то таҳдидҳои аз ҷониби AI фаъолшударо пӯшонед. Масалан, ба кормандон омӯзонед, ки чӣ тавр AI метавонад қаллобии фишингҳои боварибахш ва зангҳои фейкро тавлид кунад. Ҳамзамон, ба кормандон оид ба истифодаи бехатар ва тасдиқшудаи воситаҳои AI дар кори худ омӯзонед. Корбарони бохабар эҳтимолияти нодурусти AI ё қурбонии ҳамлаҳои мукаммалшудаи AI мешаванд (Чӣ гуна AI-и тавлидиро дар киберамният истифода бурдан мумкин аст? 10 мисоли воқеии ҷаҳон).

2. Сиёсатҳои истифодаи зеҳни сунъиро муайян кунед: Ба зеҳни сунъии тавлидӣ мисли ҳама гуна технологияи пуриқтидор муносибат кунед - бо идоракунӣ. Сиёсатҳоеро таҳия кунед, ки муайян мекунанд, ки кӣ метавонад аз абзорҳои зеҳни сунъӣ истифода барад, кадом абзорҳо иҷозат дода шудаанд ва барои кадом мақсадҳо. Дастурҳоро дар бораи коркарди маълумоти ҳассос (масалан, ворид накардани маълумоти махфӣ ба хидматҳои берунаи зеҳни сунъӣ) барои пешгирии ихроҷ дохил кунед. Масалан, шумо метавонед танҳо ба аъзои дастаи амниятӣ иҷозат диҳед, ки барои вокуниш ба ҳодисаҳо аз ёвари зеҳни сунъии дохилӣ истифода баранд ва маркетинг метавонад зеҳни сунъии санҷидашударо барои мундариҷа истифода барад - ҳамаи дигарон маҳдуданд. Бисёре аз ташкилотҳо ҳоло дар сиёсати IT-и худ ба таври возеҳ ба зеҳни сунъии тавлидӣ муроҷиат мекунанд ва мақомоти пешбари стандартӣ сиёсати истифодаи бехатарро ба ҷои манъи мустақим ташвиқ мекунанд (Чӣ гуна зеҳни сунъии тавлидиро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ). Боварӣ ҳосил кунед, ки ин қоидаҳо ва асоснокии онҳоро ба ҳамаи кормандон фаҳмонед.

3. Кам кардани "Зеҳни сунъии сояафкан" ва истифодаи монитор: Монанди IT-и сояафкан, "Зеҳни сунъии сояафкан" вақте пайдо мешавад, ки кормандон бе огоҳии IT аз абзорҳо ё хидматҳои зеҳни сунъӣ истифода мебаранд (масалан, таҳиягар аз ёвари рамзи беиҷозати зеҳни сунъӣ истифода мебарад). Ин метавонад хатарҳои ноаёнро ба вуҷуд орад. Чораҳоеро барои ошкор ва назорати истифодаи беиҷозати зеҳни сунъӣ. Мониторинги шабака метавонад пайвастҳоро ба API-ҳои маъмули зеҳни сунъӣ қайд кунад ва пурсишҳо ё аудитҳои абзорҳо метавонанд он чизеро, ки кормандон истифода мебаранд, ошкор кунанд. Алтернативаҳои тасдиқшударо пешниҳод кунед, то кормандони ниятҳои нек васваса нашаванд, ки фиребгарӣ кунанд (масалан, агар одамон онро муфид донанд, ҳисоби расмии ChatGPT Enterprise-ро пешниҳод кунед). Бо ошкор кардани истифодаи зеҳни сунъӣ, гурӯҳҳои амниятӣ метавонанд хатарро арзёбӣ ва идора кунанд. Мониторинг низ калидӣ аст - фаъолиятҳо ва натиҷаҳои абзори зеҳни сунъиро то ҳадди имкон сабт кунед, то барои қарорҳое, ки зеҳни сунъӣ таъсир расонидааст, пайгирии аудит мавҷуд бошад (Чӣ гуна зеҳни сунъии тавлидкунандаро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ).

4. Аз зеҳни сунъӣ ба таври мудофиавӣ истифода баред – аз ақиб намонед: Дарк кунед, ки ҳамлагарон зеҳни сунъиро истифода мебаранд, бинобар ин мудофиаи шумо низ бояд. Якчанд самтҳои таъсири баландро муайян кунед, ки дар онҳо зеҳни сунъии тавлидкунанда метавонад фавран ба амалиёти амниятии шумо кумак кунад (шояд триажи огоҳӣ ё таҳлили автоматии гузоришҳо) ва лоиҳаҳои озмоиширо роҳандозӣ кунад. Мудофиаи худро бо суръат ва миқёси зеҳни сунъӣ барои муқовимат ба таҳдидҳои зудҳаракат такмил диҳед (Чӣ гуна зеҳни сунъии тавлидкунандаро дар амнияти киберӣ истифода бурдан мумкин аст? 10 мисоли воқеӣ). Ҳатто интегратсияҳои оддӣ, ба монанди истифодаи зеҳни сунъӣ барои ҷамъбасти гузоришҳои нармафзори зараровар ё тавлиди дархостҳои шикори таҳдид, метавонанд соатҳои кори таҳлилгаронро сарфа кунанд. Аз хурд сар кунед, натиҷаҳоро арзёбӣ кунед ва такрор кунед. Муваффақиятҳо барои қабули васеътари зеҳни сунъӣ замина фароҳам меоранд. Ҳадаф истифодаи зеҳни сунъӣ ҳамчун зарбкунандаи қувва аст – масалан, агар ҳамлаҳои фишингӣ мизи ёрии шуморо пур кунанд, таснифкунандаи почтаи электронии зеҳни сунъиро барои кам кардани ин ҳаҷм фаъолона истифода баред.

5. Ба амалияҳои амн ва ахлоқии зеҳни сунъӣ сармоягузорӣ кунед: Ҳангоми татбиқи зеҳни сунъии тавлидӣ, амалияҳои таҳия ва ҷойгиркунии амниро риоя кунед. аз моделҳои хусусӣ ё худхостинг , то назоратро бар маълумот нигоҳ доред. Агар шумо аз хидматҳои зеҳни сунъии тарафи сеюм истифода баред, чораҳои амниятӣ ва махфияти онҳоро (рамзгузорӣ, сиёсатҳои нигоҳдории маълумот ва ғайра) аз назар гузаронед. Чаҳорчӯбаҳои идоракунии хатари зеҳни сунъиро (ба монанди Чаҳорчӯбаи идоракунии хатари зеҳни сунъии NIST ё роҳнамоии ISO/IEC) барои ҳалли мунтазами масъалаҳо ба монанди таассуб, фаҳмоӣ ва устуворӣ дар абзорҳои зеҳни сунъии худ дохил кунед (Чӣ гуна зеҳни сунъии тавлидӣ метавонад дар амнияти киберӣ истифода шавад? 10 мисоли воқеӣ). Инчунин навсозиҳо/часпҳои моделро ҳамчун як қисми нигоҳдорӣ ба нақша гиред - моделҳои зеҳни сунъӣ низ метавонанд "осебпазириҳо" дошта бошанд (масалан, агар онҳо ба дрейф шурӯъ кунанд ё агар намуди нави ҳамлаи мухолиф ба модел ошкор карда шавад, онҳо метавонанд ба бозомӯзӣ ниёз дошта бошанд). Бо истифода аз амният ва ахлоқ дар истифодаи зеҳни сунъии худ, шумо ба натиҷаҳо эътимод пайдо мекунед ва риояи қоидаҳои навро таъмин мекунед.

6. Инсонҳоро дар ҷараён нигоҳ доред: Аз зеҳни сунъӣ барои кӯмак дар доварии инсонӣ дар амнияти киберӣ истифода баред, на ин ки онро пурра иваз кунед. Нуқтаҳои қабули қарорро муайян кунед, ки дар онҳо тасдиқи инсонӣ талаб карда мешавад (масалан, зеҳни сунъӣ метавонад гузориши ҳодисаро тартиб диҳад, аммо таҳлилгар онро пеш аз паҳн кардан баррасӣ мекунад; ё зеҳни сунъӣ метавонад масдуд кардани ҳисоби корбарро пешниҳод кунад, аммо инсон ин амалро тасдиқ мекунад). Ин на танҳо аз тафтиш нашудани хатогиҳои зеҳни сунъӣ пешгирӣ мекунад, балки ба дастаи шумо дар омӯхтани зеҳни сунъӣ ва баръакс низ кӯмак мекунад. Ҷараёни кори муштаракро ташвиқ кунед: таҳлилгарон бояд худро бароҳат ҳис кунанд, ки натиҷаҳои зеҳни сунъӣ зери суол баранд ва санҷишҳои солимӣ анҷом диҳанд. Бо гузашти вақт, ин муколама метавонад ҳам зеҳни сунъӣ (тавассути фикру мулоҳиза) ва ҳам малакаҳои таҳлилгаронро беҳтар созад. Асосан, равандҳои худро тавре тарҳрезӣ кунед, ки қувваҳои зеҳни сунъӣ ва инсон якдигарро пурра кунанд - зеҳни сунъӣ ҳаҷм ва суръатро идора мекунад, одамон норавшанӣ ва қарорҳои ниҳоиро идора мекунанд.

7. Андозагирӣ, назорат ва танзим кунед: Дар ниҳоят, абзорҳои тавлидкунандаи зеҳни сунъии худро ҳамчун ҷузъҳои зиндаи экосистемаи амниятии худ баррасӣ кунед. Самаранокии онҳоро пайваста чен кунед - оё онҳо вақти вокуниш ба ҳодисаҳоро кам мекунанд? Таҳдидҳоро барвақттар муайян мекунанд? Сатҳи мусбати бардурӯғ чӣ гуна тамоюл дорад? Аз даста фикру мулоҳиза гиред: оё тавсияҳои зеҳни сунъӣ муфиданд ё он садо эҷод мекунад? Аз ин метрикаҳо барои такмил додани моделҳо, навсозии маълумоти омӯзишӣ ё танзим кардани тарзи ҳамгироии зеҳни сунъӣ истифода баред. Таҳдидҳои киберӣ ва ниёзҳои тиҷоратӣ таҳаввул меёбанд ва моделҳои зеҳни сунъии шумо бояд мунтазам навсозӣ ё аз нав омӯзонида шаванд, то самаранок боқӣ монанд. Нақшае барои идоракунии модел дошта бошед, аз ҷумла кӣ барои нигоҳдории он масъул аст ва он чӣ қадар зуд-зуд баррасӣ мешавад. Бо идоракунии фаъолонаи давраи ҳаёти зеҳни сунъӣ, шумо кафолат медиҳед, ки он дороии он боқӣ мемонад, на ӯҳдадорӣ.

Хулоса, AI-и тавлидшуда метавонад қобилиятҳои киберамниятро ба таври назаррас афзоиш диҳад, аммо қабули бомуваффақият банақшагирии оқилона ва назорати доимиро талаб мекунад. Корхонаҳое, ки одамони худро таълим медиҳанд, дастурҳои дақиқ муқаррар мекунанд ва AI-ро ба таври мутавозин ва бехатар муттаҳид мекунанд, аз идоракунии тезтар ва оқилонаи таҳдидҳо мукофот хоҳанд гирифт. Ин роҳхатҳо харитаи роҳро пешниҳод мекунанд: таҷрибаи инсониро бо автоматизатсияи AI муттаҳид кунед, асосҳои идоракуниро фаро гиред ва чолокиро нигоҳ доред, зеро ҳам технологияи AI ва ҳам манзараи таҳдид ногузир таҳаввул меёбанд.

Бо андешидани ин қадамҳои амалӣ, ташкилотҳо метавонанд бо итминон ба саволи "Чӣ гуна зеҳни сунъии тавлидӣ метавонад дар амнияти киберӣ истифода шавад?" - на танҳо дар назария, балки дар амалияи ҳаррӯза - ва бо ин васила дифоъи худро дар ҷаҳони рақамии рӯзафзун ва аз ҷониби зеҳни сунъӣ идорашавандаи мо тақвият диҳанд. (Чӣ гуна зеҳни сунъии тавлидӣ метавонад дар амнияти киберӣ истифода шавад) 

Китобҳои сафеде, ки шумо метавонед баъд аз ин хонед, инҳоянд:

🔗 Ҷойҳои корӣ, ки зеҳни сунъӣ онҳоро иваз карда наметавонад ва кадом ҷойҳои кориро зеҳни сунъӣ иваз мекунад?
Назари ҷаҳониро дар бораи он ки кадом нақшҳо аз автоматизатсия эминанд ва кадоме аз онҳо нестанд, омӯзед.

🔗 Оё зеҳни сунъӣ метавонад бозори саҳҳомиро пешгӯӣ кунад?
Баррасии муфассалтар ба маҳдудиятҳо, пешрафтҳо ва афсонаҳо дар бораи қобилияти зеҳни сунъӣ барои пешгӯии ҳаракатҳои бозор.

🔗 Ба зеҳни сунъии тавлидӣ бе дахолати инсон чӣ кор кардан мумкин аст?
Фаҳмед, ки дар куҷо зеҳни сунъӣ метавонад мустақилона фаъолият кунад ва дар куҷо назорати инсонӣ ҳанӯз ҳам муҳим аст.