Чӣ тавр агенти зеҳни сунъӣ сохтан мумкин аст [Видео ва викторина]

Ҷавоби кӯтоҳ: Барои сохтани агенти зеҳни сунъӣ, ки дар амал кор мекунад, онро ҳамчун ҳалқаи назоратшаванда баррасӣ кунед: вурудро қабул кунед, амали навбатиро муайян кунед, асбоби маҳдуди доираиро даъват кунед, натиҷаро мушоҳида кунед ва то он даме, ки санҷиши возеҳи "анҷомёфта" гузарад, такрор кунед. Он вақте ки вазифа бисёрқадам ва аз ҷониби асбоб идорашаванда аст, эътибори худро пайдо мекунад; агар як дархост онро ҳал кунад, агентро гузаред. Схемаҳои қатъии асбобҳо, маҳдудиятҳои қадамҳо, сабти ном ва валидатор/танқидро илова кунед, то вақте ки асбобҳо кор намекунанд ё вурудҳо норавшананд, агент ба ҷои даврзанӣ афзоиш меёбад.

Хулосаҳои асосӣ:

Ҳалқаи контроллер: Амалисозии вуруд → амал → мушоҳидаи такрор бо шартҳои возеҳи таваққуф ва қадамҳои максималӣ.

Тарроҳии асбобҳо: Барои пешгирӣ аз бесарусомонии "коре_кунед" асбобҳоро танг, чопшуда, иҷозатдодашуда ва тасдиқшуда нигоҳ доред.

Гигиенаи хотира: Аз ҳолати кӯтоҳмуддати фишурда ва барқароркунии дарозмуддат истифода баред; аз партофтани транскриптҳои пурра худдорӣ кунед.

Муқовимат ба истифодаи нодуруст: Барои амалҳои хатарнок рӯйхатҳои иҷозатдодашуда, маҳдудиятҳои суръат, импотентсия ва "давраи хушк"-ро илова кунед.

Қобилияти санҷиш: Нигоҳ доштани маҷмӯи сенарияҳо (нокомӣ, номуайянӣ, тазриқҳо) ва аз нав иҷро кардани ҳар як тағйирот.

---

1) Агенти зеҳни сунъӣ, аз нигоҳи одами оддӣ, чист 🧠

Агенти зеҳни сунъӣ як ҳалқа аст. Ҳуҷҷатҳои "Агентҳо"-и LangChain

Ана тамом. Ҳалқае бо мағз дар мобайн.

Вуруд → фикр → амал → мушоҳида → такрор. Коғази ReAct (ақл + амал)

Дар куҷо:

• Вуруд дархости корбар ё рӯйдод аст (почтаи электронии нав, чиптаи дастгирӣ, пинг-и сенсор).

• Фикр кардан як модели забонӣ аст, ки дар бораи қадами оянда мулоҳиза меронад.

• Act даъват кардани абзор аст (ҷустуҷӯи ҳуҷҷатҳои дохилӣ, иҷро кардани рамз, эҷоди чипта, таҳияи ҷавоб). Дастури даъват кардани функсияи OpenAI

• Мушоҳида натиҷаи асбобро мехонад.

• Такрор қисмест, ки онро ба ҷои "гуфтугӯ" "агенти" эҳсос мекунад. Ҳуҷҷатҳои "Агентҳо"-и LangChain

Баъзе агентҳо асосан макросҳои интеллектуалӣ мебошанд. Дигарон бештар ба монанди оператори хурдсол амал мекунанд, ки метавонад вазифаҳоро иҷро кунад ва аз хатогиҳо барқарор шавад. Ҳарду муҳиманд.

Ҳамчунин, ба шумо мухторияти пурра лозим нест. Дар асл... шумо эҳтимол онро намехоҳед 🙃

---

2) Кай шумо бояд агент эҷод кунед (ва кай набояд) 🚦

Агентро вақте ки:

• Кор аз якчанд марҳила ва вобаста ба он чизе, ки дар миёнаи роҳ рух медиҳад, тағйир меёбад.

• Барои ин кор истифодаи абзорҳо (пойгоҳҳои додаҳо, CRM, иҷрои код, тавлиди файлҳо, браузерҳо, API-ҳои дохилӣ) лозим аст. Ҳуҷҷатҳои "Асбобҳо"-и LangChain

• Шумо натиҷаҳои такроршавандаро бо деворҳои муҳофизатӣ мехоҳед , на танҳо ҷавобҳои якдафъаина.

• Шумо метавонед калимаи "анҷомёфта"-ро ба тарзе муайян кунед, ки компютер метавонад тафтиш кунад, ҳатто ба таври озод.

Вақте ки агентро эҷод накунед:

• Як дархости оддӣ + посух онро ҳал мекунад (аз ҳад зиёд муҳандисӣ накунед, баъдтар аз худатон нафрат хоҳед кард).

• Ба шумо детерминизми комил лозим аст (агентҳо метавонанд якхела бошанд, аммо на роботӣ).

• Шумо ягон абзор ё маълумоте барои пайвастшавӣ надоред - пас ин асосан танҳо ларзишҳост.

Биёед ростқавлона бигӯем: нисфи "лойиҳаҳои агентҳои зеҳни сунъӣ" метавонанд ҷараёни корӣ бо чанд қоидаҳои шохабандӣ бошанд. Аммо баъзан вибратсия низ муҳим аст 🤷♂️

---

3) Чӣ версияи хуби агенти зеҳни сунъӣ аст ✅

Ин аст бахши "Чӣ версияи хуби онро ташкил медиҳад"-е, ки шумо дархост кардаед, аммо ман каме рӯирост мегӯям:

Нусхаи хуби агенти зеҳни сунъӣ нест , ки сахтгиртар фикр мекунад. Ин он аст, ки:

• Донад, ки чӣ кор карданаш иҷозат дода шудааст (ҳудудҳои фарогирӣ)

• Асбобҳоро боэътимод истифода мебарад (зангҳои сохторӣ, кӯшишҳои такрорӣ, тайм-аутҳо). Дастури даъвати функсияҳои OpenAI. AWS "Баъд аз вақт, кӯшишҳои такрорӣ ва ақибнишинӣ бо ҷиттер"

• Ҳолатро тоза нигоҳ медорад (хотирае, ки пӯсида намешавад) LangChain “Шарҳи хотира”

• Амалҳои худро шарҳ медиҳад (пайёмҳои аудит, на партовҳои махфии мулоҳизакорӣ) NIST AI RMF 1.0 (боэътимодӣ ва шаффофият)

• Мувофиқан қатъ мекунад (санҷиши анҷомёбӣ, қадамҳои максималӣ, баландшавӣ) Ҳуҷҷатҳои "Агентҳо"-и LangChain

• Бехатар ноком мешавад (кӯмак мепурсад, галлюцинатсияи қудратро ба вуҷуд намеорад) NIST AI RMF 1.0

• Санҷишшаванда аст (шумо метавонед онро дар сенарияҳои консервшуда иҷро кунед ва натиҷаҳоро ба даст оред)

Агар агенти шуморо санҷидан мумкин набошад, он асосан як мошини слотии хеле боэътимод аст. Дар зиёфатҳо шавқовар, дар истеҳсолот даҳшатнок 😬

---

4) Қисмҳои асосии сохтории агент ("анатомия" 🧩)

Аксари агентҳои сахт ин қисмҳоро доранд:

A) Ҳалқаи контроллер 🔁

Ин оркестрсоз аст:

• гол задан

• аз модел барои амали оянда пурсед

• асбоби иҷро

• мушоҳидаро замима кунед

• то анҷом ёфтан такрор кунед LangChain "Агентҳо" ҳуҷҷатҳо

B) Асбобҳо (яъне қобилиятҳо) 🧰

Асбобҳо он чизест, ки агентро самаранок мегардонад: Ҳуҷҷатҳои "Асбобҳо"-и LangChain

• дархостҳои пойгоҳи додаҳо

• фиристодани почтаи электронӣ

• кашидани файлҳо

• рамзи иҷрошаванда

• даъват кардани API-ҳои дохилӣ

• навиштан ба ҷадвалҳои электронӣ ё CRM

C) Хотира 🗃️

Ду намуд муҳиманд:

• хотираи кӯтоҳмуддат: контексти иҷроиши ҷорӣ, қадамҳои охирин, нақшаи ҷорӣ

• хотираи дарозмуддат: афзалиятҳои корбар, контексти лоиҳа, дониши гирифташуда (аксар вақт тавассути ҷойгиркунӣ + анбори векторӣ) коғази RAG

D) Сиёсати банақшагирӣ ва қабули қарорҳо 🧭

Ҳатто агар шумо онро "банақшагирӣ" нагӯед ҳам, ба шумо усуле лозим аст:

• рӯйхатҳои санҷишӣ

• Коғази ReAct бо услуби "фикр кунед, сипас корбарӣ кунед"

• графикҳои вазифаҳо

• намунаҳои коргари роҳбар

• Шаблонҳои коргари супервайзер Microsoft AutoGen (чаҳорчӯбаи бисёрагентӣ)

E) Панҷараҳои муҳофизатӣ ва арзёбӣ 🧯

• иҷозатҳо

• схемаҳои абзори бехатар Натиҷаҳои сохтории OpenAI

• тасдиқи баромад

• маҳдудиятҳои қадам

• чӯбкашӣ

• озмоишҳои NIST AI RMF 1.0

Бале, ин бештар муҳандисӣ аст, на ба ангеза. Ки... як навъ нукта ҳамин аст.

---

5) Ҷадвали муқоисавӣ: роҳҳои маъмули сохтани агент 🧾

Дар зер "Ҷадвали муқоиса"-и воқеӣ оварда шудааст - бо чанд хусусияти аҷиб, зеро дастаҳои воқеӣ аҷибанд 😄

Асбоб/Чаҳорчӯба	Шунавандагон	Нарх	Чаро он кор мекунад	Қайдҳо (бетартибии ночиз)
ЛангЧейн	бинокороне, ки ҷузъҳои услуби лего-ро дӯст медоранд	ройгон + инфра	экосистемаи калон барои абзорҳо, хотира, занҷирҳо	агар шумо чизҳоро ба таври возеҳ номбар накунед, метавонад зуд спагетти шавад
LlamaIndex	Дастаҳои вазнини RAG	ройгон + инфра	намунаҳои қавии ҷустуҷӯ, индексатсия, пайвасткунакҳо	вақте ки агенти шумо асосан "ҷустуҷӯ + амал" аст, хеле хуб аст... ки маъмул аст
Усули услуби ёрирасони OpenAI	дастаҳо мехоҳанд, ки тартиби зудтарро ташкил кунанд	ба истифода асос ёфтааст	намунаҳои даъвати асбоби дарунсохт ва ҳолати иҷро	дар баъзе гӯшаҳо камтар чандир, аммо барои бисёр барномаҳо тоза аст	OpenAI даъвати функсияҳои ёрирасони
Ядрои семантикӣ	таҳиягароне, ки оркестратсияи сохторӣ мехоҳанд	озодона	абстраксияи тоза барои малакаҳо/вазифаҳо	эҳсоси "оромӣ дар корхона" - баъзан ин як таъриф аст 😉
AutoGen	таҷрибагузаронандагони бисёрҷониба	озодона	Намунаҳои ҳамкории байни агентҳо	метавонад аз ҳад зиёд гап занад; қоидаҳои қатъии қатъкуниро муқаррар кунад
CrewAI	мухлисони "дастаҳои агентҳо"	озодона	нақшҳо + вазифаҳо + интиқолҳо ба осонӣ баён карда мешаванд	вақте беҳтар кор мекунад, ки вазифаҳо равшан бошанд, на нарм
Қаҳвахона	ҷустуҷӯ + лӯлаҳои одамон	озодона	қубурҳои сахт, барқароркунӣ, ҷузъҳо	камтар «театри агентӣ», бештар «корхонаи амалӣ»
Худатон ғелонед (ҳалқаи фармоишӣ)	девҳои назоратӣ (меҳрубон)	вақти шумо	ҷодуи ҳадди ақал, шаффофияти максималӣ	одатан беҳтарин роҳи дарозмуддат аст... то он даме, ки шумо ҳама чизро аз нав ихтироъ накунед 😅

Як ғолиб нест. Интихоби беҳтарин аз он вобаста аст, ки оё вазифаи асосии агенти шумо ҷустуҷӯ, иҷрои абзорҳо, ҳамоҳангсозии бисёрагентӣё автоматикунонии ҷараёни кор.

---

6) Чӣ тавр қадам ба қадам агенти зеҳни сунъӣ сохтан мумкин аст (дорухати воқеӣ) 🍳🤖

Ин қисматест, ки аксари одамон аз он даст мекашанд ва сипас ҳайрон мешаванд, ки чаро агент дар анбор мисли енот рафтор мекунад.

Қадами 1: Корро бо як ҷумла муайян кунед 🎯

Мисолҳо:

• "Ҷавоби муштариро бо истифода аз сиёсат ва матни чипта таҳия кунед ва сипас тасдиқро пурсед."

• "Гузориши хатогиро таҳқиқ кунед, онро такрор кунед ва ислоҳи онро пешниҳод кунед."

• "Ёддоштҳои нокомил дар вохӯриҳоро ба вазифаҳо, соҳибон ва мӯҳлатҳо табдил диҳед."

Агар шумо онро ба таври оддӣ муайян карда натавонед, агенти шумо низ наметавонад. Манзурам ин аст, ки он метавонад, аммо он импровизатсия мекунад ва импровизатсия ҷоест, ки буҷаҳо нобуд мешаванд.

Қадами 2: Сатҳи мустақилиятро муайян кунед (паст, миёна, тунд) 🌶️

• Мустақилияти паст: қадамҳоро пешниҳод мекунад, кликҳои инсонӣ "тасдиқ мекунанд"

• Миёна: асбобҳоро иҷро мекунад, натиҷаро тарҳрезӣ мекунад, номуайяниро афзоиш медиҳад

• Баланд: аз аввал то ба охир иҷро мекунад, танҳо дар ҳолатҳои истисноӣ ба одамон пинг мефиристад

Аз он чизе ки мехоҳед, камтар сар кунед. Шумо ҳамеша метавонед онро баъдтар зиёд кунед.

Қадами 3: Стратегияи модели худро интихоб кунед 🧠

Шумо одатан интихоб мекунед:

• як модели қавӣ барои ҳама чиз (оддӣ)

• як модели қавӣ + модели хурдтар барои қадамҳои арзон (тасниф, масиргузорӣ)

• моделҳои махсусгардонидашуда (биниш, рамз, нутқ) дар ҳолати зарурӣ

Ҳамчунин қарор қабул кунед:

• токенҳои ҳадди аксар

• ҳарорат

• оё шумо ба пайгирии тӯлонии тафаккур дар дохили худ иҷозат медиҳед (шумо метавонед, аммо занҷираи хоми андешаро ба корбарони ниҳоӣ фош накунед)

Қадами 4: Асбобҳоро бо схемаҳои қатъӣ муайян кунед 🔩

Воситаҳо бояд чунин бошанд:

• танг

• чопшуда

• иҷозатдодашуда

• Натиҷаҳои сохтории тасдиқшудаи OpenAI

Ба ҷои абзори бо номи do_anything(input: string), ин корро иҷро кунед:

• search_kb(дархост: сатр) -> натиҷаҳо[]

• create_ticket(унвон: сатр, бадан: сатр, афзалият: ҳисобкунӣ) -> ticket_id

• send_email(to: string, subject: string, body: string) -> status Дастури даъвати функсияи OpenAI

Агар шумо ба агент арраи занҷирӣ диҳед, аз он ки он бо буридани девор аз буттаҳо чарх мезанад, ҳайрон нашавед.

Қадами 5: Ҳалқаи контроллерро созед 🔁

Ҳалқаи ҳадди ақал:

1. Бо ҳадаф + контексти ибтидоӣ оғоз кунед

2. Аз модел пурсед: "Амали навбатӣ?"

3. Агар асбобро даъват кунед - асбобро иҷро кунед

4. Мушоҳидаро замима кунед

5. Ҳолати истгоҳро тафтиш кунед

6. Ҳуҷҷатҳои "Агентҳо"-и LangChain-ро (бо ҳадди аксар қадамҳо) такрор кунед

Илова кунед:

• тайм-аутҳо

• кӯшишҳои такрорӣ (эҳтиёт бошед - кӯшишҳои такрорӣ метавонанд давр зананд) AWS “Вақтҳои охир, кӯшишҳои такрорӣ ва ақибнишинӣ бо ларзиш”

• хатогии форматкунии асбоб (равшан, сохторӣ)

Қадами 6: Хотираро бодиққат илова кунед 🗃️

Кӯтоҳмуддат: нигоҳ доштани "хулосаи ҳолат"-и паймон дар ҳар қадам навсозӣ карда шавад. LangChain "Шарҳи хотира"
Дарозмуддат: нигоҳ доштани далелҳои устувор (афзалиятҳои корбар, қоидаҳои созмон, ҳуҷҷатҳои устувор).

Қоидаи асосӣ:

• агар он зуд-зуд тағйир ёбад - онро кӯтоҳмуддат нигоҳ доред

• агар он устувор бошад - муддати тӯлонӣ нигоҳ доред

• агар ҳассос бошад - ба қадри кофӣ нигоҳ доред (ё тамоман нигоҳ надоред)

Қадами 7: Тасдиқ ва гузариши "танқидӣ"-ро илова кунед 🧪

Нақшаи арзон ва амалӣ:

• агент натиҷа медиҳад

• валидатор сохтор ва маҳдудиятҳоро тафтиш мекунад

• баррасиҳои ихтиёрии модели интиқодӣ барои қадамҳои гумшуда ё вайронкунии сиёсат NIST AI RMF 1.0

Комил нест, аммо миқдори зиёди бемаъниро дар бар мегирад.

Қадами 8: Ҳама чизеро, ки аз сабт кардан пушаймон мешавед, сабт кунед 📜

Гузориш:

• даъватҳои асбобҳо + вурудҳо + баромадҳо

• қарорҳои қабулшуда

• хатогиҳо

• натиҷаҳои ниҳоӣ

• токенҳо ва таъхири OpenTelemetry дастури мушоҳидашавандагӣ

Оянда - шумо аз шумо миннатдор хоҳед буд. Ҳозира - шумо фаромӯш хоҳед кард. Ин танҳо ҳаёт аст 😵💫

---

7) Занги асбобҳое, ки рӯҳи шуморо намешикананд 🧰😵

Занги асбобҳо ҷоест, ки "Чӣ гуна агенти зеҳни сунъиро сохтан мумкин аст" ба муҳандисии воқеии нармафзор табдил меёбад.

Асбобҳоро боэътимод гардонед (боэътимод будан хуб аст)

Воситаҳои боэътимод инҳоянд:

• детерминистӣ

• доираи маҳдуд

• озмоиши осон

• дубора иҷро кардани Stripe “Дархостҳои Idempotent”

Дар қабати асбобҳо паноҳгоҳҳо илова кунед, на танҳо дастурҳо

Супоришҳо пешниҳодҳои боадабонаанд. Тасдиқи асбобҳо як дари қулфшуда аст. Натиҷаҳои сохтории OpenAI

Иҷро кунед:

• рӯйхати иҷозатҳо (ки кадом абзорҳо метавонанд кор кунанд)

• тасдиқи вуруд

• маҳдудиятҳои меъёр OpenAI Дастури маҳдудиятҳои меъёр

• санҷиши иҷозатҳо барои ҳар як корбар/ташкилот

• «реҷаи хушк» барои амалҳои хатарнок

Тарҳрезӣ барои нокомии қисман

Асбобҳо кор намекунанд. Шабакаҳо ларзида истодаанд. Мӯҳлати иҷозатнома ба охир мерасад. Агент бояд:

• хатогиҳоро тафсир кардан

• стратегияи такрории Google Cloud (қафо + ларзиш) бо қафо, вақте ки мувофиқ аст, дубора кӯшиш кунед

• воситаҳои алтернативиро интихоб кунед

• ҳангоми часпидан шиддат гирифтан

Ҳиллаи оромона ва муассир: баргардонидани хатогиҳои сохторӣ ба монанди:

• намуд: хатогии auth_error

• намуд: ёфт нашуд

• type: rate_limited
  Пас, модел метавонад ба ҷои воҳима шудан, оқилона посух диҳад.

---

8) Хотирае, ки ба ҷои таъқиб кардани шумо кӯмак мекунад 👻🗂️

Хотира пурқувват аст, аммо он инчунин метавонад ба як қуттии партов табдил ёбад.

Хотираи кӯтоҳмуддат: онро фишурда нигоҳ доред

Истифода:

• қадамҳои охирини N

• хулосаи иҷро (ҳар як давр навсозӣ мешавад)

• нақшаи ҷорӣ

• маҳдудиятҳои ҷорӣ (буҷа, вақт, сиёсатҳо)

Агар шумо ҳама чизро дар контекст гузоред, шумо ба даст меоред:

• арзиши баландтар

• лаҳзаи сусттар

• нофаҳмиҳои бештар (бале, ҳатто он вақт)

Хотираи дарозмуддат: барқароркунӣ аз рӯи "пуркунӣ"

Аксари «хотираи дарозмуддат» бештар ба ин монанд аст:

• ҷойгиркунӣ

• мағозаи векторӣ

• коғази RAG (генератсияи такмилёфта)-ро ҷустуҷӯ мекунад

Агент азёд намекунад. Он порчаҳои муҳимтаринро дар вақти иҷро мегирад. LlamaIndex “Муқаддима ба RAG”

Қоидаҳои амалии хотира

• "Танзимот"-ро ҳамчун далелҳои возеҳ нигоҳ доред: "Корбар хулосаҳои тирчаро дӯст медорад ва аз эмодзиҳо нафрат дорад" (лол, аммо дар ин ҷо нест 😄)

• "Қарорҳо"-ро бо мӯҳрҳои вақт ё версияҳо нигоҳ доред (вагарна ихтилофҳо ҷамъ мешаванд)

• Ҳеҷ гоҳ сирро нигоҳ надоред, агар ба шумо воқеан лозим набошад

Ва ин истиораи нокомилии ман аст: хотира мисли яхдон аст. Агар шумо онро ҳеҷ гоҳ тоза накунед, дар ниҳоят сэндвичатон мисли пиёз ва пушаймонӣ таъм мегирад.

---

9) Нақшаҳои банақшагирӣ (аз содда то зебо) 🧭✨

Банақшагирӣ танҳо як таҷзияи назоратшаванда аст. Онро асроромез накунед.

Намунаи А: Банақшагири рӯйхати санҷишӣ ✅

• Модел рӯйхати қадамҳоро баровард мекунад

• Қадам ба қадам иҷро мекунад

• Ҳолати рӯйхати санҷишро навсозӣ мекунад

Барои дохилшавӣ хеле хуб аст. Содда, санҷидашаванда.

Намунаи B: Ҳалқаи ReAct (ақл + амал) 🧠→🧰

• модел занги навбатии асбобро муайян мекунад

• баромадро мушоҳида мекунад

• коғази ReAct-ро такрор мекунад

Ин эҳсоси классикии агент аст.

Намунаи C: Коргари нозир 👥

• сардор ҳадафро ба вазифаҳо тақсим мекунад

• коргарон вазифаҳои махсусро иҷро мекунанд

• нозир натиҷаҳоро муттаҳид мекунад Microsoft AutoGen (чаҳорчӯбаи бисёрагентӣ)

Ин вақте арзишманд аст, ки вазифаҳо ба ҳам мувозӣ бошанд ё вақте ки шумо "нақшҳо"-и гуногунро мехоҳед, ба монанди:

• муҳаққиқ

• рамзгузор

• муҳаррир

• Санҷиши сифати хизматрасонӣ

Нақшаи D: Нақшагузорӣ ва сипас иҷро кардан бо аз нав банақшагирӣ 🔄

• нақша тартиб додан

• иҷро кардан

• агар натиҷаҳои абзор воқеиятро тағйир диҳанд, аз нав ба нақша гиред

Ин ба агент имкон намедиҳад, ки якравона аз нақшаи бад пайравӣ кунад. Одамон низ ин корро мекунанд, агар хаста набошанд, дар ин сурат онҳо низ аз нақшаҳои бад пайравӣ мекунанд.

---

10) Бехатарӣ, эътимоднокӣ ва аз кор ронда нашудан 🔐😅

Агар агенти шумо метавонад чораҳо андешад, ба шумо тарҳи бехатарӣ лозим аст. "Доштани он хуб нест". Ниёз. NIST AI RMF 1.0

Маҳдудиятҳои сахт

• ҳадди аксар қадамҳо барои як давидан

• ҳадди аксар зангҳои асбобӣ дар як дақиқа

• хароҷоти ҳадди аксар барои як сессия (буҷаи токен)

• воситаҳои маҳдуд паси тасдиқ

Коркарди маълумот

• пеш аз сабти вурудоти ҳассосро таҳрир кунед

• муҳитҳои алоҳида (dev vs production)

• иҷозатномаҳои абзорҳои дорои имтиёзи камтар

Маҳдудиятҳои рафторӣ

• агентро маҷбур кунед, ки порчаҳои далелҳои дохилиро истинод кунад (на истинодҳои беруна, танҳо истинодҳои дохилӣ)

• вақте ки эътимод паст аст, нишони номуайянӣ талаб карда мешавад

• агар вурудҳо норавшан бошанд, "саволи равшанкунанда диҳед" талаб карда мешавад

Агенти боэътимод он касе нест, ки боэътимодтарин бошад. Ин он касест, ки медонад, ки кай тахмин мезанад... ва инро мегӯяд.

---

11) Санҷиш ва арзёбӣ (қисме, ки ҳама аз он канорагирӣ мекунанд) 🧪📏

Шумо наметавонед чизеро, ки чен карда наметавонед, беҳтар кунед. Бале, ин ҷумла бемаънӣ аст, аммо ин ҳақиқати хеле асабоваркунанда аст.

Маҷмӯи сенарияҳоро эҷод кунед

30-100 ҳолати санҷишӣ эҷод кунед:

• роҳҳои хушбахт

• ҳолатҳои канорӣ

• Ҳолатҳои "нокомии асбобҳо"

• дархостҳои норавшан

• дархостҳои мухолиф (кӯшишҳои воридкунии фаврӣ) 10 беҳтарини OWASP барои барномаҳои LLM Тазриқи фаврии OWASP LLM01

Натиҷаҳои холҳо

Меъёрҳоро ба монанди инҳо истифода баред:

• сатҳи муваффақияти вазифа

• вақти анҷомёбӣ

• суръати барқароршавии хатогиҳои асбоб

• сатҳи галлюцинатсия (иддаоҳо бе далел)

• сатҳи тасдиқи инсонӣ (агар дар ҳолати назоратӣ бошад)

Санҷишҳои регрессия барои дастурҳо ва абзорҳо

Ҳар вақте ки шумо иваз мекунед:

• схемаи асбобҳо

• дастурҳои система

• мантиқи ҷустуҷӯ

• формати хотира.
  Пакетро аз нав иҷро кунед.

Агентҳо ҳайвоноти ҳассосанд. Мисли растаниҳои хонагӣ, аммо гаронтар.

---

12) Нақшаҳои ҷойгиркунӣ, ки буҷаи шуморо об намекунанд 💸🔥

Бо як хидматрасонии ягона оғоз кунед

• API-и контроллери агент

• хидматҳои асбобҳо дар паси он

• сабткунӣ + мониторинги OpenTelemetry дастури мушоҳидашавандагӣ

Назорати хароҷотро барвақт илова кунед

• натиҷаҳои ҷустуҷӯи кэш

• фишурдани ҳолати сӯҳбат бо хулосаҳо

• истифодаи моделҳои хурдтар барои масирёбӣ ва истихроҷ

• маҳдуд кардани "реҷаи тафаккури амиқ" ба қадамҳои душвортарин

Интихоби меъмории маъмулӣ

• контроллери бешаҳрвандӣ + анбори ҳолати беруна (DB/redis)

• Зангҳои абзор дар ҷое, ки имконпазир аст, имемотентӣ мебошанд. Stripe “Дархостҳои имемотентӣ”

• навбат барои вазифаҳои тӯлонӣ (то ки шумо дархости вебро барои ҳамеша кушода нигоҳ надоред)

Ҳамчунин: "тугмаи куштор"-ро созед. Он ба шумо лозим намешавад, то он даме, ки ба он воқеан, воқеан ниёз надоред 😬

---

13) Эзоҳҳои ниҳоӣ - нусхаи кӯтоҳ дар бораи чӣ гуна сохтани агенти зеҳни сунъӣ 🎁🤖

Агар шумо чизи дигареро дар хотир надоред, инро дар хотир доред:

• Чӣ тавр агенти зеҳни сунъиро сохтан мумкин аст , асосан дар бораи сохтани як ҳалқаи бехатар дар атрофи модел аст. Ҳуҷҷатҳои "Агентҳо"-и LangChain

• Бо ҳадафи возеҳ, мустақилияти паст ва абзорҳои қатъӣ оғоз кунед. Натиҷаҳои сохтории OpenAI

• Илова кардани хотира тавассути бозёфт, на пуркунии беохири контекст. Коғази латукӯб

• Банақшагирӣ метавонад содда бошад - рӯйхатҳои санҷишӣ ва аз нав банақшагирӣ хеле дуранд.

• Сабткунӣ ва санҷишҳо бесарусомонии агентро ба чизе табдил медиҳанд, ки шумо метавонед онро интиқол диҳед. Дастури мушоҳидаи OpenTelemetry

• Панҷараҳои муҳофизатӣ на танҳо дар рамз, балки дар дастурҳо низ мавҷуданд. 10 барномаи беҳтарини OWASP барои барномаҳои LLM

Агент ҷоду нест. Ин системаест, ки аксар вақт қарорҳои хуб қабул мекунад, то арзишманд бошад... ва пеш аз он ки зарар расонад, шикастро эътироф мекунад. Ба таври оромона тасаллибахш, ба маъное 😌

Ва бале, агар шумо онро дуруст тартиб диҳед, ин мисли киро кардани як коромӯзи хурди рақамӣ аст, ки ҳеҷ гоҳ намехобад, баъзан воҳима мекунад ва корҳои коғазиро дӯст медорад. Пас, асосан як коромӯз.

Мисоли воқеӣ: Сохтани агенти AI барои триажи дастгирӣ 🎫🤖

Сенария

Тасаввур кунед, ки як дастаи хурди SaaS дар як ҳафта 120-180 чиптаи дастгирӣ мегирад. Аксари чиптаҳо мураккаб нестанд, аммо онҳо ҳоло ҳам вақтро талаб мекунанд: аз нав танзимкунии парол, саволҳои ҳисоббаробаркунӣ, гузоришҳои хатогиҳо, дархостҳои хусусиятҳо ва паёмҳои "оё ин рафтори интизоршаванда аст?".

Чатботи оддӣ метавонад ҷавобҳоро тартиб диҳад, аммо он наметавонад вазъи ҳисобро боэътимод тафтиш кунад, пойгоҳи донишро ҷустуҷӯ кунад, фавриятро тасниф кунад ё муайян кунад, ки кай инсон бояд дахолат кунад. Ин ҷоест, ки агент мантиқӣ аст.

Ҳадаф пурра иваз кардани дастгирӣ нест. Ҳадаф сохтани агенти дорои мустақилияти паст аст, ки чиптаи навро мехонад, контекстро ҷамъ мекунад, ҷавобро тартиб медиҳад ва чиптаро ба навбати дуруст равона мекунад. Инсон ҳоло ҳам ҳама чизеро, ки ба муштарӣ нигаронида шудааст, тасдиқ мекунад.

Он чизе, ки ба ёвари ёвар лозим аст

Барои кори бехатар, агент ба маҷмӯи хурди назоратшавандаи вуруд ва асбобҳо ниёз дорад:

• Матни чиптаи воридотӣ

• Навъи нақшаи муштарӣ, синну соли ҳисоб ва вазъи охирини ҳисоббаробаркунӣ

• Рӯйхати тағйироти охирини маҳсулот ё ҳодисаҳои маълум

• Мақолаҳои маркази кӯмаки дохилӣ

• Воситаи навсозии чипта бо майдонҳои маҳдуд

• Воситаи ҷавоби пешнавис, на воситаи фиристодани почтаи электронӣ

• Сиёсати равшани шиддатёбӣ

Рӯйхати асбобҳо бояд аз рӯи мақсад маҳдуд бошад:

• маркази_кӯмаки_ҷустуҷӯӣ(дархост)

• ҳолати_муштариро_гирифтан(муштарии_ид)

• санҷиши_маълум_ҳодиса(минтақаи_маҳсулот)

• навсозии_чипта_категория(id_чипта, категория, афзалият)

• ҷавоби_лойиҳа(id_чипта, матн_ҷавоб)

• escalate_to_human(id_ticket, сабаб)

Ба он чизе, ки намерасад, диққат диҳед: ягон воситаи "баргардонидани маблағ ба муштарӣ", "пӯшидани ҳисоб" ё "фиристодани ҷавоби ниҳоӣ" вуҷуд надорад. Ин амалҳо барои версияи аввал хеле хатарноканд.

Намунаи дастур

Шумо агенти триажи дастгирӣ барои маҳсулоти SaaS ҳастед.

Вазифаи шумо тасниф кардани чиптаҳои воридшаванда, ҷамъоварии танҳо матни зарурӣ, таҳияи посухи пешниҳодшуда ва муайян кардани он аст, ки оё чипта бояд баланд бардошта шавад.

Қоидаҳо:

Ҷавобҳоро мустақиман ба муштариён нафиристед.

Пеш аз посух додан ба саволҳои маҳсулот, аз маркази кӯмак истифода баред.

Пеш аз посух додан ба саволҳои ҳисоббаробаркунӣ, нақша ё дастрасӣ, вазъи муштариро тафтиш кунед.

Агар муштарӣ таҳдидҳои ҳуқуқӣ, аз даст додани маълумот, мушкилоти амниятӣ, нокомии пардохт, бекор кардани ҳисоб ё забони хашмгинонаро зикр кунад, ин ба як навъ рафтори инсонӣ табдил меёбад.

Агар ҷавоб аз ҷониби мундариҷаи маркази кӯмак ё маълумоти ҳисоб гирифташуда дастгирӣ нашавад, бигӯед, ки чӣ намерасад ва онро пурзӯртар кунед.

Пас аз ҳадди аксар 6 занги асбоб қатъ кунед.

Билет танҳо вақте "анҷом дода мешавад", ки он категория, афзалият, хулосаи далелҳо, ҷавоби пешнавис ва "тасдиқи инсонӣ лозим аст" ё "афзоишёфта" дошта бошад.

Чӣ тавр онро санҷидан мумкин аст

Пеш аз пайваст кардани он ба корбарони зинда, бо 30 чиптаи санҷишӣ оғоз кунед:

• 10 чиптаи муқаррарӣ, ба монанди аз нав танзимкунии парол, маҳдудиятҳои нақша ва саволҳои оддии "чӣ тавр ман бояд кунам?"

• 5 чиптаи ҳисоббаробаркунӣ

• 5 гузориши хатогиҳо

• 5 чиптаи норавшан бо маълумоти нопурра

• 5 чиптаи хатарнок, ба монанди нигарониҳои амниятӣ, талабот барои баргардонидани пул ва шикоятҳои хашмгин

Барои ҳар як чипта холҳо гузоред:

• Оё он категорияи дурустро интихоб кардааст?

• Оё он пеш аз посух додан аз абзори дуруст истифода бурд?

• Оё он аз даъвоҳои беасос канорагирӣ кард?

• Оё ин чиптаҳои хатарнокро афзоиш дод?

• Оё лоиҳа ба таҳрири ҷиддӣ ниёз дошт?

Дар аввал як ҷадвали оддии гузариш/нокомӣ кофӣ аст. Пеш аз он ки бидонед, ки агент арзиш медиҳад ё не, системаи баҳодиҳиро аз ҳад зиёд пур накунед.

Натиҷа

Натиҷаи тасвирӣ: Бар асоси вақтсанҷии 30 чиптаи намунавӣ пеш аз ва баъд аз истифодаи ин ҷараёни корӣ, як роҳбари дастгирӣ метавонад инҳоро чен кунад:

• Вақти миёнаи интихоби аввал аз 6 дақиқа барои як чипта то 90 сония кам карда шуд

• 30 чипта дар 45 дақиқа ба ҷои 3 соат санҷида шуданд

• 27 аз 30 чипта дар категорияи дуруст ҷойгир карда шудаанд

• 5 аз 5 чиптаи хатарнок дуруст баланд бардошта шуданд

• 0 посухи муштарӣ бе тасдиқи инсон фиристода шуд

Ин рақамҳо тахмини намунавӣ мебошанд, на меъёри исботшуда. Андозагириро такрор кардан осон аст: ҳамон як партияи чиптаҳои санҷиширо дастӣ вақт ҳисоб кунед, сипас онҳоро тавассути агент иҷро кунед ва дақиқии категория, дақиқии афзоиш ва вақти таҳрирро муқоиса кунед.

Чӣ метавонад хато кунад

Агент метавонад бо роҳҳои хеле муқаррарӣ ноком шавад.

Он метавонад муштарии ноумед, вале оддӣ, ки аз забони он хашмгин садо медиҳад, ҳамчун "фаврӣ" тасниф шавад. Он метавонад аз мақолаи кумаки кӯҳнашуда ҷавоби боэътимод тартиб диҳад. Он метавонад ҷустуҷӯро идома диҳад, вақте ки қадами дуруст барои шиддат гирифтани вазъият аст. Он метавонад тафсилоти аз ҳад зиёди ҳисобро дар пешниҳоди ҷавоб ошкор кунад.

Ислоҳ "саволи беҳтаре нависед" ва умед кардан нест. Маҳдудиятҳои сахт илова кунед:

• Вақте ки забони ҳисоббаробаркунӣ, амниятӣ, ҳуқуқӣ ё бекоркунӣ пайдо мешавад, суръатро афзоиш диҳед

• Дар хулосаи далелҳо иқтибосҳоро аз мақолаҳои кӯмаки дохилӣ талаб кунед

• "Фиристодани ҷавоб"-ро дар паси тасдиқи инсонӣ нигоҳ доред

• Ҳар як занги асбоб ва лоиҳаи ниҳоиро сабт кунед

• Пас аз ҳар як тағирёбии дархост, абзор ё сиёсат, маҷмӯи санҷишии 30-чиптаро аз нав иҷро кунед

Хулосаи амалӣ

Агенти арзишманд ба мустақилияти драмавӣ ниёз надорад. Дар ин мисол, арзиш аз ҳалқаи назоратшаванда бармеояд: чиптаро хонед, контексти дурустро гиред, онро тасниф кунед, посухро тартиб диҳед ва барои баррасӣ таваққуф кунед. Ба ин нисбат ба агенте, ки кӯшиш мекунад бо як дархости бузург "дастгирӣ"-ро идора кунад, эътимод кардан, санҷидан ва беҳтар кардан хеле осонтар аст.

---

Саволҳои зиёд такрормешуда

Агенти зеҳни сунъӣ (AI), бо ибораи оддӣ, чист?

Агенти зеҳни сунъӣ асосан як ҳалқаест, ки такрор мешавад: вурудро қабул мекунад, қадами ояндаро муайян мекунад, аз асбоб истифода мебарад, натиҷаро мехонад ва то анҷом ёфтани он такрор мекунад. Қисми "агентӣ" аз амал ва мушоҳида бармеояд, на танҳо сӯҳбат. Бисёре аз агентҳо танҳо автоматикунонии интеллектуалӣ бо дастрасӣ ба абзорҳо мебошанд, дар ҳоле ки дигарон бештар ба оператори хурдсол монанданд, ки метавонанд аз хатогиҳо барқарор шаванд.

Кай бояд ба ҷои истифодаи танҳо як дархост, агенти зеҳни сунъӣ созам?

Агентеро эҷод кунед, вақте ки кор бисёрзинагӣ аст, бар асоси натиҷаҳои мобайнӣ тағир меёбад ва истифодаи боэътимоди абзорро (API, пойгоҳи додаҳо, чиптафурӯшӣ, иҷрои код) талаб мекунад. Агентҳо инчунин вақте муфиданд, ки шумо натиҷаҳои такроршавандаро бо деворҳои муҳофизатӣ ва роҳи санҷиши "анҷомёфта" мехоҳед. Агар вокуниши оддии фаврӣ кор кунад, агент одатан хароҷоти нолозим ва режимҳои нокомии иловагӣ дорад.

Чӣ тавр ман метавонам агенти зеҳни сунъӣ созам, ки дар ҳалқаҳо часпида намонад?

Шартҳои қатъи сахтро истифода баред: қадамҳои максималӣ, даъватҳои максималии асбобҳо ва санҷишҳои анҷоми тоза. Схемаҳои асбобҳои сохторӣ, тайм-аутҳо ва кӯшишҳои такрориро илова кунед, ки абадӣ такрор намешаванд. Қарорҳо ва натиҷаҳои асбобҳоро сабт кунед, то шумо бубинед, ки онҳо дар куҷо аз роҳ мебароянд. Клапани бехатарии маъмулӣ эскалатсия аст: агар агент номуайян бошад ё хатогиҳоро такрор кунад, он бояд ба ҷои импровизатсия кӯмак пурсад.

Меъмории ҳадди ақали "Чӣ тавр агенти зеҳни сунъӣ сохтан мумкин аст" чист?

Ҳадди ақал ба шумо ҳалқаи контроллер лозим аст, ки ба модел ҳадаф ва контекст медиҳад, амали навбатиро мепурсад, дар ҳолати дархост асбоберо иҷро мекунад, мушоҳидаро замима мекунад ва такрор мекунад. Ба шумо инчунин асбобҳое лозиманд, ки шаклҳои қатъии вуруд/хуруҷ ва санҷиши "анҷомёфта" доранд. Ҳатто ҳалқаи худгард метавонад хуб кор кунад, агар шумо тозагии ҳолатро нигоҳ доред ва маҳдудиятҳои қадамҳоро риоя кунед.

Чӣ гуна ман бояд даъвати абзорро тарҳрезӣ кунам, то он дар истеҳсолот боэътимод бошад?

Асбобҳоро танг, чопшуда, иҷозатдодашуда ва тасдиқшуда нигоҳ доред — аз асбоби умумии "do_anything" худдорӣ кунед. Схемаҳои қатъиро (ба монанди баромадҳои сохторӣ/даъвати функсияҳо) афзалтар донед, то агент вурудҳоро бо даст иваз карда натавонад. Дар қабати асбобҳо рӯйхати иҷозатҳо, маҳдудиятҳои суръат ва санҷишҳои иҷозати корбар/ташкилотро илова кунед. Асбобҳоро тавре тарроҳӣ кунед, ки ҳангоми имконпазир дубора кор кардан бехатар бошад, бо истифода аз қолабҳои идемпотентӣ.

Роҳи беҳтарини илова кардани хотира бе бадтар кардани агент кадом аст?

Хотираро ҳамчун ду қисм баррасӣ кунед: ҳолати кӯтоҳмуддати иҷро (қадамҳои охирин, нақшаи ҷорӣ, маҳдудиятҳо) ва барқароркунии дарозмуддат (афзалиятҳо, қоидаҳои устувор, ҳуҷҷатҳои дахлдор). Мустаҳкамкунии кӯтоҳмуддатро бо хулосаҳои иҷрошуда нигоҳ доред, на бо транскриптҳои пурра. Барои хотираи дарозмуддат, барқароркунӣ (ҷойгиркунӣ + намунаҳои нигоҳдории векторӣ/RAG) одатан аз "пур кардани" ҳама чиз ба контекст ва печида кардани модел бартарӣ дорад.

Кадом нақшаи банақшагириро бояд истифода кунам: рӯйхати санҷишӣ, ReAct ё коргари супервайзер?

Банақшагири рӯйхати санҷиш вақте хуб аст, ки вазифаҳо пешгӯишаванда бошанд ва шумо чизеро, ки ба осонӣ санҷидан мехоҳед, мехоҳед. Ҳалқаҳои услуби ReAct вақте дурахшон мешаванд, ки натиҷаҳои асбобҳо кори минбаъдаи шуморо тағйир медиҳанд. Нақшаҳои нозир ва коргар (ба монанди ҷудокунии нақшҳо ба услуби AutoGen) вақте кӯмак мекунанд, ки вазифаҳо метавонанд ба ҳам мувофиқ карда шаванд ё аз нақшҳои гуногун (муҳаққиқ, рамзгузор, сифати хизматрасонӣ) баҳра баранд. Банақшагирӣ-пас-иҷро бо аз нав банақшагирӣ як роҳи миёнаи амалӣ барои пешгирӣ аз нақшаҳои бади якрав аст.

Чӣ тавр ман метавонам агентро бехатар гардонам, агар он тавонад амалҳои воқеиро анҷом диҳад?

Иҷозатҳои камтарин имтиёзро истифода баред ва абзорҳои хатарнокро дар паси тасдиқ ё режимҳои "хушк" маҳдуд кунед. Буҷетҳо ва маҳдудиятҳоро илова кунед: қадамҳои максималӣ, хароҷоти максималӣ ва маҳдудиятҳои занги асбоб барои як дақиқа. Пеш аз сабти ном маълумоти махфиро таҳрир кунед ва таҳиягарро аз муҳитҳои истеҳсолӣ ҷудо кунед. Вақте ки вурудҳо норавшананд, парчамҳои номуайянӣ ё равшан кардани саволҳоро талаб кунед, ба ҷои он ки эътимод далелҳоро иваз кунад.

Чӣ тавр ман метавонам агенти зеҳни сунъиро озмоиш ва арзёбӣ кунам, то он бо мурури замон беҳтар шавад?

Маҷмӯи сенарияҳоро бо роҳҳои муваффақ, ҳолатҳои канорӣ, нокомиҳои асбобҳо, дархостҳои норавшан ва кӯшишҳои воридкунии фаврӣ (ба услуби OWASP) созед. Натиҷаҳоро ба монанди муваффақияти вазифа, вақти анҷомёбӣ, барқароршавӣ аз хатогиҳои асбобҳо ва даъвоҳо бе далел баҳо диҳед. Ҳар вақте ки шумо схемаҳои асбобҳо, дархостҳо, барқароркунӣ ё форматкунии хотираро иваз мекунед, маҷмӯаро аз нав иҷро кунед. Агар шумо онро санҷида натавонед, шумо наметавонед онро боэътимод интиқол диҳед.

Чӣ тавр ман метавонам агентро бе зиёд кардани таъхир ва хароҷот ҷойгир кунам?

Як намунаи маъмулӣ контроллери бетағйир бо анбори ҳолати беруна (DB/Redis), хидматҳои абзорӣ дар паси он ва сабти қавии/мониторинг (аксар вақт OpenTelemetry) мебошад. Хароҷотро бо кэшкунии барқароркунӣ, хулосаҳои фишурдаи ҳолат, моделҳои хурдтар барои масиркунӣ/истихроҷ ва маҳдуд кардани "тафаккури амиқ" ба қадамҳои душвортарин назорат кунед. Барои вазифаҳои тӯлонӣ аз навбатҳо истифода баред, то дархостҳои вебро кушода нигоҳ надоред. Ҳамеша тугмаи кушторро дохил кунед.

Адабиёт

1. Институти миллии стандартҳо ва технология (NIST) - NIST AI RMF 1.0 (боэътимодӣ ва шаффофият) - nvlpubs.nist.gov

2. OpenAI - Натиҷаҳои сохторӣ - platform.openai.com

3. OpenAI - Дастури даъвати функсияҳо - platform.openai.com

4. OpenAI - Дастури маҳдудиятҳои нархгузорӣ - platform.openai.com

5. OpenAI - API-ро иҷро мекунад - platform.openai.com

6. OpenAI - Даъвати функсияҳои ёрирасон - platform.openai.com

7. LangChain - Агентҳо ҳуҷҷатҳо (JavaScript) - docs.langchain.com

8. LangChain - Ҳуҷҷатҳои асбобҳо (Python) - docs.langchain.com

9. LangChain - Шарҳи хотира - docs.langchain.com

10. arXiv - Мақолаи ReAct (сабаб + амал) - arxiv.org

11. arXiv - коғази RAG - arxiv.org

12. Китобхонаи созандагони хидматҳои веби Amazon (AWS) - Вақти тайм-аутҳо, кӯшишҳои такрорӣ ва бозгашт бо ҷиттер - aws.amazon.com

13. OpenTelemetry - Дастури мушоҳидашавандагӣ - opentelemetry.io

14. Stripe - Дархостҳои Idempotent - docs.stripe.com

15. Google Cloud - Стратегияи такрорӣ (қафо + ларзиш) - docs.cloud.google.com

16. OWASP - 10 барномаи беҳтарин барои барномаҳои модели забони калон - owasp.org

17. Тазриқи фаврии OWASP - LLM01 - genai.owasp.org

18. LlamaIndex - Муқаддима ба RAG - developers.llamaindex.ai

19. Microsoft - Ядрои семантикӣ - learn.microsoft.com

20. Microsoft AutoGen - Чаҳорчӯбаи бисёрагентӣ (ҳуҷҷатгузорӣ) - microsoft.github.io

21. CrewAI - Консепсияҳои агентҳо - docs.crewai.com

22. Haystack (deepset) - Ҳуҷҷатҳо дар бораи ретриверҳо - docs.haystack.deepset.ai

Навтарин зеҳни сунъиро дар мағозаи расмии ёвари зеҳни сунъӣ пайдо кунед

Дар бораи мо