Баъзан зеҳни сунъӣ қариб ба як ҳиллаи ҷодуӣ монанд аст. Шумо як саволи тасодуфиро ворид мекунед ва бам - ҷавоби зебо ва сайқалёфта дар тӯли чанд сония пайдо мешавад. Аммо ин аст нуқтаи асосӣ: дар паси ҳар як мошини "нобиа" одамони воқеӣ ҳастанд, ки онро дар роҳ тела медиҳанд, ислоҳ мекунанд ва шакл медиҳанд. Ин одамонро мураббиёни зеҳни сунъӣ ва коре, ки онҳо анҷом медиҳанд, аз он чизе ки аксари одамон фикр мекунанд, аҷибтар, хандаовартар ва ростқавлона инсонӣтар аст.
Биёед бубинем, ки чаро ин мураббиён муҳиманд, кори ҳаррӯзаи онҳо дар асл чӣ гуна аст ва чаро ин нақш нисбат ба он ки касе пешгӯӣ карда буд, зудтар рушд мекунад.
Мақолаҳое, ки шумо метавонед баъд аз ин хонед, инҳоянд:
🔗 Арбитражи зеҳни сунъӣ чист: Ҳақиқати паси калимаи маъмулӣ
Арбитражи зеҳни сунъӣ, хатарҳо, манфиатҳо ва тасаввуроти нодурусти маъмули онро шарҳ медиҳад.
🔗 Талабот барои нигоҳдории маълумот барои зеҳни сунъӣ: Он чизе ки шумо дар ҳақиқат бояд донед
Ниёзҳои нигоҳдорӣ, миқёспазирӣ ва самаранокии системаҳои зеҳни сунъиро фаро мегирад.
🔗 Падари АИ кист?
Пешравони зеҳни сунъӣ ва пайдоиши зеҳни сунъиро меомӯзад.
Чӣ мураббии боэътимоди зеҳни сунъӣ аст? 🏆
Ин кори осон нест. Беҳтарин мураббиён ба омехтаи хеле аҷиби истеъдодҳо такя мекунанд:
-
Сабр (бисёр) - Моделҳо дар як зарба намеомӯзанд. Мураббиён ҳамон ислоҳҳоро то он даме ки часпидаанд, мезананд.
-
Нозукиҳои муайян - Дарк кардани истеҳзо, контексти фарҳангӣ ё таассуб он чизест, ки ба фикру мулоҳизаҳои инсонӣ бартарии худро медиҳад [1].
-
Муоширати оддӣ - Нисфи кор навиштани дастурҳои равшанест, ки зеҳни сунъӣ наметавонад онҳоро нодуруст фаҳмад.
-
Кунҷковӣ + ахлоқ - Мураббии хуб савол медиҳад, ки оё ҷавоб "дар асл дуруст" аст, аммо аз ҷиҳати иҷтимоӣ садои норавшан дорад - мавзӯи асосии назорати зеҳни сунъӣ [2].
Ба таври содда: мураббӣ қисман муаллим, қисман муҳаррир ва каме ахлоқшинос аст.
Нақшҳои мураббии зеҳни сунъӣ дар як нигоҳ (бо баъзе хусусиятҳои худ 😉)
| Навъи нақш | Кӣ беҳтар мувофиқ аст | Музди маъмулӣ | Чаро он кор мекунад (ё кор намекунад) |
|---|---|---|---|
| Нишондиҳандаи маълумот | Одамоне, ки тафсилоти нозукро дӯст медоранд | Паст-Миёна $$ | Хеле муҳим аст; агар тамғакоғазҳо бетартиб бошанд, тамоми модел зарар мебинад [3] 📊 |
| Мутахассиси RLHF | Нависандагон, муҳаррирон, таҳлилгарон | Миёна-Баланд $$ | Ҷавобҳоро баҳогузорӣ ва аз нав менависад, то оҳанг ва равшаниро бо интизориҳои инсонӣ мувофиқ созад [1] |
| Мураббии домен | Ҳуқуқшиносон, табибон, коршиносон | Дар тамоми харита 💼 | Истилоҳоти махсуси жаргон ва ҳолатҳои канориро барои системаҳои соҳавӣ коркард мекунад |
| Шарҳи бехатарӣ | Шахсони дорои ахлоқи нек | Миёна $$ | Дастурҳоро татбиқ мекунад, то аз мундариҷаи зараровар канорагирӣ кунад [2][5] |
| Мураббии эҷодӣ | Рассомон, қиссагӯён | Пешгӯӣнашаванда 💡 | Ба зеҳни сунъӣ кӯмак мекунад, ки тахайюлро инъикос кунад ва дар ҳудуди бехатар бимонад [5] |
(Бале, форматкунӣ каме бетартиб аст - ба худи кор монанд аст.)
Як рӯз аз ҳаёти мураббии зеҳни сунъӣ
Пас, кори воқеӣ чӣ гуна аст? Камтар рамзгузории зебо ва бештарро фикр кунед:
-
Ҷойгиркунии ҷавобҳои навишташудаи зеҳни сунъӣ аз бадтарин то беҳтарин (қадами классикии RLHF) [1].
-
Ислоҳи нофаҳмиҳо (масалан, вақте ки модел фаромӯш мекунад, ки Зӯҳра Миррих нест).
-
Аз нав навиштани ҷавобҳои чатбот, то онҳо табиӣтар садо диҳанд.
-
Нишонгузорӣ кардани кӯҳҳои матн, тасвирҳо ё аудио - ки дар он дақиқӣ воқеан муҳим аст [3].
-
Баҳс дар бораи он ки оё "аз ҷиҳати техникӣ дуруст" кофӣ аст ё оё дастурҳои бехатарӣ бояд аз онҳо болотар бошанд [2].
Ин қисман душворӣ ва қисман муаммо аст. Ростӣ, тасаввур кунед, ки ба тӯтӣ на танҳо гап заданро, балки истифодаи калимаҳоро каме нодуруст қатъ карданро ёд медиҳед - ин фазои он аст. 🦜
Чаро мураббиён аз он чизе ки шумо фикр мекунед, хеле муҳимтаранд
Агар одам идора намекард, зеҳни сунъӣ метавонист:
-
Садо сахт ва роботӣ.
-
Таассуби паҳншуда беназорат (фикри даҳшатнок).
-
Ман аз юмор ё ҳамдардӣ комилан пазмон шудам.
-
Дар мавридҳои ҳассос камтар бехатар бошед.
Мураббиён касоне ҳастанд, ки пинҳонӣ "чизҳои бетартиби инсонӣ" - жаргон, гармӣ, истиораҳои гоҳ-гоҳ ноҷо --ро истифода мебаранд ва дар айни замон барои бехатар нигоҳ доштани чизҳо аз деворҳои муҳофизатӣ истифода мебаранд [2][5].
Маҳоратҳое, ки воқеан муҳиманд
Афсонаро фаромӯш кунед, ки ба шумо дараҷаи PhD лозим аст. Он чизе, ки бештар кӯмак мекунад, инҳоянд:
-
Навиштан + таҳрири қисмҳо - Матни сайқалёфта, вале табиӣ [1].
-
Тафаккури таҳлилӣ - Муайян кардани хатогиҳои такрории модел ва тағирот.
-
Огоҳии фарҳангӣ - Донистани он ки кай иборасозӣ метавонад хато бошад [2].
-
Сабр - Зеро зеҳни сунъӣ фавран дарк намекунад.
Холҳои иловагӣ барои малакаҳои бисёрзабона ё таҷрибаи махсус.
Мураббиён дар куҷо пайдо мешаванд 🌍
Ин кор танҳо дар бораи чатботҳо нест - он пинҳонӣ ба ҳар як бахш ворид мешавад:
-
Нигоҳубини тиббӣ - Қоидаҳои навиштани шарҳ барои ҳолатҳои марзӣ (дар дастури зеҳни сунъии тандурустӣ инъикос ёфтааст) [2].
-
Молия - Омӯзиши системаҳои ошкоркунии қаллобӣ бидуни ғарқ кардани одамон дар хатарҳои бардурӯғ [2].
-
Фурӯши чакана - Ба ёварон таълим медиҳад, ки забони мухтасари харидоронро истифода баранд ва ҳамзамон ба оҳанги бренд риоя кунанд [5].
-
Маориф - Шакл додани ботҳои репетиторӣ барои рӯҳбаландкунанда будан ба ҷои сарпарастӣ [5].
Асосан: агар зеҳни сунъӣ дар сари миз ҷой дошта бошад, дар пасманзар мураббӣ пинҳон мешавад.
Қисмати ахлоқӣ (инро гузаштан мумкин нест)
Ана дар ҳамин ҷо он муҳим мешавад. Агар назорат карда нашавад, зеҳни сунъӣ стереотипҳо, маълумоти нодуруст ё бадтарро такрор мекунад. Мураббиён инро бо истифода аз усулҳо ба монанди RLHF ё қоидаҳои конститутсионӣ, ки моделҳоро ба сӯи ҷавобҳои муфид ва безарар роҳнамоӣ мекунанд, қатъ мекунанд [1][5].
Мисол: агар бот тавсияҳои ғаразноки кориро пешниҳод кунад, мураббӣ онро қайд мекунад, қоидаҳоро аз нав менависад ва боварӣ ҳосил мекунад, ки ин дигар такрор намешавад. Ин нодидагирӣ дар амал аст [2].
Тарафи ғайриқаноатбахш
Ҳамааш хуб нест. Мураббиён бо инҳо сарукор доранд:
-
Монотонӣ - тамғагузории беохир кӯҳна мешавад.
-
Хастагии эмотсионалӣ - Баррасии мундариҷаи зараровар ё нороҳаткунанда метавонад зарари ҷиддӣ расонад; системаҳои дастгирӣ муҳиманд [4].
-
Набудани эътироф - Истифодабарандагон хеле кам дарк мекунанд, ки мураббиён вуҷуд доранд.
-
Тағйироти доимӣ - абзорҳо беист таҳаввул меёбанд, яъне мураббиён бояд ҳамқадам бошанд.
Бо вуҷуди ин, барои бисёриҳо ҳаяҷони ташаккули "мағзи" технология онҳоро ба худ ҷалб мекунад.
MVP-ҳои пинҳоншудаи зеҳни сунъӣ
Пас, мураббиёни зеҳни сунъӣ кистанд? Онҳо пуле байни алгоритмҳои хом ва системаҳое мебошанд, ки воқеан кор мекунанд . Бе онҳо, зеҳни сунъӣ ба китобхонае монанд мешуд, ки китобдор надорад - тоннаҳо маълумот, аммо истифодаи он қариб ғайриимкон аст.
Дафъаи дигар, ки чатбот шуморо хандон мекунад ё ба таври ҳайратангез "дар ҳолати хуб" қарор мегирад, аз мураббӣ ташаккур гӯед. Онҳо рақамҳои ороме ҳастанд, ки мошинҳоро на танҳо ҳисоб мекунанд, балки пайваст мекунанд [1][2][5].
Адабиёт
[1] Оуянг, Л. ва дигарон (2022). Омӯзиши моделҳои забонӣ барои риояи дастурҳо бо ёрии фикру мулоҳизаҳои инсонӣ (InstructGPT). NeurIPS. Пайванд
[2] NIST (2023). Чаҳорчӯбаи идоракунии хатарҳои зеҳни сунъӣ (AI RMF 1.0). Пайванд
[3] Норткатт, С. ва дигарон (2021). Хатогиҳои паҳншудаи тамға дар маҷмӯаҳои санҷишӣ меъёрҳои омӯзиши мошиниро ноустувор мекунанд. Маҷмӯаҳои додаҳо ва меъёрҳои NeurIPS. Пайванд
[4] ТУТ/СБМ (2022). Дастурҳо оид ба солимии равонӣ дар ҷои кор. Пайванд
[5] Бай, Ю. ва дигарон (2022). Сеҳри конститутсионӣ: Бехатарӣ аз фикру мулоҳизаҳои СҲИ. arXiv. Пайванд