Оё ягон бор дар он ҷо нишаста, саратонро харошидаед, гӯед... ин чизҳо дар асл аз куҷо пайдо мешаванд ? Манзурам ин аст, ки зеҳни сунъӣ аз китобхонаҳои пур аз чанг ва ё тамошои кӯтоҳи YouTube пинҳонӣ намегузарад. Аммо ба ҳар ҳол, он ба ҳама чиз - аз ҳилаҳои лазанья то физикаи сӯрохиҳои сиёҳ - ҷавоб медиҳад, гӯё дар дохили он ягон ҷевони бепоёни файл мавҷуд бошад. Воқеият аҷибтар аст ва шояд аз он ки шумо тахмин мезанед, ҷолибтар бошад. Биёед онро каме кушоем (ва бале, шояд дар ин роҳ якчанд афсонаро вайрон кунем).
Оё ин ҷодугарӣ аст? 🌐
Ин ҷодугарӣ нест, гарчанде ки баъзан чунин эҳсос мешавад. Он чизе, ки дар зери ин мавзӯъ рӯй медиҳад, асосан пешгӯии намуна далелҳоро ба тарзе нигоҳ намедоранд , ки майнаи шумо дорухати кукиҳои бибиатонро нигоҳ медорад; ба ҷои ин, онҳо барои тахмин кардани калимаи навбатӣ (токен) дар асоси он чизе, ки пештар омада буд, омӯхта шудаанд [2]. Дар амал, ин маънои онро дорад, ки онҳо ба муносибатҳо часпидаанд: кадом калимаҳо бо ҳам мепайванданд, чӣ гуна ҷумлаҳо одатан шакл мегиранд, чӣ гуна ғояҳои пурра мисли сохтмон сохта мешаванд. Аз ин рӯ, натиҷа садо медиҳад , ҳарчанд - ростқавлии комил - ин тақлидкории оморӣ аст, на фаҳмиш [4].
Пас, чӣ маълумотеро, ки аз ҷониби зеҳни сунъӣ тавлид мешавад, воқеан муфид ? Якчанд чиз:
-
Гуногунрангии маълумот - гирифтани маълумот аз манбаъҳои бешумор, на аз як ҷараёни танг.
-
Навсозӣ - бе давраҳои навсозӣ, он зуд кӯҳна мешавад.
-
Филтркунӣ - беҳтаринаш ҷамъоварии партовҳо пеш аз ворид шудан ба онҳо (аммо, биёед ростқавл бошем, ки он тӯр сӯрохиҳо дорад).
-
Санҷиши мутақобила - такя ба манбаъҳои боэътимод (ба NASA, ТУТ, донишгоҳҳои бузург фикр кунед), ки дар аксари дастурҳои идоракунии зеҳни сунъӣ ҳатмист [3].
Бо вуҷуди ин, баъзан он бо боварӣ сохтакорӣ мекунад. Он галлютсинатсияҳо ? Асосан бемаъниҳои сайқалёфта, ки бо чеҳраи рост гуфта мешаванд [2][3].
Мақолаҳоеро, ки пас аз ин мақола хондан мехоҳед:
🔗 Оё зеҳни сунъӣ метавонад рақамҳои лотереяро пешгӯӣ кунад?
Омӯзиши афсонаҳо ва далелҳо дар бораи пешгӯиҳои лотереяи зеҳни сунъӣ.
🔗 Муносибати куллӣ ба зеҳни сунъӣ чӣ маъно дорад?
Дарки зеҳни сунъӣ бо дурнамои мутавозин дар бораи ахлоқ ва таъсир.
🔗 Китоби Муқаддас дар бораи зеҳни сунъӣ чӣ мегӯяд?
Омӯзиши дурнамои Китоби Муқаддас дар бораи технология ва офариниши инсон.
Муқоисаи зуд: Аз куҷо зеҳни сунъӣ пайдо мешавад 📊
На ҳар як манбаъ баробар аст, аммо ҳар кадоми онҳо нақши худро мебозанд. Инҷо як акси мухтасар оварда шудааст.
| Навъи манбаъ | Кӣ онро истифода мебарад (AI) | Арзиш/Арзиш | Чаро он кор мекунад (ё кор намекунад...) |
|---|---|---|---|
| Китобҳо ва мақолаҳо | Моделҳои забони калон | Бебаҳо (бебаҳо) | Дониши зич ва сохторёфта - танҳо зуд кӯҳна мешавад. |
| Вебсайтҳо ва блогҳо | Қариб ҳамаи зеҳни сунъӣ | Озод (бо садо) | Навъи ваҳшӣ; омезиши дурахшонӣ ва партовҳои мутлақ. |
| Мақолаҳои илмӣ | Спиритизмҳои зеҳнии дорои таҳқиқоти зиёд | Баъзан девори пардохтӣ | Ҷиддият + эътимоднокӣ, аммо бо жаргонҳои вазнин ифода ёфтааст. |
| Маълумоти корбар | зеҳни сунъии фардӣ | Ҳассосияти баланд ⚠️ | Дӯзандагии тез, аммо дарди сари зиёд барои махфият. |
| Веби вақти воқеӣ | Смартфонҳои зеҳнии бо ҷустуҷӯ алоқаманд | Ройгон (агар онлайн бошад) | Маълумотро тоза нигоҳ медорад; нуқсони он хатари паҳншавии овозаҳо мебошад. |
Олами маълумоти омӯзишӣ 🌌
Ин марҳилаи "омӯзиши кӯдакӣ" аст. Тасаввур кунед, ки ба кӯдак якбора миллионҳо маълумоти дастраси оммавӣ, манбаъҳои иҷозатномадор ва матни аз ҷониби мураббӣ тавлидшударо [2].
Қабатбандӣ дар боло: мисолҳои инсонии интихобшуда - ҷавобҳои хуб, ҷавобҳои бад, тела додан ба самти дуруст - пеш аз оғози тақвият [1].
Огоҳии шаффофият: ширкатҳо ҳар як ҷузъиётро ифшо намекунанд. Баъзе аз деворҳои муҳофизатӣ махфӣ мебошанд (IP, нигарониҳои амниятӣ), аз ин рӯ шумо танҳо қисман ба омехтаи воқеӣ дастрасӣ пайдо мекунед [2].
Ҷустуҷӯи вақти воқеӣ: Иловаи иловагӣ 🍒
Баъзе моделҳо акнун метавонанд аз ҳубобчаи омӯзишии худ берун раванд. Ин насли бо роҳи ҷустуҷӯ афзоишёфта (RAG) - асосан порчаҳоро аз як индекси зинда ё мағозаи ҳуҷҷатҳо гирифта, сипас онро ба ҷавоб мепайвандад [5]. Барои чизҳои зудтағйирёбанда ба монанди сарлавҳаҳои хабарҳо ё нархи саҳмияҳо беҳтарин аст.
Равған? Интернет ҳам як навъ нобиға ва ҳам як навъ партов аст. Агар филтрҳо ё санҷишҳои пайдоиш заиф бошанд, шумо хатари бозгашти маълумоти нолозимро доред - маҳз ҳамон чизест, ки чаҳорчӯбаҳои хатар дар бораи он огоҳ мекунанд [3].
Як роҳи ҳалли маъмулӣ: ширкатҳо моделҳоро ба худ , аз ин рӯ, посухҳо ба ҷои он ки онро такрор кунанд, ба сиёсати ҷории захираҳои инсонӣ ё ҳуҷҷати навшудаи маҳсулот ишора мекунанд. Фикр кунед: лаҳзаҳои камтари "эҳ-оҳ" ва посухҳои боэътимодтар.
Танзими дақиқ: Қадами сайқал додани зеҳни сунъӣ 🧪
Моделҳои хоми пешакӣ омӯзонидашуда ноҳамворанд. Аз ин рӯ, онҳо такмил дода :
-
кумаккунанда, безарар ва ростқавл будан (тавассути омӯзиши тақвият аз фикру мулоҳизаҳои инсонӣ, RLHF) [1].
-
Канорҳои ноамн ё заҳролудро сайқал додан (ҳамоҳангсозӣ) [1].
-
Танзими оҳанг - хоҳ дӯстона, расмӣ ё кинояомез бошад.
Ин на сайқал додани алмос, балки маҷбур кардани тармафароии оморӣ ба рафтори бештар ба шарики сӯҳбат монанд аст.
Нокомиҳо ва нокомиҳо 🚧
Биёед вонамуд накунем, ки он беайб аст:
-
Галлютсинатсияҳо - ҷавобҳои дақиқе, ки комилан нодурустанд [2][3].
-
Таассуб - он намунаҳои дар маълумот ҷойгиршударо инъикос мекунад; ҳатто агар қайд карда нашуда бошад, метавонад онҳоро тақвият диҳад [3][4].
-
Таҷрибаи шахсӣ надорад - он метавонад гап занад , аммо ҳеҷ гоҳ онро начашидааст [4].
-
Эътимод ба худ аз ҳад зиёд - наср чунон ҷараён мегирад, ки гӯё медонад, ҳатто вақте ки инро намедонад. Чаҳорчӯбаҳои хатар ба фарзияҳои ошкоркунанда таъкид мекунанд [3].
Чаро эҳсоси донистан аст 🧠
Он на эътиқод дорад, на хотира дар маънои инсонӣ ва албатта худӣ. Аммо азбаски он ҷумлаҳоро ба ҳам пайваст мекунад, мағзи шумо онро чунон мехонад, ки гӯё мефаҳмад . Он чизе ки рӯй медиҳад, танҳо пешгӯии аломати навбатӣ дар миқёси бузург : кам кардани триллионҳо эҳтимолият дар як сония [2].
Фазои «иктишофӣ» як навъ рафтори пайдошуда аст - муҳаққиқон онро каме бемаънӣ, «тӯтии стохастикӣ» [4].
Қиёси мувофиқ барои кӯдакон 🎨
Тӯтиеро тасаввур кунед, ки ҳар як китоби китобхонаро хондааст. Он ҳикояҳоро намефаҳмад , аммо метавонад калимаҳоро ба чизе табдил диҳад, ки оқилона ба назар мерасад. Баъзан он дақиқ аст; баъзан бемаънӣ аст - аммо бо маҳорати кофӣ, шумо ҳамеша фарқиятро дида наметавонед.
Хулоса: Маълумоти зеҳни сунъӣ аз куҷо меояд 📌
Ба ибораи содда:
-
Маълумоти бузурги омӯзишӣ (оммавӣ + иҷозатномадор + аз ҷониби мураббӣ тавлидшуда) [2].
-
Танзими дақиқ бо истифода аз фикру мулоҳизаҳои инсонӣ барои шакл додани оҳанг/рафтор [1].
-
Системаҳои барқароркунӣ ҳангоми пайваст шудан ба ҷараёнҳои додаҳои зинда [5].
Сеҳри зеҳнӣ чизҳоро "медонад" - он матнро пешгӯӣ мекунад . Ин ҳам қудрати фавқулоддаи он ва ҳам пошнаи Ахиллес аст. Хулоса? Ҳамеша чизҳои муҳимро бо манбаи боэътимод муқоиса кунед [3].
Иқтибосҳо
-
Оуянг, Л. ва дигарон (2022). Омӯзиши моделҳои забонӣ барои риояи дастурҳо бо ёрии фикру мулоҳизаҳои инсонӣ (InstructGPT) . arXiv .
-
OpenAI (2023). Ҳисоботи техникии GPT-4 - омехтаи маълумоти литсензияшуда, оммавӣ ва аз ҷониби инсон сохташуда; ҳадаф ва маҳдудиятҳои пешгӯии next-token. arXiv .
-
NIST (2023). Чаҳорчӯби идоракунии хатарҳои зеҳни сунъӣ (AI RMF 1.0) - пайдоиш, эътимоднокӣ ва назорати хатарҳо. PDF .
-
Бендер, Э.М., Гебру, Т., Макмиллан-Майор, А., Митчелл, С. (2021). Дар бораи хатарҳои тӯтиҳои стохастикӣ: Оё моделҳои забонӣ метавонанд хеле калон бошанд? PDF .
-
Льюис, П. ва дигарон (2020). Насли такмилёфтаи бозёфт барои NLP-и дорои дониши зиёд . arXiv .