Оё зеҳни сунъӣ боэътимод аст? [Видео ва викторина]

Ҷавоби кӯтоҳ: Сеҳри зеҳнӣ ҳамчун як хислат боэътимод нест: он аз вазифа, ҳалқаи ҷустуҷӯ ва одаме, ки ҳанӯз дар ҷустуҷӯ аст. Вақти корӣ ин аст, ки оё нуқтаи ниҳоӣ ҷавоб дода шудааст; ростқавлӣ ин аст, ки оё ҷавоб чунин буд. Онро вақте истифода баред, ки хато арзон аст ё қобили дастгирист; вақте ки хато гарон аст, суст кунед.

Хулосаҳои асосӣ:

Ҳисоботдиҳӣ: Номбар кунед, ки кӣ баррасӣ мекунад, кӣ метавонад онро боздорад ва кӣ дар ҳолати айбдоркунӣ қарор дорад.

Шаффофият: Қисми гирифташударо тафтиш кунед, вагарна шумо ҳоло ҳам дар туман хоҳед буд.

Қобилияти аудит: Саволҳои сабтшуда, қисмҳои гирифташуда ва фиристодашуда, то хатогиҳо пайгирӣ карда шаванд.

Муқовимат ба сӯиистифода: Дар масъалаҳои пулӣ нокомӣ ба охир расид; ҳеҷ гоҳ рақамҳо, тирезаҳо ё сиёсатро ихтироъ накунед.

Натиҷаҳои тасвирӣ: Ба санҷиши тасвирии 20-саволӣ ҳамчун харита муносибат кунед, на ҳамчун исботи 95%.

Мақолаҳое, ки шумо метавонед баъд аз ин хонед, инҳоянд:

🔗 Чӣ тавр зеҳни сунъиро дар ҳаёти ҳаррӯза истифода бурдан мумкин аст.
Роҳҳои амалии содда кардани вазифаҳо ва тартиботи ҳаррӯзаро аз ҷониби зеҳни сунъӣ кашф кунед.

🔗 Чӣ тавр зеҳни сунъиро дар ҷои кор истифода бурдан мумкин аст.
Роҳҳои амалии баланд бардоштани ҳосилнокӣ ва самаранокиро бо зеҳни сунъӣ омӯзед.

🔗 Оё зеҳни сунъӣ метавонад худ аз худ фикр кунад?
Бифаҳмед, ки оё зеҳни сунъӣ воқеан метавонад мустақилона фикр кунад ва мулоҳиза ронад.

🔗 Намудҳои зеҳни сунъӣ кадомҳоянд?
Намудҳои асосии зеҳни сунъӣ, қобилиятҳо ва фарқиятҳои калидиро фаҳмед.

Чӣ маъно дорад "боэътимод" ҳатто вақте ки мошин тӯтии оморӣ аст

Эътимоднокӣ, дар суханронии ҳаррӯза, маънои онро дорад, ки шумо метавонед ба чизе такя кунед.

Бо автоматизатсияе, ки сухан мегӯяд, тӯдае аз хосиятҳои гуногун зери як калима пинҳон мешаванд. Дақиқӣ. Мутобиқатӣ. Калибрченкунӣ - оё эътимоди модел бо имконияти дуруст буданаш мувофиқат мекунад ё танҳо... боварӣ ба назар мерасад. Бехатарӣ. Вақти корӣ. Ҳассосияти фаврӣ. Рафтор дар ҳолатҳои канорӣ. Рафтор пас аз тағйири тақсимот, вақте ки ҷаҳони зинда ҷаҳони омӯзиш нест. Ҳеҷ яке аз инҳо якҷоя хато намекунанд. Ин қисматест, ки одамон аз он мегузаранд.

Чатбот метавонад тамоми ҳафта "хоб" бошад ва рӯзи сешанбе нисфирӯзӣ хато кунад. Як ронандаи дуюмдараҷаи рамзгузорӣ метавонад дар ҳолати оддӣ хуб бошад ва сипас API-ро, ки комилан ба API-и аслӣ монанд аст, галлюцинатсия кунад. Истиорае, ки одамон ба он даст мезананд, "ҳамкори хурдсол" аст. Ин истиораи нокомил аст - ҷавонон хиҷолат мекашанд - аммо он аз "оракул" наздиктар аст.

Санҷиши мустақим дар он муайян карда мешавад, ки чӣ, барои кӣ, бо кадом ҳалқа дар атрофи он кор мекунад. Дар акси ҳол, шумо блендерро аз рӯи он ки оё он метавонад андозҳоро пардохт кунад, баҳо медиҳед.

Вақти корӣ ростқавлӣ нест - ду намуди гуногуни "боэътимод"

Одамони опс ва одамони ҳақиқат як калимаро истифода мебаранд ва аз якдигар пешӣ мегиранд.

Вақти корӣ маънои "ҷавоби нуқтаи ниҳоӣ"-ро дорад. Ростқавлӣ маънои "ҷавоби ҳамин тавр буд". Идоракунӣ ба ҳарду ғамхорӣ мекунад ва хатари модел дар холигии нохуш қарор дорад. Шумо метавонед хидмате дошта бошед, ки ҳеҷ гоҳ чашмак намезанад ва бо вуҷуди ин дурӯғи равонро ба чиптаи муштарӣ интиқол медиҳад. Дар маънои SRE боэътимод. Дар маънои "лутфан сиёсати баргардонидани пулро ихтироъ накунед" боэътимод нест.

Фикр мекунам, ки ин дар шакли хаттӣ равшан аст. Вақте ки ҷавоб зуд аст ва навбат хеле калон аст, соати 4-и бегоҳ ин равшан нест. Суръат мисли салоҳият эҳсос мешавад. Сустӣ қаблан маънои онро дошт, ки касе фикр мекард. Акнун суръат нишонаест, ки ҳеҷ кас фикр намекунад.

Бехатарӣ як меҳвари дигар аст. Моделе, ки аз jailbreak-и бад худдорӣ мекунад, аз ҷиҳати арзёбии бехатарӣ "боэътимод" аст ва метавонад хулосаи қайдҳои шуморо вайрон кунад.

Рӯшан ва нодуруст гуфтан аз беақлӣ ва ростқавлӣ бадтар аст

Ин мушкили эътимод аст ва ин мушкилест, ки онро ба ташвиш меорад.

Дақиқӣ ва равонӣ аз ҳам ҷудо шуданд ва равонӣ хонаро нигоҳ дошт. LLM ба шумо ритм медиҳад, ҷойҳои дурустро муайян мекунад, шояд шакли қалбакӣ, вале зебои иқтибосро. Майнаи шумо мехонад, ки "ин шахс медонад". Ба ҷуз ин ки ин шахс нест ва калибрченкунӣ аксар вақт даҳшатнок аст - эътимоди баланд, ҳақиқати миёна, мисли суханронии асосӣ пешниҳод карда мешавад.

Ҷавоби нодурусти бемаънӣ шуморо шубҳанок мекунад. Ҷавоби нодурусти равон шуморо аз санҷиш бозмедорад. Ин фарқияти хурд нест; ин тамоми достон дар як ҷумлаи каме нохушоянд аст.

Таассуб низ дар он ҷо ҷой дорад, на ҳамеша ҳамчун таҳқир, балки бештар ҳамчун пешфарз дар бораи он ки кӣ дар утоқ аст ва кадом маззаи забони англисӣ бетараф ҳисобида мешавад. Одамон фиреб мехӯранд, зеро забон қадимтарин интерфейси эътимоди мост. Агар он мисли мухтасар сухан гӯяд, мо онро мисли мухтасар муносибат мекунем. Ман ҳамеша мехоҳам дар ин бора бештар киноякор бошам. Сипас ман як хулосаи норавшанро хондам ва китфонам афтод. Вақте ки ба ҷаласа медароям, хулоса ба назар мерасад, ки анҷомёфта аст. Ин ҷумла кори аз ҳад зиёдро анҷом медиҳад ва бо вуҷуди ин: ин тавр хонум ба саҳна ворид мешавад.

Эътимоднокӣ аз рӯи вазъият, на аз рӯи бренд

Брендҳо парешонкунандаанд. Муқоисае, ки сазовори таваҷҷӯҳ аст, ин кор аст. Саҳмдорон бо ҳамдигар баҳс хоҳанд кард. Ин хуб аст.

Ба ҳар ҳол. Агар асбоби дӯстдоштаи шумо дар кашидани об моҳир бошад ва шумо худро дар нисфи шаб аз он барои роҳати ҳуқуқӣ мепурсед, ин такмилдиҳӣ нест. Ин харитаест, ки мегӯяд шумо аз он гузаштаед.

Галлютсинатсияҳо, лағжиш ва як навъ нодурустии хомӯшона

Галлютсинатсия сархатти хабарҳо мегардад, зеро он тунд аст: китобе, ки вуҷуд надорад, вазифае, ки ҳеҷ гоҳ фиристода нашудааст, банди сиёсӣ бо рақаме, ки расмӣ ба назар мерасад.

Дрифт камтар синамоӣ аст. Ҷаҳон ҳаракат мекунад. Боқимондаҳои модел боқӣ мемонанд. Шумо саволе мепурсед, ки ба контексти нав ниёз дошт ва шумо аз обу ҳавои қаблӣ ҷавоби хуб тартибдодашуда мегиред. Ман дар он ҷо қариб буд, ки "аз давраи дигар" нависам, ки ин мавзӯъ боиси муболиға мегардад. Ин давраи дигар нест. Ин танҳо ҳоло нест.

Хатои хомӯш чизест, ки ба ман бештар аҳамият медиҳад. Хулосае, ки истисноро аз байн мебарад. Парафразае, ки калимаи "мумкин"-ро ба як чизи ҳатмӣ табдил медиҳад. Воқеият метавонад "аз ҷиҳати техникӣ хуб" бошад, дар ҳоле ки маъно паст шудааст.

Ҳассосияти фаврӣ вазъро бадтар мекунад. Пӯшишро иваз кунед ва "далелҳо" дурахшанд. Ҳамчун шубҳакунанда пурсед, монеаҳо пайдо кунед. Ҳамчун сардоре, ки шитоб дорад, пурсед, бо тезӣ даъвои аз ҳад зиёд кунед. Агар арзёбии шумо танҳо як либосро истифода барад, арзёбии шумо каме дурӯғ аст. Бубахшед.

Ҷейлбрейкҳо дар лаби лаб қарор доранд ва ман намехоҳам филми дуздӣ дошта бошам. Агар системаро маҷбур кардан мумкин бошад, ки одоби худро аз даст диҳад, эътимоднокӣ на танҳо дар ҳақиқат аст; муҳим он аст, ки оё деворҳои муҳофизатӣ як ҳалқа ё плакат ҳастанд.

Боқимондаҳои омӯзиш, дониши кӯҳна ва чаро заминсозӣ чӯбчаи ҷодугарӣ нест

Моделҳои тавлидӣ дар болои тӯда омӯзонида мешаванд ва сипас ба рӯзи сешанбеи шумо нигаронида мешаванд. Бозёфт кӯшиши калонсолон барои часпондани ҳозира ба он тӯда аст. Ба замин пайваст кардан маънои "аз ин ҷавоб додан, на аз туман"-ро дорад. Вақте ки он ноком мешавад, боадабона ноком мешавад.

Нокомии классикӣ: ретривер ҳуҷҷати қариб аз даст рафтаро мегирад. Генератор онро бо оромии комил менависад. Шумо объекти шакли манбаъро мебинед ва ғаризаи санҷиши шумо хомӯш мешавад. Ман ин корро мекунам. Шумо эҳтимол ин корро мекунед. Идеяи иқтибос дуруст аст; татбиқ танҳо ба андозаи зарба хуб аст.

Дониши кӯҳнашуда ихроҷи дигар аст. Баъзе вазифаҳо ба ҳолати фаъол ниёз доранд - нархҳо, инвентаризатсия, матни ҷории сиёсат. Баъзеҳо ба ҳунари устувор ниёз доранд, ба монанди чӣ гуна сохтор додани ёддошт. Онҳоро омехта кунед ва шумо дар бораи ҷаҳоне, ки аллакай кӯчидааст, ҷавоби хеле боэътимод мегиред. Тағйири тақсимот номи калонсолон аст: тақсимоти мустақим тақсимоти омӯзишӣ нест ва ҳолатҳои канорӣ дар фосила зиндагӣ мекунанд.

Боз як чизи дигар, ки бо дефиси нодуруст гуфта шудааст, зеро қайдҳои ман чунин ба назар мерасанд: заминсозӣ фарш аст - на ҳало. Агар шумо натавонед, ки порчаи гирифташударо тафтиш кунед, шумо ҳоло ҳам дар туман ҳастед, танҳо бо равшании беҳтар.

Театри арзёбӣ: чаро намоиш як озмоиши даҳшатнок аст

Намоишҳо равшанӣ меандозанд. Меъёрҳо каме самимӣтаранд ва ин ба ҳар ҳол кори шумо нест.

Супориши тоза ва вазифае, ки модел ҳазорҳо хешовандонашро дидааст - албатта, он тез ба назар мерасад. Арзёбие, ки танҳо чен кардани намоиши саҳнавиро чен мекунад. Ҷараёнҳои кории зинда дорои хамираи печида, файлҳои гумшуда ва корбаре мебошанд, ки аввалин ҷавобро қабул мекунад, ки изтироби онҳоро коҳиш медиҳад.

Нишондиҳандаҳо муҳиманд. Онҳо танҳо ба мисли он ки колодаҳо вонамуд мекунанд, хуб сафар намекунанд. Холи ҷадвали пешсафӣ калибрченкунӣ дар чиптаҳои шумо нест. Хатари модел дар ширкат ин аст, ки "чӣ мешавад, вақте ки ин дар ҳаҷм нодуруст аст", на "оё он аз маҷмӯи викторина гузашт?" Санҷишҳое, ки ба шумо лозиманд, хушканд: дар дохили порчаи гирифташуда бимонед; номуайяниро ба ҷои блеф қайд кунед; ҳангоми аз нав ибора кардан устувор бошед; хато карданро баста кунед (рад кунед, пурсед, ба таъхир андозед) ба ҷои хато кардан кушодан (ихтироъ).

Ман мушоҳида кардаам, ки одамон як анҷоми таъсирбахшро ҳамчун далел қабул мекунанд. Ин мисли он аст, ки қарор диҳед, ки тарабхона "боэътимод" аст, зеро хӯроки аввал зебо буд. Шояд ҳамин тавр бошад. Шояд ошхона даҳ дақиқа хуб буд.

Дар ин ҷо зиддияти ночиз ба миён меояд: Ман то ҳол барои эҳсос кардан аз демоҳо истифода мекунам. Ман танҳо эҳсосро ба кор намегирам.

Оё зеҳни сунъӣ боэътимод аст? Танҳо агар касе ҳанӯз ҳам дар ин масъала бошад

Тарҳи инсонӣ ягона тарҳест, ки бо режимҳои нокомӣ мувофиқат мекунад.

Агар касе масъул набошад, система ҳамон тавре истифода мешавад, ки гӯё вуҷуд дорад. Идоракунӣ номи номатлуби "кӣ баррасӣ мекунад, кӣ метавонад онро боздорад, чӣ сабт мешавад, пас аз хато чӣ мешавад" аст. Агентҳо инро тезтар мекунанд, зеро онҳо чораҳо меандешанд, на танҳо сархатҳо. Лоиҳае, ки шумо нафиристодед, арзон аст. Занги асбобе, ки шумо дар назар надоштед, арзон аст.

Номи кӣ дар ин қазия аст, нависед. Агар ҷавоб "модел" бошад, шумо ҷавоб надоред. Моделҳо пас аз ҳодиса ба ҷаласа намераванд. Як нафар мераванд, ё як чангкашак ва сипас як адвокат.

Санҷишҳоеро интихоб кунед, ки ба радиуси таркиш мувофиқат мекунанд. Баррасии сатҳи санҷиши имло барои пости иҷтимоӣ. Санҷиши манбаъ барои ҳама чизе, ки далелро иддао мекунад. Мутахассиси ҳама чизе, ки ба тиб, ҳуқуқ, қарз, амалиётҳои муҳими амниятӣ алоқаманд аст. Барои онҳо, инсон "дар ҳалқа" нест. Инсон ҳалқа аст. Модел як норавшан аст. Ин шубҳа ҳамчун шахсият нест. Ин завқ аст.

Айни замон мӯд ин аст, ки чекро дар паси тугмаи дурахшони фиристодан пинҳон кунед. Имрӯзҳо шумо тасодуфан овозаҳоро автоматӣ мекунед. Дар ин охир ман дар ин бора бештар гап мезанам ва кор беҳтар шуд.

Чӣ тавр пурсидан мумкин аст, то шумо хатогиро пайгирӣ кунед

Шумо метавонед ин системаҳоро бидуни шубҳаи касбии нури офтоб пурсед.

• Номуайяниро қасдан пурсед. "Чӣ метавонад инро нодуруст кунад?" ибораи "бо итминон кунондан"-ро дар бар мегирад.

• Вақте ки имкон доред, истихроҷро аз насл ҷудо кунед. Аввал ба порчаҳо нигоҳ кунед. Сипас, шарҳи онро пурсед.

• Либосро иваз кунед. Аз нав ибора нависед. Аз ӯ хоҳиш кунед, ки баръаксро исбот кунад. Ҳассосияти фаврӣ агар шумо онро ба ин тарз истифода баред, як чароғак аст.

• Маҳдудиятҳои маҷбурӣ: "танҳо аз матне, ки ман часбондаам", "агар гум шуда бошад, бигӯед, ки гум шудааст". Моделҳо ба ин ба таври ҳайратангез итоат мекунанд... то он даме, ки ин тавр нашаванд. Дар ҳар сурат санҷед.

• Вазифаҳоеро, ки дорои тасдиқкунанда мебошанд, афзалтар медонам. Компиляторҳо, линтерҳо, санҷишҳои схемаҳо, ҷуфти дуюми чашм. Эътимоднокӣ ба баҳодиҳандаро дӯст медорад.

• Ба маънои аслӣ диққат диҳед: мушаххасияти бештар. Як чеҳраи дақиқ, як ҳолати номдор, як ҷумлаи рақамдор - ин ҷоест, ки галлютсинатсия онро дӯст медорад.

• Қадамҳои инсонро намоён нигоҳ доред. Агар интерфейси корбар чекро пинҳон кунад, одамон чекро аз назар мегузаронанд. Ин мебел аст, на камбудии ахлоқӣ.

Ҳеҷ яке аз инҳо моделро "дуруст" намегардонад. Он ҳалқаро камтар содда мегардонад. Фикр мекунам, ки маҳсули он ҳамин аст.

Харита шуморо дар куҷо мегузорад

Пас. Саволи "ҳа/не" танҳо ҳамчун дарвоза кор мекунад.

Оё зеҳни сунъӣ боэътимод аст? На ҳамчун хислат. Ҳамчун хусусияти вазифа, маҷмӯи додаҳо, ҳалқаи ҷустуҷӯ, арзёбӣ, ки намоиш нест ва инсоне, ки ҳанӯз ҳам бояд онро дар назар дошта бошад. Равонӣ моро фиреб медиҳад, зеро мо ҳайвонҳои забонӣ ҳастем ва ин системаҳо мошинҳои забонӣ мебошанд. Вақти корӣ бо ҳақиқат омехта мешавад, зеро ҳарду эҳсос мекунанд, ки "он кор кард". Ҳампилотҳо дар мобайни печида ҷойгоҳи худро ба даст меоранд - лоиҳаҳо, хулосаҳое, ки шумо метавонед аз назар гузаронед, рамзе, ки шумо метавонед тартиб диҳед - ва вақте ки мо довариро ба параграфе, ки ба он аҳамият намедиҳем, вогузор мекунем, хатарнок аст.

Онҳоро дар ҷойҳое истифода баред, ки хато арзон ё қобили дастгир шудан аст. Дар ҷойҳое, ки хато гарон аст, суръатро суст кунед. Ин ҷавоби мустақим аст ва он аз шиор арзиштар аст.

Агар шумо як чизро қабул кунед: аз модел пурсидани он ки оё он боварӣ дорад, бас кунед. Бубинед, ки вақте аз ӯ мепурсед, ки чӣ тавр он метавонад хато бошад, чӣ мешавад. Сипас тафтиш кунед.

Мисоли воқеӣ: Сохтани ёвари зеҳни сунъӣ дар сиёсати узвият

Сенария

Прия донишро барои Harbour Membership, як ниҳоди тиҷоратии 70-нафараи Британияи Кабир барои толорҳои мустақили варзишӣ, идора мекунад. Се нафар ба саволҳои аъзоён ҷавоб медиҳанд. Манбаи ҳақиқат дастури 180-саҳифагӣ аст, ки ҳар семоҳа нав карда мешавад ва инчунин PDF-ҳои кӯҳна дар диски муштарак нигоҳ дошта мешаванд, ки ҳеҷ кас ҷуръати нест кардани онҳоро надорад.

Роҳбарият аллакай як ҳампилоти хидматрасонии ёрирасонро харида буд. Намоиш хеле хуб буд. Вақти корӣ хуб буд. Дар ҳафтаи дуюм, лоиҳаи равон ба узв мегӯяд, ки онҳо метавонанд барои 14 рӯз ях кунанд ва "мувофиқи стандартӣ" маблағи пурраро баргардонанд. Ин сиёсат нест. Агент инро фаҳмид, зеро онҳо ҳангоми гап дар бораи пул ҳанӯз дастурро мекушоянд. Саволи Роҳбарият, ки гӯё "ҳа" ё "не" бошад, чунин аст: оё зеҳни сунъӣ боэътимод аст?

Прия аз ҳукм саркашӣ мекунад. Вай онро ҳамчун харита мешуморад. Вазифа "ба аъзоён фолбинӣ додан" нест. Ин "аз дастури ҷорӣ ҷавоб тартиб додан, порчаро нишон додан ва вақте ки порча гум шудааст, хатогиро пӯшондан" аст. Агар дуюмин пилот ин корро карда натавонад, ин бозичаи тартибдиҳӣ аст, на мизи сиёсат.

Он чизе, ки ба ёвари ёвар лозим аст

• Дастури апрели соли 2026 ҳамчун ягона корпуси иҷозатдодашуда, бо рақамҳои бахшҳо бетағйир

• PDF-и кӯҳнаи соли 2023 қасдан дар диск гузошта шудааст, то онҳо бубинанд, ки оё ҷустуҷӯи он чизе, ки қариб аз даст рафтааст, ба даст меорад

• Қоидаи хаттӣ: дар абзорҳои истеъмолӣ маълумоти шахсии муштарӣ мавҷуд нест; фиристодан бе ёрии инсон манъ аст; рақамҳо, тирезаҳо ё бандҳои "ҳамчун стандарт" ихтироъ карда намешаванд

• Иҷозат барои сабти дархостҳо, порчаҳои гирифташуда ва фиристодани ниҳоӣ

• Соҳиби номдор (Прия), ки дар сурати нокомӣ як маҷмӯи санҷишро ба даст меорад ва ронандаи дуюмро бозмедорад, бадтар аз партофтани танга дар саволҳои пулӣ баста шудааст

• Агар асбоб барқароркуниро дастгирӣ кунад, порчаи барқароршуда бояд дар паҳлӯи лоиҳа намоён бошад. Агар ин тавр набошад, онҳо қисмро бо даст часбонда мекунанд. Пайвастшавӣ бидуни гузаргоҳи санҷишшаванда ҳанӯз ҳам туман аст.

Намунаи дастур

Прия инро бо забони оддӣ, на бо як ишораи саҳнавӣ, мегӯяд:

Танҳо аз порчаҳои дастури апрели соли 2026, ки ба шумо дода шуда буданд, ҷавоб диҳед. Рақами бахшро қайд кунед. Агар ҷавоб дар он порчаҳо набошад, "дар дастури ҷорӣ нест" гӯед ва қатъ кунед. Тирезаҳои яхкунӣ, қоидаҳои баргардонидани пул ё пардохтҳоро ихтироъ накунед. "Бо салоҳдиди толори варзишӣ" ба "ҳамчун стандарт" навсозӣ накунед. Агар ду порча бо ҳам мухолиф бошанд, ҳардуро нишон диҳед ва бигӯед, ки кадомаш ҷорӣ аст. Шумо барои шахсе тарҳрезӣ мекунед, ки манбаъро пеш аз он ки чизе ба узв бирасад, мекушояд.

Сипас вай дастури дуюмро барои худ нигоҳ медорад, зеро нуктаи мақола ҳалқа аст, на модел:

Пеш аз фиристодан, бахши иқтибосшударо кушоед. Пурсед, ки "чӣ метавонад ин корро нодуруст кунад?" Агар дар лоиҳа рақаме мавҷуд бошад, ки дар матн нест, онро рад кунед. Агар ман мисли як сардори шитобкор пурсам, боз мисли як шубҳакунанда пурсед ва муқоиса кунед.

Як лоиҳаи хуб чунин ба назар мерасад: "Дар дастури ҷорӣ нест (апрели соли 2026, бахши 4.2). Яхкунӣ дар ихтиёри толори варзишӣ аст. Баргардонидани маблағ худкор нест. Афзоиш диҳед." Як лоиҳаи бад чунин ба назар мерасад: "Аъзоён метавонанд барои 14 рӯз ях кунанд ва маблағи пурраи онро ҳамчун стандартӣ гиранд. Дар дастур тасдиқ шудааст." Ҳамон оҳанг. Танҳо яке аз онҳо сиёсат аст.

Чӣ тавр онро санҷидан мумкин аст

Прия пеш аз он ки ба ягон натиҷаи дуюмдараҷа назар кунад, 20 савол менависад. Ин тартиб муҳим аст. Намоиш равшанӣ меандозад. Ин озмоиши хушк аст.

Ин маҷмӯа чизи викторинавӣ нест. Ин мизи кории мустақим аст:

• Ҳашт саволе, ки ҷавобҳояшон дар як бахши ҷорӣ ҷойгиранд (саволҳои осон)

• Чор ҳодисаи нокомӣ, ки дар онҳо PDF-и соли 2023 аз ҷиҳати матн нисбат ба матни апрел наздиктар аст

• Се саволи "дар дастур нест" (баҳсҳо дар бораи ҳисоббаробаркунӣ, саволи марбут ба тиббӣ "оё ин омӯзиш бехатар аст", саволи марбут ба қонунӣ)

• Се саволи пулӣ (яхкунӣ, баргардонидани маблағ, ҳаққи пайвастшавӣ)

• Ду саволи аъзои оддӣ (соатҳои корӣ, суғуртаи мураббӣ)

Ду нафар аз он бист нафар бо либоси дуюм аз нав пурсида шуданд, як бор ҳамчун сардори шитобкор ва як бор ҳамчун шубҳакунанда, ҳамчун санҷиши ҳассосияти фаврӣ. Ин дархостҳои такрорӣ сабт карда шуданд, на ба холҳои 20-бандӣ дохил карда шуданд.

Рубрика, ки аз ҷониби Прия бо кушода будани дастур баҳогузорӣ шудааст: гузариш ба қоидаи дурусти ҷорӣ, рақами воқеии қисмат ва бе ягон банди иловагии сохташуда ниёз дорад. Хатои хомӯш як ҷумлаи аз ҷиҳати техникӣ хуб аст, ки истисноро аз байн мебарад ё "шояд"-ро ба ҳатмӣ табдил медиҳад. Хатои кушода рақами сохта ё PDF-и қариб аз даст рафта аст, ки ҳамчун ҷорӣ баррасӣ мешавад. Вақти кор алоҳида ҳисоб карда мешавад, зеро "он ҷавоб дод" "ин тавр буд" нест.

Қабул барои идомаи минбаъда: дар масъалаҳои пулӣ, хатогиро баста кунед, на хатогиро кушода. Агар ҳампилот равзанаи баргардонидани маблағро ихтироъ кунад, он чиптаҳои зиндаро тартиб намедиҳад. Агар касе манбаъро накушоад, он чиптаҳои зиндаро низ тартиб намедиҳад.

Натиҷа

Натиҷаи тасвирӣ, аз санҷиши 20-саволии сохташуда, на рақами нашршудаи узвияти Харбор.

Фарзияҳо: як нафари дуюмдараҷаи мизи кӯмак; дастури апрели соли 2026 ва PDF-и боқимондаи соли 2023; Прия нисбат ба рубрикаи дар боло овардашуда хол гирифт; вақт як сониясанҷи телефонӣ аз саволе буд, ки ба "Ман инро мефиристам" часпонида шуда буд; вақти баррасӣ дар ҳолати ҳалқашуда дохил карда шудааст ва дар ҳолати қайднашуда қасдан истисно карда шудааст, аз ин рӯ муқоиса яксон боқӣ мемонад.

Ҳампилот, дархости услуби намоишӣ, ки тафтиш нашудааст: ба 20 савол аз 20 савол ҷавоби равон дода шуд (вақти корӣ комил ба назар мерасид). 11 аз 20 савол ба ин баҳо мувофиқат мекард. Панҷ савол нокомиҳои ором буданд. Чаҳор савол нокомиҳои кушода буданд, аз ҷумла яхбандии 14-рӯза. Дуто аз чор саволи кушода ба қисмати шакли манбаъ аз PDF-и соли 2023 ишора карданд. Вақти миёна то лоиҳаи ба назар қобили фиристодан 1 дақиқа буд.

Ҳамон 20 савол, дастури маҳдуд, қисми гирифташуда намоён аст: 15 аз 20 савол аз матни моҳи апрел комилан дуруст буданд. Дар се савол дуруст гуфта шуда буд, ки "дар дастури ҷорӣ нест" (бандҳои ҳамшафати тиббӣ ва ҳамшафати ҳуқуқӣ, инчунин як баҳси ҳисоббаробаркунӣ), аз ин рӯ 18 аз 20 савол қобили қабул буданд. Дутои онҳо то ҳол ноком шуданд: яке PDF-и қариб аз даст рафтаи соли 2023-ро навиштааст ва дигаре рақами пардохти ҳамроҳшавиро ихтироъ кардааст, ки дар порча набуд. Вақти миёна барои тартиб додани дархост тақрибан 1 дақиқа буд.

Ҳамон 20, илова бар ин, Прия қисмати истинодшударо пеш аз фиристодани симулятсияшуда боз кард: 19 аз 20 метавонист қобили қабул бошад. Вай PDF-и қариб аз даст рафтаро гирифт. Хатои боқимонда ин буд, ки баррасикунанда параграфи равонро аз назар мегузаронд ва ба рақами сохташудаи ҳаққи ҳамроҳшавӣ аҳамият надод. Вақти миёна, аз ҷумла барраси, 3 дақиқа буд.

Раванди кӯҳна, танҳо ҷустуҷӯи дастур, бе пилоти дуюм: 20 аз 20 қабул карда мешавад. Ба ҳисоби миёна 9 дақиқа.

Дар ин намуна, ронандаи дуюмдараҷаи ҳалқадор нисбат ба ҷустуҷӯи дастурӣ 6 дақиқа тезтар (9 минус 3) ё 120 дақиқа дар 20 савол буд, ки 19 аз 20 ба ҷои 20 аз 20 қобили қабул буд. Роҳбари дуюмдараҷаи санҷиданашуда 8 дақиқа тезтар (9 минус 1) ва дар 9 аз 20 хато, оҳиста ё баланд буд. Ин 67% сарфаи вақт нест, ки шумо ба бастаи руль гузоштаед. Ин як ихроҷи 9-хато аст, ки шумо онро автоматӣ мекардед.

Нусхаҳои сардори шитобкор аз ду саволи такрорӣ ҳарду бартарӣ доштанд. Нусхаҳои шубҳанок бартарӣ доштанд. Ҳамон модел, ҳамон дастур, либоси дигар. Прия инро ҳамчун як кашфиёт, на ҳамчун як шахсият сабт кард.

Ин рақамҳо тахмини намунавӣ мебошанд, ки бар асоси санҷиши зикршуда, маҷмӯи хурд, чиптаҳое, ки аз як узви хашмгин осонтар буданд ва як баррасикунандае, ки аллакай китобро медонист, гирифта шудаанд. Онҳо нишон намедиҳанд, ки роҳбари дуюм "95% боэътимод" аст ё Харбор бояд як корманди мизро кам кунад. Онҳо нишон медиҳанд, ки вақти корӣ масъала набуд, балки чек муҳим буд.

Чӣ метавонад хато кунад

• Роҳбарият вақти 1-дақиқаии интихобро иқтибос меорад ва 9 хатогиро сарфи назар мекунад. Суръат то соати 4-и бегоҳ ҳанӯз ҳам мисли салоҳият эҳсос мешавад.

• PDF-и соли 2023 дар индекс боқӣ мемонад. Гирифтани он пайваста идома дорад. Grounding ба назар калонсол менамояд ва то ҳол қариб ки аз даст рафтааст.

• Интерфейси корбар қисмати гирифташударо дар паси тугмаи дурахшони фиристодан пинҳон мекунад. Одамон кушодани дастурро қатъ мекунанд, ки ин тавр ҷавоби яхкунӣ ба узв мерасад.

• Прия танҳо ҳашт саволи осонро баҳо медиҳад, зеро онҳо дар слайд зеботар ба назар мерасанд. Театри арзёбӣ, танҳо бо ҷадвали электронӣ.

• Ҷавоби ба саволи "оё ин омӯзиш бехатар аст"-и тиббӣ монанд метавонад ба як саволи кӯтоҳ монанд бошад. Дар харита гуфта мешуд, ки "қариб ҳеҷ гоҳ" нест. Дар оҳанг гуфта мешуд, ки "давом диҳед".

• Гузоришҳо хомӯш карда шудаанд, зеро "ин ба назар чунин менамуд, ки изофа аст". Пас аз як хато, ҳеҷ кас наметавонад бубинад, ки кадом гузаргоҳ гирифта шудааст.

• Онҳо аз модел мепурсанд, ки оё боварӣ дорад. Ҳа, боварӣ дорад. Ин ҳеҷ гоҳ санҷиш набуд.

Хулосаи амалӣ

Эътимоднокӣ хислати дуюмдараҷаи Харбор нест, ки онро харидорӣ кардааст. Он дорои 20 савол, дастури ҷорӣ, як порчаи намоён ва шахсест, ки ҳангоми ба миён омадани пул манбаъро боз мекунад. Соҳибӣ аз санҷиши вақти корӣ мегузарад. Ҳалқа ягона чизест, ки аз санҷиши сиёсат мегузарад.

Саволҳои зиёд такрормешуда

Калимаи боэътимод барои зеҳни сунъии тавлидӣ чӣ маъно дорад?

Эътимоднокии ҳаррӯза маънои онро дорад, ки шумо метавонед ба чизе такя кунед. Бо автоматикунонӣ, ки сухан мегӯяд, як маҷмӯи пурраи хусусиятҳо зери як калима пинҳон мешаванд: воқеият, мувофиқат, калибрченкунӣ, бехатарӣ, вақти корӣ, ҳассосияти фаврӣ, ҳолатҳои канорӣ ва рафтор пас аз тағйири тақсимот. Ҳеҷ яке аз инҳо якҷоя ноком намешаванд. Санҷиши зинда дар чӣ, барои кӣ, бо кадом ҳалқа дар атрофи он боэътимод аст. Дар акси ҳол, шумо блендерро аз рӯи он баҳо медиҳед, ки оё он метавонад андозҳоро иҷро кунад ё не.

Оё зеҳни сунъӣ боэътимод аст?

На ҳамчун хислат. LLM метавонад дар як кор устувор бошад ва дар кори дигар оҳиста-оҳиста аз кор барояд, баъзан дар як нишаст, баъзан аз сабаби он ки шумо вергулро иваз кардед. Эътимоднокӣ хосияти вазифа, маҷмӯи додаҳо, ҳалқаи ҷустуҷӯ, арзёбӣест, ки намоиш нест ва инсоне, ки то ҳол бояд онро дар назар дошта бошад. Онро дар ҷойҳое истифода баред, ки хато арзон ё қобили дастгирист. Дар ҷое, ки хато гарон аст, суст кунед.

Оё вақти кории зеҳни сунъӣ бо ростқавлӣ яксон аст?

Не. Вақти корӣ ин аст, ки оё нуқтаи ниҳоӣ ҷавоб додааст. Ростқавлӣ ин аст, ки оё ҷавоб чунин буд. Шумо метавонед хидмате дошта бошед, ки ҳеҷ гоҳ чашмак намезанад ва бо вуҷуди ин дурӯғи равонро ба корти муштарӣ мефиристад. Суръат мисли салоҳият ҳис мешавад, вақте ки навбат як ҳаюло аст. Бехатарӣ як меҳвари дигар аст: моделе, ки аз jailbreak худдорӣ мекунад, метавонад хулосаи қайдҳои шуморо вайрон кунад.

Чаро зеҳни сунъии равон ҳатто вақте ки хато мекунад, худро боэътимод ҳис мекунад?

Дақиқӣ ва равонӣ аз ҳам ҷудо шуданд ва равонӣ хонаро нигоҳ дошт. LLM ба шумо ритм, ҳимоя, шояд шакли қалбакӣ, вале зебои иқтибос медиҳад ва мағзи шумо мехонад, ки "ин шахс медонад". Калибрченкунӣ аксар вақт даҳшатнок аст: эътимоди баланд, ҳақиқати миёна, мисли сухани асосӣ пешниҳод карда мешавад. Ҷавоби нодурусти ноҷолиб шуморо шубҳанок мекунад. Ҷавоби нодурусти равон шуморо водор мекунад, ки санҷишро қатъ кунед. Агар он мисли мухтасар сухан гӯяд, мо бо он мисли мухтасар муносибат мекунем ва ин аст, ки чӣ тавр хато ба саҳна ворид мешавад.

Оё зеҳни сунъӣ барои корҳои тиббӣ, ҳуқуқӣ ё дастгирии муштариён боэътимод аст?

Ин аз кор вобаста аст, на аз бренд. Маслиҳатҳои тиббӣ ва ҳуқуқӣ қариб ҳеҷ гоҳ ҳамчун маҳсулот кофӣ нестанд: модел як нусхаи нопурра аст ва инсон мутахассис аст. Дастгирии муштариён метавонад дар доираи сиёсати қатъӣ таҳия кунад, аммо шахс бояд пул ва эътимодро ба ӯҳда гирад, зеро сиёсати сохта ва як "номуайянӣ"-и нодуруст нокомии маъмулӣ мебошанд. Нақшаҳо ва хулосаҳо матни аввалини интиқол мебошанд, ки шумо аллакай медонед. Номҳо, рақамҳо ва сатреро, ки метавонад зарар расонад, санҷед.

Чаро зеҳни сунъӣ галлюцинатсия мекунад, лағжиш мекунад ё пинҳонӣ хато мекунад?

Галлютсинатсия як мисси тунд аст: китобе, ки вуҷуд надорад, функсияе, ки ҳеҷ гоҳ фиристода нашудааст, банди сиёсат бо рақаме, ки расмӣ ба назар мерасад. Дрифт камтар синамоӣ аст: ҷаҳон ҳаракат мекунад, боқимондаҳои модел боқӣ мемонанд ва шумо аз обу ҳавои қаблӣ ҷавоби хуб тартибдодашуда мегиред. Хатои ором хулосаест, ки истисноро аз байн мебарад. Ё парафразае, ки "шояд"-ро ба як чизи ҳатмӣ табдил медиҳад. Воқеият метавонад аз ҷиҳати техникӣ хуб ба назар расад, дар ҳоле ки маъно паст шудааст. Ҳассосияти фаврӣ ҳангоми иваз кардани печонидан далелҳоро дурахшонтар мекунад.

Оё ба замин пайваст кардан ё барқарор кардан зеҳни сунъиро боэътимод мегардонад?

Заминкунӣ маънои посух аз ин, на аз туманро дорад. Гирифтани маълумот мавҷударо ба тӯдаи омӯзонидашуда часпонидааст. Вақте ки он ноком мешавад, боадабона ноком мешавад: ҳуҷҷати қариб аз даст рафта, навиштаи тартибдодашуда ва ғаризаи санҷиши шумо хомӯш мешавад. Заминкунӣ фарш аст, на ҳало. Агар шумо натавонед, ки порчаи гирифташударо тафтиш кунед, шумо ҳоло ҳам дар туман ҳастед, танҳо бо равшании беҳтар. Вазифаҳои ҳолати зинда, ба монанди нархҳо ё ибораҳои сиёсатро бо киштиҳои устувор омехта кунед ва шумо дар бораи ҷаҳоне, ки аллакай ҳаракат кардааст, ҷавоби хеле боэътимод мегиред.

Чаро намоиш санҷиши бади эътимоднокии зеҳни сунъӣ аст?

Як супориши тоза ва вазифае, ки модел ҳазорҳо хешовандонашро дидааст, тез ба назар мерасад. Ҷараёнҳои кории зинда дорои часбондани печида, файлҳои гумшуда ва корбаре мебошанд, ки аввалин ҷавоберо қабул мекунад, ки изтироби онҳоро коҳиш медиҳад. Холи ҷадвали пешсаф калибрченкунӣ дар чиптаҳои шумо нест. Хатари модел он чизест, ки вақте рух медиҳад, ки ин дар ҳаҷм нодуруст аст, на он ки оё он маҷмӯи викторинаро гузашт. Санҷишҳое, ки ба шумо лозиманд, хушканд: дар дохили матни гирифташуда бимонед, номуайяниро ба ҷои блеф қайд кунед, ҳангоми аз нав ибора кардан устувор бошед ва ба ҷои ихтироъ, хатогиро баста кунед.

Оё зеҳни сунъӣ боэътимод аст, агар касе дар ин масъала саҳм нагузорад?

Не. Агар касе масъул набошад, система ҳамон тавре истифода мешавад, ки ҳаст. Инсон-дар-ҳалқа ягона тарҳест, ки ба режимҳои нокомӣ мувофиқат мекунад: кӣ баррасӣ мекунад, кӣ метавонад онро боздорад, чӣ сабт мешавад, пас аз хато чӣ мешавад. Агар ҷавоб "модел" бошад, шумо ҷавоб надоред. Моделҳо пас аз ҳодиса ба ҷаласа намераванд. Барои тиб, ҳуқуқ, қарз ё амалиётҳои муҳими бехатарӣ, инсон ҳалқа ва модел як нусхаи нопурра аст.

Чӣ тавр ман метавонам зеҳни сунъиро фаъол кунам, то хатогиҳоро пай барам?

Номуайянии қасданро пурсед: "Чӣ метавонад инро нодуруст кунад?", на "бо итминон гардонидани он". Вақте ки имкон доред, истихроҷро аз насл ҷудо кунед. Аввал ба порчаҳо нигоҳ кунед, сипас матнро пурсед. Либосро иваз кунед: аз нав ибора кунед ё аз ӯ хоҳиш кунед, ки баръаксро исбот кунад. Маҳдудиятҳоро маҷбур кунед, ба монанди "танҳо аз матне, ки ман часбондаам" ё "агар гум шуда бошад, бигӯед, ки гум шудааст" ва боз ҳам санҷед. Вазифаҳоро бо тасдиқкунанда афзалтар донед ва ба мушаххасияти бештар диққат диҳед, зеро дар ин ҷо галлютсинатсия либоспӯширо дӯст медорад.

Адабиёт

1. NIST - nvlpubs.nist.gov

2. NIST - airc.nist.gov

3. NIST - airc.nist.gov

4. ICO - ico.org.uk

5. NCSC - www.ncsc.gov.uk

6. NCSC - www.ncsc.gov.uk

7. OWASP - genai.owasp.org

Навтарин зеҳни сунъиро дар мағозаи расмии ёвари зеҳни сунъӣ пайдо кунед

Дар бораи мо