AI Bias чист?

Сеҳри зеҳнӣ дар ҳама ҷост - оромона ҷудо мекунад, баҳо медиҳад ва пешниҳод мекунад. Ин қулай аст... то он даме, ки баъзе гурӯҳҳоро пеш мебарад ва дигаронро ақиб мегузорад. Агар шумо фикр карда бошед, ки таассуби СҲ чист , чаро он ҳатто дар моделҳои сайқалёфта пайдо мешавад ва чӣ гуна онро бе коҳиш додани самаранокӣ кам кардан мумкин аст, ин дастур барои шумост.

Мақолаҳоеро, ки пас аз ин мақола хондан мехоҳед:

🔗 GPT чиро ифода мекунад
Тафсири соддаи англисӣ дар бораи ном ва пайдоиши GPT.

🔗 AI-и пешгӯишаванда чист
Чӣ гуна моделҳои пешгӯикунанда натиҷаҳоро аз маълумоти таърихӣ ва зинда пешгӯӣ мекунанд.

🔗 Зеҳни сунъии кушодаасос чист?
Таъриф, манфиатҳои асосӣ, мушкилот, иҷозатномаҳо ва мисолҳои лоиҳа.

🔗 Чӣ тавр AI-ро ба тиҷорати худ дохил кардан мумкин аст
Харитаи роҳ, абзорҳо, ҷараёнҳои корӣ ва асосҳои идоракунии тағйирот қадам ба қадам.

Таърифи мухтасар: Таассуби зеҳни сунъӣ чист?

Таассуби зеҳни сунъӣ вақте рух медиҳад, ки натиҷаҳои системаи зеҳни сунъӣ ба таври системавӣ ба одамон ё гурӯҳҳои муайян фоида ё зарар мерасонанд. Он аксар вақт аз маълумоти нобаробар, интихоби танг дар андозагирӣ ё контексти васеътаре, ки система дар он сохта ва истифода мешавад, бармеояд. Таассуб на ҳамеша зараровар аст, аммо агар назорат карда нашавад, он метавонад зарарро зуд афзоиш диҳад. [1]

Як фарқияти муфид: таассуб як каҷравии қабули қарор аст, дар ҳоле ки табъиз таъсири зарароварест, ки каҷравии он метавонад дар ҷаҳон ба вуҷуд орад. Шумо ҳамеша наметавонед ҳама гуна таассубро бартараф кунед, аммо шумо бояд онро идора кунед, то он натиҷаҳои ноодилона ба вуҷуд наорад. [2]

Чаро фаҳмидани таассуб воқеан шуморо беҳтар мекунад 💡

Аҷиб аст, дуруст? Аммо донистани он ки таассуби зеҳни сунъӣ чист, шуморо водор мекунад:

• Дар тарроҳӣ беҳтар аст - шумо пештар фарзияҳои нозукро мушоҳида хоҳед кард.

• Дар идоракунӣ беҳтар аст - шумо муомилаҳоро ба ҷои дастӣ нишон додан, онҳоро сабт мекунед.

• Дар сӯҳбатҳо беҳтар аст - бо роҳбарон, танзимгарон ва одамони зарардида.

Ҳамчунин, омӯхтани забони метрика ва сиёсати адолат баъдтар вақтро сарфа мекунад. Ростӣ, ин мисли харидани харита пеш аз сафари роҳӣ аст - нокомил, аммо аз вибратсияҳо хеле беҳтар аст. [2]

Намудҳои таассуби зеҳни сунъӣ, ки шумо дар табиат хоҳед дид 🧭

Таассуб дар тамоми давраи ҳаёти зеҳни сунъӣ зоҳир мешавад. Намудҳои маъмулии дастаҳо бо инҳо дучор мешаванд:

• Таассуби намунагирии маълумот - баъзе гурӯҳҳо кам намояндагӣ шудаанд ё нопадид шудаанд.

• Таассуби тамғагузорӣ - тамғаҳои таърихӣ таассуб ё доварони пурғавғои инсониро рамзгузорӣ мекунанд.

• Таассуби андозагирӣ - проксиҳое, ки он чизеро, ки шумо воқеан қадр мекунед, инъикос намекунанд.

• Таассуби арзёбӣ - маҷмӯи санҷишҳо баъзе гурӯҳҳо ё контекстҳоро аз даст медиҳанд.

• Таассуби ҷойгиркунӣ - модели хуби лабораторӣ, ки дар муҳити нодуруст истифода мешавад.

• Таассуби системавӣ ва инсонӣ - нақшҳои васеътари иҷтимоӣ ва интихоби дастаӣ, ки ба технология ворид мешаванд.

Модели муфиди зеҳнӣ аз мақомоти стандартӣ таассубро ба категорияҳои инсонӣ, техникӣ ва системавӣ иҷтимоию техникиро , на танҳо тағир додани модел. [1]

Ҷое, ки таассуб дар лӯла пинҳон мешавад 🔍

1. Чаҳорчӯбаи мушкилот - ҳадафро хеле маҳдуд муайян кунед ва шумо одамонеро, ки маҳсулот бояд ба онҳо хизмат расонад, истисно мекунед.

2. Манбаъгирии маълумот - маълумоти таърихӣ аксар вақт нобаробариҳои гузаштаро рамзгузорӣ мекунад.

3. Интихоби хусусиятҳо - проксиҳо барои атрибутҳои ҳассос метавонанд атрибутҳои ҳассосро аз нав эҷод кунанд.

4. Омӯзиш - ҳадафҳо барои дақиқии миёна, на барои баробарӣ, оптимизатсия карда мешаванд.

5. Санҷиш - агар маҷмӯи нигоҳдории шумо каҷ бошад, метрикаҳои шумо низ каҷ ҳастанд.

6. Мониторинг - тағйирот дар корбарон ё контекст метавонад мушкилотро дубора ба миён орад.

Танзимгарон ба сабти хатарҳои адолат дар тамоми ин давраи ҳаёт, на танҳо дар вақти мувофиқ кардани модел, таъкид мекунанд. Ин як машқи ҳамаҷониба аст. [2]

Чӣ тавр мо адолатро бе он ки дар доираҳо қарор гирем, чен мекунем? 📏

Як меъёре барои муайян кардани ҳамаи онҳо вуҷуд надорад. Интихобро дар асоси ҳолати истифодаи худ ва зарарҳое, ки мехоҳед аз онҳо канорагирӣ кунед, интихоб кунед.

• Паритети демографӣ - сатҳи интихоб бояд дар байни гурӯҳҳо якхела бошад. Барои саволҳои тақсимот хуб аст, аммо метавонад бо ҳадафҳои дақиқӣ мухолифат кунад. [3]

• Имкониятҳои баробаршуда - сатҳи хатогиҳо ба монанди мусбатҳои бардурӯғ ва мусбатҳои ҳақиқӣ бояд якхела бошанд. Вақте ки арзиши хатогиҳо аз рӯи гурӯҳ фарқ мекунад, муфид аст. [3]

• Калибрченкунӣ - барои як хол, натиҷаҳо бояд дар байни гурӯҳҳо баробар эҳтимолият дошта бошанд. Вақте ки холҳо қарорҳои инсониро муайян мекунанд, муфид аст. [3]

Маҷмӯаҳои абзорҳо инро тавассути ҳисоб кардани холигӣ, графикҳо ва панелҳои идоракунӣ амалӣ мекунанд, то шумо аз тахмин кардан даст кашед. [3]

Роҳҳои амалии коҳиш додани таассуб, ки воқеан кор мекунанд 🛠️

Ба ҷои як тири нуқрагин, дар бораи чораҳои кам кардани таъсири қабатӣ фикр кунед

• Аудити маълумот ва ғанӣ гардонидан - муайян кардани холигии фарогирӣ, ҷамъоварии маълумоти бехатартар дар ҷойҳое, ки қонунӣ аст, ва намунагирии ҳуҷҷатҳо.

• Аз нав вазнгирӣ ва аз нав намунагирӣ - тақсимоти омӯзишро барои кам кардани каҷравӣ танзим кунед.

• Маҳдудиятҳои дар раванди коркард - ба ҳадаф ҳадафҳои адолатро илова кунед, то модел мустақиман муросоҳоро омӯзад.

• Мубоҳисаи зиддиятнок - моделро тавре омӯзонед, ки хусусиятҳои ҳассос аз намояндагиҳои дохилӣ пешгӯишаванда набошанд.

• Коркарди баъдӣ - дар ҳолати мувофиқ ва қонунӣ, калибрченкунии остонаҳои қабули қарорҳо барои ҳар як гурӯҳ.

• Санҷишҳои инсонӣ дар ҳалқа - ҷуфт моделҳо бо хулосаҳои фаҳмо ва роҳҳои афзоиш.

Китобхонаҳои кушодаасос ба монанди AIF360 ва Fairlearn ҳам метрика ва ҳам алгоритмҳои коҳишдиҳиро пешниҳод мекунанд. Онҳо ҷодугарӣ нестанд, аммо ба шумо нуқтаи ибтидоии систематикӣ медиҳанд. [5][3]

Исботи воқеӣ, ки таассуб муҳим аст 📸💳🏥

• Таҳлили чеҳра - таҳқиқоти васеъ иқтибосшуда тафовутҳои зиёди дақиқиро дар байни гурӯҳҳои ҷинс ва намуди пӯст дар системаҳои тиҷоратӣ сабт кардааст, ки ин соҳаро ба сӯи амалияҳои беҳтари арзёбӣ тела медиҳад. [4]

• Қарорҳои муҳим (қарз, кироя, манзил) - ҳатто бе ният, натиҷаҳои ғаразнок метавонанд бо адолат ва вазифаҳои зидди табъиз мухолифат кунанд. Тарҷума: шумо барои натиҷаҳо, на танҳо барои рамз, масъул ҳастед. [2]

Латифаи кӯтоҳ аз амалия: дар як аудити беном барои интихоби кормандон, як гурӯҳ камбудиҳои хотиррасониро барои занон дар вазифаҳои техникӣ пайдо кард. Қадамҳои оддӣ - тақсимоти беҳтари табақабандӣ, баррасии хусусиятҳо ва остонабандии ҳар як гурӯҳ - аксари ин камбудиро бо як муомилаи дақиқии ночиз бартараф карданд. Калид як ҳила набуд; он як ҳалқаи такроршавандаи андозагирӣ-камкунӣ-назорат буд.

Сиёсат, қонун ва идоракунӣ: "хуб" чӣ гуна ба назар мерасад 🧾

Ба шумо лозим нест, ки ҳуқуқшинос бошед, аммо барои адолат ва фаҳмо будан тарҳрезӣ кардан лозим аст:

• Принсипҳои адолат - арзишҳои инсонмарказ, шаффофият ва роҳ надодан ба табъиз дар тамоми давраи ҳаёт. [1]

• Ҳифзи маълумот ва баробарӣ - дар мавриди маълумоти шахсӣ, вазифаҳоро дар атрофи адолат, маҳдудияти мақсад ва ҳуқуқҳои инфиродӣ интизор шавед; қоидаҳои бахш низ метавонанд татбиқ шаванд. Ӯҳдадориҳои худро барвақт муайян кунед. [2]

• Идоракунии хатарҳо - аз чаҳорчӯбаҳои сохторӣ барои муайян кардан, чен кардан ва назорат кардани таассуб ҳамчун як қисми барномаҳои васеътари хатари зеҳни сунъӣ истифода баред. Онро нависед. Аз назар гузаронед. Такрор кунед. [1]

Як тараф гузорем: корҳои коғазӣ танҳо бюрократия нестанд; ин роҳи исбот кардани , ки агар касе пурсад, шумо воқеан корро анҷом додаед.

Ҷадвали муқоиса: абзорҳо ва чаҳорчӯбаҳо барои рафъи таассуби зеҳни сунъӣ 🧰📊

Ҳар яки инҳо ба шумо кӯмак мекунанд, ки бо додани сохтор, метрика ва луғати муштарак ба он, ки таассуби зеҳни сунъӣ дар контексти шумо чист,

Ҷараёни кори кӯтоҳ ва каме андешаманд 🧪

1. Зарареро, ки мехоҳед аз он канорагирӣ кунед, баён кунед - зарари тақсимот, нобаробарии сатҳи хатогӣ, зарари шаъну шараф ва ғайра.

2. Метрикаеро интихоб кунед, ки бо он зарар мувофиқ бошад - масалан, агар баробарӣ дар хато муҳим бошад, коэффитсиентҳои баробаршуда. [3]

3. Маълумот ва модели имрӯзаро истифода баред

4. Аввал ислоҳи камсамарро санҷед - тақсимоти беҳтари маълумот, остонагузорӣ ё аз нав вазнкунӣ.

5. Дар ҳолати зарурӣ, ба маҳдудиятҳои коркарди дохилӣ гузаред

6. Аз нав баҳогузорӣ кунед, ки дар маҷмӯаҳои нигоҳдорӣ, ки корбарони воқеиро муаррифӣ мекунанд.

7. Мониторинг дар истеҳсолот - тағйироти тақсимотӣ рух медиҳанд; панелҳои идоракунӣ низ бояд.

8. Мутобиқати ҳуҷҷатӣ - адолат аз рӯи контекст аст, бинобар ин шарҳ диҳед, ки чаро шумо баробарӣ X-ро нисбат ба баробарӣ Y интихоб кардед. [1][2]

Мақомоти танзимкунанда ва стандартҳо бо ягон сабаб ба тафаккури давраи ҳаётӣ таъкид мекунанд. Ин кор мекунад. [1]

Маслиҳатҳои муошират барои ҷонибҳои манфиатдор 🗣️

• Аз шарҳҳои танҳо аз рӯи риёзӣ худдорӣ кунед - аввал диаграммаҳои оддӣ ва мисолҳои мушаххасро нишон диҳед.

• Аз забони содда истифода баред - бигӯед, ки модел чӣ кор карда метавонад ва ба кӣ таъсир расонида метавонад.

• Мутобиқати сатҳӣ - маҳдудиятҳои одилона метавонанд дақиқиро тағйир диҳанд; агар он зарарро кам кунад, ин хато нест.

• Нақшаҳои эҳтиётӣ - чӣ гуна дар сурати пайдо шудани мушкилот таваққуф кардан ё баргардонидан мумкин аст.

• Тафтишро даъват кунед - баррасии беруна ё гурӯҳи сурх нуқтаҳои ноаёнро ошкор мекунад. Ҳеҷ кас онро дӯст намедорад, аммо ин кӯмак мекунад. [1][2]

Саволҳои зуд-зуд додашаванда: дар асл таассуби зеҳни сунъӣ чист? ❓

Оё таассуб танҳо маълумоти бад нест?
На танҳо. Маълумот муҳим аст, балки интихоби моделсозӣ, тарҳи арзёбӣ, контексти ҷойгиркунӣ ва ҳавасмандгардонии даста ҳама ба натиҷаҳо таъсир мерасонанд. [1]

Оё ман метавонам таассубро пурра аз байн барам?
Одатан не. Шумо мекӯшед, ки идора кунед , то он ба оқибатҳои ноодилона оварда нарасонад - дар бораи кам кардан ва идоракунӣ фикр кунед, на дар бораи камолот. [2]

Кадом метрикаи адолатро бояд истифода кунам?
Интихобро дар асоси намуди зарар ва қоидаҳои доменӣ интихоб кунед. Масалан, агар мусбатҳои бардурӯғ ба гурӯҳ бештар зарар расонанд, ба баробарӣ дар сатҳи хатогӣ (имкониятҳои баробаршуда) диққат диҳед. [3]

Оё ба ман баррасии ҳуқуқӣ лозим аст?
Агар системаи шумо ба имкониятҳо ё ҳуқуқҳои одамон дахл кунад, бале. Қоидаҳои ба истеъмолкунанда ва баробарӣ нигаронидашуда метавонанд ба қарорҳои алгоритмӣ татбиқ шаванд ва шумо бояд кори худро нишон диҳед. [2]

Шарҳҳои ниҳоӣ: Хеле дароз, нахондам 🧾✨

Агар касе аз шумо пурсад, ки таассуби зеҳни сунъӣ чист , ин аст ҷавоби осон: ин як каҷравии систематикӣ дар баромадҳои зеҳни сунъӣ аст, ки метавонад дар ҷаҳони воқеӣ таъсири ноодилона ба вуҷуд орад. Шумо онро бо метрикаҳои мувофиқи контекст ташхис мекунед, онро бо усулҳои қабатӣ кам мекунед ва онро дар тамоми давраи ҳаёт идора мекунед. Ин як хатои ягона нест, ки онро пахш кунед - ин як саволи маҳсулот, сиёсат ва одамон аст, ки зарбаи доимии андозагирӣ, ҳуҷҷатгузорӣ ва фурӯтаниро талаб мекунад. Ман фикр мекунам, ки ҳеҷ мушкиле нест... аммо рӯйхатҳои санҷишии хуб, муомилоти ростқавлона ва одатҳои беҳтар мавҷуданд. Ва бале, чанд эмодзи ҳеҷ гоҳ зарар намерасонанд. 🙂

Иқтибосҳо

1. Нашри махсуси NIST 1270 - Ба сӯи стандарти муайян ва идоракунии таассуб дар зеҳни сунъӣ . Пайванд.

2. Дафтари Комиссари иттилооти Британияи Кабир - Дар бораи адолат, таассуб ва табъиз чӣ гуфтан мумкин аст? Пайванд

3. Ҳуҷҷатҳои Fairlearn - Меъёрҳои маъмулии адолат (паритети демографӣ, коэффитсиентҳои баробаршуда, калибрченкунӣ). Пайванд

4. Буоламвини, Ҷ., ва Гебру, Т. (2018). Сояҳои гендерӣ: Нобаробарии дақиқии буришӣ дар таснифоти гендерии тиҷоратӣ . FAT* / PMLR. Пайванд

5. Таҳқиқоти IBM - Муаррифии AI Fairness 360 (AIF360) . Пайванд

Дар Дӯкони расмии AI Assistant AI-и навтаринро пайдо кунед

Дар бораи мо