AI чӣ қадар энергия истифода мебарад?

Ҷавоб: Сеҳри зеҳн метавонад барои як вазифаи оддии матнӣ хеле кам нерӯи барқ ​​​​истифода барад, аммо вақте ки дархостҳо дароз бошанд, баромадҳо бисёрмодалӣ бошанд ё системаҳо дар миқёси калон кор кунанд, хеле бештар истифода мебарад. Омӯзиш одатан зарбаи асосии энергияи пешакӣ аст, дар ҳоле ки бо ҷамъ шудани дархостҳо, хулосаҳои ҳаррӯза аҳамияти калон пайдо мекунанд.

Хулосаҳои асосӣ:

Контекст : Пеш аз иқтибос овардани ягон сметаи энергетикӣ, вазифа, модел, сахтафзор ва миқёсро муайян кунед.

Омӯзиш : Ҳангоми банақшагирии буҷетҳо, омӯзиши моделиро ҳамчун чорабинии асосии энергетикии пешакӣ баррасӣ кунед.

Хулоса : Хулосаи такрориро бодиққат тамошо кунед, зеро хароҷоти хурд барои ҳар як дархост зуд дар миқёс ҷамъ мешаванд.

Инфрасохтор : Дар ҳама гуна арзёбии воқеӣ хунуккунӣ, нигоҳдорӣ, шабакаҳо ва иқтидори бекориро дохил кунед.

Самаранокӣ : Барои кам кардани истеъмоли энергия аз моделҳои хурдтар, дастурҳои кӯтоҳтар, кэшкунӣ ва гурӯҳбандии иттилоот истифода баред.

Мақолаҳое, ки шумо метавонед баъд аз ин хонед, инҳоянд:

🔗 Чӣ гуна зеҳни сунъӣ ба муҳити зист таъсир мерасонад
Пайгирии карбон, истифодаи энергия ва мувозинати устувории зеҳни сунъиро шарҳ медиҳад.

🔗 Оё зеҳни сунъӣ барои муҳити зист зараровар аст?
Хароҷоти пинҳонии экологӣ дар моделҳо ва марказҳои додаҳои зеҳни сунъӣ (AI)-ро ошкор мекунад.

🔗 Оё зеҳни сунъӣ хуб аст ё бад? Тарафҳои мусбат ва манфии он
Нигоҳи мутавозин ба манфиатҳо, хатарҳо, ахлоқ ва таъсири воқеӣ аз зеҳни сунъӣ.

🔗 Зеҳни сунъӣ чист? Дастури оддӣ
Асосҳои зеҳни сунъӣ, истилоҳоти калидӣ ва мисолҳои ҳаррӯзаро дар тӯли чанд дақиқа омӯзед.

Чаро ин савол аз он ки одамон фикр мекунанд, муҳимтар аст 🔍

Истифодаи энергияи зеҳни сунъӣ на танҳо мавзӯи баҳси экологӣ аст. Он ба чанд масъалаи хеле воқеӣ дахл дорад:

• Арзиши барқ ​​- махсусан барои тиҷорате, ки дархостҳои зиёди зеҳни сунъиро иҷро мекунад

• Таъсири карбон - вобаста ба манбаи нерӯи барқ ​​дар паси серверҳо

• Шиддати сахтафзор - чипҳои пуриқтидор қувваи ҷиддиро ҷалб мекунанд

• Қарорҳои миқёспазир - як дархости арзон метавонад ба миллионҳо дархости гаронбаҳо табдил ёбад

• Тарроҳии маҳсулот - самаранокӣ аксар вақт хусусияти беҳтаре аз он аст, ки одамон дарк мекунанд ( Google Cloud , Green AI )

Бисёри одамон мепурсанд, ки "Зеҳни сунъӣ чӣ қадар энергия истифода мебарад?", зеро онҳо рақами назаррасро мехоҳанд. Чизи бузург. Чизе, ки ба сарлавҳа мувофиқ аст. Аммо саволи беҳтар ин аст: Мо дар бораи кадом намуди истифодаи зеҳни сунъӣ гап мезанем? Зеро ин ҳама чизро тағйир медиҳад. ( IEA )

Як пешниҳоди ягонаи пуркунии худкор? Хеле хурд.
Омӯзиши модели сарҳадӣ дар кластерҳои бузург? Хеле, хеле калонтар.
Ҷараёни кории доимии зеҳни сунъии корхона, ки ба миллионҳо корбарон таъсир мерасонад? Бале, ин зуд ҷамъ мешавад... мисли табдил ёфтани як танга ба пардохти иҷора. ( DOE , Google Cloud )

Сеҳри зеҳн чӣ қадар энергия истифода мебарад? Ҷавоби кӯтоҳ ⚡

Ин версияи амалӣ аст.

Зеҳни сунъӣ метавонад аз қисмати ночизи як ватт-соат барои вазифаи сабук то миқдори зиёди нерӯи барқ ​​барои омӯзиш ва ҷойгиркунии миқёси калон истифода барад. Ин диапазон хеле васеъ ба назар мерасад, зеро он васеъ аст. ( Google Cloud , Strubell et al. )

Ба таври оддӣ баён кунед:

• Вазифаҳои соддаи хулосабарорӣ - аксар вақт дар асоси ҳар як истифода нисбатан хоксоронаанд

• Сӯҳбатҳои тӯлонӣ, натиҷаҳои калон, тавлиди тасвирҳо, тавлиди видео - ба таври назаррас энергияталабтар

• Омӯзиши моделҳои калон - қаҳрамони вазнини истеъмоли нерӯи барқ

• Идоракунии зеҳни сунъӣ дар миқёси васеъ тамоми рӯз - ки дар он "ҳар як дархости хурд" ба "ҳисоби умумии калон" табдил меёбад ( Google Cloud , DOE )

Як қоидаи хуби истифода ин аст:

• Омӯзиш як чорабинии бузурги энергетикии пешакӣ аст 🏭

• Хулоса ин ҳисоби коммуналии доимӣ аст 💡 ( Струбелл ва дигарон , Google Research )

Пас, вақте ки касе мепурсад, ки зеҳни сунъӣ чӣ қадар энергия истифода мебарад?, ҷавоби мустақим ин аст: "На як миқдор - балки кофӣ аст, ки самаранокӣ муҳим бошад ва кофӣ аст, ки миқёс тамоми қиссаро тағйир диҳад." ( IEA , Green AI )

Медонам, ки ин он қадар ҷолиб нест, ки одамон мехоҳанд. Аммо ин ҳақиқат аст.

Чӣ версияи хуби арзёбии энергияи зеҳни сунъӣ месозад? 🧠

Баҳодиҳии хуб танҳо як рақами драмавӣ нест, ки дар графика партофта шудааст. Баҳодиҳии амалӣ контекстро дар бар мегирад. Дар акси ҳол, ин мисли баркашидани туман бо тарозуи ҳаммом аст. Ба қадри кофӣ наздик аст, ки таъсирбахш садо диҳад, на ба қадри кофӣ наздик барои эътимод. ( IEA , Google Cloud )

Арзёбии хуби энергияи зеҳни сунъӣ бояд инҳоро дар бар гирад:

• Навъи вазифа - матн, тасвир, аудио, видео, омӯзиш, танзими дақиқ

• Андозаи модел - моделҳои калонтар одатан ба ҳисобкунии бештар ниёз доранд

• Сахтафзори истифодашуда - на ҳама чипҳо яксон самаранок мебошанд

• Давомнокии сессия - супоришҳои кӯтоҳ ва ҷараёнҳои кории тӯлонии бисёрқадамӣ хеле фарқ мекунанд

• Истифода - системаҳои бекор ҳоло ҳам энергия истеъмол мекунанд

• Сардкунӣ ва инфрасохтор - сервер тамоми хароҷот нест

• Омезиши макон ва энергия - барқ ​​дар ҳама ҷо яксон тоза нест ( Google Cloud , IEA )

Аз ин рӯ, ду нафар метавонанд дар бораи истифодаи нерӯи барқи зеҳни сунъӣ баҳс кунанд ва ҳарду ҳангоми сӯҳбат дар бораи чизҳои комилан гуногун бо итминон ба назар мерасанд. Як нафар маънои посухи як чатботро дорад. Дигаре маънои як машқи бузурги омӯзишӣ дорад. Ҳарду "Зеҳни сунъӣ" мегӯянд ва ногаҳон сӯҳбат аз рельс берун мешавад 😅

Ҷадвали муқоисавӣ - роҳҳои беҳтарини баҳодиҳии истифодаи энергияи зеҳни сунъӣ 📊

Ин ҷадвали амалӣ барои ҳар касе аст, ки кӯшиш мекунад ба ин савол бидуни табдил додани он ба санъати намоишӣ посух диҳад.

Асбоб ё усул	Беҳтарин тамошобинон	Нарх	Чаро он кор мекунад
Қоидаҳои оддии ҳисобкунӣ	Хонандагони кунҷков, донишҷӯён	Ройгон	Тез, осон, каме норавшан - аммо барои муқоисаҳои ноҳамвор кофӣ хуб аст
Ваттметри тарафи дастгоҳ	Сохтмончиёни танҳо, ҳаваскорон	Паст	Қувваи воқеии кашидани мошинро чен мекунад, ки он бетони тароватбахш аст
Панели телеметрии GPU	Муҳандисон, дастаҳои ML	Миёна	Тафсилоти беҳтар дар бораи вазифаҳои вазнини ҳисоббарорӣ, гарчанде ки он метавонад хароҷоти бузургтари иншоотро аз даст диҳад
Ҳисоббаробаркунии абрӣ + гузоришҳои истифода	Стартапҳо, дастаҳои амалиётӣ	Миёна то баланд	Истифодаи зеҳни сунъиро бо хароҷоти воқеӣ пайваст мекунад - комил нест, аммо ҳоло ҳам хеле арзишманд аст
Ҳисоботи энергетикии маркази додаҳо	Дастаҳои корхона	Баланд	Дар ин ҷо намоёнии васеътари амалиётӣ медиҳад, хунуккунӣ ва инфрасохтор пайдо мешаванд
Арзёбии пурраи давраи ҳаёт	Дастаҳои устуворӣ, ташкилотҳои калон	Баланд, баъзан дарднок	Беҳтарин барои таҳлили ҷиддӣ, зеро он аз худи чип берун меравад... аммо он суст ва як навъ ҳайвони ваҳшӣ аст

Усули комил вуҷуд надорад. Ин қисмати каме ноумедкунанда аст. Аммо сатҳҳои арзиш вуҷуд доранд. Ва одатан, чизе, ки хидматрасонӣ мешавад, аз комилият беҳтар аст. ( Google Cloud )

Омили бузургтарин ҷоду нест - ин ҳисоб ва сахтафзор аст 🖥️🔥

Вақте ки одамон истифодаи энергияи зеҳни сунъиро тасаввур мекунанд, онҳо аксар вақт худи моделро ҳамчун чизе тасаввур мекунанд, ки энергияро истеъмол мекунад. Аммо модел мантиқи нармафзорест, ки дар сахтафзор кор мекунад. Сахтафзор ҷоест, ки ҳисоби барқ ​​​​нишон дода мешавад. ( Струбелл ва дигарон , Google Cloud )

Тағирёбандаҳои бузургтарин одатан инҳоро дар бар мегиранд:

• Навъи GPU ё суръатбахш

• Чанд чип истифода мешавад

• Онҳо чӣ қадар вақт фаъол мемонанд

• Боркунии хотира

• Андозаи партия ва иқтидори интиқол

• Новобаста аз он ки система хуб оптимизатсия шудааст ё танҳо ҳама чизро маҷбуран иҷро мекунад ( Google Cloud , Квантизатсия, Бахшинг ва Стратегияҳои Хизматрасонӣ дар Истифодаи Энергияи LLM )

Системаи хеле оптимизатсияшуда метавонад бо энергияи камтар кори бештарро анҷом диҳад. Системаи бетартиб метавонад барқро бо эътимоди ҳайратангез беҳуда сарф кунад. Шумо медонед, ки ин чӣ гуна аст - баъзе дастгоҳҳо мошинҳои пойгаӣ ҳастанд, баъзеҳо аробаҳои харид бо мушакҳои бо скотч часпондашуда 🚀🛒

Ва бале, андозаи модел муҳим аст. Моделҳои калонтар одатан хотираи бештар ва ҳисобҳои бештарро талаб мекунанд, хусусан ҳангоми тавлиди натиҷаҳои тӯлонӣ ё коркарди мулоҳизаҳои мураккаб. Аммо ҳилаҳои самаранокӣ метавонанд вазъро тағйир диҳанд: ( Зеҳни сунъии сабз , стратегияҳои миқдорӣ, партиявӣ ва хидматрасонӣ дар истифодаи энергияи LLM )

• квантизатсия

• масирёбии беҳтар

• моделҳои хурдтари тахассусӣ

• кэшкунӣ

• партиякунӣ

• ҷадвалбандии оқилонаи сахтафзор ( Стратегияҳои миқдорӣ, тақсимкунӣ ва хидматрасонӣ дар истифодаи энергияи LLM )

Пас, савол на танҳо дар он аст, ки "Модел то чӣ андоза калон аст?", балки дар он аст, ки "Он то чӣ андоза оқилона идора карда мешавад?"

Омӯзиш ва хулосабарорӣ - инҳо ҳайвоноти гуногунанд 🐘🐇

Ин тақсимотест, ки қариб ҳамаро ба иштибоҳ меорад.

Омӯзиш

Омӯзиш ин вақте аст, ки модел аз маҷмӯи бузурги додаҳо намунаҳоро меомӯзад. Он метавонад бисёр чипҳоро дар бар гирад, ки муддати тӯлонӣ кор мекунанд ва ҳаҷми бузурги додаҳоро мехӯранд. Ин марҳила энергияро талаб мекунад. Баъзан хеле зиёд аст. ( Струбелл ва дигарон. )

Энергияи омӯзишӣ аз инҳо вобаста аст:

• андозаи модел

• андозаи маҷмӯи додаҳо

• шумораи машқҳои омӯзишӣ

• таҷрибаҳои ноком

• гузарномаҳои танзими дақиқ

• самаранокии сахтафзор

• Сарбории хунуккунӣ ( Струбелл ва дигарон , Google Research )

Ва ин қисматест, ки одамон аксар вақт аз даст медиҳанд - мардум аксар вақт як дави бузурги тамриниро тасаввур мекунанд, ки як маротиба анҷом дода мешавад ва охири ҳикоя аст. Дар амал, таҳия метавонад давиданҳои такрорӣ, танзим, бозомӯзӣ, арзёбӣ ва ҳама такрорҳои оддӣ, вале гаронбаҳоро дар атрофи чорабинии асосӣ дар бар гирад. ( Струбелл ва дигарон , Green AI )

Хулоса

Хулосабарорӣ моделест, ки ба дархостҳои воқеии корбарон посух медиҳад. Як дархост метавонад чандон монанд набошад. Аммо хулосабарорӣ борҳо ва борҳо рух медиҳад. Миллионҳо маротиба. Баъзан миллиардҳо маротиба. ( Google Research , DOE )

Энергияи хулосабарорӣ бо ин афзоиш меёбад:

• дарозии дархост

• дарозии баромад

• шумораи корбарон

• талаботи таъхир

• хусусиятҳои мултимодалӣ

• интизориҳои вақти корӣ

• қадамҳои бехатарӣ ва коркарди баъдӣ ( Google Cloud , стратегияҳои квантизатсия, пакетсозӣ ва хидматрасонӣ дар истифодаи энергияи LLM )

Пас, омӯзиш заминларза аст. Хулосабарорӣ мавҷ аст. Яке драматикӣ аст, дигаре пойдор аст ва ҳарду метавонанд соҳилро каме дигаргун кунанд. Шояд ин як истиораи ғайриоддӣ бошад, аммо он бо ҳам мувофиқат мекунад... бештар ё камтар.

Хароҷоти пинҳонии энергияе, ки одамон фаромӯш мекунанд 😬

Вақте ки касе истифодаи қувваи зеҳни сунъиро танҳо бо нигоҳ ба чип арзёбӣ мекунад, онҳо одатан кам ҳисоб мекунанд. На ҳамеша фоҷиабор, аммо барои аҳамият кофӣ аст. ( Google Cloud , IEA )

Инҳо қисмҳои пинҳоншуда мебошанд:

Хунуккунӣ ❄️

Серверҳо гармӣ тавлид мекунанд. Сахтафзори пуриқтидори зеҳни сунъӣ миқдори зиёди онро тавлид мекунад. Хунуккунӣ ихтиёрӣ нест. Ҳар як ватт, ки тавассути ҳисоббарорӣ сарф мешавад, барои нигоҳ доштани ҳарорат истеъмоли бештари энергияро ба вуҷуд меорад. ( IEA , Google Cloud )

Ҳаракати маълумот 🌐

Интиқоли маълумот тавассути нигоҳдорӣ, хотира ва шабакаҳо низ энергияро талаб мекунад. Соҳиби зеҳни сунъӣ танҳо "фикр кардан" нест. Он инчунин маълумотро пайваста омехта мекунад. ( IEA )

Иқтидори холӣ 💤

Системаҳое, ки барои талаботи авҷӣ сохта шудаанд, на ҳамеша дар сатҳи авҷи талабот кор мекунанд. Инфрасохтори бекор ё нокифоя истифодашуда ҳоло ҳам нерӯи барқро истеъмол мекунад. ( Google Cloud )

Ифлосӣ ва эътимоднокӣ 🧱

Нусхабардории эҳтиётӣ, системаҳои аз кор мондан, минтақаҳои такрорӣ, қабатҳои бехатарӣ - ҳама арзишманданд, ҳама қисми тасвири бузургтари энергетикӣ мебошанд. ( IEA )

Анбор 📦

Маълумоти омӯзишӣ, ҷойгиркунӣ, гузоришҳо, нуқтаҳои назоратӣ, натиҷаҳои тавлидшуда - ҳамаи инҳо дар ҷое зиндагӣ мекунанд. Албатта, нигоҳдорӣ нисбат ба ҳисобкунӣ арзонтар аст, аммо аз ҷиҳати энергия ройгон нест. ( IEA )

Аз ин рӯ, ба саволи " Чӣ қадар энергия истифода мебарад?" бо нигоҳ кардан ба як ҷадвали нишондиҳанда ҷавоби хуб додан мумкин нест. Андозаи пурра муҳим аст. ( Google Cloud , IEA )

Чаро як дархости зеҳни сунъӣ метавонад хурд бошад - ва дархости дигар метавонад як ҳаюло бошад 📝➡️🎬

На ҳама дархостҳо яксон сохта шудаанд. Дархости кӯтоҳ барои аз нав навиштани ҷумла бо дархости таҳлили тӯлонӣ, сеанси рамзгузории бисёрқадамӣ ё тавлиди тасвирҳои баландсифат қобили муқоиса нест. ( Google Cloud )

Чизҳое, ки майл ба афзоиши истеъмоли энергия дар ҳар як муошират доранд:

• Тирезаҳои контекстии дарозтар

• Ҷавобҳои тӯлонӣ

• Қадамҳои барқароркунӣ ва истифодаи асбобҳо

• Барои далел ё тасдиқ якчанд гузаришҳо

• Тавлиди тасвир, аудио ё видео

• Ҳамзамон будани баландтар

• Ҳадафҳои таъхири пасттар ( Google Cloud , стратегияҳои квантизатсия, пакетсозӣ ва хидматрасонӣ дар истифодаи энергияи LLM )

Ҷавоби матнии сабук метавонад нисбатан арзон бошад. Ҷараёни бузурги кори мултимодалӣ метавонад арзон набошад. Ин каме ба фармоиши қаҳва ё хӯроки нисфирӯзӣ дар тӯй монанд аст. Аз нигоҳи техникӣ, ҳарду ҳамчун "хизматрасонии хӯрокворӣ" ҳисоб карда мешаванд. Яке ба дигаре монанд нест ☕🎉

Ин махсусан барои дастаҳои маҳсулот муҳим аст. Хусусияте, ки дар истифодаи кам безарар ба назар мерасад, метавонад дар миқёси васеъ гарон шавад, агар ҳар як сеанси корбар дарозтар, бойтар ва пурмаҳсултар шавад. ( DOE , Google Cloud )

Зеҳни сунъии истеъмолӣ ва зеҳни сунъии корхона як чиз нестанд 🏢📱

Шахси миёнае, ки тасодуфан аз зеҳни сунъӣ истифода мебарад, метавонад фикр кунад, ки дастурҳои тасодуфии ӯ мушкили асосӣ мебошанд. Одатан, дар ин ҷо достони асосии энергетикӣ вуҷуд надорад. ( Google Cloud )

Истифодаи корхонаҳо ҳисобро тағйир медиҳад:

• ҳазорҳо корманд

• халабонҳои дуюмдараҷаи доимӣ

• коркарди автоматии ҳуҷҷатҳо

• хулосаи занг

• таҳлили тасвир

• абзорҳои баррасии код

• агентҳои замина, ки пайваста кор мекунанд

Дар ин ҷо истифодаи умумии энергия аҳамияти калон пайдо мекунад. На аз он сабаб, ки ҳар як амал апокалиптикӣ аст, балки аз он сабаб, ки такрор зарбкунанда аст. ( DOE , IEA )

Дар баррасиҳои озмоишӣ ва ҷараёни кор, ман дар ин ҷо одамонро ҳайрон мекунам. Онҳо ба номи модел ё намоиши дурахшон диққат медиҳанд ва садоро нодида мегиранд. Садо аксар вақт омили асосӣ аст - ё ин ки сарфакорӣ, вобаста ба он ки шумо ба муштариён ҳисобнома месупоред ё ба ҷадвали хидматрасонӣ пардохт мекунед 😅

Барои истеъмолкунандагон, таъсир метавонад абстрактӣ ба назар расад, аммо барои тиҷорат он хеле зуд мушаххас мешавад:

• хароҷоти калонтари инфрасохторӣ

• фишори бештар барои беҳбудӣ

• зарурати қавитар ба моделҳои хурдтар, агар имконпазир бошад

• гузоришдиҳии устувории дохилӣ

• Таваҷҷӯҳи бештар ба кэш ва маршрутизатсия ( Google Cloud , Green AI )

Чӣ тавр истеъмоли энергияи зеҳни сунъиро бе даст кашидан аз зеҳни сунъӣ кам кардан мумкин аст 🌱

Ин қисм муҳим аст, зеро ҳадаф "қатъ кардани истифодаи зеҳни сунъӣ" нест. Одатан, ин воқеӣ нест ва ҳатто зарурӣ нест. Истифодаи беҳтар роҳи оқилонатар аст.

Инҳоянд бузургтарин фишангҳо:

1. Хурдтарин моделеро истифода баред, ки корро анҷом медиҳад

На ҳар як вазифа ба варианти вазнин ниёз дорад. Модели сабуктар барои тасниф ё ҷамъбаст метавонад зуд исрофкориро кам кунад. ( Зеҳни сунъии сабз , Google Cloud )

2. Кӯтоҳ кардани дастурҳо ва баромадҳо

Муфассал даровардан, муфассал берун кардан. Токенҳои иловагӣ маънои ҳисобкунии иловагиро доранд. Баъзан буридани дархост осонтарин пирӯзӣ аст. ( Стратегияҳои миқдорӣ, партиявӣ ва хидматрасонӣ дар истифодаи энергияи LLM , Google Cloud )

3. Натиҷаҳои такрорӣ дар кэш

Агар ҳамон як дархост пайдо шавад, онро ҳар дафъа аз нав такрор накунед. Ин қариб ки ба таври возеҳ маълум аст, аммо он аз даст дода мешавад. ( Google Cloud )

4. Дар ҳолати имконпазир, корҳои гурӯҳӣ

Иҷрои вазифаҳо дар гурӯҳҳо метавонад истифодаи онҳоро беҳтар созад ва партовҳоро кам кунад. ( Стратегияҳои миқдорӣ, гурӯҳбандӣ ва хидматрасонӣ дар истифодаи энергияи LLM )

5. Вазифаҳоро оқилона равона кунед

Моделҳои калонро танҳо вақте истифода баред, ки эътимод коҳиш ёбад ё мураккабии вазифаҳо афзоиш ёбад. ( Зеҳни сунъии сабз , Google Cloud )

6. Инфрасохторро беҳтар созед

Ҷадвалбандии беҳтар, сахтафзори беҳтар, стратегияи беҳтари хунуккунӣ - чизҳои оддӣ, фоидаи бузург. ( Google Cloud , DOE )

7. Пеш аз тахмин кардан чен кунед

Бисёре аз дастаҳо фикр мекунанд, ки медонанд, ки қудрат ба куҷо меравад. Сипас онҳо чен мекунанд ва ин ҷост - қисми гаронбаҳо дар ҷои дигар аст. ( Google Cloud )

Кори самаранокӣ ҷолиб нест. Он кам баҳои баланд мегирад. Аммо ин яке аз роҳҳои беҳтарини дастрастар ва дифоъшавандатар кардани зеҳни сунъӣ дар миқёси васеъ аст 👍

Афсонаҳои маъмул дар бораи истифодаи нерӯи барқ ​​​​аз ҷониби зеҳни сунъӣ 🚫

Биёед чанд афсонаро аз байн барем, зеро ин мавзӯъ зуд печида мешавад.

Афсонаи 1 - Ҳар як дархости зеҳни сунъӣ хеле беҳуда аст

Ҳатман не. Баъзеҳо хоксоранд. Миқёс ва намуди вазифаҳо хеле муҳиманд. ( Google Cloud )

Афсонаи 2 - Машқ ягона чизест, ки муҳим аст

Не. Вақте ки истифода хеле зиёд аст, хулосабарорӣ метавонад бо мурури замон бартарӣ дошта бошад. ( Google Research , DOE )

Афсонаи 3 - Модели калонтар ҳамеша маънои натиҷаи беҳтарро дорад

Баъзан ҳа, баъзан тамоман не. Бисёре аз вазифаҳо бо системаҳои хурдтар хуб кор мекунанд. ( Зеҳни сунъии сабз )

Афсонаи 4 - Истифодаи энергия ба таври худкор ба таъсири карбон баробар аст

Аниқ не. Карбон низ аз манбаи энергия вобаста аст. ( IEA , Strubell et al. )

Афсонаи 5 - Шумо метавонед як рақами универсалиро барои истифодаи энергияи зеҳни сунъӣ ба даст оред

Шумо наметавонед, ҳадди ақал на дар шакле, ки пурмазмун боқӣ монад. Ё шумо метавонед, аммо он чунон миёна карда мешавад, ки аз арзишманд буданаш даст мекашад. ( IEA )

Аз ин рӯ, пурсидани "Зеҳни сунъӣ чӣ қадар энергия истифода мебарад?" оқилона аст - аммо танҳо дар сурате, ки шумо ба ҷои шиор ба ҷавоби қабатӣ омода бошед.

Пас... зеҳни сунъӣ дар асл чӣ қадар энергия истифода мебарад? 🤔

Ана хулосаи мантиқӣ.

AI истифода мебарад:

• каме , барои баъзе корҳои оддӣ

• хеле бештар , барои тавлиди вазнини мултимодалӣ

• миқдори хеле калон , барои омӯзиши модели миқёси калон

• миқдори бузурге дар маҷмӯъ , вақте ки миллионҳо дархостҳо бо мурури замон ҷамъ мешаванд ( Google Cloud , DOE )

Шакли он ҳамин аст.

Нуктаи асосӣ ин нест, ки тамоми масъаларо ба як рақами даҳшатнок ё як китф дарҳам кашида, яксон кунем. Истифодаи энергияи зеҳни сунъӣ воқеӣ аст. Ин муҳим аст. Онро метавон беҳтар кард. Ва беҳтарин роҳи сӯҳбат дар бораи он бо контекст аст, на бо саҳнаҳои театрӣ. ( IEA , зеҳни сунъии сабз )

Бисёре аз сӯҳбатҳои оммавӣ аз фосилаҳои шадид мегузаранд - аз як тараф "AI асосан ройгон аст", аз тарафи дигар "AI апокалипсиси барқӣ аст". Воқеият оддӣтар аст, ки онро иттилоотӣтар мекунад. Ин мушкили система аст. Сахтафзор, нармафзор, истифода, миқёс, хунуккунӣ, интихоби тарроҳӣ. Прозаикӣ? Каме. Муҳим? Хеле. ( IEA , Google Cloud )

Хулосаҳои асосӣ ⚡🧾

Агар шумо ба ин ҷо омада, пурсед, ки зеҳни сунъӣ чӣ қадар энергия истифода мебарад?, хулосаи зерин аст:

• Рақами ягонаи мувофиқ барои ҳама вуҷуд надорад

• Машқ одатан аз ибтидо бештар энергия сарф мекунад

• Хулосабарорӣ дар миқёс омили асосӣ мегардад

• Андозаи модел, сахтафзор, бори корӣ ва хунуккунӣ ҳама муҳиманд

• Беҳсозии хурд метавонад фарқияти ҳайратангези калонро ба вуҷуд орад

• Саволи оқилона на танҳо «чӣ қадар», балки «барои кадом вазифа, дар кадом система, дар кадом миқёс?» аст ( IEA , Google Cloud ).

Пас, бале, зеҳни сунъӣ аз энергияи воқеӣ истифода мебарад. Кофист, ки сазовори таваҷҷӯҳ бошад. Кофист, ки муҳандисии беҳтарро асоснок кунад. Аммо на ба таври карикатуравӣ ва якрақамӣ.

Саволҳои зиёд такрормешуда

Соҳиби зеҳни сунъӣ барои як дархост чӣ қадар энергия истифода мебарад?

Барои як дархости ягона рақами универсалӣ вуҷуд надорад, зеро истеъмоли энергия аз модел, сахтафзор, дарозии дархост, дарозии баромад ва ҳама гуна истифодаи иловагии абзор вобаста аст. Ҷавоби матнии кӯтоҳ метавонад нисбатан хоксор бошад, дар ҳоле ки вазифаи дарозмуддати мултимодалӣ метавонад ба таври назаррас бештарро сарф кунад. Ҷавоби пурмазмунтарин на як рақами сарлавҳа, балки контексти атрофи вазифа аст.

Чаро арзёбиҳои истифодаи нерӯи зеҳни сунъӣ ин қадар фарқ мекунанд?

Арзёбиҳо гуногунанд, зеро одамон аксар вақт чизҳои хеле гуногунро зери як тамғаи ягонаи зеҳни сунъӣ муқоиса мекунанд. Як арзёбӣ метавонад посухи сабуки чатботро тавсиф кунад, дар ҳоле ки дигаре метавонад тавлиди тасвир, видео ё омӯзиши модели миқёси калонро дар бар гирад. Барои он ки арзёбӣ пурмаъно бошад, он ба контексте ба монанди намуди вазифа, андозаи модел, сахтафзор, истифода, хунуккунӣ ва макон ниёз дорад.

Оё омӯзиши зеҳни сунъӣ ё идоракунии зеҳни сунъӣ ҳар рӯз хароҷоти бузургтари энергия аст?

Омӯзиш одатан як чорабинии бузурги энергетикии пешакӣ аст, зеро он метавонад бисёр чипҳоро дар бар гирад, ки дар тӯли муддати тӯлонӣ дар маҷмӯаҳои бузурги додаҳо кор мекунанд. Хулоса хароҷоти доимӣ аст, ки ҳар дафъае, ки корбарон дархост мефиристанд, пайдо мешавад ва дар миқёс он метавонад хеле калон шавад. Дар амал, ҳарду аҳамият доранд, гарчанде ки онҳо аз ҷиҳати гуногун аҳамият доранд.

Чӣ боис мешавад, ки як дархости зеҳни сунъӣ нисбат ба дархости дигар хеле бештар энергияталаб бошад?

Тирезаҳои дарозтари контекстӣ, баромадҳои дарозтар, гузаришҳои такрории мулоҳизакорӣ, даъватҳои асбобҳо, қадамҳои ҷустуҷӯ ва тавлиди мултимодалӣ ҳама майл доранд, ки истеъмоли энергияро барои як муошират афзоиш диҳанд. Ҳадафҳои таъхир низ муҳиманд, зеро талабот ба вокуниши зудтар метавонанд самаранокиро коҳиш диҳанд. Дархости хурди аз нав навиштан ва ҷараёни тӯлонии рамзгузорӣ ё кори тасвирӣ қобили муқоиса нестанд.

Вақте ки одамон мепурсанд, ки зеҳни сунъӣ чӣ қадар энергия истифода мебарад, кадом хароҷоти пинҳонии энергияро аз даст медиҳанд?

Бисёриҳо танҳо ба чип диққат медиҳанд, аммо ин системаҳои хунуккунӣ, интиқоли маълумот, нигоҳдорӣ, иқтидори бекорӣ ва эътимоднокиро, ба монанди нусхаҳои эҳтиётӣ ё минтақаҳои аз кор мондани система, нодида мегирад. Ин қабатҳои дастгирӣ метавонанд ҳаҷми умумии корро ба таври назаррас тағйир диҳанд. Аз ин рӯ, як нишондиҳандаи ягона худ аз худ кам тасвири пурраи энергияро инъикос мекунад.

Оё модели калонтари зеҳни сунъӣ ҳамеша энергияи бештарро истифода мебарад?

Моделҳои калонтар одатан ҳисоббарорӣ ва хотираи бештарро талаб мекунанд, хусусан барои натиҷаҳои тӯлонӣ ё мураккаб, аз ин рӯ онҳо аксар вақт энергияи бештарро истеъмол мекунанд. Аммо калонтар маънои беҳтар шудани ҳар як корро надорад ва беҳсозӣ метавонад вазъро ба таври назаррас тағйир диҳад. Моделҳои хурдтари махсус, квантизатсия, пакеткунӣ, кэшкунӣ ва масирёбии оқилона ҳама метавонанд самаранокиро беҳтар кунанд.

Оё зеҳни сунъии истеъмолӣ мушкилоти асосии энергияро истифода мебарад ё зеҳни сунъии корхонаҳо мушкили бузургтар аст?

Истифодаи тасодуфии истеъмолкунандагон метавонад афзоиш ёбад, аммо достони бузургтари энергия аксар вақт дар ҷойгиркунии корхонаҳо пайдо мешавад. Ҳампилотҳои доимо фаъол, коркарди ҳуҷҷатҳо, ҷамъбасти зангҳо, баррасии код ва агентҳои замина талаботи такрориро дар байни пойгоҳҳои калони корбарон ба вуҷуд меоранд. Масъала одатан камтар дар бораи як амали драмавӣ ва бештар дар бораи ҳаҷми устувор дар тӯли вақт аст.

Ҳангоми дохил кардани марказҳои додаҳо ва хунуккунӣ, зеҳни сунъӣ чӣ қадар энергия истифода мебарад?

Пас аз дохил кардани системаи васеътар, ҷавоб воқеӣтар мешавад ва одатан аз он чизе ки тахминҳои танҳо барои чип пешниҳод мекунанд, калонтар аст. Марказҳои додаҳо на танҳо барои ҳисобкунӣ, балки барои хунуккунӣ, шабакасозӣ, нигоҳдорӣ ва нигоҳдории иқтидори эҳтиётӣ низ ба қувва ниёз доранд. Аз ин рӯ, тарҳрезии инфрасохтор ва самаранокии иншоот қариб ба андозаи тарҳрезии модел муҳиманд.

Роҳи амалии чен кардани истифодаи энергияи зеҳни сунъӣ дар ҷараёни кории воқеӣ кадом аст?

Усули беҳтарин аз он вобаста аст, ки кӣ ва барои кадом мақсад андозагирӣ мекунад. Қоидаи тахминӣ метавонад барои муқоисаҳои зуд кӯмак кунад, дар ҳоле ки ваттметрҳо, телеметрияи GPU, гузоришҳои ҳисоббаробаркунии абрӣ ва гузоришдиҳии маркази додаҳо фаҳмиши амалиётии тадриҷан қавитарро таъмин мекунанд. Барои корҳои ҷиддии устуворӣ, назари пурраи давраи ҳаёт боз ҳам қавитар аст, гарчанде ки он сусттар ва талабкортар аст.

Чӣ гуна дастаҳо метавонанд истифодаи энергияи зеҳни сунъиро бидуни даст кашидан аз хусусиятҳои муфиди зеҳни сунъӣ кам кунанд?

Фоидаҳои бузургтарин одатан аз истифодаи хурдтарин моделе, ки то ҳол корро анҷом медиҳад, кӯтоҳ кардани дархостҳо ва натиҷаҳо, кэш кардани натиҷаҳои такрорӣ, коркарди гурӯҳбандӣ ва равона кардани вазифаҳои танҳо душвортар ба моделҳои калонтар ба даст меоянд. Беҳсозии инфрасохтор низ муҳим аст, махсусан банақшагирӣ ва самаранокии сахтафзор. Дар бисёр хатсайрҳо, андозагирии аввал ба пешгирии беҳсозии кори нодуруст аз ҷониби дастаҳо кӯмак мекунад.

Адабиёт

1. Агентии Байналмилалии Энергетика (IEA) - Талабот ба энергия аз зеҳни сунъӣ - iea.org

2. Вазорати энергетикаи ИМА (DOE) - DOE гузориши наверо нашр кард, ки марказҳои додаҳои афзоиши талабот ба нерӯи барқро арзёбӣ мекунад - energy.gov

3. Google Cloud - Андозагирии таъсири экологӣ аз хулосаҳои зеҳни сунъӣ - cloud.google.com

4. Google Research - Хабари хуш дар бораи изи карбонии омӯзиши мошинӣ - research.google

5. Google Research - Изи карбонии омӯзиши мошинӣ баробар ва сипас кам мешавад - research.google

6. arXiv - Сабз зеҳнӣ - arxiv.org

7. arXiv - Струбелл ва дигарон. - arxiv.org

8. arXiv - Стратегияҳои квантизатсия, тақсимкунӣ ва хидматрасонӣ дар истифодаи энергияи LLM - arxiv.org

Навтарин зеҳни сунъиро дар мағозаи расмии ёвари зеҳни сунъӣ пайдо кунед

Дар бораи мо