Маркази додаҳои зеҳни сунъӣ чист? [Видео ва викторина]

Ҷавоби кӯтоҳ: Маркази додаҳои зеҳни сунъӣ зичии баланд , ки дар он нерӯи барқ, хунуккунӣ, матоъ ва нигоҳдорӣ ба омӯзиш ва хидматрасонии моделҳо равона карда шудааст, на ба утоқи сервер бо GPU-ҳои иловагӣ. Чипҳо машҳуранд; бино қарор медиҳад, ки оё онҳо кор мекунанд ё не. Агар тасвирҳо натавонанд, як ҳуҷайраи хурдро аз нав муҷаҳҳаз кунед; аксари дастаҳо бояд иҷора гиранд.

Хулосаҳои асосӣ:

Чипҳо ва сохтмон: Энергия, хунуккунӣ, матоъ ва нигоҳдорӣ муайян мекунанд, ки оё суръатбахшҳо кор мекунанд ё не.

Ҷойҳо, на қасрҳо: Вақте ки маълумот рафта наметавонад, ду рафро аз нав созед; кампус нахаред.

Миёна ва медиана: Дар ҳашт давр, медиана пинҳон шуд; аз миёнаи 18-соата истифода баред.

Муқовимат ба истифодаи нодуруст: Барои ду раф дар толори омехта PUE-ро нархгузорӣ накунед.

Натиҷаҳои тасвирӣ: Ҳашт давидан як харитаи хурд аст, на сарфаи 50% истеҳсолот.

Мақолаҳое, ки шумо метавонед баъд аз ин хонед, инҳоянд:

🔗 Оё зеҳни сунъӣ боэътимод аст? Видео ва викторина.
Боварии зеҳни сунъиро тавассути видеои ҷолиб ва викторинаи интерактивӣ омӯзед.

🔗 Чӣ тавр зеҳни сунъиро дар ҳаёти ҳаррӯза истифода бурдан мумкин аст.
Роҳҳои амалии содда кардани вазифаҳо ва тартиботи ҳаррӯзаро аз ҷониби зеҳни сунъӣ кашф кунед.

🔗 Чӣ тавр зеҳни сунъиро дар ҷои кор истифода бурдан мумкин аст.
Роҳҳои амалии истифодаи зеҳни сунъӣ барои ҳосилнокии оқилонаи ҷои корро омӯзед.

🔗 Оё зеҳни сунъӣ метавонад худ аз худ фикр кунад?
Фаҳмед, ки оё зеҳни сунъӣ воқеан метавонад мустақилона фикр кунад ё мулоҳиза ронад.

Чӣ гуна он аз маркази додаҳои "муқаррарӣ" фарқ мекунад

Толорҳои анъанавӣ барои сарбориҳои омехта ва вақти корӣ дар бисёр хидматҳои хурд оптимизатсия карда мешаванд. Шумо албатта ба захиракунӣ ва ба PUE ҳамчун як консепсия аҳамият медиҳед - энергияи иловагӣ, ки бино барои таъмини як ватт ҳисоббарорӣ месӯзонад. Шумо одатан ҳар як долонро дар атрофи рафе тарҳрезӣ намекунед, ки мисли фермаи гармидиҳии сайёр рафтор мекунад.

Сомонаҳои зеҳни сунъӣ таносубҳоро тағйир медиҳанд. Зичӣ меафзояд. Шабака ба матоъе табдил меёбад, ки кори омӯзишӣ бе он наметавонад суст кор кунад. Анбор бояд нуқтаҳои назоратиро дар ҳаракат нигоҳ дорад, вагарна суръатдиҳандаҳо мисли аспҳои пойга дар бандшавии нақлиёт бекор мемонанд.

Тафовути фарҳангӣ низ вуҷуд дорад. Кормандони корхона дар бораи чиптаҳо ва тирезаҳои ивазкунӣ фикр мекунанд. Кормандони зеҳни сунъӣ дар бораи навбатҳои корӣ ва эҳсоси нороҳатӣ ҳангоми аз байн рафтани гиреҳ дар муддати тӯлонӣ фикр мекунанд. Фикр мекунам, шумо метавонед ҳардуро "марказҳои додаҳо" номед, зеро онҳо чунинанд. Нишон танҳо қубурро пинҳон мекунад.

Рейтинги ахлоқӣ нест. Мошинҳои гуногун, номи якхела.

GPU-ҳо, суръатбахшҳо ва рафе, ки қудратро мехӯрад

Агар шумо аз фарши анъанавии баландошёна роҳ равед, рафҳо қариб боадабона ба назар мерасанд. Агар шумо аз қатори сунъии зеҳнӣ роҳ равед, ба назар чунин мерасад, ки онҳо гӯё мехоҳанд биноро фурӯ баранд.

Сахтафзори барҷаста ин CPU-и оқилона нест. Ин табақи суръатбахш аст: GPU ё дигар чипҳои зеҳни сунъӣ, ки ба серверҳо, сипас рафҳо ва сипас сатрҳое, ки матои баланди паҳноиро муштарак истифода мебаранд, ҷойгир карда шудаанд. GPU чипҳои дӯзандагиро ба чизе пайваст мекунад, ки метавонад як суръатбахши бузургро вонамуд кунад; матои кластер низ ҳамин ҳиларо дар миқёси сатрҳо иҷро мекунад. Омӯзиши параллелӣ танҳо дар сурате кор мекунад, ки ин пайвандҳо фарбеҳ ва пешгӯишаванда боқӣ монанд. Агар онро аз даст диҳед, "кластер"-и шумо як тӯда аз истгоҳҳои гаронбаҳоест, ки рамзи почтаро муштарак истифода мебаранд.

Қувва чипҳоро пайгирӣ мекунад. PDU-и калони офисӣ нест. Мегаваттҳои IT вақте ки як толор пур мешавад, бор мекунанд - ман рақамеро ихтироъ намекунам. Зичии як раф гардиши сюжет аст. Рафҳои камтар. Ҳар яки онҳо як кӯраи хурд мебошанд. Омили маҳдудкунанда аксар вақт зеристгоҳ аст, на рӯйхати хоҳишҳои GPU. Шумо медонед, ки чӣ тавр аст: харид суръатбахшҳои бештарро талаб мекунад; ширкати коммуналӣ сӯҳбати тӯлонӣ ва чеки хеле калонро мехоҳад.

Як истиораи каме бемаънӣ, ки ман наметавонам аз он даст кашам: раф ҳайвони гурусна аст. Шумо метавонед ҳайвони тезтарро парвариш кунед. Шумо ҳоло ҳам бояд онро ғизо диҳед ва ҳоло ҳам бояд гармиро кам кунед. Аз ҳардуи онҳо даст кашед ва он ба як вазни хеле гаронбаҳо табдил меёбад.

Мушкилоти барқ, гармӣ ва хунуккунӣ

Барқ ворид аст. Гармӣ хориҷ аст. Ин тамоми дин аст.

Рафҳои зичии баланд гармиро ба тарзе мерезанд, ки ҳаво ҳеҷ гоҳ аз он истифода намебурд. Шумо метавонед ҳаворо сахттар тела диҳед - мубодилаи гармии дари қафо, гузаргоҳҳои гармтар, нигоҳдории оқилона - ва ин то як дараҷа кор мекунад. Сипас моеъ пайдо мешавад:

• Хунуккунии мустақим ба чип

• Ҳалқаҳои хунуккунандае, ки утоқи корхонаро ба як корхонаи кимиёвӣ монанд мекунанд

• Ғарқ шудан дар чанд тарҳ, ки то ҳол одамонеро ба ҳайрат меорад, ки фикр мекунанд об ва хизматгорон набояд як ҷумларо бо ҳам тақсим кунанд

Ҳеҷ яке аз инҳо зебо нест. Ҳамаи ин маҳсули кор аст, зеро шумо аллакай барои он пул пардохт кардаед ва наметавонед пурра истифода баред.

PUE ҳоло ҳам муҳим аст. Ин таносуб аст, на шахсият. Операторҳо онро таъқиб мекунанд, зеро ҳар як ватт барои вентиляторҳо ва насосҳо ваттест, ки ба GPU сарф нашудааст. Ман рақами "маъмулӣ"-ро иқтибос намеорам; иқлим ва чӣ гуна шумо сарҳадро мекашед, онро тағйир медиҳад ва дақиқии қалбакӣ аз ҳеҷ чиз бадтар аст. Об низ дар достон ҷой дорад. Баъзе растаниҳо нӯшокӣ менӯшанд. Баъзеҳо нӯшокӣ менӯшанд. Сардшавии бухорӣ то он даме, ки дарё ё хушксолӣ онро сиёсӣ кунад, самаранок аст.

Шабакасозӣ: чаро матоъ ба андозаи чипҳо муҳим аст

Одамон GPU-ҳоро аксбардорӣ мекунанд. Онҳо бояд коммутаторҳоро аксбардорӣ кунанд.

Омӯзиш як сӯҳбат аст. Ҳазорҳо суръатбахшҳо градиентҳо, параметрҳо, пораҳои моделро дар ҳамоҳангии зич мубодила мекунанд. Агар матоъ ларзад, тамоми кор дар суръати сусттарин интизор мешавад. Аз ин рӯ, толорҳои зеҳни сунъӣ ба шабакаи баландпаҳнои банд, таъхири паст ва топологияҳое, ки ҳангоми вайрон шудани пайванд ду баробар намепӯшанд, диққат медиҳанд. Матоъҳои ба монанди InfiniBand, Ethernet дар ҳамон нақш, пайвастҳои GPU дар дохили қуттӣ, кабелҳое, ки бояд бори аввал дуруст бошанд.

Хулосабарорӣ як сӯҳбати дигар аст. Хизматрасонии моделӣ ба таъхири дум аҳамият медиҳад - ҷавоби суст, на ба ҷавоби миёна. Пакетӣ ва вақти воқеӣ шахсиятро тақсим мекунанд. Кластерҳои омӯзишӣ ҳаракати пурқувват, дастаҷамъона ва ҳамаҷонибаро. Парки хидматрасонӣ дархостҳои хурдтар ва ҷудоии зиёдеро бидуни бандшавии трафик дар мувозинати бор мехоҳад.

Дар ҳоле ки ман дар ин ҷо ҳастам, хато мекунам: одамон ба шабака ҳамчун сантехникӣ ва ба чипсҳо ҳамчун тарабхона муносибат мекунанд. Дар ин бино сантехникӣ тарабхона аст. Агар инро фаромӯш кунед, шумо ошхонаеро мехаред, ки наметавонад таҳвилро қабул кунад.

Омӯзиш ва хулосабарорӣ: ду бино, баъзан ба маънои аслӣ

Омӯзиш як маърака аст. Шумо кластерро ҷамъ мекунед, ба он маълумот медиҳед, нуқтаи назоратиро бодиққат мегузаронед, соатҳо ё ҳафтаҳо медавед ва дуо мекунед, ки матоъ бе ягон ҳодиса боқӣ монад. Гурӯҳи пурқувват, бандшавии банд, оромона сабр кунед - то он даме, ки гиреҳи ноком аз давидан халос шавад. Як суръатбахши мурда дар як кори сахт пайвастшуда метавонад тамоми хорро боздорад.

Хулосабарорӣ як намоишгоҳи витринӣ аст. Моделҳое, ки аллакай омӯзонида шудаанд, ҳоло ба саволҳо ҷавоб медиҳанд, тасвирҳоро тасниф мекунанд ва матн эҷод мекунанд. Таъхир муҳим аст. Акселератори каме кӯҳна дар наздикии муштарӣ метавонад акселератори зеборо дар масофаи дур аз як қитъа пеш гузорад.

Пас, шумо тақсим мешавед. Шаҳракҳои омӯзишӣ қудрат, замин ва зичиро пайгирӣ мекунанд. Ҷойҳои хулосабарорӣ таъхир ва ҳузурро пайгирӣ мекунанд. Толорҳои гибридӣ низ вуҷуд доранд, зеро сармоя беохир нест. Хуб - на ҳамеша ду бино. Баъзан як толор бо ресмони махмалӣ ва ду ҳалқаи хунуккунӣ.

Инчунин, ин ҷоест, ки колокатсия, кампусҳои гипермасштабӣ ва чангаки дар маҳал ҷойгиршуда. Гипермасштабкунакҳо дар масофаҳое сохта мешаванд, ки ба назари дигарон менамоем, ки гӯё мо мебелро ҷойгир мекунем. Колосҳо зичиро дар назди раф мефурӯшанд. Дар маҳал ҳанӯз ҳам вақте рух медиҳанд, ки маълумот наметавонад тарк карда шавад.

Иқтидори нигоҳдорӣ, нуқтаҳои назоратӣ ва чипҳои гурусна

Ҳеҷ кас системаи файлии параллелиро дар муқоваи брошюра намегузорад.

Маълумоти омӯзишӣ бояд ба қадри кофӣ зуд расад, ки GPU-ҳо ба пойҳои худ наафтанд. Нуқтаҳои санҷишӣ бояд ба замин фуруд оянд, то садама як ҳафтаро аз даст надиҳад. Вазнҳои модел бояд пеш аз фаъол шудани нусхаи хидматрасонӣ бор карда шаванд. Иқтидори нигоҳдорӣ - на танҳо иқтидор - монеаи ором аст. Шумо метавонед сарвати зиёдеро барои суръатбахшҳо сарф кунед ва онҳоро бо массиви боадабонае, ки барои мошинҳои виртуалӣ тарҳрезӣ шудааст, аз байн баред.

Нақша ошно аст: кластери дурахшон, навбати кор ва интизории вуруд/хуруҷ, ки мисли ҳисобнома-фактураи беадаб ба қафо нигоҳ мекунанд. Ҳисобкунии кластерӣ бидуни кластер кардани масири маълумот роҳи бекории хеле гарон аст. Чипҳоро ғизо диҳед ё иқрор шавед, ки шумо ҳайкал харидаед.

Нармафзор, оркестратсия ва қабати амалиётии бемаънӣ

Сахтафзор машҳур аст. Банақшагирон корро анҷом медиҳанд.

Маркази додаҳои зеҳни сунъӣ бефоида аст, агар ҷойҳои корӣ GPU-ҳоро пайдо карда натавонанд, агар ду даста кластерро бе муштзанӣ тақсим карда натавонанд, агар рутбаи нокомро иваз кардан мумкин набошад, агар нармафзори нармафзор то он даме, ки матоъ бо суръати суст вайрон шавад, ғарқ шавад. Оркестратсия, мушоҳидапазирӣ, маҳдудияти қудрат - қабати амалиёти норавшан, ки ин чӣ гуна муҳим аст.

Ман барои ин қабат каме нороҳатӣ дорам. Ҳамчунин, вақте ки корти шабакаи компютерии нодуруст танзимшуда мушкилоти хунуккуниро барои тамоми нисфирӯзӣ нишон медиҳад... шумо инро бо роҳи душвор мефаҳмед.

Вақте ки гиреҳ дар миёнаи кор мемирад

Як гиреҳ мемирад. Тирезаҳои тағирёбанда то ҳол бо давиданҳои омӯзишӣ, ки ба тақвими шумо аҳамият намедиҳанд, бархӯрд мекунанд. Шумо корҳои калонро ба нақша мегиред, ҳавзҳои хулосаро маҳдуд мекунед, барои нокомиҳое, ки ба назар "кор суст аст" мерасанд, китобҳои иҷро менависед, то он даме ки онҳо ба назар "кор мурда аст". Ифода ҳанӯз ҳам муҳим аст - барқ, хунуккунӣ, роҳҳо, нигоҳдорӣ - аммо ҳолати нокомӣ нисбат ба слайдҳои кӯҳнаи вақти корӣ камтар тоза аст. Хулоса: нусхабардорӣ, холӣ кардани гиреҳи бемор, ҷавоб доданро давом диҳед. Омӯзиш нуқтаҳои санҷишро мехоҳад, на оптимизм.

Макон, об, шабака ва ҳамсояҳо

Шумо яке аз инҳоро барои тамошои манзара дар паҳлӯи хонаи истиқоматӣ намегузоред.

Пайвастшавӣ ба шабака аксар вақт раванди воқеии интихоби макон аст. Замин дар муқоиса бо зеристгоҳ ва коммуналӣ, ки муштариёни дигар дорад, осон аст. Агар шумо обро барои хунуккунӣ истифода баред, ба ҳамин ки боришоти зиёд борад, ба мушкили ҳамсоя табдил меёбад. Садо. Ҳаҷми визуалӣ. Гармӣ дар девори марзӣ. Кумитаҳои банақшагирӣ дар лаҳзаи зарурати киштзор ва дарё дар бораи "абр" андешаҳоро пайдо мекунанд.

Таъхир ба тарафи дигар мекашад. Хулосабарорӣ дар наздикии корбарон ва пайвастшавӣ буданро дӯст медорад. Омӯзиш метавонад дар бозорҳои арзонтари нерӯи барқ ​​ва иқлими сардтар пинҳон шавад. Соҳа гӯё як макони комил вуҷуд дорад, аммо вуҷуд надорад. Бо як баёнияи матбуотӣ созиш вуҷуд дорад.

Гармии боқимонда ва кӯраи беном

Брошюраҳо инро дӯст медоранд. Гармии партовро ба хонаҳо, ҳавзҳо, гармхонаҳо интиқол диҳед; ин як ҷумлаи зебост. Баъзан ҳалқаи ноҳиявӣ самимӣ аст. Баъзан шаҳраки донишҷӯён дар ҷои нодуруст аст ва гармӣ ҳанӯз ҳам ба ҳаво мебарояд. Ман ба версияи брошура шубҳа дорам; ман ба физика шубҳа надорам.

Кӣ ба он ниёз дорад (ва кӣ бояд ба ҷои он иҷора гирад)

Аксари одамон ба яке аз ин толорҳо ниёз надоранд.

Рӯйхати мухтасар:

• Гиперскаллерҳо, зеро маҳсулот флот аст

• Лабораторияҳо, вақте ки вақти навбат монеа аст ё маълумот наметавонад тарк карда шавад

• Бонк, гурӯҳи беморхона, ҳукумат ё истеҳсолкунандае, ки дорои маҷмӯи махфии додаҳо - дар маҳал ё қафаси колои хусусӣ мебошад, метавонад оқилона бошад, ҳатто агар ин корношоям бошад

Ҳамаи дигарон бояд иҷора гиранд. Ҳамҷояшавӣ бо зичии омода ба зеҳни сунъӣ. Захираи абрӣ. Кластери идорашаванда. Шумо суръатбахшҳоро бе он ки оператори нерӯгоҳи барқӣ шавед, мегиред. Вақте ки касе мепурсад, ки соати 3-и шаб кӣ барои ҳалқаи хунуккунӣ навбатдор аст, ин ошиқӣ нопадид мешавад.

Иқрор мешавам, ки ин як чизи ифтихор аст. Соҳиби кластер будан мисли соҳиби воситаҳои пешгӯӣ будан аст. Сипас ҳисобнома-фактураи барқ ​​мерасад ва ифтихор аз байн меравад.

Бино барои чӣ аст

Пас, Маркази додаҳои зеҳни сунъӣ чист? Як шаҳраки махсусгардонидашуда ва дорои зичии баланд, ки дар он суръатбахшҳо, барқ, хунуккунӣ, матоъ ва нигоҳдорӣ дар атрофи моделҳои омӯзишӣ ва хидматрасонӣ ташкил карда шудаанд - на IT-и мақсадноки умумӣ бо GPU дар гӯша. Он ба анбор монанд аст. Он мисли як истгоҳи барқӣ рафтор мекунад, ки ҳисобҳои математикӣ мекунад.

Агар шумо чизи дигареро дар хотир надошта бошед: чипҳо машҳур мешаванд; зеристгоҳ, сардкунак ва шабака муайян мекунанд, ки оё ин чипҳо фикри хуб буданд. Омӯзиш ва хулосабарорӣ метавонанд боми муштарак дошта бошанд; онҳо то ҳол одоби дигарро мехоҳанд. Аксари ташкилотҳо бояд иҷора гиранд. Якчанд нафар бояд сохтмон кунанд. Ҳамсояҳо дар ҳарду ҳолат пай хоҳанд бурд.

Абр ҳамеша бино дошт. Имрӯзҳо бино андешаҳо дорад.

Мисоли воқеӣ: Ҳуҷайраи омӯзишии ду рафӣ, вақте ки тасвирҳо наметавонанд берун раванд

Сенария

Томос роҳбари инфрасохтори Kestrel Precision, як истеҳсолкунандаи 400 нафара дар Вест Мидлендс мебошад. Онҳо аллакай як толори хурди корӣ доранд: ERP, мубодилаи файлҳо, мошинҳои виртуалӣ, маҳаллаи омехтае, ки ин мақола бо он оғоз кард. Хунуккунии ҳаво. Ethernet-и оддӣ. SAN, ки барои дискҳои офисӣ комилан мувофиқ аст.

Гурӯҳи биноии мошинӣ бояд модели санҷишро дар бораи тасвирҳои заводӣ омӯзонад. Тасвирҳо наметавонанд аз сайт берун равандеро нишон диҳанд, ки ширкат ҳатто дар диски абрӣ, ҳатто дар диски хусусӣ, намегузорад. Ҳалли Procurement чор сервери дугона-тезкунак ва слайд бо номи "маркази додаҳои зеҳни сунъии мо" мебошад. Серверҳо ба ду рафи мавҷуда ворид мешаванд, зеро фазо вуҷуд дорад ва фазо ҳамчун маҳдудият эҳсос мешуд.

Ин тавр нест. Дар давоми ду ҳафта GPU-ҳо серкор садо медиҳанд ва сипас оҳиста-оҳиста суръат мегиранд. Вақте ки нуқтаи назоратии SAN ба кор медарояд, ҷойҳои корӣ пайдо мешаванд. Як гиреҳ соати ёздаҳум мемирад ва кор танҳо... аз байн меравад. Томос аз харидани чипҳо бенасиб нашудааст. Ӯ як тӯда истгоҳҳои гаронбаҳои корӣ харида, рамзи почтаро мубодила кардааст. Бино ҳоло ҳам як толори корхона буд.

Ба онҳо шаҳраки донишҷӯён, зеристгоҳи нав ё дарё лозим нест. Ба онҳо як ҳуҷайраи хурде лозим аст, ки мисли маркази додаҳои зеҳни сунъӣ дар шакли хурд рафтор кунад: қуввае, ки рафҳо метавонанд нигоҳ доранд, гармие, ки бе пухтани чипҳо боқӣ мемонад, матоъе, ки кори омӯзишӣ метавонад дар бораи он сӯҳбат кунад, анборе, ки метавонад нуқтаи санҷишро гирад ва дафтарчаи иҷро барои вақте ки гиреҳ мемирад. Азбаски тасвирҳо наметавонанд раванд, иҷора гирифтани қафаси коло дар масофаи чиҳил дақиқа роҳи ҳал нест. Таъмири ду раф роҳи ҳал аст.

Он чизе, ки ҳуҷайра ба он ниёз дорад

• Буҷаи ченшудаи қудрат дар он сатр, аз PDU, на аз рӯйхати хоҳишҳои GPU. Агар иқтидори эҳтиётӣ натавонад чор серверро дар вақти боркунии омӯзишӣ таъмин кунад, сӯҳбат дар он ҷо қатъ мешавад ва онҳо ба ранги зичтар менигаранд, на ба мӯъҷиза

• Ҳеҷ гоҳ аз хунуккунии ҳаво бо чунин зичӣ талаб карда нашудааст: агар толор онҳоро қабул карда тавонад, ивазкунандаҳои гармии дари қафо, ё ҳалқаи хурди моеъ, агар онро қабул карда тавонад. Агар ҳеҷ яке аз онҳо набошад, серверҳо ба он намедароянд

• Як матои махсуси баландпаҳнои байни чор гиреҳ, на Ethernet-и офисӣ. Агар фурӯшанда дар каталог танҳо як коммутатори 10 ГБ дошта бошад, ин кластер нест

• Анбори маҳаллии фаврӣ барои нуқтаҳои назоратӣ ва қисмҳои омӯзишӣ, на VM SAN

• Банақшагир, фосилаи нуқтаи санҷиш ва масири бозоғозкунии хаттӣ. Сахтафзор машҳур аст. Ин қабат кор аст

• Қуттии хулосабарории девордор барои хатти завод, ҷудо аз сӯҳбати омӯзишӣ, зеро хидмат таъхири дум ва ҷудоиро мехоҳад, на коллективӣ

• Иҷозат барои сабти қувваи барқ, соатҳои GPU, рӯйдодҳои дроссел ва соати девори корӣ. Агар онҳо натавонанд онҳоро тафтиш кунанд, онҳо GPU-ҳоро аксбардорӣ мекунанд ва тугмаҳоро аз даст медиҳанд

Намунаи дастур

Томос инро дар шакли мухтасари иншоот бо забони оддӣ чунин баён мекунад:

Инро кампуси зеҳни сунъӣ наномед. Дар толори мавҷуда як ҳуҷайраи омӯзишии дуқабата барои чор сервери дугона-тезкунак созед. Тасвирҳои заводӣ дар макон мемонанд. Муваффақият дар он аст: чор гиреҳ як дорухати омӯзишии санҷиши 12-давраиро бидуни дросселҳои гармӣ анҷом медиҳанд, нуқтаи назоратиро дар дақиқаҳо, на даҳҳо дақиқа менависанд ва аз он нуқтаи назоратиро, вақте ки мо як рутбаро қасдан нобуд мекунем, идома медиҳанд. Хунуккунӣ бояд GPU-ҳоро дар соатҳои омӯзишии худ нигоҳ дорад. Шабака бояд матоъе бошад, ки он чор қуттӣ муштарак истифода мебаранд, на роҳе тавассути стекҳои офисӣ. Нигоҳдорӣ бояд чипҳоро таъмин кунад. Агар мубодилаи гармии дари қафо мувофиқат накунад, инро бигӯед ва бас кунед. Барои ду раф дар толори омехта PUE-ро иқтибос накунед. Ин рақам театр хоҳад буд.

Сипас, ӯ инро дар худи кори омӯзишӣ мегузорад:

Нуқтаи санҷишро ҳар 30 дақиқа ба ҳавзи маҳаллии босуръат гузаронед. Агар рутбае фавтад, аз нуқтаи охирини санҷиши пурра аз нав оғоз кунед. Дар SAN интизор нашавед. Вақте ки соатҳо аз гармӣ паст шудаанд, машқро идома надиҳед. Онро сабт кунед ва қатъ кунед, то мо дӯконро бубинем.

Соати хуб чунин ба назар мерасад: ҳамаи ҳашт GPU дар соатҳои омӯзишӣ, файли нуқтаи назоратӣ ба кор даромад, кор ҳанӯз дар ҳолати баста аст. Соати бад чунин ба назар мерасад: вентиляторҳо бо овози баланд, соатҳо баста, нуқтаи назоратӣ 2% пас аз даҳ дақиқа навишта шудааст ва касе дар офис мегӯяд, ки "кластер фаъол аст". Баланд будан омӯзиш нест.

Чӣ тавр онро санҷидан мумкин аст

Онҳо пеш аз таҷдид санҷишро менависанд, ки ин тамоми нуқтаи эътимод надоштан ба намоиш аст.

• Ҳамон дорухати 12-давраӣ, ҳамон 120,000 акси санҷишӣ, ҳашт давр

• Вақт барои дорухати тайёр, аз ҷумла ҳар гуна бозоғозӣ, аз пешниҳоди кор то нуқтаи охирини санҷиши даври 12, чен карда мешавад

• Гармии гузариш: Соатҳои GPU барои давидан дар ҳадафи омӯзишӣ мемонанд. Ҳодисаи дроссел нокомӣ аст, ҳатто агар кор дар ниҳоят ба анҷом расад

• Иҷозатнома барои нигоҳдорӣ: вақти навиштани нуқтаи назоратӣ, медиана ва бадтарин, аз дафтари корӣ

• Гузариш ба матоъ: кор дар интизории дастаҷамъӣ намеистад, вақте ки рутба солим аст. Агар онҳо ин интизориро набинанд, асбобсозӣ анҷом нашудааст

• Ду аз ҳашт давидан рутбаи кушташударо дар як қадами муқарраршуда, қасдан, барои санҷидани роҳи аз нав оғоз кардан мегиранд

• Хулосабарорӣ як озмоиши алоҳидаи 200-тасвир аз хатти заводӣ то қуттии хидматрасонии девордор мебошад. Муваффақияти омӯзиш ҳамчун муваффақияти хидматрасонӣ ҳисоб карда намешавад

• Онҳо қувваи барқро аз PDU дар намунаҳои 15-дақиқаӣ сабт мекунанд, аз ин рӯ ҳеҷ кас маҷбур нест, ки мегаватт ихтироъ кунад

Қабул барои даъват кардани ҳуҷайра "AI-ready": 8 аз 8 дорухат ба итмом мерасад; 0 аз 8 дросселҳои гармиро нишон медиҳад; ҳарду давиданҳои кушташуда дубора оғоз мешаванд; нуқтаҳои назоратӣ дар тӯли чанд дақиқа мемонанд. Агар онҳо инро аз даст диҳанд, онҳо то ҳол утоқи сервер бо кортҳои графикаи зебо доранд.

Натиҷа

Натиҷаи тасвирӣ, аз санҷиши ҳаштдафъаинаи сохташуда, на аз рақами нашршудаи Kestrel.

Фарзияҳо: чор сервери дугона-тезкунак дар ду раф; як модели санҷиш; 120,000 тасвир; ҳашт маротиба иҷро кардани дорухати 12-давраи муқарраршуда; соати деворӣ аз нав оғоз карданро то ба итмом расидани дорухат дар бар мегирад; дроссел маънои партофтани сабтшударо аз соати омӯзишӣ дорад; вақти санҷиш навиштан аст, на хоҳиш; қувваи раф намунаҳои PDU аст, на PUE-и кампус.

Пеш аз таҷдид, GPU-ҳо дар рафҳои оддии бо ҳаво хунукшаванда дар Ethernet-и офис ва VM SAN:

• 5 аз 8 давидан дар кӯшиши аввал анҷом ёфт. Соати миёнаи деворӣ дар байни ин панҷ нафар: 14 соат

• 3 аз 8 нафар пас аз таваққуф дар соати 11 маҷбур шуданд, ки дубора оғоз кунанд (дуто пас аз он ки як гиреҳ бо нуқтаи назорати кӯҳна мурд, яке пас аз он ки як нуқтаи назоратӣ SAN-ро пур кард). Кӯшиши такрории фаврӣ, интизории шабона дар соат нест: 11 соат беҳуда сарф шуд ва илова бар ин 14 соати кӯшиши дуюм ё 25 соат то тайёр кардани дорухат дар он сето

• Вақти миёнаи анҷоми дорухат дар ҳамаи ҳашт дорухат, аз нав оғоз карданро дар бар мегирад: 18 соат. (Панҷ соат дар 14, се соат дар 25. Медианаи ҳамаи ҳашт дорухат ҳоло ҳам 14 аст, ки аз нав оғоз карданро пинҳон мекунад. Аз ин рӯ, миёна дар ин ҷо хати асосӣ аст.)

• Дросселҳои гармӣ дар 7 аз 8 давр сабт шудаанд. Вақти миёна дар соати камшуда: 3 соат дар як кӯшиши 14-соата

• Навиштани нуқтаи санҷиш: миёна 22 дақиқа

• "Куштани рутба" имтиҳоне набуд, ки онҳо метавонистанд аз он гузаранд. Онҳо дафтарчаи санҷишӣ надоштанд. Ду марги тасодуфӣ натиҷаи ниҳоӣ буданд

• Қувваи баланди IT дар ду раф ҳангоми машқ: тақрибан 18 кВт. Қувваи қатор ватт дошт. Он хунуккунӣ ё матоъ надошт

Пас аз мубодилаи гармии дари қафо дар он ду раф, матои махсус байни чор гиреҳ, ҳавзи хурди NVMe барои нуқтаҳои назоратӣ, нуқтаи назорати 30-дақиқаӣ ва дафтарчаи бозоғозӣ:

• 8 аз 8 дар кӯшиши аввал анҷом ёфт. Соати миёнаи деворӣ: 9 соат

• Дросселҳои гармӣ: 0 аз 8

• Нуқтаи санҷиш: медиана 90 сония. Бадтарин дар маҷмӯъ: 3 дақиқа

• Ду куштори қасданӣ бо рутба аз нуқтаи назоратии 30-дақиқаи охир оғоз ёфтанд. Соати иловагӣ дар ин ду давр: тақрибан 40 дақиқа, бо назардошти ташхис, бинобар ин, он ду тақрибан 9 соату 40 дақиқа тӯл кашиданд. Ба ҳисоби миёна, ҳашт давр то 9 соат боқӣ монданд

• Сарбории авҷи IT ҳоло ҳам тақрибан 18 кВт аст. Чипҳои якхела. Рафтори сохтмонии дигар

Дар ин намуна, вақти миёнаи то анҷоми дорухат аз 18 соат ба 9 соат ё 9 соат, 72 соат дар ҳашт давр коҳиш ёфт. Рақами анҷомёфта аз 5 аз 8 ба 8 аз 8 рафт. Рақами дроссел аз 7 аз 8 ба 0 аз 8 рафт. Ин рақами охирин нишон медиҳад, ки оё онҳо суръатбахшҳо ё вазнҳои коғазӣ харидаанд. Онҳо тағир додани вақтро 50% сарфа дар истеҳсолот намешуморанд. Ҳашт давр як маҷмӯи хурд ва осон аст.

Ин рақамҳо тахмини намунавӣ мебошанд, ки бар асоси озмоиши зикршуда, намунаи хурд, як модел ва як толори омехта асос ёфтааст. Онҳо PUE нестанд, мегаватти кампус нестанд ва далели он нестанд, ки Kestrel бояд дар саҳро як майдони омӯзишӣ созад. Баррасии гузоришҳо дар давоми 9 соат нигоҳ дошта шуд; онҳо инро пинҳон накарданд. Рақами 18 кВт хониши мудаввари PDU аст, на ҳисобнома-фактураи коммуналӣ. Онҳо 72 соатро ба хароҷот табдил надоданд, зеро нархи барқи омехтаи корхона метавонист далели қалбакии тиҷоратӣ эҷод кунад.

Чеки хидматрасонӣ алоҳида ва хурдтар буд: 200 тасвири хатӣ ба қуттии девордор, ҳама дар ҷои худ. Ин хулоса аст, на омӯзиш. Омезиши ин ду хатои гибридӣ дар миниатюра мебуд.

Чӣ метавонад хато кунад

• Харид чор серверро "маркази додаҳои зеҳни сунъӣ" меномад. Нишона қубурро пинҳон мекунад ва хариди навбатӣ GPU-ҳои бештар барои ҳамон як қисми бемор аст

• Ивазкунакҳои дари қафо ворид мешаванд ва касе тарафи обро ба кор намеандозад. Мухлисон ҳоло ҳам дод мезананд. Соатҳо ҳоло ҳам паст мешаванд

• Матоъ як гузариши ягона бе роҳи эҳтиётӣ аст. Як пайванди ноком ва "кластер" боз чор истгоҳи корӣ аст

• Нуқтаҳои санҷишӣ дар SAN мемонанд, зеро ҳавзи NVMe "марҳилаи дуюм" буд. Марҳилаи дуюм пеш аз гиреҳи мурдаи навбатӣ намерасад

• Онҳо барои ду раф дар толори омехта PUE-ро нархгузорӣ мекунанд. Иқлим, сарҳад ва боқимондаи қатори ERP ин таносубро ба як либос табдил медиҳанд

• Омӯзиш ва хизматрасонӣ матоъро бо ҳам тақсим мекунанд. Сели нуқтаи назоратӣ хатти корхонаро интизор мекунад. Таъхири дум маҳсули он аст, на зичӣ

• Як гиреҳ мемирад ва касе онро ҳамчун чиптаи вақти корӣ ба ҷои аз нав оғоз кардани нуқтаи санҷишӣ қабул мекунад. Кормандони корхона ва кормандони зеҳни сунъӣ дар тӯли як рӯзи пурра бо ҳамдигар сӯҳбат мекунанд

• Онҳо метавонистанд қафас иҷора гиранд, ба истиснои он ки тасвирҳо наметавонанд тарк кунанд. Фаромӯш кардани ин маҳдудият онҳоро ба сӯҳбати абрӣ мефиристад, онҳо бояд истироҳат кунанд

Хулосаи амалӣ

Маркази додаҳои зеҳни сунъӣ дар ин шакл анбор нест ва он ҳисобнома-фактураи GPU нест. Ин ҳуҷайраест, ки ба суръатбахшҳо имкон медиҳад, ки давиданро ба анҷом расонанд: қуввае, ки онҳо метавонанд нигоҳ доранд, гармие, ки тарк мекунад, матоъ, нуқтаи назорат ва касе, ки ҳангоми марги рутба дар қалмоқ аст. Ба Кестрел кампус лозим набуд. Онҳо барои қатъ кардани вонамуд кардан ба ду раф ниёз доштанд. Аксари дастаҳо бояд ин рафторро иҷора гиранд. Якчанд даста, бо маҷмӯи додаҳои махфӣ ва толоре, ки метавонад гармиро қабул кунад, бояд як ҳуҷайра созанд ва слайдро рад кунанд.

Саволҳои зиёд такрормешуда

Маркази додаҳои AI чист?

Як макони ҳисоббарории зичии баланд, ки дар он нерӯи барқ, хунуккунӣ, шабакасозӣ ва нигоҳдорӣ дар атрофи омӯзиши мувозӣ ва хидматрасонии моделҳо ҷойгир шудаанд, на қаторҳои мураттаби серверҳои мақсадноки умумӣ. Он тавре тарҳрезӣ шудааст, ки шумораи зиёди суръатбахшҳо метавонанд моделҳоро бидуни обшавӣ, банд мондан дар шабака ё интизорӣ дар диск омӯзонанд ва хидмат расонанд. Толори оддии корхона як маҳаллаи омехта аст. Толори зеҳни сунъӣ як монокультураест, ки воҳиди арзиши он суръатбахш аст, ба монанди GPU ё чипҳои услуби TPU. Он ба анбор монанд аст ва мисли як истгоҳи барқӣ рафтор мекунад, ки ҳисобҳои математикӣ мекунад.

Маркази додаҳои зеҳни сунъӣ аз маркази додаҳои муқаррарӣ чӣ фарқ дорад?

Толорҳои анъанавӣ барои сарбориҳои омехта ва вақти корӣ дар бисёр хидматҳои хурд оптимизатсия карда мешаванд. Сайтҳои зеҳни сунъӣ таносубҳоро тағйир медиҳанд: зичӣ меафзояд, шабака ба матоъе табдил меёбад, ки кори омӯзишӣ бе он суст шуда наметавонад ва нигоҳдорӣ бояд нуқтаҳои назоратиро дар ҳаракат нигоҳ дорад ё суръатбахшҳо бекор мемонанд. Операторҳои корхона дар бораи чиптаҳо ва тирезаҳои ивазкунӣ фикр мекунанд. Операторҳои зеҳни сунъӣ дар бораи навбатҳои корӣ ва эҳсоси беморие, ки ҳангоми қатъ шудани гиреҳ дар муддати тӯлонӣ фикр мекунанд. Шумо ҳоло ҳам метавонед ба ҳарду маркази додаҳо занг занед. Нишона танҳо қубурро пинҳон мекунад.

Чаро марказҳои додаҳои зеҳни сунъӣ ин қадар нерӯи зиёдро истифода мебаранд?

Сахтафзори барҷаста ин CPU-и оқилона нест. Ин табақи суръатбахш аст: GPU ё дигар чипҳои зеҳни сунъӣ, ки ба серверҳо, сипас рафҳо ва сипас сатрҳое, ки матои баланди паҳноиро истифода мебаранд, ҷойгир карда шудаанд. Зичии ҳар як раф гардиши сюжет аст: рафҳои камтар, ки ҳар кадоме як кӯраи хурд аст. Вақте ки толор пур мешавад, мегаватт бори IT пайдо мешавад, гарчанде ки эҷод кардани рақами маъмулӣ ба он арзанда нест. Омили маҳдудкунанда аксар вақт зеристгоҳ аст, на рӯйхати хоҳишҳои GPU.

Марказҳои додаҳои зеҳни сунъӣ чӣ гуна хунук карда мешаванд?

Рафҳои зичии баланд гармиро ба тарзе мерезанд, ки ҳаво ҳеҷ гоҳ аз он истифода намебурд. Шумо метавонед бо истифода аз мубодилаи гармии дари қафо, гузаргоҳҳои гармтар ва нигоҳдории оқилона ҳаворо сахттар тела диҳед. Сипас моеъ пайдо мешавад: хунуккунии мустақим ба чип, ҳалқаҳои хунуккунӣ ва ғӯтонидан дар чанд тарҳ. Суръатдиҳандае, ки дроссел мекунад, он чизест, ки шумо аллакай барои он пардохт кардаед ва наметавонед пурра истифода баред. PUE ҳоло ҳам муҳим аст, зеро ҳар як ватт барои вентиляторҳо ва насосҳо сарфшуда ваттест, ки ба GPU нарасида буд. Об низ дар ин ҳикоя ҷой дорад: баъзе растаниҳо нӯшокӣ мекунанд, баъзеҳо нӯшокӣ мекунанд.

Чаро шабакасозӣ ба андозаи GPU муҳим аст?

Омӯзиш як сӯҳбат аст: ҳазорҳо суръатбахшҳо градиентҳо, параметрҳо ва пораҳои моделро дар ҳамоҳангии зич мубодила мекунанд. Агар матоъ ларзад, тамоми кор дар суръати сусттарин интизор мешавад. Аз ин рӯ, толорҳои зеҳни сунъӣ ба шабакаи баландпаҳнои банд, таъхири паст, матоъҳои ба монанди InfiniBand ё Ethernet дар як нақш ва топологияҳое, ки ҳангоми вайрон шудани пайванд ду баробар намепӯшанд, диққат медиҳанд. Хулосабарорӣ ба таъхири дум, бисёр дархостҳои хурдтар ва ҷудоӣ аҳамият медиҳад. Дар ин бино сантехник тарабхона аст.

Маркази додаҳои зеҳни сунъӣ барои чӣ истифода мешавад: омӯзиш ё хулосабарорӣ?

Омӯзиш як маърака аст: кластерро ҷамъ кунед, ба он маълумот диҳед, нуқтаи назоратиро бо роҳи динӣ иҷро кунед ва соатҳо ё ҳафтаҳо кор кунед. Хулосабарорӣ як намоишгоҳи витринӣ аст: моделҳое, ки аллакай омӯзонида шудаанд, ҳоло ҷавоб медиҳанд, бо таъхири муҳим. Шаҳракҳои омӯзишӣ қудрат, замин ва зичиро пайгирӣ мекунанд. Ҷойҳои хулосабарорӣ таъхир ва ҳузурро пайгирӣ мекунанд. Толорҳои гибридӣ вуҷуд доранд, зеро сармоя беохир нест, баъзан як толор бо ду ҳалқаи хунуккунӣ. Тезкунаки каме кӯҳна дар наздикии муштарӣ метавонад як толорро дар масофаи дур аз қитъа пеш гузаронад.

Чаро нигоҳдорӣ дар маркази додаҳои зеҳни сунъӣ муҳим аст?

Маълумоти омӯзишӣ бояд ба қадри кофӣ зуд расад, ки GPU-ҳо ба пойҳои худ наафтанд. Нуқтаҳои санҷишӣ бояд ба замин фуруд оянд, то садама як ҳафтаро аз даст надиҳад. Вазнҳои модел бояд пеш аз фаъол шудани нусхаи хидматрасонӣ бор карда шаванд. Иқтидори нигоҳдорӣ, на танҳо иқтидор, монеаи ором аст. Шумо метавонед сарвати зиёдеро барои суръатбахшҳо сарф кунед ва онҳоро бо массиви боадабонае, ки барои мошинҳои виртуалӣ тарҳрезӣ шудааст, аз байн баред.

Вақте ки гиреҳ дар миёнаи кор мемирад, чӣ мешавад?

Як суръатбахши мурда дар кори машқҳои зич пайвастшуда метавонад тамоми хорро боздорад. Машқ нуқтаҳои санҷишро талаб мекунад, на оптимизм. Хулосабарорӣ гиреҳи беморро холӣ мекунад, нусхаи ҷавобгӯро нигоҳ медорад ва зинда мемонад. Тирезаҳои тағирёбанда то ҳол бо давиданҳои машқҳое, ки ба тақвими шумо аҳамият намедиҳанд, бархӯрд мекунанд. Иборакорӣ барои барқ, хунуккунӣ, роҳҳо ва нигоҳдорӣ то ҳол муҳим аст, аммо ҳолати нокомӣ нисбат ба слайдҳои кӯҳнаи вақти корӣ камтар тоза аст.

Таъсири Маркази додаҳои зеҳни сунъӣ ба шабакаи барқ, об ва ҳамсоягон чӣ гуна аст?

Пайвастшавӣ ба шабака аксар вақт раванди воқеии интихоби макон аст. Замин дар муқоиса бо зеристгоҳ ва як ширкати коммуналӣ, ки муштариёни дигар дорад, осон аст. Агар шумо онро барои хунуккунӣ истифода баред, об барои хунуккунӣ ба мушкили ҳамсоя табдил меёбад, ба шарте ки боришоти ноустувор, дар баробари садо, ҳаҷми визуалӣ ва гармӣ дар девори сарҳадӣ бошад. Омӯзиш метавонад дар бозорҳои арзонтари нерӯи барқ ​​ва иқлими сардтар пинҳон шавад. Хулосабарорӣ дар наздикии корбарон буданро дӯст медорад. Ягон макони комил вуҷуд надорад. Бо баёнияи матбуотӣ созиш вуҷуд дорад.

Оё ман бояд маркази додаҳои зеҳни сунъӣ дошта бошам ё бояд онро иҷора гирам?

Аксари одамон ба яке аз ин толорҳо ниёз надоранд. Гиперскейлерҳо месозанд, зеро маҳсулот флот аст. Лабораторияҳо вақте месозанд, ки вақти навбат монеа аст ё маълумот наметавонад берун равад. Бонк, беморхона, ҳукумат ё истеҳсолкунанда бо маҷмӯи махфии додаҳо метавонад қафаси колои маҳаллӣ ё хусусиро оқилона кунад. Ҳамаи дигарон бояд иҷора гиранд: колокатсияи омода ба зеҳни сунъӣ, фармоиши абрӣ ё кластери идорашаванда. Шумо суръатбахшҳоро бе табдил шудан ба оператори нерӯгоҳ ба даст меоред.

Адабиёт

1. IEA - www.iea.org

2. LBNL - datacenters.lbl.gov

3. Шабакаи сабз - www.thegreegrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. Институти Uptime - journal.uptimeinstitute.com

7. NVIDIA - developer.nvidia.com

8. NVIDIA - docs.nvidia.com

9. NVIDIA - docs.nvidia.com

10. NVIDIA - docs.nvidia.com

11. Google Cloud - docs.cloud.google.com

Навтарин зеҳни сунъиро дар мағозаи расмии ёвари зеҳни сунъӣ пайдо кунед

Дар бораи мо