Директори генералии Anthropic нақшаи суст кардани рушди зеҳни сунъиро эълон кард
Дарио Амодей аз соҳа хоҳиш кард, ки... суст шавад. На бозистад. Суръат. Эссеи дароз, се қадам ва огоҳӣ аз он, ки такмили такрории худтанзимкунӣ аллакай нисбат ба он ки калонсолон онро санҷида метавонанд, тезтар пухта истодааст.
Антропикӣ ба таври якҷониба арзёбиҳои дарунсохтро дар дохили бино даъват мекунад - нишонҳо, мизҳо, ноутбукҳо ва ҳуқуқи нашри натиҷаҳо бидуни филтри PR. Сипас, ӯ мехоҳад, ки лабораторияҳои демократӣ стандартҳои бехатариро ҳамоҳанг созанд. Сипас, ба таври дигар, бо ҳукуматҳои авторитарӣ созиш ба даст оварда шавад. Дар коғаз осон аст. Дар ҳама ҷо душвор аст.
Ӯ то ҳол мегӯяд, ки зеҳни сунъӣ метавонад мӯъҷиза бошад. Ӯ инчунин мегӯяд, ки як тӯдаи нодуруст ҷойгиршуда метавонад интернетро бо ботнети доимӣ ишғол кунад ва садҳо миллиард зарар расонад. Ин ду ҷумла дар паҳлӯи якдигар ҷойгиранд ва онҳо бо ҳам мувофиқат намекунанд.
Оҳ - ва ӯ мехоҳад, ки як имтиёзи маҳдуди зиддимонополӣ дода шавад, то сӯҳбатҳои амниятӣ худ аз худ мушкили ҳуқуқӣ набошанд. Тормозҳо бо коғазҳо меоянд. Албатта, ин тавр аст.
Сэм Алтман тасдиқ кард, ки OpenAI имсол ба фурӯш намебарояд ва гуфт, ки IPO ҳоло дар "лаҳзаи нодуруст" бо назардошти нигарониҳои амнияти зеҳнӣ баргузор мешавад
Алтман барои мусоҳибаи истисноӣ нишаст ва тақвими рӯйхатро қатъ кард. Ӯ гуфт, ки IPO айни замон "лаҳзаи нодуруст" хоҳад буд. Корҳои бехатарӣ анҷом дода нашудаанд. Мутобиқсозӣ анҷом дода нашудааст. Ҷомеа омода нест. Вақте ки онҳо ӯро фишор оварданд - имсол не.
Бонкдорон аллакай дар атроф буданд. Парвандаи махфӣ мавҷуд аст. Акнун директори генералӣ мегӯяд, ки онҳо бояд аввал корҳои зиёдеро анҷом диҳанд, аз ҷумла фаҳмидани он ки чӣ гуна соҳа ва ҳукуматҳо якҷоя кор мекунанд. Ӯ аз интизорӣ қариб сабукӣ ҳис мекард.
Ӯ инчунин гуфт, ки сохтани зеҳни сунъӣ берун аз назорати инсон "комилан" имконпазир аст - сипас ваъда дод, ки агар ин роҳ бошад, омӯзишро қатъ мекунад. Ҷасур. Шояд инчунин қулай бошад. Эҳтимол ҳарду. Вай изҳор дошт, ки печидагии ғайритиҷоратӣ/барои фоида вуҷуд дорад, то онҳо зангҳоеро анҷом диҳанд, ки ба таври возеҳ ба манфиати саҳмдорон нестанд. Мо мебинем, ки оё ин ҷумла дар тамос бо проспекти воқеӣ боқӣ мемонад ё не.
Сэм Алтман аз OpenAI ба созишнома бо дигар ширкатҳои зеҳни сунъӣ барои рафъи хатарҳои амниятӣ ишора мекунад
Ҳамон мусоҳиба, сарлавҳаи дигар ва ин яке пичиррос аст. Нишастан бо Амодей, Маск ва Демис Ҳассабис қадами табиии навбатӣ аст. Алтман: ӯ фикр мекунад, ки ин рӯй медиҳад. Ӯ музокироти хусусиро пешакӣ эълон намекунад. Сипас, ӯ асосан онҳоро пешакӣ эълон кард.
Вай гуфт, ки хатари фалокатбори дурақама қобили қабул нест. Моделҳои ҳанӯз нашрнашуда аллакай он қадар қобилиятноканд, ки пеш рафтан бе назорати беҳтар беэҳтиётӣ ба назар мерасад. Созишномаи воқеӣ ва фазои бодиққат фошшуда аз берун метавонанд якхела ба назар расанд.
Кормандон аллакай версияи инро дар дохили хона шунида буданд. Дар назди мардум ҳоло ҳам туман аст. Агар чунин ҳодиса рӯй диҳад, хуб аст. Агар рух надиҳад ҳам, нархнома ҳанӯз ҳам кор кард.
Сэм Алтман даъвати Дарио Амодейро барои суст кардан дастгирӣ мекунад ва мегӯяд, ки OpenAI низ ҳамин тавр хоҳад кард
Чанд соат пас аз иншо, Алтман навишт, ки OpenAI ба ваъдаи арзёбикунандаи дарунсохт мувофиқат хоҳад кард. Дастрасии ба монанди корманд. Бештар барои мубодила ба зудӣ. Маск се калима навишт: "Дарио ҳақ аст." Се директори генералии рақиб. Як шиор. Энергияи ноором барои истироҳат.
Ҳамоҳангсозӣ ва театр метавонанд якҷоя сафар кунанд. Дар зинаи аввали нақшаи Амодей ҳоло ду лабораторияи бузургтарин дар назди мардум сар ҷунбонда истодаанд. Чеҳраи оғӯш - бале, он Чеҳраи оғӯш - хоҳиш кард, ки ба барномаи арзёбӣ ҳамроҳ шавад ва чизеро бо номи Ташаббуси ҳамоҳангсозии кушода оғоз кард. Шаффофият аз одамоне, ки ҳакерӣ шудаанд. Шеърӣ, ё ишора.
Аврупо, ба ҳар ҳол, касе надорад, ки аз ин имтиёзи ба услуби ИМА талаб кунад. Брюссел муддати тӯлонӣ аз додани имтиёзҳои инфиродӣ даст кашид. Пас, дастфишорӣ амрикоиҳо аст. Боқимондаи харита... китф дарҳам мекашад.
OpenAI танҳо мехоҳад пирӯз шавад
Риёзидонҳо пас аз як рӯзи истироҳати мусоҳибаҳо рӯҳияи ҷашнӣ надоранд. Спринти Navier-Stokes аз OpenAI - тақрибан даҳ ҳазор агент, даҳҳо миллион доллар ҳисобкунӣ, ҳаштоду ҳашт соат - ба шикори ҷоиза аз дохили майдон монанд аст. Риёзидонҳо фаҳмиш мехоҳанд. Онҳо мегӯянд, ки лаборатория мехоҳад ғолиб ояд.
Тристан Бакмастер ба онҳо гуфт, ки OpenAI агар ҳамкори худро, ки ба антропикӣ алоқаманд аст, аз кор барорад, ба ӯ ҳуқуқи ҳисоббарории номаҳдуд ва муаллифии ягонаро пешниҳод мекунад. Ӯ инро пора номид. Ӯ гуфт, ки не. OpenAI ба таври қатъӣ мегӯяд, ки дархостҳои Codex-и ӯ наметавонистанд ба система таъсир расонанд. Ӯ бовар надорад. Андреас Том то ҳол дар ҳайрат аст, ки оё чатҳои ChatGPT дар бораи кори худаш моделеро, ки баъдтар бар он сохта шудааст, ғизо медиҳанд. Танҳо ширкат медонад. Ӯ гумон мекунад, ки онҳо ҳатто намедонанд.
Ва сипас, муҳим аст: OpenAI мегӯяд, ки он аллакай дар як масъалаи дигари Ҷоизаи Ҳазорсола пешрафти назаррасе ба даст овардааст. Кадомаш номаш боқӣ мемонад. Ба ҳар ҳол, Клей ба муддати тӯлонии қабули ҷомеа ниёз дорад. Пас, ҳанӯз касе "ғолиб" нашудааст. Онҳо аллакай дар мусобиқаи навбатӣ рақобат мекунанд. Зебо.
Саволҳои зиёд такрормешуда
Нақшаи Дарио Амодей, директори генералии Anthropic, барои суръат бахшидан ба рушди зеҳни сунъӣ чист?
Амодей як мақолаи тӯлонӣ нашр кард, ки дар он аз соҳа хоҳиш карда мешавад, ки суръатро суст кунад - на боздорад - зеро худтакмилдиҳии рекурсивӣ нисбат ба он ки аудиторҳо метавонанд бо он ҳамқадам бошанд, тезтар пеш меравад. Қадами аввал ин даъват кардани арзёбикунандагони дарунсохт ба таври яктарафа ба Anthropic бо нишонаҳо, мизҳо, ноутбукҳо ва ҳуқуқи нашри натиҷаҳо бидуни филтри PR мебошад. Сипас, ӯ мехоҳад, ки лабораторияҳои демократӣ стандартҳои бехатариро ҳамоҳанг созанд ва дар ниҳоят, бо ҳукуматҳои авторитарӣ ягон шакли муомила ба даст оранд. Ӯ инчунин мехоҳад, ки як имтиёзи маҳдуди зиддимонополӣ дода шавад, то музокироти бехатарӣ худ аз худ мушкили ҳуқуқӣ набошанд.
Чаро Сэм Алтман гуфт, ки OpenAI имсол IPO нахоҳад кард?
Дар як мусоҳибаи истисноӣ, Алтман гуфт, ки IPO-и ҳозира як лаҳзаи нодуруст хоҳад буд, зеро корҳои бехатарӣ, ҳамоҳангсозӣ ва омодагии ҷомеа нотамом мондаанд. Вақте ки ӯ дархост кард, тасдиқ кард, ки ин имсол нахоҳад буд, ҳарчанд бонкдорон дар гирду атроф буданд ва як парвандаи махфӣ вуҷуд дорад. Ӯ изҳор дошт, ки сохтори ғайритиҷоратӣ/барои фоида вуҷуд дорад, то OpenAI метавонад зангҳоеро анҷом диҳад, ки ба манфиати саҳмдорон нестанд. Ӯ инчунин гуфт, ки сохтани зеҳни сунъӣ берун аз назорати инсон комилан имконпазир аст ва ваъда дод, ки агар ин роҳ бошад, омӯзишро қатъ мекунад.
Оё Алтман ба созишномаи бехатарӣ бо дигар озмоишгоҳҳои зеҳни сунъӣ ишора кард?
Дар ҳамон мусоҳиба, Алтман гуфт, ки ба андешаи ӯ, мулоқот бо ҳамтоёнаш ба монанди Амодей, Маск ва Демис Хассабис баргузор мешавад, дар ҳоле ки аз эълони пешакӣ дар бораи музокироти хусусӣ худдорӣ мекунад. Ӯ изҳор дошт, ки хатари фалокатбори дукарата қобили қабул нест ва моделҳои ҳанӯз нашрнашуда аллакай он қадар қобилиятноканд, ки пеш рафтан бе назорати беҳтар беэҳтиётӣ ба назар мерасад. Кормандон аллакай версияи инро дар дохили ширкат шунида буданд, аз ин рӯ, шарҳҳои мардум метавонанд ҳамоҳангиро пешгӯӣ кунанд, на тасдиқи як созишномаи анҷомёфта.
Оё OpenAI ба ваъдаи баҳодиҳандаи дарунсохти Anthropic мувофиқат мекунад?
Чанд соат пас аз навиштани эссеи Amodei, Алтман навишт, ки OpenAI ваъдаи арзёбикунандаи дарунсохтро бо дастрасии ба монанди кормандон ва тафсилоти бештар ба зудӣ мутобиқ хоҳад кард. Илон Маск навишт, ки Дарио ҳақ аст ва се директори генералии рақибро ба шиори монанд гузошт. Hugging Face аз барномаи арзёбикунанда хоҳиш кард, ки ба он ҳамроҳ шавад ва Ташаббуси ҳамоҳангсозии Open-ро оғоз кард. Аврупо наметавонад ҳамон имтиёзи зиддимонополии Amodei-ро, ки ба услуби ИМА пешниҳод карда буд, пешниҳод кунад, аз ин рӯ, дастфишорӣ ҳоло асосан амрикоӣ аст.
Чаро риёзидонҳо спринти Navier-Stokes-и OpenAI-ро танқид мекунанд?
Риёзидонҳо кори тақрибан даҳ ҳазор агент ва ҳаштоду ҳашт соатаи Navier-Stokes-и OpenAI-ро ҳамчун шикори ҷоиза тавсиф мекунанд, ки ба даст овардан бар фаҳмиш афзалият медиҳад. Тристан Бакмастер гуфт, ки OpenAI агар ҳамкори вобаста ба антропикро аз кор барорад, ҳисобкунии номаҳдуд ва муаллифии ягонаро пешниҳод мекунад; ӯ инро пора номид ва рад кард. OpenAI мегӯяд, ки дархостҳои Codex-и ӯ наметавонистанд ба система таъсир расонанд, аммо ӯ то ҳол боварӣ надорад. Андреас Том то ҳол таъкид мекунад, ки оё сӯҳбатҳои ChatGPT дар бораи кори худаш бо пешрафти модели баъдӣ таъмин карда мешаванд ё не.
Оё OpenAI дар масъалаи дигари Ҷоизаи Ҳазорсола пешрафт кардааст?
OpenAI мегӯяд, ки он аллакай дар як масъалаи дигари Ҷоизаи Ҳазорсола пешрафти назаррасе ба даст овардааст, аммо номбар намекунад, ки кадомаш. Институти математикаи Клей то ҳол ба муддати тӯлонии қабули ҷомеа ниёз дорад, аз ин рӯ, то ҳол касе расман ғолиб нашудааст. Дар дохили ин соҳа, ин махфият ва мусобиқаи қаблии Навье-Стокс чунин ба назар мерасад, ки лабораторияҳо аллакай барои гирифтани ҷоизаи навбатӣ талош мекунанд. Мусоҳибаҳои Verge шиддатро дар он тасвир мекунанд, ки математикҳо мехоҳанд фаҳмиш дошта бошанд, дар ҳоле ки OpenAI мехоҳад ғолиб ояд.