Роҳбарони технология ва муҳаққиқони маъруфи AI имзо карданд мактуби кушод, ки лабораторияҳо ва ширкатҳоро даъват мекунад, ки кори худро "фавран боздоштанд".
Имзокунандагон, аз ҷумла Стив Возняк ва Элон Маск, розӣ ҳастанд, ки хатарҳо ҳадди аққал як танаффуси шашмоҳаро аз истеҳсоли технологияҳое, ки аз доираи фаротар мераванд, талаб мекунанд. GPT-4. Ин барои гирифтани шодӣ ва қаноатмандӣ аз системаҳои AI, ки ҳоло мавҷуд аст ва ба одамон имкон медиҳад, ки ба онҳо мутобиқ шаванд ва бубинанд, ки онҳо муфиданд.
Дар нома илова карда мешавад, ки барои таъмини амнияти системаҳои AI эҳтиёткорӣ ва пешакӣ зарур аст, аммо онҳо нодида гирифта мешаванд. Истинод ба GPT-4, як модели нави OpenAI, ки метавонад бо матн ба паёмҳои хаттӣ ё визуалӣ посух диҳад, дар ҳоле пайдо мешавад, ки ширкатҳо барои сохтани системаҳои мукаммали чат бо истифода аз технология мусобиқа мекунанд. Мисол, Microsoft ба наздикӣ тасдиқ кард, ки системаи ҷустуҷӯии навшудаи Bing дар тӯли зиёда аз 4 ҳафта дар модели GPT-7 кор мекунад ва Google ба наздикӣ расман муаррифӣ кард. Бард - системаи тавлидкунандаи зеҳни сунъӣ дар асоси LaMDA.
Нигарониҳо дар бораи AI муддати тӯлонӣ вуҷуд доранд, аммо мусобиқа барои қабули технологияи пешрафта равшан аст мағзи маслуӣ якум аллакай ташвишовар аст. "Дар моҳҳои охир, лабораторияҳои AI дар як мусобиқаи беназорат барои таҳия ва татбиқи зеҳни рақамии пурқуввате, ки ҳеҷ кас, ҳатто муаллифони онҳо - наметавонанд дарк кунанд, пешгӯӣ кунанд ё ба таври эътимодбахш назорат кунанд" гуфта мешавад дар нома.
Ин нома аз ҷониби созмони ғайритиҷоратии Future of Life Institute (FLI) нашр шудааст, ки барои ҳадди ақалл кам кардани хатарҳои фалокатбор ва экзистенсиалӣ ва истифодаи нодурусти технологияҳои нав, бахусус AI кор мекунад. Қаблан Маск ба FLI барои таҳқиқоти амнияти сунъӣ 10 миллион доллар хайрия карда буд. Ба ҷуз аз ӯ ва Возняк, имзокунандагон як қатор пешвоёни ҷаҳон дар соҳаи AI, ба мисли президенти Маркази AI ва сиёсати рақамӣ Марк Ротенберг, физики MIT ва президенти FLI Макс Тегмарк ва муаллиф Ювал Ноа Ҳарарӣ мебошанд.
Ҳарарӣ ҳафтаи гузашта ҳаммуаллифи мақолае дар Ню-Йорк Таймс дар бораи хатарҳои марбут ба мағзи маслуӣ, ки дар он асосгузорони Маркази технологияҳои инсонӣ ва дигар имзокунандагони номаи кушод Тристан Ҳаррис ва Аза Раскин бо ӯ кор мекарданд.
Ин занг пас аз як назарсанҷии соли гузашта дар байни беш аз 700 муҳаққиқони омӯзиши мошинсозӣ сурат мегирад, ки дар он тақрибан нисфи онҳо гуфтаанд, ки тақрибан 10% эҳтимолияти "оқибатҳои ниҳоят бад" аз AI, аз ҷумла нобудшавии одамон вуҷуд дорад. Вақте ки дар бораи амният дар таҳқиқоти AI пурсиданд, 68% пурсидашудагон гуфтанд, ки бояд бештар ё бештар кор карда шавад.
Ҳамчунин хонед: