Асроромез Лоиҳаи Q* аз OpenAI боиси нигаронии коршиносон мегардад. Оё вай дар ҳақиқат барои инсоният хатарнок буда метавонад? Дар бораи ӯ чӣ маълум аст? Пас аз он ки Сэм Олтман дар аввал ҳафтаи гузашта аз кор ронда шуд ва ӯ ва даста қариб ба он кӯчиданд Microsoft, пас ӯ ба ҷои кораш баргашт (дар бораи он мо дар ин ҷо навиштем), OpenAI боз дар хабар аст. Ин дафъа аз он сабаб, ки баъзе муҳаққиқон таҳдиди эҳтимолиро ба инсоният меноманд. Бале, шумо инро дуруст хонед, ин таҳдид ба инсоният аст.
Тағйироти воқеӣ дар ҷаҳони технология аз ҷониби Project Q* - лоиҳаи ошкорнашудаи зеҳни умумии сунъӣ (AGI) - Q-Star ба вуҷуд омад. Гарчанде ки ин лоиҳа дар марҳилаи аввали худ қарор дорад, он воқеан дар таҳаввулоти AGI асоснок ҳисобида мешавад. Бо вуҷуди ин, баъзеҳо онро ҳамчун хатар барои инсоният медонанд.
Лоиҳаи махфии зеҳни сунъӣ, ки аз ҷониби лабораторияи машҳури зеҳни сунъии OpenAI таҳия шудааст, дорои потенсиали инқилоби технология ва умуман ҷомеа мебошад. Аммо он инчунин баъзе саволҳои ахлоқиро дар бораи хатарҳо ба миён меорад. Вақте ки тафсилот дар бораи қобилиятҳои ҳайратангези Лоиҳаи Q* пайдо мешавад, дар бораи он, ки он барои ояндаи инсоният чӣ маъно дошта метавонад, ҳарчи бештар тахминҳо пайдо мешаванд.
Инчунин ҷолиб: Таърихи OpenAI: Он чӣ буд ва барои ширкат чӣ интизор аст
Интеллекти умумии сунъӣ (AGI) чист?
Барои фаҳмидани овозаҳои атрофи лоиҳаи Q* (Q-Star), биёед аввал кӯшиш кунем фаҳмем, ки мафҳуми зеҳни умумии сунъӣ (AGI) чӣ маъно дорад. Дар ҳоле, ки системаҳои зеҳни сунъӣ дар вазифаҳои тангу мушаххас, аз қабили бозии шоҳмот ё тавлиди тасвирҳо бартарӣ доранд, зеҳни умумии сунъӣ ба мошинҳое дахл дорад, ки метавонанд дар сатҳи инсонӣ дар бисёр соҳаҳо омӯхта ва фикр кунанд. Яъне онҳо метавонанд мисли кӯдакони хурдсол дар мактаб таҳсил кунанд, масалан, асосҳои математика, химия, биология ва ғайра.
Зеҳни умумии сунъӣ (AGI) як навъи зеҳни мошинист, ки метавонад ба таври фарзиявӣ зеҳн ё рафтори инсонро тақлид кунад ва қобилияти омӯхтан ва татбиқи ин потенсиалро барои ҳалли мушкилоти гуногун дорад. AGI инчунин зеҳни сунъии қавӣ, зеҳни пурраи сунъӣ ё зеҳни сунъии сатҳи инсон номида мешавад. Зеҳни умумии сунъӣ аз АИ заиф ё танг фарқ мекунад, ки танҳо метавонад дар доираи параметрҳои додашуда вазифаҳои мушаххас ё махсусро иҷро кунад. ЗИИ масъалахои гуногуни мураккаби сохахои гуногуни донишро мустакилона хал карда метавонад.
Эҷоди зеҳни сунъӣ самти асосии таҳқиқоти зеҳни сунъӣ аз ҷониби ширкатҳое ба мисли DeepMind ва Anthropic мебошад. CSI мавзӯи хеле маъмул дар адабиёти фантастикаи илмӣ аст ва метавонад тадқиқоти ояндаро ташаккул диҳад. Баъзеҳо баҳс мекунанд, ки дар тӯли солҳо ё даҳсолаҳо сохтани UCI имконпазир аст, дар ҳоле ки дигарон мегӯянд, ки он метавонад як аср ё бештар аз он вақтро дар бар гирад. Аммо касоне ҳастанд, ки бовар доранд, ки ин ҳеҷ гоҳ ба даст нахоҳад омад. Баъзеҳо оғози URI-ро дар GPT-3 диданд, аммо ба назар чунин мерасад, ки он ҳанӯз аз қонеъ кардани меъёрҳои асосӣ дур аст.
Ташаккули зеҳни умумии сунъӣ (AGI) аз ҷониби муҳаққиқон ҳамчун ғилофаки муқаддаси зеҳни сунъӣ, як имкони назариявӣ, ки кайҳо боз тасаввуроти онҳоро ба худ ҷалб кардааст. Аз ин рӯ, пайдоиши чунин лоиҳа ба монанди OpenAI Project Q* дар ҷаҳони таҳқиқоти алгоритми зеҳни сунъӣ як резонансро ба вуҷуд овард. Гарчанде ки ҳама дарк мекунанд, ки ин танҳо қадамҳои аввалин, қариб кӯр ба сӯи ҷаҳонест, ки зеҳни сунъӣ дорои қобилиятҳои одамон ва ҳатто болотар аст.
Инчунин ҷолиб: Ҳама дар бораи Microsoft Пилот: оянда ё роҳи нодуруст?
Лоиҳаи Q* чист?
Лоиҳаи Q* як алгоритми маъмулӣ нест, зеро он модели зеҳни сунъӣ мебошад, ки ба модели зеҳни умумии сунъӣ (AGI) торафт наздиктар мешавад. Ин маънои онро дорад, ки бар хилофи ChatGPT, Project Q* нисбат ба дигар алгоритмҳо малакаҳои беҳтари тафаккур ва маърифатиро нишон медиҳад. Дар айни замон ChatGPT ба пурсишҳо дар асоси миқдори зиёди маводи воқеӣ посух медиҳад, аммо бо AGI, модели AI мулоҳиза ва қобилияти фикр кардан ва фаҳмидани худашро меомӯзад. Аз ин пеш маълум аст, ки лоихаи Q* кобилияти халли масъалахои оддии математики мебошад, ки ба материали таълимии он дохил нашудаанд. Дар ин ҳолат, баъзе муҳаққиқон як қадами муҳимро дар самти эҷоди зеҳни умумии сунъӣ (AGI) мебинанд. OpenAI AGI-ро ҳамчун системаҳои зеҳни сунъӣ муайян мекунад, ки аз одамон донотаранд.
Таҳияи лоиҳаи Q* аз ҷониби сармуҳаққиқи OpenAI Иля Сутзкевер идора карда мешавад ва асоси онро муҳаққиқон Якуб Пахотский ва Шимон Сидор асоснок кардаанд.
Қобилияти алгоритм барои мустақилона ҳалли масъалаҳои математикӣ, ҳатто агар ин масъалаҳо ҷузъи маҷмӯи маълумотҳои таълимӣ набошанд, як пешрафт дар соҳаи зеҳни сунъӣ ҳисобида мешавад. Ихтилофот дар даста дар робита ба ин лоиҳа бо барканории муваққатии директори OpenAI Сэм Олтман алоқаманд аст. Маълум аст, ки қабл аз барканории Олтман як гурӯҳи муҳаққиқони ширкат ба Шӯрои директорон нома фиристода, дар бораи кашфи АИ, ки метавонад ба инсоният таҳдид кунад, ҳушдор дод. Он нома, ки гуфта мешавад дар он алгоритми Project Q* мавриди баррасӣ қарор гирифтааст, яке аз омилҳое номида шуд, ки боиси аз кор ронда шудани Алтман гардид. Аммо, имкониятҳои Лоиҳаи Q* ва хатарҳои эҳтимолии он метавонад пурра дарк карда нашудааст, зеро тафсилот маълум нест. Ҳеҷ чиз ба оммаи васеъ нашр нашудааст.
Дар асл, Лоиҳаи Q* як усули омӯзиши таҳкими бе модел мебошад, ки аз моделҳои анъанавӣ дур мешавад ва дониши пешакиро дар бораи муҳити зист талаб намекунад. Ба ҷои ин, он тавассути таҷриба омӯхта, амалҳоро дар асоси мукофот ва ҷазо мутобиқ мекунад. Коршиносони техникӣ боварӣ доранд, ки лоиҳаи Q* метавонад тавассути ба даст овардани қобилиятҳои шабеҳи қобилиятҳои маърифатии инсон қобилиятҳои барҷаста ба даст орад.
Бо вуҷуди ин, маҳз ин хусусият дар модели нави зеҳни сунъӣ таъсирбахштар аст, ки муҳаққиқон ва мунаққидонро нигарон мекунад ва тарси онҳоро дар бораи татбиқи воқеии технология ва хатарҳои аслии марбут ба он афзоиш медиҳад. Олимон ва муҳаққиқон аз чӣ метарсанд? Биёед инро фаҳмем.
Инчунин ҷолиб: Чӣ гуна дастгоҳҳои хонагии худро барои дастгирии Wi-Fi 6 навсозӣ кардан мумкин аст
Онҳо аз номаълум метарсанд
Одамон ҳамеша аз ношинос, ношинос метарсиданд. Ин аст мохияти инсонй, хусусияти характер ва тарзи хаёти мо.
Ҷаҳони технология дар бораи лоиҳаи Q* дар моҳи ноябри соли 2023 пас аз Reuters маълумот гирифт хабар дод дар бораи мактуби дохилӣ, ки аз ҷониби муҳаққиқони дахлдори OpenAI навишта шудааст. Мазмуни мактуб норавшан буд, вале гуфта мешавад дар он имкониятхои лоихаи Q* чиддй тахлил карда шудаанд. Тавре ки ман дар боло зикр кардам, ҳатто тахминҳо вуҷуд доранд, ки маҳз ҳамин нома истеъфои Сэм Олтманро ба вуҷуд овардааст.
Ин кашфиёти тарканда дар бораи табиати лоиҳаи Q* фарзияҳои гуногунро ба вуҷуд овард. Олимон пешниҳод карданд, ки ин метавонад як модели инқилобии забони табиӣ барои AI бошад. Як навъ ихтироъкори алгоритмҳои нав, ки онҳоро барои шаклҳои дигари AI ё чизи тамоман дигар дар ин соҳа эҷод мекунад.
Шарҳҳои иғвоангези Алтман дар бораи зеҳни сунъии умумӣ ҳамчун "корманди миёна" аллакай нигарониҳо дар бораи амнияти ҷои кор ва тавсеаи бебозгашти таъсири AI-ро ба вуҷуд овардаанд. Ин алгоритми пурасрор ҳамчун як марҳила дар рушди зеҳни умумии сунъӣ (AGI) муайян карда шудааст. Аммо, ҳама мефаҳманд, ки ин марҳила гарон аст. Ва ҳоло гап дар бораи пул нест. Сатҳи малакаҳои маърифатие, ки модели нави AI ваъда додааст, номуайяниро ба бор меорад. Олимони OpenAI ваъда медиҳанд, ки AI тафаккури сатҳи инсониро дорад. Ва ин маънои онро дорад, ки мо наметавонем бисёр чизҳоро донем ва оқибатҳои онро пешгӯӣ кунем. Ва чӣ қадаре ки номаълум бошад, омодагӣ ба назорат ё ислоҳи он душвортар мешавад. Яъне, алгоритми нав қодир ба худ такмил ва рушд аст. Мо инро аллакай дар ҷое дидаем...
Инчунин ҷолиб: Windows 12: OS нав чӣ гуна хоҳад буд
Тафсилоти аҷиб дар бораи қобилиятҳои Project Q*
Вақте ки маълумоти бештар пайдо шуд, он бисёр муҳаққиқонро ба ҳайрат овард. Нишондодҳои аввала ин буданд, ки Лоиҳаи Q* маҳорати аҷиби математика дорад. Баръакси ҳисобкунаке, ки ҳисобҳои механикиро иҷро мекунад, Project Q* метавонад барои ҳалли масъалаҳои мураккаби риёзӣ аз мантиқ ва далелҳо истифода кунад. Ин қобилияти риёзӣ барои умумӣ кардани маслиҳатҳо дар рушди зеҳни васеъ.
Омӯзиши мустақили Лоиҳаи Q*, бидуни маҷмӯаҳои мушаххасе, ки барои омӯзиши AI-ҳои маъмулӣ истифода мешаванд, низ як қадами бузург ба пеш хоҳад буд. Маълум нест, ки лоиҳаи Q* ягон малакаи дигарро азхуд кардааст ё не. Аммо қобилиятҳои математикии ӯ дар худ чунон аҷибанд, ки ҳатто тадқиқотчиёни ботаҷрибаро ба иштибоҳ меандозанд.
Ҳамчунин хонед: Лоиҳаи майнаи инсон: Кӯшиши тақлид ба майнаи инсон
Лоихаи Q* рохи хукмронй?
Дар ин масъала сенарияҳои оптимистӣ ва пессимистӣ вуҷуд доранд. Оптимистҳо мегӯянд, ки лоиҳаи Q* метавонад шарорае бошад, ки боиси пешрафти технологӣ шавад. Вақте ки система ба таври рекурсивӣ худтанзимкуниро такмил медиҳад, зеҳни ғайриоддии он метавонад дар ҳалли баъзе мушкилоти мубрами башарият, аз тағирёбии иқлим то назорати бемориҳо кӯмак кунад. Лоиҳаи Q* метавонад кори дилгиркунандаро автоматӣ кунад ва вақти холии моро барои дигар фаъолиятҳо озод кунад.
Гарчанде ки вариантҳои пессимистӣ бештар вуҷуд доранд. Баъзан онҳо хеле оқилонаанд ва маънои муайян доранд.
Аз даст додани ҷойҳои корӣ
Тағироти босуръати рушди технология метавонад аз мутобиқшавии инфиродии одамон пештар бошад. Ин боиси аз байн рафтани як ё якчанд насл мегардад, ки барои мутобиқ шудан ба воқеияти нав малака ва дониши заруриро ба даст оварда наметавонанд. Яъне, ин дар навбати худ маънои онро дорад, ки шумораи камтари одамон метавонанд ҷои кори худро нигоҳ доранд. Онро ба ҷои он мошинҳо, системаҳои автоматӣ ва роботҳо иҷро мекунанд. Вале дар бораи мутахассисони содибихтисос чавоб он кадар равшан нест. Илова бар ин, касбҳои наве, ки махсусан ба таҳияи алгоритмҳои зеҳни сунъӣ алоқаманданд, пайдо мешаванд. Аммо то ҳол хатарҳо вуҷуд доранд ва инсоният ҳақ надорад, ки онҳоро сарфи назар кунад.
Хавфи қудрати беназорат
Агар АИ тавоно ба мисли Лоиҳаи Q* ба дасти онҳое афтад, ки ниятҳои нопок доранд, он барои инсоният оқибатҳои фалокатборро таҳдид мекунад. Ҳатто бидуни нияти эҳтимолан бадхоҳ, сатҳи қабули қарори Лоиҳаи Q* метавонад ба натиҷаҳои зараровар оварда расонад ва аҳамияти муҳими арзёбии дақиқи татбиқи онро таъкид мекунад.
Агар Лоиҳаи Q* барои эҳтиёҷоти инсон суст оптимизатсия карда шавад, он метавонад бо қобилияти худ барои ҳадди аксар расонидани баъзе ченакҳои худсарона зарар расонад. Ё он метавонад ҷанбаи сиёсӣ дошта бошад, масалан, барои назорати давлатӣ ё саркӯб истифода мешавад. Баҳси ошкоро дар атрофи таҳлили таъсири лоиҳаи Q* барои муайян кардани сенарияҳои имконпазири рушди ZHI кӯмак мекунад.
Оё мо ба намоиши "Одам бар зидди мошин" омодаем?
Ҳолливуд аллакай дар филмҳои худ сенарияҳои зиёди чунин бархӯрдро офаридааст. Мо ҳама SkyNet-и машҳур ва оқибатҳои чунин кашфиётро дар хотир дорем. Шояд муҳаққиқони OpenAI бояд ин филмро дубора тамошо кунанд?
Инсоният бояд сигналҳо ва чолишҳоро қабул кунад ва ба он чизе, ки метавонад рӯй диҳад, омода бошад. Модели зеҳни сунъӣ, ки қодир аст мисли инсон фикр кунад, метавонад рӯзе душмани мо шавад. Бисёриҳо баҳс мекунанд, ки олимон дар оянда чӣ гуна вазъиятро дар зери назорат нигоҳ доштанро аниқ медонанд. Аммо, вақте ки сухан дар бораи мошинҳо меравад, шумо наметавонед эҳтимолияти одамонро ба дасти худ дароварданро комилан истисно кунед.
Инчунин ҷолиб: На ҳама чизе, ки мо AI меномем, аслан зеҳни сунъӣ аст. Ин аст он чизе ки шумо бояд донед
Чаро OpenAI хомӯш аст?
Бо вуҷуди хашмгинии таваҷҷӯҳи ҷомеа ба Project Q*, роҳбарияти OpenAI дар бораи мушаххасоти алгоритм хомӯш аст. Аммо ихроҷи дохилӣ нишон медиҳад, ки шиддати афзоянда дар лаборатория бар авлавиятҳо ва кушодагии таҳаввулот. Дар ҳоле ки бисёре аз инсайдерҳои OpenAI аз эҷоди лоиҳаи Q* пуштибонӣ мекунанд, мунаққидон бар ин назаранд, ки шаффофият барои суръат бахшидан ба пешрафти илмӣ бо ҳар қимат ҷои қафоро гирифтааст. Ва баъзе муҳаққиқон аз он нигаронанд, ки қудрати бебаҳо ба системаҳое дода мешавад, ки ҳадафҳояшон ҳатман бо арзишҳо ва ахлоқи инсонӣ мувофиқат намекунанд. Ин муҳаққиқон бар ин назаранд, ки баҳсҳо дар атрофи назорат ва масъулият ба таври хатарнок хомӯш шудаанд. Онҳо таблиғ ва тафсилоти бештарро талаб мекунанд.
Ҳамчун созандагони лоиҳаи Q*, OpenAI бояд дарк кунад, ки онҳо технологияе доранд, ки имкони рушди ҷомеаро ё хеле васеъ карда метавонад ё бераҳмона онро нобуд созад. Чунин навовариҳои назаррас сазовори шаффофияти бештар барои эҷоди эътимоди мардум мебошанд. Ҳама пешгӯиҳои синну соли мошин бояд хатарҳоро дар баробари манфиатҳо бодиққат баркашанд. Ва таҳиягарони Лоиҳаи Q* бояд хирад ва ғамхории кофӣ нишон диҳанд, то ҷомеаро ба давраи нави зеҳни сунъии умумие, ки метавонад зудтар аз он ки мо тасаввур карда будем, фаро гирад.
Барои он ки зеҳни умумии сунъӣ барои инсоният муфид ва бехатар бошад, он бояд таъмин карда шавад, ки он бехатар, ахлоқӣ ва мувофиқи арзишҳо ва ҳадафҳои инсоният фаъолият кунад. Ин таҳия ва татбиқи санадҳои меъёрии дахлдор, стандартҳо, қоидаҳо ва протоколҳоро талаб мекунад, ки амалҳо ва рафтори CSI-ро назорат ва боздоранд. Илова бар ин, таҳдидҳо ва хатарҳои эҳтимолии марбут ба сӯиистифода, садамаҳо, номувофиқатӣ, манипуляцияҳо ва низоъҳо, ки метавонанд ба нобудии инсоният оварда расонанд, бояд бартараф карда шаванд. Дар ҳамин ҳол, сармоягузорон ва Microsoft бесаброна интизори маҳсулоти бозоргир, ки метавонад фоида ба даст оварад, ки бешубҳа бо зарурати масъулиятшиносӣ мухолифат мекунад. Умедворем, ки ақли солим ғолиб меояд.
Ҳамчунин хонед: