Идеяи зеҳни сунъӣ, ки инсониятро сарнагун мекунад, тӯли даҳсолаҳо баҳс карда мешуд ва дар моҳи январи соли 2021 олимон дар бораи он, ки оё мо метавонем суперинтеллектуалии компютерии сатҳи баландро назорат кунем, хулоса бароварданд. Ҷавоб диҳед? Қариб албатта не.
Мушкилот дар он аст, ки идора кардани як суперакл, ки аз фаҳмиши инсон дуртар аст, симулятсияи он супераклро талаб мекунад, ки мо онро таҳлил карда метавонем. Аммо агар мо онро дарк карда натавонем, чунин симулятсия эҷод кардан ғайриимкон аст.
Муаллифони як коғаз дар соли 2021 чунин меҳисобанд, ки қоидаҳое ба мисли "ба одамон зарар нарасонед" муқаррар карда намешаванд, агар мо нафаҳмем, ки зеҳни сунъӣ (AI) чӣ сенарияҳоро таҳия мекунад. Ҳамин ки системаи компютерӣ дар сатҳе кор мекунад, ки аз имкониятҳои барномасозони мо зиёдтар аст, мо дигар маҳдудият гузошта наметавонем.
"Суперразведка як мушкили куллан фарқ мекунад, ки одатан таҳти парчами "ахлоқи роботҳо" омӯхта мешаванд", - менависанд муҳаққиқон. "Ин аз он иборат аст, ки суперминт бисёрҷанба аст ва аз ин рӯ, эҳтимолан қодир аст, ки захираҳои гуногунро барои ноил шудан ба ҳадафҳое сафарбар кунад, ки барои одамон эҳтимолан қобили қабул нестанд, бигзор назоратшаванда."
Қисме аз ақидаҳои даста аз он бармеояд мушкилоти қатъ, аз ҷониби Алан Тюринг дар соли 1936 пешниҳод шудааст. Мушкилот муайян кардани он аст, ки оё барномаи компютерӣ ба хулосае меояд ва ҷавоб медиҳад (ва қатъ мекунад) ё танҳо барои ёфтани ҷавоб ҳамеша овезон аст.
Чунон ки Тьюринг бо ёрй исбот кард математикаи интеллектуалӣ, дар ҳоле ки мо метавонем инро барои баъзе барномаҳои мушаххас донем, мантиқан пайдо кардани роҳе ғайриимкон аст, ки ба мо имкон медиҳад, ки инро барои ҳар як барномаи эҳтимолие, ки ҳамеша навишта шавад, бидонем. Ин моро ба АИ бармегардонад, ки дар ҳолати суперинтеллектуалӣ метавонад ҳама барномаҳои имконпазири компютериро дар хотираи худ дар як вақт нигоҳ дорад.
Инчунин ҷолиб:
- OpenAI ба зеҳни сунъӣ барои табдил додани фармонҳо ба рамзи барнома таълим дод
- Зеҳни сунъӣ мавҷҳои ҷозибаро ҷустуҷӯ хоҳад кард
Ҳар як барномае навишта шудааст, масалан, барои боздоштани AI аз расонидани зарар ба одамон ва нобуд кардани ҷаҳон метавонад ба хулосае бирасад ё наояд (ва бозистад) - аз ҷиҳати математикӣ комилан итминон будан ғайриимкон аст, ки ин маънои онро дорад, ки онро боздоштан мумкин нест. Моҳи январ донишманди компютер Ияд Раҳван аз Институти рушди инсонии Макс Планк дар Олмон гуфт: "Ин аслан алгоритми боздоштанро корношоям мекунад."
Ба гуфтаи муҳаққиқон, алтернативаи таълими ахлоқи AI ва мамнӯъиятҳои зидди нобудсозии ҷаҳон, ки ҳеҷ алгоритме наметавонад комилан мутмаин бошад, ба гуфтаи муҳаққиқон, маҳдуд кардани қобилиятҳои суперминд аст. Масалан, он метавонад аз як қисми Интернет ё шабакаҳои муайян қатъ карда шавад.
Муаллифони як пажӯҳиши ахир ин ақидаро низ рад мекунанд ва бовар доранд, ки он доираи зеҳни сунъиро маҳдуд хоҳад кард - онҳо мегӯянд, агар мо аз он барои ҳалли мушкилоти берун аз имконоти инсонӣ истифода нахоҳем кард, пас чаро онро умуман эҷод кардан лозим аст?
Агар мо зеҳни сунъиро пеш барем, мо ҳатто намедонем, ки суперинтеллект кай пайдо мешавад, берун аз назорати мо, он қадар ақлнопазир аст. Ин маънои онро дорад, ки мо бояд ба саволҳои ҷиддӣ дар бораи он ки мо ба куҷо равонаем, оғоз кунем.
"Мошини суперинтеллектуалӣ, ки дар ҷаҳон идора мекунад, ба фантастикаи илмӣ садо медиҳад" мегӯяд олими компютер Мануэл Кебриан аз Институти рушди инсонии Макс Планк. Аммо аллакай мошинҳое мавҷуданд, ки баъзе вазифаҳои муҳимро мустақилона иҷро мекунанд, дар ҳоле ки барномасозон пурра намефаҳманд, ки онҳо инро чӣ гуна омӯхтаанд.
Аз ин рӯ, саволе ба миён меояд, ки оё он метавонад дар ягон лаҳза идоранашаванда ва барои инсоният хатарнок гардад...
Ҳамчунин хонед:
- Ба зеҳни сунъӣ муяссар шуд, ки расми рангшудаи Пикассоро дубора тавлид кунад
- Интеллекти сунъӣ барои пешгӯии садамаҳои роҳ пеш аз рух додани онҳо кӯмак мекунад