Роҳбари собиқи Google зеҳни сунъиро бо силоҳи ҳастаӣ муқоиса кард

Собиқ директори Google Эрик Шмидт зеҳни сунъиро (AI) ба силоҳи ҳастаӣ муқоиса кард ва даъват кард, ки як режими боздоранда, шабеҳи нобудшавии мутақобила, ки қудратмандтарин кишварҳои ҷаҳонро аз нобуд кардани ҳамдигар нигоҳ медорад.

Шмидт рӯзи 22 июл дар Форуми амнияти Аспен ҳангоми муҳокима дар бораи амнияти миллӣ ва AI дар бораи хатарҳои зеҳни сунъӣ сухан гуфт. Вақте ки дар бораи арзиши ахлоқ дар технология пурсиданд, Шмидт шарҳ дод, ки худи ӯ дар рӯзҳои аввали Google соддалавҳона буд. Сипас ӯ ба технология даъват кард, ки ба ахлоқ ва ахлоқи одамоне, ки онҳо хидмат мекунанд, беҳтар мувофиқат кунанд ва муқоисаи аҷибе байни зеҳни сунъӣ ва силоҳи ҳастаӣ кашид.

"Мо ба гуфтушуниде, ки ба мо лозим аст, омода нестем." – @ericschmidt #AspenSecurity расмtwitter.com/As749t6ZyU

- Форуми амнияти Аспен (@AspenSecurity) Июл 22, 2022

Шмидт дар бораи ояндаи наздик сухан ронд, ки дар он Хитой ва Штатхои Муттахида бояд дар бораи интеллектуалии сунъй шартнома баста шаванд. Шмидт гуфт: «Дар солхои 50-ум ва 60-ум мо дунёеро ба вучуд овардем, ки дар он чо коидаи «бе сюрприз» барои озмоишхои яроки ядрой вучуд надошт ва дар натича онхо манъ карда шуданд. "Ин як мисоли мувозинати эътимод ё набудани эътимод аст, ин қоидаи" ҳайратовар нест ". Ман хеле нигаронам, ки нуқтаи назари ИМА ба Чинро фасодкор ё коммунистӣ ё ҳар чизе, ва назари Чин ба Амрико ҳамчун зиёндида... ба одамон имкон медиҳад, ки бигӯянд: "Худоё, онҳо чизе доранд" ва сипас чизи нофаҳмо сар мешавад... .

Омӯзиши AI ва мошинсозӣ як технологияи ҷолиб ва аксар вақт нодуруст фаҳмида мешавад. Вай аслан он қадар доно нест, ки одамон фикр мекунанд. Он метавонад асарҳои сатҳи шоҳасар эҷод кунад, одамонро дар Starcraft II латукӯб кунад ва барои корбарон зангҳои оддии телефонӣ кунад. Бо вучуди ин, кушишхои ба ичрои вазифахои душвортар, масалан, рондани мошин дар шахри калон муваффак нашуданд.

Шмидт дар бораи ояндаи хаёлии наздик сухан меронад, ки дар он ҳам Чин ва ҳам ИМА аз масъалаҳои амниятӣ нигарон хоҳанд шуд, ки онҳоро маҷбур мекунад, ки як навъ шартномаеро барои нигоҳ доштани AI ворид кунанд. Вай солҳои 1950 ва 60-ро ба ёд овард, вақте ки дипломатия як қатор назоратро дар атрофи силоҳҳои марговар дар сайёра таҳия карда буд. Аммо то бастани Шартномаи манъи озмоишҳои ҳастаӣ, SALT II ва дигар қонунҳои муҳим барои сулҳ ба даст омадани таркишҳои ҳастаӣ ва муҳимтар аз ҳама, харобии Хиросима ва Нагасаки даҳ сол лозим буд.

Ду шаҳри Ҷопон, ки Амрико дар охири Ҷанги Дуюми Ҷаҳонӣ хароб карда буд, ҷони даҳҳо ҳазор нафарро гирифт ва ба ҷаҳониён даҳшати абадии силоҳи ҳастаӣ собит кард. Пас аз он ҳукуматҳои Русия ва Чин барои гирифтани силоҳ шитофтанд. Усуле, ки мо бо эҳтимоли истифода шудани ин силоҳ зиндагӣ мекунем, он чизест, ки ҳамчун нобудсозии мутақобилан кафолатнок (MAD) маълум аст, назарияи боздорандае, ки кафолат медиҳад, ки агар як кишвар силоҳи ҳастаӣ партояд, эҳтимол дорад, ки ҳар як кишвари дигар. Мо аслиҳаи харобиовартаринро дар сайёра истифода намебарем, зеро эҳтимолияти он ҳадди аққал тамаддуни тамоми ҷаҳонро нест мекунад.

Сарфи назар аз шарҳҳои рангини Шмидт, мо ба MAD барои AI намехоҳем ё ниёз надорем. Аввалан, AI қудрати харобиовари худро дар муқоиса бо силоҳи ҳастаӣ ҳанӯз исбот накардааст. Аммо одамони қудратманд аз ин технологияи нав метарсанд ва одатан бо сабабҳои нодуруст. Одамон ҳатто пешниҳод карданд, ки назорати силоҳи ҳастаӣ ба зеҳни сунъӣ дода шавад, зеро он боварӣ дошт, ки он нисбат ба инсон ҳаками беҳтари истифодаи он хоҳад буд.

Мушкилоти зеҳни сунъӣ дар он нест, ки он дорои қудрати эҳтимолан харобиовари силоҳи ҳастаӣ мебошад. Гап дар он аст, ки зеҳни сунъӣ танҳо ба қадри одамоне, ки онро таҳия кардаанд, хуб аст ва он арзишҳои созандагони худро дорад. AI аз мушкилоти классикии "ахлот дар дохил, партовҳо берун шудан" азият мекашад: алгоритмҳои нажодпараст роботҳои нажодпарастро эҷод мекунанд ва ҳама AI ғаразҳои созандагони худро ба ӯҳда дорад.

Демис Ҳассабис, директори генералии DeepMind, ширкате, ки AI-ро таълим додааст, ки бозингарони Starcraft II-ро мағлуб мекунад, инро нисбат ба Шмидт беҳтар мефаҳмад. Дар мусоҳибаи моҳи июл дар подкасти Лекс Фридман, Фридман аз Ҳассабис пурсид, ки чӣ гуна технологияи тавоно ба мисли AI-ро идора кардан мумкин аст ва чӣ гуна худи Ҳассабис метавонад аз фасоди ин қудрат худдорӣ кунад.

Ҷавоби Хасабис дар бораи худаш аст. "Зеҳни сунъӣ як идеяи хеле бузург аст" гуфт ӯ. "Муҳим аст, ки AI-ро кӣ эҷод мекунад, онҳо аз кадом фарҳангҳоянд ва арзишҳои онҳо чист. Системаҳои AI худ аз худ меомӯзанд ... аммо система бо фарҳанг ва арзишҳои муаллифони система боқӣ мемонад."

Интеллекти сунъӣ инъикоси муаллифи он мебошад. Он наметавонад бо таркиши 1,2 мегатонна шаҳрро ба хок яксон кунад. Магар касе инро ба ӯ таълим надиҳад.

Шумо метавонед ба Украина дар мубориза бар зидди истилогарони рус кӯмак кунед. Роҳи беҳтарини иҷрои ин хайрия маблағ ба Қувваҳои Мусаллаҳи Украина мебошад Savelife ё тавассути саҳифаи расмӣ NBU.

Ҳамчунин хонед:

• Барномаи нав Samsung AI-ро барои беҳтар кардани суратҳои шумо истифода мебарад
• Зеҳни сунъӣ дар муайян кардани объектҳои астрономӣ кӯмак мекунад