Напредната вештачка интелигенција би можела да предизвика сериозни последици преку сајбер-напади, манипулирање со луѓето и помагање во развојот на опасни вируси, предупредува Џефри Хинтон, еден од пионерите на технологијата и добитник на Нобеловата награда за физика за 2024 година.
Во интервју за емисијата „Њузнајт“ на Би-би-си, емитувано на 9 септември, Хинтон изјави дека проценката за 10 проценти веројатност вештачката интелигенција да предизвика истребување на човештвото во следната деценија не му изгледа неразумна. Истовремено нагласи дека никој не знае како сигурно да ја пресмета таа веројатност. Станува збор за негово лично согледување на ризикот, а не за научно утврдена прогноза.
Според Хинтон, најголемата неизвесност произлегува од можноста луѓето да создадат системи што ќе станат поинтелигентни од нив, без претходно да знаат како да ја задржат контролата.
„Никогаш не сме создале суштества што наскоро би можеле да бидат попаметни од нас. Не знаеме што ќе се случи“, рече тој.
Неговото предупредување не се однесува само на сценарија со роботи или автономни машини. Хинтон смета дека исклучително способните системи би можеле да нанесат штета и преку дигитална комуникација, влијание врз луѓето и злоупотреба на информации.
Во такви сценарија ги вбројува разорните сајбер-напади, компјутерските вируси и можноста технологијата да биде употребена за дизајнирање опасни биолошки агенси.
Загриженоста ја споделуваат и дел од истражувачите во индустријата. Џејкоб Коксон, кој работел во „ОпенАИ“ и „Антропик“, во септември ја напушти „Антропик“, обвинувајќи ги компаниите дека се движат кон суперинтелигенција способна самата да се подобрува, без соодветно решени безбедносни прашања.
Еван Хубингер, истражувач во „Антропик“ кој работи на усогласување на системите со човечките цели и вредности, јавно ги поддржа неговите стравувања. Тој наведе дека лично проценува оти веројатноста за катастрофален исход во следните десет години е поголема од 10 проценти. Нагласи и дека компанијата сè уште нема решен план за усогласување на суперинтелигенцијата со човечките интереси.
Главната загриженост се однесува на таканаречено рекурзивно самоподобрување — процес во кој напредни системи би помагале во создавањето сè поспособни следни генерации. Овие предупредувања се проценки за можниот иден развој, а не доказ дека денешните системи веќе располагаат со сите опишани способности.
Во подоцнежно интервју за австралискиот јавен сервис Еј-би-си, на 14 септември, Хинтон повтори дека бројките за егзистенцијалниот ризик се засноваат на несигурни лични проценки. Повика на проверки пред пуштањето нови модели во употреба и на посилен надзор. Истовремено ги истакна придобивките на вештачката интелигенција во медицината и развојот на лекови, нагласувајќи дека не се залага за целосно запирање на технологијата.
