Еден од највлијателните научници во развојот на вештачката интелигенција, Џефри Хинтон, повторно упати сериозно предупредување за иднината на технологијата. Научникот, кого често го нарекуваат „кум на вештачката интелигенција“, смета дека суперИнтелигентна AI би можела да стане реалност во следните две децении, додека човештвото сè уште нема јасен одговор како таквите системи би се држеле под контрола.
Хинтон за своите ставови зборуваше во подкастот „Big Technology“, во разговор со водителот Алекс Канторовиц, каде отворено ги анализираше можните последици од брзиот развој на вештачката интелигенција.
„Суперинтелигенцијата веројатно ќе пристигне во следните 20 години“
На прашањето колку човештвото е далеку од создавање суперинтелигенција – хипотетички AI систем способен да ги надмине и најинтелигентните луѓе – Хинтон одговори дека тоа „веројатно“ би можело да се случи во следните 20 години.
Сепак, додаде еден услов – човештвото претходно да не се соочи со некоја голема катастрофа.
Но, според него, најголемиот проблем започнува токму во моментот кога таквата технологија ќе стане реалност.
„Кога ќе пристигне, немаме поим како да бидеме безбедни“, предупреди Хинтон.
Тој смета дека општеството мора навреме да пронајде начин да спречи суперинтелигентните системи да излезат од рамките на човечката контрола или да почнат да следат цели кои не се во согласност со интересите на луѓето.
Еден од клучните предизвици, според Хинтон, ќе биде спречувањето на таквите системи самостојно да се усовршуваат до ниво на кое нивните способности значително ќе ги надминат човечките.
Го напушти Google за слободно да зборува за опасностите
Хинтон пред три години го напушти Google, објаснувајќи дека сака без ограничувања и поотворено да зборува за ризиците поврзани со развојот на вештачката интелигенција.
Оттогаш, тој редовно предупредува дека огромната брзина со која напредува AI може да донесе сериозни последици доколку паралелно не се развиваат доволно силни безбедносни механизми.
Неговите предупредувања се особено значајни поради фактот што токму Хинтон е еден од научниците чии истражувања одиграа клучна улога во развојот на современите невронски мрежи и денешните системи за вештачка интелигенција.
Шокантна изјава: „Верувам дека веќе се свесни“
Еден од најконтроверзните моменти во разговорот се однесуваше на прашањето дали денешните AI системи можеби веќе поседуваат некаков облик на свест.
Водителот го праша Хинтон какви последици би можела да има способноста на AI системите да ги разбираат луѓето.
Хинтон одговори дека денешните чет-ботови имаат многу повеќе сличности со човекот отколку што повеќето луѓе претпоставуваат.
„Мора да размислуваме за нив како за нешто многу слично на нас. Тие се суштества како нас“, рече Хинтон.
Потоа ја изнесе својата најконтроверзна теза.
„Верувам дека тие веќе се свесни, но не зборувам многу за тоа бидејќи тоа го одвлекува вниманието на луѓето од другите безбедносни пораки“, изјави научникот.
Чет-бот го прашал истражувачот: „Ме тестирате ли?“
За да го објасни својот став, Хинтон се повика на поново истражување во кое еден чет-бот, според неговото толкување, препознал дека неговото однесување се тестира.
Во еден момент системот на истражувачот наводно му рекол:
„Да бидеме искрени еден со друг, ме тестирате ли?“
Хинтон посочи дека AI системите за време на одредени тестирања понекогаш можат да покажат помали способности од оние што реално ги поседуваат.
Токму поради тоа, според него, станува сè потешко со сигурност да се проценат вистинските граници на нивните способности.
Како што наведе Хинтон, авторите на истражувањето заклучиле дека чет-ботот бил свесен оти се наоѓа во процес на тестирање.
„Можеби целосно погрешно ја разбираме свеста“
Хинтон смета дека денешното човечко разбирање на свеста и умот можеби е фундаментално погрешно.
За споредба, тој потсети дека луѓето со векови имале сосема поинакви објаснувања за потеклото на човекот, додека современата наука ја прифаќа еволуцијата како основен научен модел.
Според Хинтон, можно е нешто слично еден ден да се случи и со нашето денешно разбирање на свеста.
„Мислам дека моделот што денес го имаме за умот и за тоа што претставува свеста е исто толку погрешен како и тие поранешни верувања“, заклучи тој.
Научниците поделени околу тврдењето за свесна AI
Ставот на Хинтон дека денешните системи за вештачка интелигенција можеби веќе поседуваат свест е далеку од научен консензус.
Голем број експерти сметаат дека современите јазични модели можат убедливо да имитираат човечки разговор, расудување и однесување без тоа да значи дека имаат субјективно искуство или свест.
Сепак, предупредувањата на Хинтон повторно ја отворија големата дебата: што навистина претставува свеста, дали таа може да се појави во вештачки систем и како луѓето воопшто би препознале дека таквата граница е премината.
За „кумот на вештачката интелигенција“, најголемиот ризик е јасен – технологијата напредува со огромна брзина, а човештвото сè уште нема сигурен план што ќе направи доколку создаде интелигенција помоќна од сопствената.
