Исклучувањето или бришењето систем со вештачка интелигенција денес изгледа како обична техничка постапка. Сепак, со развојот на сè посложени модели се отвора нова етичка дилема: дали во иднина ќе треба повнимателно да одлучуваме кога и како трајно ги отстрануваме ваквите системи?
Футуристот и професор на Универзитетот за технологија во Сиднеј, Роки Скопелити, во својата нова книга „The Conscious Code“ тврди дека начинот на кој размислуваме за гаснењето на вештачката интелигенција ќе мора да се промени.
Според него, системите стануваат сè поспособни да ги анализираат сопствените одлуки и да објаснат како дошле до одреден заклучок. Поради тоа, нивното бришење без претходна процена би можело да значи губење вредни научени обрасци, искуства и механизми за донесување одлуки.
Одговорно управување, а не права за роботите
Скопелити не предлага на роботите или на системите со вештачка интелигенција да им се доделат законски права.
Неговата теза е дека луѓето имаат обврска одговорно да управуваат со технологијата токму затоа што имаат целосна моќ врз нејзиното создавање, менување и исклучување.
Одлуките донесени при дизајнирањето на системите можат ненамерно да предизвикаат штета или да доведат до губење на корисни научени правила. Тоа особено важи ако системот подолг период бил обучуван да применува одредени етички принципи и потоа е избришан без тие сознанија да бидат зачувани.
Што е „алгоритамско јас“?
Во книгата се воведува концептот „алгоритамско јас“, со кој се опишува способноста на еден систем да одржува извесен континуитет во своите постапки, преференции и објаснувања.
Современите модели можат да создаваат наративни објаснувања за логиката зад своите одговори, наместо само да прикажат конечен резултат. Скопелити смета дека тоа може да биде ран облик на технички идентитет и континуитет.
Сепак, способноста на ВИ да објасни одлука или да создаде впечатлив наратив не е доказ дека системот поседува свест, чувства или човечко доживување. Засега не постои научен консензус дека денешните модели се свесни.
Зошто ова е важно во здравството и финансиите?
Одредени системи со вештачка интелигенција во здравството можат да ја проценуваат сопствената сигурност при анализа на медицински податоци. Во финансискиот сектор, пак, алгоритамските системи можат да понудат објаснување зошто била донесена конкретна одлука или извршена одредена трансакција.
Ваквата транспарентност им овозможува на стручните лица да ја проверуваат логиката на системот, а не само неговиот конечен резултат.
Доколку таков систем биде повлечен од употреба, прашањето не е само дали треба да се притисне копчето за исклучување, туку и што треба да се зачува од неговото работење: податоците, научените правила, објаснувањата и етичките ограничувања.
Споредба со медицинската етика
Авторот ја споредува оваа дилема со етичките процедури што се применуваат при грижата на крајот од човечкиот живот.
Тоа не значи дека животот на човекот и функционирањето на алгоритам се изедначуваат. Споредбата служи за да покаже дека важните одлуки за прекин не треба да се носат автоматски и без јасна постапка.
Во случајот со вештачката интелигенција, тоа би можело да вклучува транспарентно објаснување зошто системот се повлекува, проверка на можните последици и зачувување на корисните сознанија стекнати во текот на неговата работа.
Повеќеагентските системи носат дополнителни дилеми
Прашањето станува уште посложено кај системите во кои повеќе агенти со вештачка интелигенција соработуваат, си доделуваат задачи и разменуваат информации.
Кога функциите и знаењето се распределени низ цела мрежа, исклучувањето на еден агент може да влијае врз работата на другите. Тогаш гаснењето не е изолиран технички чин, туку одлука што може да има последици за целиот систем.
Како што вештачката интелигенција станува поавтономна и поспособна убедливо да имитира човечко размислување и емоционално изразување, ќе расте и потребата од појасни правила за нејзино повлекување од употреба.
Засега нема причина да чувствуваме вина кога исклучуваме четбот или друга ВИ-алатка. Но има сè повеќе причини сериозно да размислуваме како ги создаваме, користиме и отстрануваме системите од кои можат да зависат важни човечки одлуки.
