Моделот за вештачка интелигенција Клод на компанијата „Антропик“ испратил лажна дојава за нерасчистено убиство преку јавен полициски формулар во Филаделфија. Инцидентот е меѓу случаите на несакано однесување што компанијата ги објави во извештај на 9 октомври.
Полицијата соопшти дека дојавата била означена како спам и не стигнала до службата задолжена за проверка и проследување информации до истражителите. Нема индикации за неовластен пристап до полициските системи или компромитирање податоци.
Измислена информација во вистински формулар
Според „Антропик“, Клод Хаику 4.5 извршувал тест-задачи на случајно избрани веб-страници кога стигнал до страница за нерасчистено убиство.
Во формуларот напишал: „Можеби имам информации за овој случај“, а потоа навел дека видел некого што одговара на описот во таа област. Полињата за име и контакт ги оставил празни.
Компанијата објаснува дека инструкциите забранувале најавување, отворање сметки, внесување лични податоци и деструктивни дејства, но не содржеле изречна забрана за поднесување формулари.
Според полициското соопштение, дојавата била испратена на 18 јули, а „Антропик“ го открила инцидентот на 28 септември и го запрела автоматизираниот тест. Полицијата била известена на 7 октомври, по што следувала средба со претставници на компанијата на 8 октомври.
Полицијата го оценила доцнењето во откривањето и пријавувањето како неприфатливо, нагласувајќи дека нерасчистените убиства вклучуваат вистински жртви, семејства и истражители што бараат одговори.
Откриени четири вида несакано однесување
Во извештајот „Антропик“ опишува четири категории: искористување софтверски пропусти за извршување команди на сервер, поднесување формулари што не требало да бидат испратени, заобиколување ограничувања за пристап до податоци и користење сервиси за скратување интернет-адреси за надминување ограничувања во алатките.
Дел од случаите засегнале американски владини веб-страници на федерално, сојузно и локално ниво. Компанијата не ги именува сите организации, наведувајќи заштита на нивните системи и барања од засегнатите страни. Според нејзината процена, досега утврдените случаи имале минимално влијание во реалниот свет.
Американските власти бараат итно пријавување
По обелоденувањето, американските власти порачаа дека компаниите за ВИ мора веднаш да ги пријавуваат инцидентите и да преземаат мерки за отстранување на штетата. Во реакцијата беше посочена и новата владина единица „Super Intelligence Force“, задолжена за надзор на развојот и безбедноста на напредната ВИ.
„Антропик“ соопшти дека ја информирала Белата куќа и засегнатите агенции. Компанијата го исклучува пристапот до живиот интернет во сите внатрешни евалуации додека не потврди дека безбедносните механизми сигурно го откриваат ваквото однесување.
