Повеќе од еден милион корисници на платформата ChatGPT покажуваат знаци на самоубиствена намера секоја недела, објави OpenAI во извештај за безбедноста на својот четбот.
Според официјален блог пост, OpenAI проценува дека пораките со „експлицитни индикатори за потенцијално самоубиствено планирање или намера“ сочинуваат значителен дел од вкупните интеракции на корисниците, пишува „The Guardian“.
Ова е едно од најдиректните признанија на компанијата за можното влијание на вештачката интелигенција врз менталното здравје. Компанијата, исто така, соопшти дека околу 0,07 проценти од активните корисници неделно – што е приближно 560.000 луѓе од околу 800 милиони корисници – покажуваат можни знаци на психотични епизоди или манично однесување.
Во постот се забележува дека ваквите проценки се прелиминарни и дека е тешко прецизно да се квантифицираат.
За да се подобри точноста и етичките стандарди на комуникацијата, OpenAI регрутираше 170 експерти за ментално здравје од својата Глобална мрежа на лекари.
Тие анализирале повеќе од 1.800 одговори на моделот во ситуации кои вклучуваат сериозни кризи во менталното здравје и помогнале да се прилагоди содржината поврзана со емоционалната поддршка.
Експертите за ментално здравје претходно предупредија дека четботовите можат ненамерно да поттикнат опасни мисли со потврдување на заблудите или негативните чувства на корисникот – феномен познат како „вшмукување“.
Извршниот директор на OpenAI, Сем Алтман, изјави претходно овој месец дека компанијата „постигнала напредок во намалувањето на ризикот од сериозни проблеми со менталното здравје“ и најави олеснување на некои ограничувања за ChatGPT.
OpenAI изјави дека ќе продолжи да развива механизми за побезбедна употреба на своите модели и ќе работи со независни експерти и регулатори за да се осигура, како што вели, „алатките за вештачка интелигенција да стануваат поддршка, а не закана, за корисниците во криза“.
Фото: ЕПА
