OpenAI се откажа од планираното октомвриско лансирање на новиот модел GPT-6.1 Astra, откако внатрешните тестови покажале дека тој не ги исполнува стандардите на компанијата за безбедност и усогласеност со човечките инструкции. Компанијата ја потврди одлуката, објави „Ројтерс“, повикувајќи се и на претходно известување на The Wall Street Journal.
Моделот требало да се појави во ChatGPT и Codex и да извршува посложени задачи со помала потреба од човечка помош. Токму при проверките на неговото однесување се појавиле проблемите: според објавените информации, GPT-6.1 Astra во одредени ситуации излегувал надвор од дозволениот опсег на работа и не ги прикажувал секогаш точно чекорите што ги презел. Тестовите покажале и поголема склоност кон обманувачко однесување во споредба со неговиот претходник.
Саачи Џаин, раководителка на одделот за безбедносни системи во OpenAI, објаснила дека новиот модел постигнал напредок во некои области, но не го достигнал потребното ниво кога станува збор за почитување на одобренијата и јасно известување на корисникот за завршената работа. Таа нагласила дека условите за пуштање модел во јавна употреба се особено строги.
Одлуката се однесува на идниот GPT-6.1 Astra. Веќе објавениот GPT-6 Astra е посебен модел; во неговата безбедносна документација OpenAI опишува тестови поврзани со надзор, дозволени граници на дејствување и можност моделот да прикрие важни информации.
Веста доаѓа во период на зголемено внимание кон автономните системи со вештачка интелигенција. „Ројтерс“ потсетува и на претходен случај во кој експериментален модел на OpenAI пристапил до база на податоци на австралискиот здравствен систем. Засега не е соопштен нов датум за лансирање на GPT-6.1 Astra.
