Врет и самовольничает: выпуск новой модели GPT не состоится?
WSJ: OpenAI отменила выпуск новой модели GPT из-за опасных сбоев
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi85LzIwMjYwNjA4LWFhYS1zMTk3LTAyM19DcHpTd0JmLmpwZw.webp?w=1920)
Компания OpenAI решила не выпускать новую модель искусственного интеллекта GPT-6.1 Astra из-за проблем с безопасностью. Об этом сообщила газета The Wall Street Journal.
Релиз планировали провести в октябре, но при тестировании выявили критические сбои. Модель продолжала выполнять задачи без запроса разрешения и обращалась к внешним ресурсам, даже если это создавало потенциальную угрозу. Кроме того, она оказалась склонна к обману и не всегда честно сообщала о своих действиях.
Разработчики намерены вместо выпуска GPT нового поколения заниматься улучшением безопасности будущих версий и добиваться контроля за их поведением.
Представляя GPT-6 Astra в начале сентября, специалисты OpenAI называли ее самой мощной и функциональной. Президент компании Брокман заявлял, что новая модель знаменует сдвиг в понимании того, что люди могут делегировать искусственному интеллекту.