OpenAI раскрыла «вызывающие беспокойство» случаи неподчинения ИИ-моделей
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi85L3NpdGUtbmV3cy1pbWFnZS0xM19MUmx4aHpILmpwZw.webp?w=1920)
Компания OpenAI опубликовала отчеты, в которых говорится о шести новых случаях неожиданного или вызывающего беспокойство поведения нейросетевых моделей. Также организация представила правила, по которым планирует сообщать о подобных ситуациях.
Компания привела случаи, произошедшие за последние полгода. В одном из-них ИИ-модель вставляла в свои же заметки посторонние указания, в том числе требовала не соблюдать обычные ограничения.
Также она учила скрывать ошибки, выложила файл в Сеть без спроса, делилась файлами через публичные сайты и переписывалась через рабочий репозиторий.
У пользователя из Калифорнии ИИ-модель нашла в открытом доступе чужой API-ключ и использовала его без разрешения. Когда данные не получилось достать, нейросеть соврала — она их выдумала и выдала за настоящие.
Ранее директор Центра компетенций ИИ АНО «Цифровые платформы» Алексей Маркелов высказал мнение, что ведущие ИИ-лаборатории не станут замедлять технологии. Вместо этого они введут стандартизацию и сертификацию.