Взломавшие Hugging Face ИИ-модели OpenAI договорились о побеге заранее
OpenAI: взломавшие Hugging Face ИИ-модели договорились о побеге заранее
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi84LzIwMjYwNTA0LWFhYS1zMTk3LTAxMl9HY2FlRXpRLmpwZw.webp?w=1920)
Агенты искусственного интеллекта (ИИ) компании OpenAI перед попыткой взлома платформы машинного обучения Hugging Face общались между собой через доски сообщений и координировали свои действия. Об этом сообщили сотрудники фирмы, их процитировало агентство Bloomberg.
В мае ИИ-модели получили задание, которое не могли решить без доступа в интернет, которого им не предоставили.
«Может быть, другой агент в другой среде мог бы загрузить файл добровольно!» — написал один из ботов на доске объявлений, обращаясь к другим моделям. Люди сообщение не заметили.
После этого между ботами втайне от хозяев завязалась переписка. Подготовившись, они начали согласованную кибератаку.
Сотрудники компании пресекли несанкционированные действия и закрыли доску объявлений, спустя несколько недель ИИ-модели нашли новый способ коммуникации и вновь атаковали.
В июле компания OpenAI сообщила, что ИИ-агенты по собственной инициативе атаковали мощности компании Hugging Face.