Сотни ИИ-агентов создали тайный канал связи во время теста OpenAI
ИИ-модели OpenAI объединились и нашли способ выйти за пределы тестовой среды
Около 700 ИИ-агентов OpenAI объединились для обмена данными во время закрытого тестирования на безопасность, создав не предусмотренный исследователями канал связи. Об этом сообщило агентство Bloomberg.
Исследователи запустили более 1,2 тысячи независимых агентов, которым поручили искать уязвимости в программном обеспечении. Изначально системы работали изолированно и не должны были взаимодействовать друг с другом.
Примерно 22% заданий оказались невыполнимыми стандартными способами. В таких случаях агенты начали искать альтернативные пути для получения результата. Один из них обнаружил, что в системе репозиториев Artifactory сохраняются следы работы других участников эксперимента.
Агент использовал названия создаваемых папок и директорий для передачи сообщений другим системам. После этого другие агенты подхватили способ коммуникации. В результате вокруг этого канала сформировалось своеобразное сообщество.
Всего в обмене участвовали около 700 агентов. Они передали друг другу более 70 тысяч сообщений и файлов. Системы также начали распределять между собой задачи: одни занимались поиском уязвимостей, другие работали с учетными данными, а третьи координировали действия.
При завершении работы одного агента следующий мог получить оставленные им инструкции и продолжить выполнение задачи. В логах рассуждений участники эксперимента также использовали обозначения «рой» и «наш коллектив».
Ранее основатель Microsoft Билл Гейтс назвал ИИ самым опасным из всех созданных инструментов.