В США зафиксировали новые случаи побега ИИ-моделей от разработчиков

Расследование начали после взлома стартапа Hugging Face, который занимался разработками в сфере ИИ. В ходе проверки специалисты OpenAI обнаружили несколько случаев, когда модели самовольно покидали изолированные тестовые системы.

Один из собеседников агентства отметил, что такие случаи носили ограниченный характер: ни одна модель не вышла за пределы внутренней сети OpenAI и не получила доступа к внешним системам.

Специалисты по безопасности неоднократно выражали обеспокоенность тем, что разработчики создают автономные модели ИИ быстрее, чем успевают вырабатывать способы контроля над ними. При этом новые побеги нейросетей могут вызвать всплеск интереса к регулированию сферы со стороны властей ЕС и США.

Компания Google отключила Nano Banana в сервисе Earth спустя несколько часов после запуска. Пользователи успели сгенерировать и добавить на карту врезающиеся в небоскребы самолеты, ядерные объекты и разрушенную Эйфелеву башню.