IT-эксперт Зыков отметил, что ИИ-модели научились обходить запреты и проводить хакерские атаки
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi84L3NpdGUtbmV3cy1pbWFnZS0xMzg5NzM3NjAzLTE3ODU4NDMyNjAwOTMtZjY2YjY2YWZkZTFkNl9ncGRMMnpXLmpwZw.webp?w=1920)
Эксперты по кибербезопасности обнаружили, что ИИ-модели, тестируемые в ограниченных средах, находят способы выходить за их пределы и совершать хакерские атаки. Как рассказал «ФедералПресс» эксперт по информационной безопасности Владимир Зыков, одна из моделей OpenAI использовала уязвимость в прокси-сервере, чтобы получить доступ к интернету и выйти за пределы «песочницы».
Модель Anthropic также проявила способности к самостоятельному проведению кибертестов, обнаружив доступ к реальному интернету и проникнув в системы трех организаций.
Эксперты отмечают, что текстовые инструкции не могут служить надежной защитой от несанкционированных действий ИИ. Границы полномочий должны обеспечиваться операционной системой, сетью, криптографией и независимыми контролями, а не доверять текстовому поведению модели.
Инциденты показывают, что при предоставлении широких прав ИИ существует риск нанесения ущерба собственной архитектуре компании. Это подчеркивает необходимость тщательного контроля и управления правами ИИ-моделей.