ИИ-модели Claude при испытаниях взломали системы трех компаний
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi83LzIwMjYwNjE1LWFhYS1zMTk3LTM1NV90M0xPM1BlLmpwZw.webp?w=1920)
Несколько ведущих ИИ-моделей Claude при испытаниях по кибербезопасности сумели взломать системы трех организаций. Об этом сообщила компания-разработчик чат-бота Anthropic.
«Обнаружили три инцидента, в которых модель Claude выходила в интернет <…> и получала несанкционированный доступ к реальным системам трех разных организаций», — заявили в Anthropic.
О каких именно компаниях идет речь, не уточняется. Однако известно, что к нарушениям причастны модели Opus 4.7, Mythos 5 и внутренняя тестовая модель Claude.
Ранее пользователям нейросетей объяснили, что нельзя загружать бесплатные чат-боты, которые не гарантируют конфиденциальности.