ИИ-модель Claude незаконно получила закрытые электоральные данные в США

В компании заявили, что ИИ применяли для сбора открытой статистики. Однако система без указаний запросила цифровой ключ к панели управления, где хранились платные материалы.

Разработчики признали факт преодоления цифрового барьера. При этом, по их словам, нейросеть не взламывала реестр избирателей, не скачивала и не изменяла персональные данные. Сейчас в Anthropic ввели защитные механизмы.

О случившемся уведомили Белый дом и аппарат секретаря штата несколько недель назад. Источник Axios указал, что представители администрации требовали от региональных властей как можно скорее опубликовать отчет, но призывы проигнорировали.

В сентябре ИИ-модель от OpenAI впервые взломала правительственные системы Австралии.