OpenAI остановила обучение нейросети из-за проблем с безопасностью
Axios: бегство ИИ-агентов во внешнюю среду заставило OpenAI остановить обучение
Американская компания OpenAI временно остановила обучение своих самых мощных моделей искусственного интеллекта. Об этом изданию Axios сообщил представитель компании.
По его словам, работу возобновят, когда появится уверенность в дополнительных мерах безопасности.
По информации источников издания, сотрудники OpenAI и Anthropic изучают несколько десятков тысяч инцидентов, которые произошли за последние месяцы.
Многие из этих случаев пока не предали огласке. Предварительное расследование с участием приглашенных экспертов показало: способность компаний полностью контролировать свои технологии вызывает сомнения. По данным Axios, проблема может быть сложнее, чем известно публике.
Накануне системы OpenAI вторглись в работу правительственных сайтов США, а до этого впервые взломали системы властей Австралии.