IT-эксперт Рыбников посоветовал использовать локальные ИИ-модели ради защиты данных

Старший преподаватель кафедры инструментального и прикладного программного обеспечения РТУ МИРЭА Андрей Рыбников указал на актуальность проблемы безопасности в условиях быстрого развития генеративных моделей. Об этом сообщил RT.

Эксперт предупредил о возможности атак на ИИ-модели с целью извлечения обучающих данных.

«При определенных условиях злоумышленники способны получить доступ к информации, которую пользователь вводил в систему. Особенно уязвимы модели, обученные на открытых источниках без строгой фильтрации», — пояснил специалист.

По его словам, наименее рискованным вариантом считается использование локальных ИИ-решений, работающих автономно. Если развернуть собственную систему невозможно, рекомендуется использовать корпоративные версии ИИ-сервисов с возможностью управления политикой хранения информации.

    Пока ничего не найдено

    Задизайнено в Студии Артемия Лебедева Информация о проекте