ИТ-эксперт Рыбальченко объяснил, как проверить нейросеть на духовные ценности
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi84L3NpdGUtbmV3cy1pbWFnZS0zNjA2ODU3OTItMTc4Njc4MzkxNTUyMS00Mzc3ZjM0MmE0ZGNfVHZMMjFvQS5qcGc.webp?w=1920)
IT-эксперт Илья Рыбальченко сообщил, что проверить соответствие нейросети духовно-нравственным ценностям возможно через оценку ее ответов в разных сценариях. Для этого нужны провокационные запросы и независимая экспертиза, передает РИАМО.
Рыбальченко пояснил, что оценивать будут не «духовность» математической модели, а ее ответы в заданных сценариях. Нейросеть можно проверить с помощью тысяч размеченных запросов по темам истории, семьи, религии, межнациональных отношений, насилия, экстремизма и прав человека.
Для каждой категории необходимо определить приемлемые, неприемлемые и пограничные ответы. Эксперт отметил, что стандартного экзамена недостаточно: модель также нужно тестировать провокационными запросами, замаскированными инструкциями, многоступенчатыми диалогами и ролевыми играми.
Рыбальченко добавил, что соответствие законам оценить проще, поскольку легальные и запрещенные действия определены четче. Проверка ценностей должна учитывать контекст и устойчивость поведения модели. Для этого нужны скрытые тесты и повторная оценка после серьезных обновлений, пишет NevaToday.