Ученый Галичин назвал низкую гибкость данных ключевой проблемой в системах ИИ
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNS85LzE1MjYwNDYyMzEtMC0xNTYtMTUwMS0xMDAwLTE5MjB4MTA4MC04MC0wLTAtYTg3YTkxZWY0Y2FhNDZlZmYxNmIxNjAyNzVmOWM0YTlfR21KVDJFOS5qcGc.webp?w=1920)
Современные системы искусственного интеллекта строятся на обработке больших объемов данных, и качество этих данных непосредственно влияет на точность и надежность работы алгоритмов. Научный сотрудник группы «Доверенные и безопасные интеллектуальные системы» Института AIRI и исследователь лаборатории Safe AI Lab AIRI-МТУСИ Андрей Галичин в беседе с Ferra.ru описал проблемы, возникающие при использовании устаревших или фрагментарных данных.
Одной из ключевых проблем, возникающих в системах ИИ, является низкая гибкость данных. Разрозненное хранилище информации препятствует быстрому доступу к актуальной и точной информации, необходимой для принятия обоснованных решений. В результате этого возникают ошибки в выдаче рекомендаций и принятии решений, что отражается на таких областях, как кредитование, страхование и медицинская диагностика.
Неполные или устаревшие данные приводят к тому, что системы ИИ формируют ложные шаблоны, воспроизводя стереотипы и дискриминационные модели прошлых эпох. Это может проявляться в банковских продуктах, страховании и здравоохранении, делая решения предвзятыми и несправедливыми.
Другая проблема заключается в децентрализованном хранении данных, что приводит к невозможности централизованно отслеживать и анализировать потоки информации. Недостаточность контроля над качеством данных создает риски в маркетинговых кампаниях, снижает качество обслуживания клиентов и приводит к возникновению неверных коммуникаций.
Этические аспекты использования персональных данных также поднимаются в исследовании. Излишняя персонализация ИИ может создавать когнитивное искажение, поскольку пользователям предоставляется лишь та информация, которая соответствует их собственным убеждениям и взглядам. Необходимо найти компромисс между точностью и объективностью данных, давая пользователям возможность регулировать степень персонализации в критических ситуациях.