Эксперты предупредили о рисках потери контроля над ИИ к 2030 году
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi85L3NpdGUtbmV3cy1pbWFnZS0yMDI2LTA5LTA5dDEyMTcwMzI3NF9OVERkWmlOLmpwZw.webp?w=1920)
К 2030 году нейросети планируют внедрить во все ключевые сферы — от экономики до медицины. Однако отсутствие научного консенсуса о безопасности сверхинтеллекта грозит человечеству вымиранием, предупредил нобелевский лауреат Джеффри Хинтон. Главный вызов эпохи — сохранение контроля над машиной, сообщил MIR24.TV.
Российский ученый Сергей Гатауллин уточнил, что человечество не может контролировать то, что не умеет измерять. В науке нет строгого математического определения интеллекта, поэтому системы оценивают лишь по результатам тестов (бенчмарков). При этом бизнес жертвует безопасностью ради скорости релиза.
С точки зрения кибербезопасности главная угроза — снижение порога входа в преступления. Руководитель направления ИБ Антон Кочетков отметил, что нейросети позволяют новичкам проводить сложные атаки и обрабатывать множество целей параллельно.
Вероятность ошибки агента растет с каждым шагом цепочки задач: при точности шага в 99% вероятность безошибочно пройти сто этапов составит всего около 37%. Эксперт подчеркнул, что автономный ИИ никогда не должен оставаться без контроля человека на критических точках.
Аналитики сходятся во мнении: сценарий «бунта машин» пока остается гипотезой. Реалистичнее выглядит постепенная перестройка цифровой экономики под эгидой российской Национальной стратегии развития ИИ до 2030 года. Главная задача ближайших лет — проектировать правила использования технологий так, чтобы рост их возможностей не означал потерю управляемости.