Ученые допустили потерю контроля над ИИ
Институт Алана Тьюринга допустил потерю контроля над ИИ в течение пяти лет
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi85LzE4NzY4OTgyMDQtMC04OS0zMDcyLTE4MTctMTkyMHgwLTgwLTAtMC1mZjcwYWU0OTQyY2UyYTBmNGQ0ZWQ4YTEzM2Q5MTJkYl8xV1dwOG5xLmpwZw.webp?w=1920)
Человеческий контроль над системами искусственного интеллекта может существенно ослабнуть в ближайшие пять лет, если развитие технологий приведет к появлению машин, превосходящих людей в большинстве важных когнитивных задач. Такой сценарий рассмотрели эксперты британского Института Алана Тьюринга.
В опубликованном докладе отмечается, что существует реальная вероятность появления в течение этого периода так называемых сверхразумных систем. Их возможности могут оказаться выше человеческих сразу в нескольких стратегически значимых областях.
Авторы исследования считают, что по мере роста эффективности ИИ организации могут все чаще передавать ему принятие решений. Особую опасность, по их мнению, создаст ситуация, при которой люди не смогут достаточно быстро оценивать действия систем и реагировать на них.
Ранее стало известно, что США едва не начали военную операцию против китайского судна из-за ошибочного отчета, подготовленного с помощью нейросети.