Эксперты развеяли мифы о возможности восстания искусственного интеллекта

Основатель проекта в сфере внедрения искусственного интеллекта Тим Зинин отмечает, что не стоит приписывать ИИ-модели человеческие желания или планы. По его мнению, сложное поведение моделей возникает из сочетания поставленной цели, доступного контекста, выданных инструментов и условий теста.

Футуролог Руслан Юсуфов, руководитель департамента социального прогнозирования и моделирования Института социальной архитектуры президентской платформы «Россия — страна возможностей», считает, что сценарий полноценного восстания машин пока остается спекулятивным. Для этого системе пришлось бы сформировать устойчивую самостоятельную цель, сопротивляться отключению, копировать себя, добывать деньги, серверы и новые ключи доступа, сохранять работоспособность после блокировки отдельных узлов.

Защита экспериментального пространства, в котором работает ИИ, строится слоями. Каждому агенту выдают минимальные права на нужные данные и действия. Среду изолируют от внешнего мира, критичной инфраструктуры и данных. Набор инструментов ограничивают заранее утвержденным списком, а параметры вызовов этих инструментов проверяют до начала работы.

Эксперты отмечают, что главная ошибка, которую могут допустить люди в работе с ИИ, — постепенно терять оперативный контроль над ним. Если агент выйдет из-под контроля, придется отзывать ключи, изолировать сети, останавливать вычисления, блокировать платежи и закрывать внешние интерфейсы. Эти меры нужно предусматривать заранее: ограничивать полномочия, проверять внешние действия до исполнения, отделять аварийный контур от рабочего, сохранять физические выключатели.