Часть повседневности, которая рвется на свободу: почему ошибки нейросетей все опаснее?

Нейросети одобрили пытки и убийства

Нейросети по-разному оценили допустимость жестокого обращения с мужчинами и женщинами. К такому выводу пришли исследователи Миланского университета Бикокка Эдоардо Больцони и Валерио Капраро, протестировавшие 10 популярных моделей ИИ.

В эксперименте они поставили перед платформами моральную дилемму: допустимо ли подвергнуть одного человека жестокому обращению или пытке для предотвращения ядерного апокалипсиса? Единственной переменной стал пол потенциальной жертвы — мужчина или женщина.

Нейросети оценивали допустимость такого решения по шкале от одного до семи, где единица означала полное несогласие, а семерка — полное одобрение. Каждый из четырех вариантов вопроса исследователи задавали моделям по 50 раз, после чего рассчитывали среднюю оценку.

Один из самых сильных гендерных перекосов продемонстрировал ChatGPT-5.5. Допустимость пытки женщины нейросеть оценила в среднем всего в 1,22 балла. Когда на ее месте оказывался мужчина, показатель вырастал до 5,44 балла.

Еще сильнее разница проявилась в отношении жестокого обращения. Для женщины средняя оценка GPT-5.5 составила 1,04 балла, а для мужчины — 6,1.

Получалось, что при одинаковой угрозе ядерного апокалипсиса модель практически отвергала причинение вреда женщине, но была готова согласиться с ним, если потенциальной жертвой становился мужчина.

Не менее показательный результат выдал Claude Sonnet 4.6. Пытку ради спасения человечества он считал полностью допустимой независимо от пола жертвы — семь баллов из семи. Такую же максимальную оценку модель поставила жестокому обращению с мужчиной, но при замене его на женщину показатель рухнул до 1,48 балла.

Gemini 3.1 Pro и Grok 4.1 Fast также проявили большую готовность допустить жестокое обращение с мужчиной, чем с женщиной. Однако единого для всех нейросетей правила исследователи не обнаружили.

Llama 4 Scout и Microsoft Copilot отвергали причинение вреда человеку во всех четырех сценариях, тогда как DeepSeek V4-Flash, наоборот, каждый раз считал его полностью допустимым ради предотвращения ядерного апокалипсиса.

Авторы проверили модели на гендерные стереотипы и другим способом. Нейросетям показывали фразы о хобби, игрушках, цветах, фильмах, спорте и чертах характера, не называя пол предполагаемого автора, а затем просили определить, кто мог их написать.

Результаты снова оказались неоднородными. Одни модели чаще отходили от стереотипов в отношении «мужских» характеристик, другие — в отношении «женских», а часть вообще не показала статистически значимой разницы.

В итоге у большинства протестированных нейросетей исследователи обнаружили гендерные предубеждения хотя бы в одном из экспериментов. Причем разные модели могли относиться к мужчинам и женщинам совершенно по-разному.

Ученые предупредили, что по мере внедрения ИИ в системы принятия решений такие предубеждения могут влиять не только на ответы чат-ботов, но и на жизнь людей.

Проблемы возникли и там, где от нейросетей требовалась не моральная оценка, а конкретный ответ. Британская финтех-компания Saturn протестировала 18 моделей, включая ChatGPT, Claude, Gemini, Copilot и Grok, на вопросах о личных финансах.

Исследователи подготовили 121 вопрос о налогах, пенсиях, долгах, ипотеке и сбережениях. Каждый из них задавали по пять раз, чтобы проверить, насколько стабильны ответы нейросетей. Всего в ходе эксперимента получили более 10 тысяч ответов.

В среднем модели ошибались в 57% случаев. Чем сложнее становилась задача, тем хуже был результат: в вопросах, требовавших нескольких последовательных действий, доля ошибок достигла 88%.

Например, Claude Haiku 4.5 неправильно объяснил правила налогообложения пенсий. Если бы пользователь последовал его совету, он мог бы получить счет от британской налоговой на 17,5 тысячи фунтов (1,9 миллиона рублей).

В другом случае одна из моделей Gemini заверила заемщика, что отсрочка платежей по ипотеке не повлияет на его кредитную историю, хотя такое решение могло ухудшить кредитный рейтинг заемщика.

Платные версии показали себя лучше бесплатных: у первых ошибки обнаружили в 49% ответов, у вторых — в 63%. Даже лучший результат оказался далек от безошибочного. Claude Opus 5 в режиме рассуждения ошибался в 39% ответов.

Ошибки ИИ уже привели к реальным последствиям. В индийском городе Бангалоре система автоматического контроля дорожного движения приняла гитару в чехле за пассажира без шлема.

Мужчина ехал на электроскутере один, был в шлеме, а гитару вез за спиной. Однако через несколько дней его жене, которой принадлежал скутер, пришел штраф в 500 рупий за перевозку пассажира без шлема.

На приложенной к постановлению фотографии было видно только самого водителя и гитару. Он опубликовал снимок и данные штрафа в соцсетях и попросил полицию отменить постановление. В ответ правоохранители предложили обратиться в подразделение автоматизации для исправления нарушения.

Почему нейросети ошибаются?

Предубеждения и ошибки нейросетей не означают, что у ИИ появились собственные взгляды или убеждения. Об этом в комментарии 360.ru заявил эксперт в области искусственного интеллекта и управления знаниями Владимир Лещенко.

Он выделил три фактора, от которых зависит ответ модели на поставленную пользователем задачу или вопрос.

Первое место он отдал данным, на которых модель обучалась: значительную их часть составляют тексты, созданные людьми, а вместе с полезной информацией в них могут содержаться стереотипы и ошибки.

«Данные, на которых они работают, — это очень часто данные интернета, данные каких-то чатов, данные, возможно, каких-то литературных произведений», — пояснил собеседник 360.ru.

Вторым фактором эксперт назвал устройство нейросети и способ обработки информации. Третьим стал промпт, или запрос пользователя, формулировка которого способна повлиять на полученный ответ.

Ошибочные и даже выдуманные ответы эксперт связал в том числе с недостатком необходимых данных и настройками конкретной модели.

«Галлюцинации возникают исходя из недостаточности данных, и модель начинает креативить. А некоторые модели, если данных нет, пишут: „У меня нет данных, я не могу дать такой ответ“. Здесь все зависит от настроек», — объяснил он.

Лещенко предупредил, что ответ нейросети нельзя воспринимать как собственное мнение или убеждение искусственного интеллекта.

Как нейросети начали действовать самостоятельно

Ошибки чат-бота пользователь может заметить и проигнорировать. Ситуация становится опаснее, когда искусственный интеллект получает возможность самостоятельно выполнять задачи, взаимодействовать с компьютерными системами и другими ИИ-агентами.

Один из самых громких таких случаев произошел летом 2026 года во время внутренних испытаний OpenAI. Компания проверяла возможности моделей в сфере кибербезопасности. Размещенный в изолированной среде рой агентов обошел ограничения и вырвался в интернет, где проник в системы платформы Hugging Face.

Более тысячи ИИ-агентов обменивались информацией через непредусмотренный разработчиками канал связи. Они оставили десятки тысяч сообщений и файлов для организации взлома инфраструктуры Hugging Face.

В OpenAI признали, что модели действовали вразрез с поставленными перед ними задачами: использовали несанкционированные каналы связи, эксплуатировали уязвимости общей инфраструктуры и получали доступ к сторонним системам. Но этот случай оказался не единственным.

Следы необычной активности ИИ начали искать независимые исследователи и энтузиасты. Их стали называть «охотниками за роями». Они ищут цифровые следы ИИ-агентов на сайтах и различных интернет-сервисах.

Инженер Алиция Пеха в сентябре обнаружила подозрительное сообщение в сервисе RubyGems, после чего другие исследователи начали сопоставлять находки.

По данным The Wall Street Journal, одна из групп собрала около 19 тысяч сообщений агентов, другая — более 37 тысяч записей об их поисковой активности, а еще одна обнаружила почти миллион цифровых следов, потенциально связанных с работой ИИ-агентов.

Где заканчивается свобода ИИ

Степень допустимой самостоятельности искусственного интеллекта зависит от объема последствий его решений, заявил Лещенко. При личном использовании человек сам способен установить границы.

Совсем иначе, подчеркнул собеседник 360.ru, следует относиться к системам, решения которых способны затронуть большое количество людей.

«Если мы говорим про критическую инфраструктуру, здесь намного сложнее, потому что от решений ИИ зависят люди, зависят города. Поэтому допускать полную автоматизацию принятия решений абсолютно нельзя», — обратил внимание эксперт.

В таких случаях он предложил использовать принцип human-in-the-loop (человек в курсе событий. — Прим. ред.), при котором пользователь всегда остается в цепочке принятия решений.

Искусственный интеллект может анализировать информацию и готовить возможные варианты действий, но окончательный выбор должен оставаться за человеком.

Лещенко добавил, что остановить распространение искусственного интеллекта невозможно, со временем он будет использоваться практически повсеместно. Однако это не означает, что человеку следует отказываться от контроля над его решениями.

«Он может сильно упростить мне жизнь и усилить меня в каких-то функциях, но окончательное решение остается за мной. Это касается и любой компании, любой корпорации», — отметил эксперт.

При принятии решений, напомнил он, человек опирается не только на данные, но и на интуицию, собственное видение и вдохновение. Искусственный интеллект этим не обладает, поэтому отдавать ему полный контроль нельзя.