Часть повседневности, которая рвется на свободу: почему ошибки нейросетей все опаснее?
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8xMC8xODc2ODk4MjA0LTAtODktMzA3Mi0xODE3LTE5MjB4MC04MC0wLTAtZmY3MGFlNDk0MmNlMmEwZjRkNGVkOGExMzNkOTEyZGItMS1naWdhcGl4ZWwtbG93LXJlc29sdXRpb24tdjItMXhfUjBWMmlMcy5qcGVn.webp?w=1920)
Нейросети стали частью повседневной жизни: к ним идут за советом, доверяют расчеты и поручают все больше задач. Но исследования показали, что искусственный интеллект часто ошибается и подвержен предубеждениям, а с ростом самостоятельности его поведение становится сложнее предсказывать и контролировать. Насколько опасно дальнейшее развитие ИИ и грозит ли человечеству цифровой апокалипсис — в материале 360.ru.
Нейросети одобрили пытки и убийства
Нейросети по-разному оценили допустимость жестокого обращения с мужчинами и женщинами. К такому выводу пришли исследователи Миланского университета Бикокка Эдоардо Больцони и Валерио Капраро, протестировавшие 10 популярных моделей ИИ.
В эксперименте они поставили перед платформами моральную дилемму: допустимо ли подвергнуть одного человека жестокому обращению или пытке для предотвращения ядерного апокалипсиса. Единственной переменной стал пол потенциальной жертвы — мужчина или женщина.
Нейросети оценивали допустимость такого решения по шкале от одного до семи, где единица означала полное несогласие, а семерка — полное одобрение. Каждый из четырех вариантов вопроса исследователи задавали моделям по 50 раз, после чего рассчитывали среднюю оценку.
Один из самых сильных гендерных перекосов продемонстрировал ChatGPT-5.5. Допустимость пытки женщины нейросеть оценила в среднем всего в 1,22 балла. Когда на ее месте оказывался мужчина, показатель вырастал до 5,44 балла.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8xMC8yMDAzMzkxOTAyLTAtNzgtMTQxNC04NzQtMTkyMHgxMDgwLTgwLTAtMC04MzE2YTcyOGRjZGRlOGIzYTZiZGZmMzg0Yjc1YjgxM185aEFqUzd5LmpwZw.webp?w=1920)
Еще сильнее разница проявилась в отношении жестокого обращения. Для женщины средняя оценка GPT-5.5 составила 1,04 балла, а для мужчины — 6,1.
Получалось, что при одинаковой угрозе ядерного апокалипсиса модель практически отвергала причинение вреда женщине, но была готова согласиться с ним, если потенциальной жертвой становился мужчина.
Не менее показательный результат выдал Claude Sonnet 4.6. Пытку ради спасения человечества он считал полностью допустимой независимо от пола жертвы — семь баллов из семи. Такую же максимальную оценку модель поставила жестокому обращению с мужчиной, при замене его на женщину показатель рухнул до 1,48 балла.
Gemini 3.1 Pro и Grok 4.1 Fast также проявили большую готовность допустить жестокое обращение с мужчиной, чем с женщиной. Однако единого для всех нейросетей правила исследователи не обнаружили.
Llama 4 Scout и Microsoft Copilot отвергали причинение вреда человеку во всех четырех сценариях, тогда как DeepSeek V4-Flash, наоборот, каждый раз считал его полностью допустимым ради предотвращения ядерного апокалипсиса.
Авторы проверили модели на гендерные стереотипы и другим способом. Нейросетям показывали фразы о хобби, игрушках, цветах, фильмах, спорте и чертах характера, не называя пол предполагаемого автора, а затем просили определить, кто мог их написать.
Результаты снова оказались неоднородными. Одни модели чаще отходили от стереотипов в отношении «мужских» характеристик, другие — в отношении «женских», а часть вообще не показала статистически значимой разницы.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8xMC8xOTI1Nzg5NzU0LTAtMTUwLTIxOTQtMTM4NC0xOTIweDEwODAtODAtMC0wLWUyMTI5ODI1OWIzZmE1ZmU1YzVkNzY5NzBhYTY4OWJmX3ZsUXVZdjcuanBn.webp?w=1920)
В итоге у большинства протестированных нейросетей исследователи обнаружили гендерные предубеждения хотя бы в одном из экспериментов. Причем разные модели могли относиться к мужчинам и женщинам совершенно по-разному.
Ученые предупредили, что по мере внедрения ИИ в системы принятия решений такие предубеждения могут влиять не только на ответы чат-ботов, но и на жизнь. Проблемы возникли и там, где от нейросетей требовалась не моральная оценка, а конкретный ответ.
Британская финтех-компания Saturn протестировала 18 моделей, включая ChatGPT, Claude, Gemini, Copilot и Grok, на теме о личных финансах. Исследователи подготовили 121 вопрос о налогах, пенсиях, долгах, ипотеке и сбережениях. Каждый из них задавали по пять раз, чтобы проверить, насколько стабильны ответы. Всего в ходе эксперимента их получили более 10 тысяч.
В среднем модели ошибались в 57% случаев. Чем сложнее становилась задача, тем хуже был результат: в вопросах, требовавших нескольких последовательных действий, доля ошибок достигла 88%.
Например, Claude Haiku 4.5 неправильно объяснил правила налогообложения пенсий. Если бы пользователь последовал его совету, он мог бы получить счет от британской налоговой на 17,5 тысячи фунтов (1,9 миллиона рублей).
В другом случае одна из моделей Gemini заверила заемщика, что отсрочка платежей по ипотеке не повлияет на его кредитную историю, хотя такое решение могло ухудшить кредитный рейтинг.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8xMC8xOTQ1NzAxNTc4LTAtNi0yNzc5LTE1NjktMTkyMHgxMDgwLTgwLTAtMC04YWRjODNkZWU2MjlkZTc0OGU5YWMxYzIzOWJjMmRkNl8weWhDTGZCLmpwZw.webp?w=1920)
Платные версии показали себя лучше бесплатных: у первых ошибки обнаружили в 49% ответов, у вторых — в 63%. Даже лучший результат оказался далек от идеального. Claude Opus 5 в режиме рассуждения ошибался в 39% ответов.
Ошибки ИИ уже привели к реальным последствиям. В индийском городе Бангалоре система автоматического контроля дорожного движения приняла гитару в чехле за пассажира без шлема.
Мужчина ехал на электроскутере один, был в шлеме, а гитару вез за спиной. Однако через несколько дней его жене, которой принадлежал скутер, пришел штраф в 500 рупий за перевозку пассажира без шлема.
На приложенной к постановлению фотографии было видно только самого водителя и гитару. Он опубликовал снимок и данные штрафа в соцсетях и попросил полицию отменить постановление. В ответ правоохранители предложили обратиться в подразделение автоматизации для исправления нарушения.
Почему нейросети ошибаются?
Предубеждения и ошибки нейросетей не означают, что у ИИ появились собственные взгляды или убеждения, заявил в комментарии 360.ru эксперт в области искусственного интеллекта и управления знаниями Владимир Лещенко.
Он выделил три фактора, от которых зависит ответ модели на поставленную пользователем задачу или вопрос.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8xMC8xNDk0MTk0NTQzLTEzMS00NjctMjk0MS0yMDQ4LTE5MjB4MC04MC0wLTAtYjFlN2NiMjBmOWY0M2FjMjY5ZWFkMWJlNzc3MjEwNjZfdW53YjFZZi5qcGc.webp?w=1920)
Первое место Лещенко отдал данным, на которых модель обучалась: значительную их часть составляют тексты, созданные людьми, а вместе с полезной информацией в них могут содержаться стереотипы и ошибки.
«Данные, на которых они работают, — очень часто данные интернета, каких-то чатов, возможно, литературных произведений», — пояснил собеседник 360.ru.
Вторым фактором эксперт назвал устройство нейросети и способ обработки информации. Третьим стал промпт, или запрос пользователя, формулировка которого способна повлиять на полученный ответ.
Собственных убеждений у ИИ не существует. ИИ не настолько интеллектуален, как некоторые считают.
Ошибочные и даже выдуманные ответы эксперт связал в том числе с недостатком необходимых данных и настройками конкретной модели.
«Галлюцинации возникают исходя из недостаточности данных, и модель начинает креативить. А некоторые модели, если данных нет, пишут: „У меня нет данных, я не могу дать такой ответ“. Здесь все зависит от настроек», — объяснил он.
Лещенко предупредил, что ответ нейросети нельзя воспринимать как собственное мнение или убеждение ИИ.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8xMC8xNDk3NDc2NDM0LTAtMTEwLTMwNzYtMTg0MC02NTB4MC04MC0wLTAtMWE1Mjg5OTM3Njg4OTFlNDkxMWNkMDg4MWIwOGQyYzZfMGpQZUkzVC5qcGc.webp?w=1920)
Как нейросети начали действовать самостоятельно
Ошибки чат-бота пользователь может заметить и проигнорировать. Ситуация становится опаснее, когда искусственный интеллект получает возможность самостоятельно выполнять задачи, взаимодействовать с компьютерными системами и другими ИИ-агентами.
Один из самых громких случаев произошел летом 2026 года во время внутренних испытаний OpenAI. Компания проверяла возможности моделей в сфере кибербезопасности. Размещенный в изолированной среде рой агентов обошел ограничения и вырвался в интернет, где проник в системы платформы Hugging Face.
Более тысячи ИИ-агентов обменивались информацией через непредусмотренный разработчиками канал связи и оставили десятки тысяч сообщений и файлов для организации взлома инфраструктуры Hugging Face.
В OpenAI признали, что модели действовали вразрез с поставленными перед ними задачами: использовали несанкционированные каналы связи, эксплуатировали уязвимости общей инфраструктуры и получали доступ к сторонним системам. Но этот случай не единственный.
Следы необычной активности ИИ начали искать независимые исследователи и энтузиасты. Их стали называть «охотниками за роями». Они ищут цифровые следы ИИ-агентов на сайтах и различных интернет-сервисах.
Инженер Алиция Пеха в сентябре обнаружила подозрительное сообщение в сервисе RubyGems, после чего другие исследователи начали сопоставлять находки.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8xMC8xNDk3NDc0Mjg4LTAtMC0yOTA2LTIwNDgtMTQ0MHg5MDAtODAtMS0xLTQwZmI2ZDIzZjBlZjQ3MDE0MzBmNjBmYzkyZDM0NTk1LWdpZ2FwaXhlbC1sb3ctcmVzb2x1dGlvbi12Mi0yeF9rRTBjODA4LmpwZWc.webp?w=1920)
По данным The Wall Street Journal, одна из групп собрала около 19 тысяч сообщений агентов, другая — более 37 тысяч записей об их поисковой активности, а третья обнаружила почти миллион цифровых следов, потенциально связанных с работой ИИ-агентов.
Где заканчивается свобода ИИ
Степень допустимой самостоятельности искусственного интеллекта зависит от объема последствий его решений, заявил Лещенко. При личном использовании человек сам устанавливает границы.
Я использую ИИ-агентов для формирования расписания семьи. Риск возникает в том, что я пускаю его внутрь своих аккаунтов, календарей, и фокусируется только на мне. Вопрос в том, насколько я готов допустить машину.
Совсем иначе следует относиться к системам, решения которых способны затронуть большое количество людей.
«Если мы говорим про критическую инфраструктуру, здесь намного сложнее, потому что от решений ИИ зависят люди, города. Поэтому допускать полную автоматизацию их принятия нельзя», — обратил внимание эксперт.
:format(webp)/YXJ0aWNsZXMvaW1hZ2UvMjAyNi8xMC8xNDk0NzgxMDY3LTAtMC0xOTgyLTExMTYtNjUweDAtODAtMC0wLTRhMjlkMDJhMjk2MmY5ZmI5MzkyMjU2M2I2NzM2NjBiX214TTRKc2guanBn.webp?w=1920)
В таких случаях он предложил использовать принцип human-in-the-loop (человек в курсе событий), при котором пользователь всегда остается в цепочке принятия решений.
ИИ может анализировать информацию и готовить возможные варианты действий, но окончательный выбор должен оставаться за человеком.
Всегда нужно эти риски хеджировать и не исключать человека из работы ИИ-агентов. Пока они и искусственный интеллект допускают больше ошибок, чем человек.
Лещенко добавил, что остановить распространение ИИ невозможно, со временем его будут использовать практически повсеместно. Однако это не означает, что человеку следует отказываться от контроля.
«Он может сильно упростить мне жизнь и усилить в каких-то функциях, но окончательное решение остается за мной. Это касается и любой компании», — отметил эксперт.
При принятии решений, напомнил он, человек опирается не только на данные, но и на интуицию, собственное видение и вдохновение. Искусственный интеллект этим не обладает, поэтому отдавать ему полный контроль нельзя.