Хохлома больше не враждебна для Facebook. Ошибки нейросети часто доводят соцсеть до судов

Эксперт по информационной безопасности Зыков: искусственный интеллект виноват в блокировках постов про хохлому и Хохлова

Фото: Роскосмос

Facebook разблокировал пост о расписанной под хохлому ракете Роскосмоса. Ранее соцсеть посчитала, что название традиционного декоративного узора несло враждебный характер, видимо, спутав его со словом «хохол». Обычно за такие блокировки отвечает система искусственного интеллекта, но ее действия должны перепроверять модераторы. В борьбе за свою публикацию можно дойти до суда.

Российский журналист и основатель сообщества «Открытый космос» Виталий Егоров на своей странице в Facebook написал о расписанной под хохлому ракете-носителе «Союз-2.1а». Спустя несколько часов его публикацию заблокировали за нарушение норм сообщества в отношении враждебных высказываний и оскорблений. Об этом Егоров рассказал в новом посте, прикрепив к нему скриншоты с подтверждением.

Позже модераторы социальной сети поняли, что публикация не содержала в себе ничего криминального, и восстановили ее, извинившись перед Егоровым.

Это не первый раз, когда Facebook наказывает людей за использование слова «хохол» без учета контекста. По сообщениям РБК, посты журналиста Максима Кононенко и блогера Антона Носика со стихотворением Александра Пушкина «Моя родословная», где была строка «Не пел с придворными дьячками, в князья не прыгал из хохлов», тоже были заблокированы.

Больше всего от действий Facebook настрадался бывший футболист сборной России, главный тренер волгоградского «Ротора» Дмитрий Хохлов. Социальная сеть блокирует любые упоминания его фамилии в постах и комментариях. У самого Хохлова страницы в Facebook нет, но есть у его фанатов, которые не могут упоминать его в обсуждениях в соцсети.

Хохлов подал в суд на Facebook, потребовав разблокировать все упоминания его фамилии в постах и комментариях, а также запросил компенсацию в 150 миллионов рублей. Пока на заседаниях по делу представители соцсети не появлялись.

Как работает система?

По словам директора Ассоциации профессиональных пользователей социальных сетей и мессенджеров Владимира Зыкова, Facebook занес слово «хохол» в ряд таких же оскорбительных, как и слово «нигер». После этого и начались блокировки. Определением того, является ли пост оскорбительным, занимается искусственный интеллект (ИИ), который мониторит публикации и отмечает потенциально опасные.

«В эту систему закладывают звуковые ряды, наборы букв, слов и словосочетаний, а иногда и картинок. Нейросеть ищет похожие символы и образы и дает соответствующий сигнал модератору. В некоторых случаях модератор дает ИИ возможность блокировать контент без его участия», — рассказал эксперт в области информационной безопасности Виталий Вехов.

Доверять ИИ принимать решение о блокировках самостоятельно нельзя, считает Зыков. Публикация должна проходить проверку у модератора. Однако у IT-гигантов нет достаточного количества людей, чтобы отсматривать огромное количество информации. Из-за этого и появляются истории с несправедливыми блокировками.

«Facebook и другие социальные сети, принадлежащие Цукербергу, периодически судятся в разных странах по этому поводу. Это универсальная проблема, а не только относящаяся к России», — сказал эксперт.

Однако с русским языком возникает больше проблем, чем с остальными, из-за его многозначности — составить точный список «враждебных» слов очень тяжело.

Если человек столкнулся с неправомерной блокировкой его публикации, в первую очередь надо подать запрос на пересмотр решения. Но можно и сразу обратиться в суд, считает Зыков.

«Нужно судиться и обязывать Facebook контролировать такие вещи. Делать это лучше всего за границей. В России судиться тоже можно, но поскольку у социальной сети в нашей стране нет юрлица, ей будет по барабану на вынесенное решение», — резюмировал эксперт.

    Пока ничего не найдено

    Задизайнено в Студии Артемия Лебедева Информация о проекте