Чат-бот Grok оказался под следствием ЕК из-за создания обнаженных дипфейков

«Комиссия, которая выполняет функции исполнительного органа Европейского союза, заявила в понедельник, что в ходе расследования будет изучено, надлежащим ли образом компания X оценила и смягчила риски, связанные с деятельностью Grok в 27 странах блока», — указали в материале.

В начале января нейросеть сгенерировала фото с голой принцессой Японии Како. Изображение племянницы императора Нарухито завирусилось в соцсети X. Тогда же Еврокомиссия раскритиковала Grok за создание провокационных изображений женщин и детей.

Изначально планировалось, что в нейросети будет меньше цензуры, чтобы она могла остроумно отвечать на вопросы пользователей и смешно шутить. Однако любопытные пользователи нашли в ней еще одну возможность — создавать сексуализированный контент при помощи удаления одежды или постановки человека на фото в откровенные позы.

Представитель ЕК Тома Ренье заявил, что комиссия осведомлена о том, что нейросеть предлагает специальный режим, который позволяет создавать такой контент, ослабляя фильтры платформы X.

«Это незаконно. Это ужасно. Это отвратительно. Мы так считаем, и этому нет места в Европе», — заявил Ренье.