Не верь глазам своим. Как технологии стали инструментом невиданных манипуляций

IT-эксперт Масалович назвал способ отличить настоящее фото от работы нейросети

Фото: Телеканал «360»

Автомобиль пылает посреди улицы, рядом припаркованы другие машины, вдалеке подмигивает сигнальными огнями эвакуатор, вперед уходит череда построек, на одном из зданий — обычные для неблагополучных районов граффити. Очевидец снимает все на телефон. Вдруг из-за пределов кадра появляется трехмерная базовая фигура для моделирования и пролетает сквозь горящую машину. То, что выглядит и на первый, и на второй взгляд как последствия аварии, на деле — просто качественная симуляция, сделанная на популярном игровом движке. В Сети констатировали: фейки вышли на принципиально новый уровень достоверности. «360» поговорил с экспертами о том, можно ли еще доверять своим глазам.

Проснись, Нео, Матрица тебя…

Поступательное развитие технологий в области создания визуального контента шло не одно десятилетие. Но в большинстве своем эти сложные и дорогостоящие инструменты предназначались для индустрии развлечений — кинематографистов, художников, разработчиков видеоигр. В общем, профессионалов по созданию иллюзорных миров.

Теперь, когда уровень всеобщей цифровизации вырос, а все нужные программы стали сравнительно доступнее, мир вплотную подошел к особенно неприятной проблеме: отличить правду от хорошо смоделированного вымысла стало временами невозможно — контент создают быстро, распространяют еще быстрее. Выйти на первоисточник стало сложнее — концы уходят в воду глубже с каждым репостом.

От искусственной реальности к редактируемой — и обратно

Попытки отредактировать реальность начались, наверное, с появления первых же художников. Чего только стоят парадные портреты правителей разных стран: их могли по тем или иным причинам изменить до неузнаваемости — приукрасить, а иногда изуродовать. Однако начнем небольшой исторический обзор с первых инструментов, которые именно запечатлевали жизнь, — фотографий и их предшественников.

Конечно, снимки редактировали. Первые курсы ретуши появились уже в конце XIX века, в следующем столетии фотоснимки уже отличались такой тонкостью работы ретушера, что с изображений безболезненно могли пропадать не только детали, но и целые исторические личности. Также всегда можно было создать постановочные снимки, маскируя их под документальные.

Например, руководитель отдела фотографии и ассистент ответственного редактора The New York Times, член жюри конкурса World Press Photo в 2015 году Мишель МакНелли рассказывала, как в журнале Time в 1993-м появилась статья о детской проституции в разных странах, в том числе в России, сопровождаемая исключительно постановочными фото.

«Пять страниц постановочных фотографий, и все без ведома редакторов!» — возмущалась она.

С появлением цифровой фотографии и видеосъемки, графических редакторов, которые эти снимки и ролики могли изменить до неузнаваемости, ситуация только усугубилась. Мощностями на уровне голливудских кинокомпаний (которые, кстати, то и дело обвиняют в сотрудничестве с властями для создания сочной картинки — стоит вспомнить конспирологическую теорию о том, что высадку на Луну астронавтов снимал Стенли Кубрик) обладали далеко не все.

Компьютерная графика, используемая в видеоиграх, тоже долгое время была сложной, а главное — дорогой и неидеальной «игрушкой» для создания достоверного изображения. Но зафотошопить ненужное и прифотошопить нужное к якобы документальным кадрам стало гораздо проще.

Все оказалось сложнее, когда графику стали совершенствовать, различные объекты, лица и звуки — распознавать, данные — собирать, анализировать и использовать для обучения новых программ. Вместо того чтобы редактировать существующую реальность, можно было создать новую.

Новая реальность на твоем экране

С развитием нейросетей некоторые функции стали ограниченно, но все же доступны огромному числу людей благодаря мобильным приложениям: твое (да и любое другое) лицо можно вставить любимому киногерою, ну или заставить известного политика сморозить такое, что хоть стой, хоть падай. Например, Барака Обаму в 2018 году «заставили» назвать на тот момент президента США Дональда Трампа «засранцем».

После молниеносного распространения в Сети сгенерированных нейросетью Midjourney (тогда еще бесплатной) «снимков» все того же Трампа, которого арестовывают за «захват Капитолия», а также «фотографий» папы римского в модной оверсайз-куртке разработчики программы приняли решение начать взимать с пользователей плату, чтобы хоть как-то сократить число желающих создавать собственный контент. Ну и заработать, естественно.

Одними из последних экспериментов в области контента, который можно запросто использовать для фейков, стали игровые движки. Тоже вышедшие из индустрии развлечений, они развились таким образом, что стали учитывать очень мелкие детали, тонкие особенности физического поведения тех или иных объектов, а еще стали во многом хотя бы относительно доступнее для пользователей.

Показательно, что один из самых обсуждаемых движков (который, кстати, и использовали для создания ролика с горящей машиной) называется Unreal Engine 5 (в переводе с английского «Нереальный движок — 5»). Нереальность для таких продуктов — часть маркетинга.

Вот пример скандала, связанного с нейросетями: он произошел совсем недавно, в контексте нового витка палестино-израильского конфликта. Офис премьер-министра Израиля опубликовал в соцсетях фотографии обугленных тел младенцев в качестве доказательства жестокости бойцов ХАМАС.

Однако вскоре на просторах Сети нашлись люди, утверждающие, что эти изображения обработали нейросетью, изначально там был запечатлен вполне живой щенок, и это фото старше размещенного в аккаунте премьера Израиля. Так ли это и какое из двух фото на самом деле фейк — до сих пор не ясно.

Учет и контроль — возможно ли это с новыми технологиями?

На каждую хай-тек-новинку в области создания контента так или иначе находился инструмент верификации. Например, некоторые программы могут анализировать, подвергалась ли фотография редактированию, добавлению тех или иных элементов.

Российский ученый, преподаватель, подполковник спецслужб в отставке, IT-специалист по информационной безопасности, OSINT и конкурентной разведке Андрей Масалович рассказал «360», что при желании отследить происхождение контента можно.

«У меня такое чувство, что каждая платформа ставит так называемую вотермарку — неснимаемый и невидимый значок, который однозначно идентифицирует, кем это сделано и когда, некую метку. Когда мы печатаем лист на принтере, нам и в голову не приходит, что светло-серым по краю листа печатаются номер, дата и время. Любой листок, напечатанный на принтере, можно отследить, поняв, когда его напечатали и где. Просто вы не в курсе. Точно так же, думаю, создатели изображений как-то их маркируют: их можно сжимать, перекручивать в другой формат — все равно эти следы останутся», — заявил ученый.

Но эксперт по кибербезопасности, директор и партнер компании «Интеллектуальный резерв» Павел Мясоедов с такой гипотезой не согласился. По его словам, судьбу сгенерированного контента сами платформы почти не отслеживают, во многом из-за отсутствия монетизации своих продуктов. Хотя технически сделать это действительно можно.

«Есть более технологичные варианты способов защиты авторских прав — NFC-коды и маркеры. Речь о том, что посредством технологии блочейн в картинку зашит определенный код, который дублируется на разных элементах блокчейна. Благодаря ему подменить эту картинку никто не может», — пояснил он «360».

Правда, NFC-метки мало от чего защищают, добавил Мясоедов. Картинку смогут использовать по всему миру, кроме того, от метки можно избавиться.

Надо понимать, что на любую картинку, представленную определенным кодом в формате JPEG, можно наложить своего рода слепок, который не будет повторять код изначальной картинки. Иначе говоря, можно сфотографировать экран — и это уже будет другая картинка на уровне кода. Вам потребуются нейросети, чтобы распознать, что такой же объект существует на другом изображении.

Павел Мясоедов

Кризис веры

Осознание, что нашим информационным пузырем можно управлять с такой легкостью, пугает. В медиапространстве вновь успели заранее похоронить журналистику и объявить, что критическое мышление, к развитию которого с наступлением цифровой эпохи призывают со всех сторон, может стать излишне критическим.

Люди, привыкшие к тому, что все попадающее на экраны их смартфонов, компьютеров или телевизоров — уже часть их мира, начали ставить под сомнение и то, что раньше казалось незыблемым: реальные события в их глазах тоже стали результатом возможной манипуляции.

Грег Фостер-Райс, доцент кафедры фотографии Колумбийского колледжа в Чикаго и член рабочей группы по искусственному интеллекту в этом вузе, заметил неожиданный тренд среди своих студентов-зумеров. По его словам, молодые люди вновь оценили ценность пленочной съемки.

«Наши студенты возвращаются к аналоговой практике. Это ретровозвращение. Возможно, они чувствуют, что это более аутентично с точки зрения отношения к реальности», — констатировал преподаватель.

    Пока ничего не найдено

    Задизайнено в Студии Артемия Лебедева Информация о проекте