Как отличить контент, созданный с помощью ИИ, почему не стоит распространять его в соцсетях и при чем здесь российское влияние
Читайте NV в Google
Сегодня в социальных сетях распространяется немало контента, созданного ИИ — отличить его помогут как специальные программы, так и внимательность к деталям (Фото: Image by gt39 from Pixabay)
Сгенерированные ИИ изображения, которые выдают за иллюстрацию настоящих событий, ставят под сомнение реальность, предостерегает экспертка по фактчекингу Алена Романюк.
Алена Романюк — медиаэкспертка, главная редактор фактчекингового проекта НотаЄнота, преподавательница Института журналистики КНУ им. Т. Шевченко и НУ Киево-Могилянская академия.
Как и почему контент, созданный с помощью технологий искусственного интеллекта, заполонил наши социальные сети и какую угрозу он может нести, Алена Романюк рассказывает в интервью NV.
— В соцсетях сегодня видим много ИИ-сгенерированного контента на тему войны в Украине. Зачем создавать фейковый контент такого рода, если у нас есть достаточно такого же, но настоящего?
— В январе 2023 года на сайте Верховной Рады новость о трагедии в Днепре — российской ракетной атаке на девятиэтажный дом — проиллюстрировали сгенерированным ИИ изображением маленького мальчика. Это вызвало оживленную дискуссию и среди коммуникационщиков, и среди специалистов по дезинформации, и в журналистских кругах. Большинство специалистов сходятся на том, что иллюстрировать сгенерированным контентом настоящие события, особенно те, с которых все же существуют реальные фотографии, не стоит. Это размывает границы и создает впечатление, что здесь войны нет, потому что нет даже настоящих видео и фото. Такие аргументы используют россияне, чтобы убедить, что война в Украине — вымышленная и не такая, какой ее иллюстрируют украинцам.
Все это засилье изображений — военные, которые стоят на коленях в грязи, дети, которые просят поставить лайк, потому что они вырезали невероятной красоты объект — на самом деле происходит с вражеских страниц, которые мимикрируют под украинское. Эти страницы имеют украинскую символику на аватарках, администрируются в основном на украинском языке, но — из условного Таиланда, Вьетнама или Индонезии. Они набирают аудиторию с помощью контента, который вызывает эмоции. Целей могут иметь несколько, в частности — выявить уязвимую к конкретным типам дезинформации аудиторию. Например, есть те, кого больше всего затрагивает религиозный контент, например, молитвы и тому подобное. Другие — направлены на тех, кто реагирует на сообщения о старшем поколении — бабушках, дедушках и их лишениях. Таким образом на этих людей впоследствии можно достаточно легко влиять, понимая, за какой эмоцией они точно пойдут и какую информацию не будут проверять.
С другой стороны, такие изображения используют и в мошеннических схемах. Этот сгенерированный контент является инструментом для достижения определенных целей, которые в основном не являются проукраинскими.
— Часто можно увидеть, что когда людям указывают, что распространенный ими контент создан искусственным интеллектом, они отвечают, мол, какая разница? Почему люди не видят принципиальной разницы в том, что распространяют?
— Во время атак по Израилю в соцсетях распространялись фото со сгенерированными с помощью ИИ котами, которые лежат под завалами. Похожие иллюстрации распространялись и после очередных обстрелов по территории Украины. Эти иллюстрации распространяли у себя в том числе и некоторые публичные люди, даже народные избранники. То есть одно и то же сгенерированное изображение репостилось в разных сегментах, с похожей подписью — мол, даже животные переживают страшное. И когда таким людям пытались объяснить, что они распространяют контент, созданный искусственно, аргументом в ответ была фраза: «Важен сам месседж, а не то, что изображение сгенерировано».
На самом деле — нет. Важны и месседж, и то, чтобы изображение или видео, которое распространяется, должно быть настоящим. Или же необходимо честно указывать, что оно создано с использованием ИИ-технологий.
Когда сгенерированные изображения выдают за иллюстрацию настоящих событий, это в конце концов ставит под сомнение само событие и месседж, который пытается донести человек. Когда россияне взорвали Каховскую ГЭС, в соцсетях начали активно распространять изображения пострадавших животных: это были собаки, коты в тазиках, которые спасаются от наводнения. Когда мы начали проверять эти изображения, выяснилось, что все они происходят из других стран. То есть это даже не сгенерированные иллюстрации, а просто фотографии, на которых изображены различные затопления в других частях мира — на территориях России, Хорватии, Японии.
В Украине многие пользователи проблемы с этим не видели — эти фотографии «вирусились» очень сильно. Однако когда наши подписчики, которые находились за рубежом, распространяли такие снимки у себя, их аудитория пыталась проверять то, что там изображено. И ненастоящесть фото вызывала у иностранцев сомнение: действительно ли в Украине происходит подобное затопление? На что собираются деньги? Нужна ли какая-то помощь, если фото и видео — не о реальных событиях? В этом и заключается опасность: мы подрываем доверие и к самому событию, и к человеку или к институту, который распространяет такой контент.
— Сегодня распространяется также много сгенерированного ИИ контента, который по своей сути является невинным, но все же — фейковым. Например, якобы домашние видео с котятами или собачками. Зачем это создают?
— ИИ — это технология. Инструменты сервисов искусственного интеллекта стали доступными. Фактически, бесплатно, или за маленькую плату можно создать что-то новое, интересное, то, что раньше было невозможным.
Кто-то использует ИИ для просветительских, культурных целей, для культурной дипломатии. Например, чтобы «оживить» условных Лесю Украинку, Ивана Франко или Михаила Грушевского.
Большое количество пользователей пользуются сервисами ИИ для развлечения, и распространяют такой контент для привлечения внимания аудитории. Люди заходят в соцсети не для того, чтобы проверить информацию и критически воспринимать каждое сообщение, они хотят отвлечься, развлечься, пообщаться с кем-то, переслать друзьям что-то смешное. Поэтому развлекательный контент, созданный с помощью ИИ, не воспринимается как нечто угрожающее.
— Можно также увидеть, как в соцсети в широкое употребление также заходят сгенерированные ИИ видео с использованием образов известных персоналий, например, известные широкой общественности ведущие новостей популярных каналов, которые продвигают пропагандистский месседж. Почему это опасно?
— Это так называемые lip-sync deep fakes, когда видео настоящее, но есть сгенерированный звук. Этот звук накладывают на изображение так, чтобы губы двигались максимально в такт с тем, какие слова проговариваются. Но совпадают аудио и видео дорожка не всегда.
Обычно такие дипфейки используют либо для мошеннических схем. Например, якобы начинаются какие-то новые выплаты, и чтобы оформить их, нужно перейти в Telegram-канал. Там вас будет «обрабатывать» специально обученный человек, побуждая перечислить на что-то средства или предоставить данные своих платежных карточек.
Использовать такой тип мошенничества могут также недобросовестные компании. Раньше это были сайты, где за счет узнаваемых имен известных врачей рекламировали препарат, «которого вы точно не найдете в аптеке», потому что это все — «фарм мафия», которая сговорилась. Но это «чудо-средство» можно заказать только здесь, и оно обязательно вылечит от варикоза, геморроя или другой «чумы ХХІ века». Сейчас для этого начали использовать дипфейки с ведущими, а также выкладывать истории о том, как другие известные люди якобы исцелились-похудели-вылечились. Здесь ставка делается на авторитет и узнаваемость конкретных людей, с помощью которых пытаются продать эти средства.
Я подчеркиваю: если у вас что-то болит, надо обращаться к врачу, а не слушать ведущих, тем более в соцсетях. Мы знаем, как раньше с такой же целью использовались «золотые пирамидки».
Отдельно хотелось бы добавить здесь относительно того, как используются в таких историях боты. Ранее комментарии ботов было определить значительно легче. Сейчас благодаря сервисам искусственного интеллекта месседж-боксы, по которым работают боты, формулируются совершенно разными словами. Поэтому по одному и тому же сообщению, фактически, уже нельзя отследить ботов. Становится сложнее доказывать, что тот или иной контент — скоординированная деятельность ботофермы, как раз таки благодаря тому, что те, кто запускают такие дезинформационные кампании, используют сервисы ИИ, чтобы генерировать различные тексты, изображения с разными эмоциями, с разными ошибками, от имени разных лиц.
— Как отличить сгенерированное ИИ фото от настоящего?
— Проверка ИИ-сгенерированного контента требует сочетания традиционных журналистских методов и новейших технологических подходов. Независимо от типа контента — текст, фото или видео, можем выделить несколько основных стратегий верификации, среди которых основные — это логика и точность.
Поэтому первое, что следует сделать, это проверить источник информации, автора фото или видео, где и когда оно было сделано.
Если же говорить о визуальной верификации, есть несколько моментов, на которые надо обращать внимание. Однако это все относительно. Первый — это анатомические особенности человека, который появляется в кадре. Где-то может быть голова слишком большая или наоборот маловата, нет одной фаланги пальца и тому подобное. Очень глянцевая кожа говорит о том, что либо фото очень сильно обработано, либо сгенерировано искусственным интеллектом. Если фотография слишком идеальна в цветах, пропорциях, формах
Кстати, сейчас в шоу-бизнесе существует целая индустрия — это модели, сгенерированные ИИ. Например, Айтана Лопес, еще два года назад зарабатывала по 4 тыс. долл. в месяц. Создатели этой модели специально прописывают промпти таким образом, чтобы у нее была неидеальная кожа, где-то прыщик, морщинка, создавая эффект «подлинности».
Если же вернуться к верификации фотоконтента, то установить, не фейк ли перед вами, помогут также другие объекты на фотографии. Если это природа, деревья, растения, дорога, дома, машины, обращаем внимание на детали, потому что очень часто искусственный интеллект может «накосячить» именно в деталях. Например, я видела изображение, на котором течение у реки идет в разные стороны — такого в жизни просто не существует. Или дорога, которая идет под мост, а из-под моста не выходит, на увеличенном изображении машины на дороге сливаются в одну, а у скамейки одна ножка заходит куда-то в стену, дерево, на котором разные листья.
Часто определить сгенерированное ИИ фото можно, рассматривая прически и украшения. Серьга свисает не с мочки уха, а где-то значительно ниже, или просто из волос, цепочка срастается с шеей, а кольцо выходит из пальца. Волосы могут переходить в кофту. Что касается одежды, здесь надо внимательно смотреть на замки, лямки, шнуровки — могут быть несоответствия. Чтобы найти их, часто надо увеличить фотографию.
— А видео?
— Есть очень качественные видеоподделки, дипфейки с людьми. В соцсетях в основном используют технологию, которая называется lip sync: берут настоящее видео, генерируют к нему аудиодорожку и с помощью специальных сервисов накладывают эту аудиодорожку на видео. Часто такие фейки можно распознать по тому, что аудиодорожка и картинка не синхронизированы между собой. Один из известных липсинк-дипфейков — это видео с бывшим главнокомандующим ВСУ Валерием Залужным, где тот призывал людей к свержению власти в Киеве, выходу на Майдан и захвату власти военными. Такие видео имеют худшее качество, чем мы привыкли, потому что после каждой обработки теряют его. Но я думаю, что в ближайшем будущем качество таких дипфейков будет становиться лучше.
Одна из разновидностей дипфейков — это маски. Даже в социальных сетях есть возможность накладывать такие маски в режиме реального времени. В прямом эфире, когда мы просим человека повернуть голову вправо или влево, маска слетает. Если же это записанное видео, здесь надо внимательно смотреть на границу между шеей и лицом, также на то, совпадают ли передний и задний планы.
Если это видеоподделка, надо понимать, с какой целью она сделана. Если цель — дезинформировать, здесь может отличаться фон, на котором снимают, и качество этого фона, от объекта, который стоит, говорит или движется.
Конечно, важным является и первоисточник: кто снял фото или видео, где это сняли, есть ли подтверждение в качественных медиа, на официальных аккаунтах этого человека или учреждения. Поэтому попробуйте установить автора фотографии или ее первоисточник. Если первоисточника нет, а фотография распространяется в какой-то сомнительной фейсбук-группе по типу Всі українці за перемогу, очень вероятно, что это — вражеская группа, которая мимикрирует под украинскую. Таким образом она набирает себе контент с помощью сгенерированных изображений.
— Какими программами пользоваться, чтобы проверить фото или видео на наличие ИИ-вмешательств?
— Сейчас бум среди стартапов, которые используют ИИ, также отдельно появляется большое количество стартапов и проектов, направленных на идентификацию ИИ-контента.
Однако следует помнить, что сервисы по идентификации сгенерированного контента могут быть только помощниками, ведь способны давать ложноположительные и ложноотрицательные результаты.
Для самостоятельной проверки контента можно использовать такие сервисы, как:
- https://www.aiornot.com/
- https://wasitai.com/
- https://hivemoderation.com/ai-generated-content-detection
- https://brandwell.ai/ai-image-detector/
- https://aiimagedetector.org
- https://isitai.com/ai-image-detector/
- https://app.illuminarty.ai/
и другие.
В любом случае, подобные детекторы не могут быть основным методом, а при работе с изображениями следует использовать разные инструменты и подходы: делать кроссфактчекинг и помнить, что технологии по идентификации ИИ всегда появляются после технологий создания ИИ.