Меню Меню

Как распознать подделку ИИ и дипфейки

На данный момент мы все знаем, что лечение ИИ и дипфейки везде. Однако уверенно выявить случаи их использования не всегда просто.

ИИ контролирует все социальные сети, и времена, когда контент сразу принимался за чистую монету, уходят в прошлое.

Существуют очевидные и в целом безобидные примеры манипуляций с искусственным интеллектом – в основном используемые в целях мемов – но иногда мы подозрительно щуримся на изображение или видео, чтобы подтвердить его легитимность.

Большинство из нас вряд ли будут обмануты плохо прорисованным Микелем Артетой, навязанным Лил Яхти, прыгающему по сцене, но существуют технологии, способные создавать впечатляюще реалистичные медиа.

Всего за последние несколько недель ИИ создал изображения Met Gala. Кэти Перри и Рианна стало вирусным, что заставило многих поверить, что оба артиста присутствовали на мероприятии, но ни один из них не присутствовал. В другом месте для имитации звука использовалась программа. имитировать ВЭС Марк Рид и обмануть сотрудников компании.

Головокружительные темпы совершенствования технологий превышают наши возможности эффективно регулироватьи если не считать странных разъяснений со стороны заметки сообщества в Твиттере нам, по сути, предоставлено право самим решать, настоящее ли что-то или фальшивое.

Если вы внезапно испытываете приступ паранойи, позвольте нам дать несколько полезных советов о том, на что следует обратить внимание при проверке контента на предмет наличия ИИ. Вскоре нам придется указывать на ваш экран, как на гифке Леонардо Ди Каприо, всякий раз, когда ИИ поднимает голову.

 


Советы по обнаружению дипфейков

 

  • Ищите очевидные физические нарушения:

Хотя ИИ постоянно совершенствует себя, чтобы работать лучше, подавляющее большинство существующих дипфейков будут иметь некоторые нарушения, если вы знаете, что ищете.

Контрольными признаками являются неестественные движения глаз, странное моргание или отсутствие моргания вообще, а также размытые или пиксельные области вокруг рта, глаз и волос.

Обратите внимание на искажения по краям лица, особенно когда голова поворачивается, и если качество видео высокое, фейк, скорее всего, не увидит такие вещи, как выбившиеся волосы или недостатки кожи.

Часто дипфейк демонстрирует неуклюжие и механические движения, и вы даже можете заметить случаи, когда рука проскальзывает через рукав или ненормальное движение воротника и шеи.

 

  • Необычный фон и освещение:

Проверьте, одинаково ли направление освещения на протяжении всего видео. Искусственно обработанные примеры часто имеют странные участки тени и света, которые не обязательно коррелируют с источниками света или объектами на заднем плане.

Когда объект движется, внимательно следите за фоном, чтобы увидеть, появляются ли какие-либо искажения. Если возможно, просматривайте кадр за кадром и увеличивайте масштаб.

 

  • Аудиовизуальное несоответствие

Учитывайте представленную среду и то, соответствует ли речь субъекта акустике помещения. Качество звука также должно соответствовать разрешению видео, если оно допустимо. Оба big раздача за обычный дипфейк.

Это звучит очевидно, но внимательно следите за движениями губ человека. Дипфейкам сложно достичь полной синхронизации, и вы обязательно заметите заметный всплеск, если продолжительность видео или клипа превышает несколько секунд.

 

  • Проверяйте информацию и используйте ИИ в своих интересах

Контекст всегда имеет ключевое значение. Проверьте в Интернете, подтвердили ли авторитетные источники то, что вы видели в социальных сетях. Если в видео фигурирует публичный деятель, делающий что-то интересное, шокирующее, это появится при поиске новостей.

На всякий случай вы всегда можете сделать снимок экрана и использовать Google Lens, чтобы проверить, появилось ли видео где-нибудь еще в Интернете.

Наконец, существует множество платформ обнаружения ИИ, таких как Microsoft Video Authenticator, Deepware Scanner или DeepFaceLab, которые могут обнаружить вещи, которые вы не заметили.


Советы по обнаружению изображений, обработанных искусственным интеллектом

 

  • Странная долина

Есть ли что-то неладное в людях или объектах в кадре? У плохо реализованных поколений руки и пальцы могут быть хитрыми, а человеческая кожа часто кажется слишком гладкой. Зубы могут полностью не иметь разделения.

Волосы, мех и другие мелкие детали могут выглядеть неестественно комковатыми или размытыми на изображениях, обработанных искусственным интеллектом. Например, творения Midjourney имеют тенденцию иметь эффект перекрестной штриховки в частях изображения с плотной текстурой. Как только вы это увидите, вы заметите это повсюду.

Посмотрите на края предметов или людей. Размытые, неровные или пиксельные края обычно означают вмешательство ИИ. Помните недостающий сегмент рукава на жуткой семейной фотографии Кейт Миддлтон?

Случайные, а иногда и несуществующие объекты, как правило, возникают и в поколениях ИИ. Если, скажем, была создана спальня, на столе или полке, скорее всего, будут странные и деформированные предметы.

 

  • Проблемы симметрии, повторяющиеся узоры и отражения.

Пытаясь выполнить задания «ультрареалистичного» характера, мы заметили, что ИИ с трудом создает реалистичную симметрию лица. Кажется, ему просто нравятся слишком идеальные, четкие черты лица – во всяком случае, для людей, находящихся в центре внимания.

Для тех, кто находится на заднем плане, функции, скорее всего, будут размытыми. Если есть толпа, проверьте также, нет ли выражений лица, которые не соответствуют контексту изображения.

В плотно упакованных изображениях можно использовать повторяющиеся узоры. Если вы смотрите на город, многие окна, двери или другие архитектурные элементы, скорее всего, будут практически идентичны. Это неотъемлемая часть быстрого создания контента для подсказок.

Это применимо к облакам, кирпичам, камням, транспортным средствам и практически ко всему, что появляется в нескольких экземплярах.

Некоторые методы искусственного интеллекта генерируют изображения путем сшивания фрагментов другого контента. Неправильное растушевывание часто может оставлять после себя видимые швы. Достаньте инструмент масштабирования, чтобы найти их.

Наконец, ИИ действительно изо всех сил пытается получить правильные отражения. Проверьте воду на изображении, чтобы увидеть, есть ли что-то необычное в отражении, и посмотрите на глаза объекта, чтобы увидеть, присутствует ли отражение вообще. Если нет, то, вероятно, это подделка. Солнцезащитные очки могут оказаться бесполезной распродажей.

 

  • Инструменты визуального контроля

Если вы хотите быстро проверить достоверность изображения, обратный поиск изображений в Google — ваш лучший друг. Если оно не появляется нигде, кроме социальных сетей, возможно, это фейк.

А еще лучше, поместите изображение в инструмент обнаружения искусственного интеллекта. Наш личный выбор — Deepware Scanner. Экспертиза и FotoForensics также хорошо показывают, где возникают повторяющиеся закономерности, когда невооруженный глаз не в порядке.

Вот и все от нас, ребята. Мы надеемся, что теперь вы немного лучше подготовлены к тому, чтобы ориентироваться в непрерывном потоке онлайн-контента, не попадаясь в ловушку и не дезинформируясь. При этом кто знает, будет ли какой-либо из этих советов полезен через пять лет?

Универсальный доступ