Нейросети для генерации визуала — добро или зло? разбираемся с «дипфейками»
Краткий ответ
Легкая генерация визуалов нейросетями — благо или опасность? Разбираемся вместе.
Коротко — главное
- В изображения и видеоролики встраиваются данные с информацией о файле.
- Определители признаков использования ИИ обучены на массивах визуалов, сгенерированных в нейросетях.
- Специализированные сервисы, такие как TruePic, Reveal Image Verification Assistant и AI Verify, сравнивают подозрительное изображение с миллионами фотографий онлайн.
- Отдельно хочется выделить видеоролики и их достоверность.
- Не будем устраивать охоту на ведьм и признаем, что в некоторых профессиональных сферах генерация визуалов — это настоящая находка.
Как отличить фейк от оригинала: где пролегает граница между сгенерированным и реальным изображением
Анализ метаданных
В изображения и видеоролики встраиваются данные с информацией о файле. Для визуала обычно в эту информацию входит дата создания, геоположение, автор изображения или видео и прочие технические характеристики файла.
EXIF (Exchangeable Image File Format) — это стандарт метаданных, созданный еще в 1995 году, для хранения данных об изображении.
Пример метаданных фотографии
Многие сгенерированные изображения хранят в метаданных отсылку к использованию ИИ для их создания.
Метаданные изображения, сгенерированного в «Шедевруме»
Часто нейросети затирают или искажают метаданные, записанные для визуала. В таком случае можно использовать инструменты для отображения истинных метаданных, например, FotoForensics 2.0 или Metadata2Go.
Водяные знаки от генеративных нейросетей
AI-детекторы
Определители признаков использования ИИ обучены на массивах визуалов, сгенерированных в нейросетях. Есть определенные маркеры, которые указывают на творчество ИИ.
Конечно, мы все когда-либо смеялись над людьми с неправильным количеством пальцев или третьей рукой, но детекторы заточены определять искажения по менее очевидным признакам. Например, они обращают внимание на неправильный угол света или кривое отражение объектов.
Детекторы прогоняют изображение через базы сгенерированного контента и ищут совпадения по ряду характеристик, если они находят достаточно похожие изображения или типичные черты нейро-визуала, то они выносят вердикт, что изображение было сгенерировано ИИ.
Кроме того, такие определители сканируют изображения на предмет невидимых водяных знаков и других скрытых от человеческого взгляда элементов на визуале. Среди таких детекторов можно упомянуть сервисы Decopy AI, Isgen AI и Dupli Checker.
Анализ изображения в Decopy AI не только выносит вердикт, но и предоставляет подробный отчет по всем компонентам изображения
Поиск похожих фото в сети
Специализированные сервисы, такие как TruePic, Reveal Image Verification Assistant и AI Verify, сравнивают подозрительное изображение с миллионами фотографий онлайн. Так можно отследить, если с помощью ИИ заменили лицо, но оставили фон и позу из реального снимка.
Такие проверки актуальны для СМИ и публичных деятелей, когда речь заходит о скандальных фотографиях
Под капотом таких сервисов — обнаружение фейковых изображений, анализ метаданных, интеграция с поиском изображений в поисковых системах и сравнительный анализ миллиона визуальных данных.
Детекторы ИИ в видео
Отдельно хочется выделить видеоролики и их достоверность. Дипфейки в видео выявить проще, чем в изображениях.
Это объясняется тем, что не все нейросети и не на всех видах подписки генерируют достоверные видео.
Некоторые сгенерированные видео все еще хорошо распознаются как фейковые на уровне человеческого глаза:
Также можно воспользоваться специальными сервисами, например, Deepware Scanner. В его фокусе — определение дипфейков в видео.
Приложение отмечает подозрительные участки и сообщает уровень достоверности.
Обращайте внимание на моргание, мимику и работу мышц. Фейковые видео все еще отличаются смазанностью выражения лица и движений тела.
Анализируйте мышцы лица и речь. Несовпадение синхронизации в несколько миллисекунд — верный маркер сгенерированного видео.
Где генерация изображений полезна
Не будем устраивать охоту на ведьм и признаем, что в некоторых профессиональных сферах генерация визуалов — это настоящая находка.
Нейросети для создания визуалов особенно полезны для
Маркетинга и рекламы: например, для создания баннеров, визуалов для соцсетей, продуктовых решений.
Образования и науки: иллюстрации могут быть полезны для учащихся и студентов, для дополнения визуалами докладов и выступлений, а также для создания схем и инфографики.
Журналистики и медиа: условные иллюстрации к новостям, обложки для материалов, превью-изображения для соцсетей (например, стилизованное изображение объекта статьи).
Когда уместна генерация изображений нейросетями — а когда нужен дизайнер
Несмотря на то, что мы уже подсветили пользу нейросетей для определенных областей, все равно хочется оговориться, что нейровизуал может быть не всегда уместен.
Нейросеть отлично подходит для быстрых или внутренних…
Нейросеть отлично подходит для быстрых или внутренних бизнес-задач, например, для создания быстрых концептов, иллюстраций для статей, mock-ups, A/B-вариантов визуала, прототипов визуализации для дальнейшей разработки. В этих случаях нейросети существенно ускоряют рабочий процесс и генерируют сразу несколько вариантов за считанные минуты.
Если мы говорим о более сложных или имиджевых задачах…
Если мы говорим о более сложных или имиджевых задачах, например, о разработке фирменного стиля, сложных композициях с авторским стилем, юридически значимых материалах, изображениях с культурными особенностями и факторе правовой ответственности, то дизайнеры гораздо лучше справятся с задачей. С ними можно обговорить и учесть все тонкие места на этапе постановки ТЗ, а человеческий фактор, наоборот, будет играть положительную роль в создании визуалов.
Идеальный флоу для работы над визуалом нам видится таким…
Идеальный флоу для работы над визуалом нам видится таким: нейросети можно использовать для создания черновых вариантов и прототипов, которые далее получает дизайнер для проработки чистовой версии.
Короткий словарь
Если встретили незнакомое слово — расшифровка здесь.
- нейросеть
- программа на основе ИИ для текста, картинок и анализа данных
- A/B
- сравнение двух вариантов страницы на живых посетителях
- SEO
- продвижение сайта в поиске Яндекса и Google
- ИИ
- искусственный интеллект: генерация текста, анализ, подсказки
Услуги Point.UP
Перейдите на страницу услуги, если нужна стратегия, запуск или сопровождение под ключ.
Читайте также
Мы жаждем апнуть и Ваш бизнес тоже.
Заполните поля и мы свяжемся с Вами в ближайшее время!