Приложение «Google Фото» внедряет новую функцию — цифровые водяные знаки SynthID для изображений, отредактированных с использованием генеративного искусственного интеллекта (ИИ). Как сообщает Google, эта опция поможет пользователям легко распознавать фотографии, изменённые с помощью инструмента Reimagine в Magic Editor.
Magic Editor позволяет редактировать снимки через текстовые запросы, добавляя или удаляя элементы. Хотя ИИ-инструменты сами по себе не несут угрозы, Magic Editor может создавать недостоверные изображения, например, сцены аварий или разбившихся вертолётов, без явных указаний на то, что они были отредактированы.
Цифровые водяные знаки призваны решить проблему с идентификацией изменённых изображений. Однако SynthID не изменяет визуальное содержание изображения, и для проверки факта редактирования потребуется использовать функцию «Об изображении». Google также признаёт, что незначительные изменения, внесённые через Magic Editor, могут остаться незамеченными для SynthID, и водяные знаки не будут применены.
Специалисты подчёркивают, что, хотя водяные знаки помогают идентифицировать изменённый контент, их недостаточно для массовой проверки материалов, созданных нейросетями. Для более надёжной защиты потребуется комплексный подход, включающий различные технологии и программные решения.
Стоит отметить, что система водяных знаков уже используется в нейросети Google Imagen AI, которая генерирует изображения на основе текстовых запросов. Подобные инструменты разрабатывают и другие компании. Например, Adobe внедрила функцию Content Credentials, которая защищает метаданные и позволяет авторам добавлять информацию о себе.
Технология SynthID была создана командой DeepMind. Она представляет собой цифровой метатег, встраиваемый в изображения, видео, аудио или тексты и этот тег позволяет определить, были ли файлы созданы или изменены с помощью ИИ.
