Цвета говорят больше, чем кажется: изображения от ИИ выдают себя при одном фильтре

На платформе Reddit разгорелось обсуждение о скрытых метках в изображениях, созданных генератором Gemini от Google. Пользователи утверждают, что компания встраивает невидимые водяные знаки в каждое сгенерированное изображение, и увидеть их можно только при изменении насыщенности цветов.

Автор под ником thrftshxp первым опубликовал пример, где после обработки картинки через приложение Photomosh на ней проявились цветные артефакты и узоры, напоминающие цифровые метки. По его словам, исходное изображение было создано в Gemini, а затем подверглось апскейлу и усилению насыщенности, после чего водяные знаки стали отчётливо видимыми.

"Если просто поднять насыщенность, то на картинке появляются яркие точки и линии — они не случайные. Похоже, это встроенный маркер Gemini", — отметил пользователь thrftshxp.

Как обнаружить скрытые водяные знаки

Другие участники дискуссии проверили эксперимент и подтвердили, что подобные артефакты действительно можно увидеть прямо в браузере. Для этого достаточно выполнить несколько простых действий:

1. Сгенерировать чёрно-белое изображение в Gemini.

2. Открыть его в отдельной вкладке браузера.

3. В консоли разработчика применить CSS-фильтр:

После этого на изображении появляются разноцветные пятна и линии, распределённые по всей поверхности. При этом реальные чёрно-белые фотографии, не прошедшие через генератор, при том же фильтре остаются равномерно окрашенными - без характерных цветных фрагментов.

Таким образом, пользователи предполагают, что Google скрытно маркирует изображения, чтобы отличать их от реальных фотографий.

Можно ли удалить водяные знаки

Некоторые пользователи нашли и обратный способ — визуально убрать метки, хотя технически это не гарантирует удаления цифровой подписи. По их словам, достаточно применить к картинке CSS-фильтр:

После этого изображение теряет насыщенность, а водяные знаки становятся незаметными. Однако авторы подчёркивают, что такая манипуляция не стирает метаданные или скрытые пиксельные паттерны, если они закодированы глубже.

"Удалить их полностью нельзя — можно только скрыть визуальные следы", — написал один из участников обсуждения.

Почему Google могла внедрить водяные знаки

Компания Google пока официально не комментировала наличие скрытых водяных знаков в изображениях Gemini. Однако эксперты считают, что такая система — часть политики ответственного ИИ, направленной на распознавание и маркировку сгенерированного контента.

Скрытые маркеры могут выполнять несколько функций:
• предотвращать попадание ИИ-контента в обучающие датасеты будущих моделей;
• помогать системам проверки различать реальные фото и синтетические;
• упрощать выявление манипулированных изображений в интернете.

Ранее Google заявляла, что внедряет технологию SynthID, созданную подразделением DeepMind, для незаметного водяного знака в пиксельных данных изображений и видео. Эта технология работает таким образом, что метка остаётся даже после редактирования, обрезки или изменения цвета.

Таким образом, Reddit-пользователи, вероятно, обнаружили визуальный след SynthID, проявляющийся при сильной коррекции насыщенности.

Сравнение систем водяных знаков ИИ

Почему это важно

Скрытые водяные знаки становятся новым стандартом этичного использования генеративных технологий. Они помогают предотвратить:
• попадание сгенерированных картинок в обучающие наборы новых моделей (что вызывает "самокопирование" контента);
• распространение дезинформации и фейковых изображений;
• потерю авторства и юридических споров вокруг происхождения изображений.

Однако обнаружение таких меток пользователями Reddit поднимает вопрос о прозрачности: если Google действительно маркирует все изображения, пользователи должны быть осведомлены об этом.

"Проблема не в самом водяном знаке, а в том, что об этом не было объявлено официально", — написал один из участников обсуждения.

Ошибка → Последствие → Альтернатива

• Ошибка: считать, что фильтры полностью удаляют метку.
  Последствие: изображение всё равно останется идентифицируемым.
  Альтернатива: использовать генераторы с открытым исходным кодом, где метки отключаются вручную.

• Ошибка: распространять отредактированные картинки как "оригинальные".
  Последствие: возможное нарушение политики платформы.
  Альтернатива: упоминать источник генерации.

• Ошибка: полагать, что маркеры влияют на качество изображения.
  Последствие: ложные выводы о деградации картинки.
  Альтернатива: проводить анализ в нейтральных условиях (одинаковая цветопередача и освещение).

А что если водяные знаки станут обязательными?

Эксперты считают, что к 2026 году водяные знаки для ИИ-контента могут стать обязательными по международным нормам. Еврокомиссия и американские регуляторы уже обсуждают требования к маркировке синтетических изображений и видео.

В этом случае технологии вроде SynthID станут стандартом, а пользователи смогут автоматически проверять подлинность контента через встроенные инструменты браузеров или соцсетей.

Плюсы и минусы скрытых меток

FAQ

Можно ли считать эти водяные знаки доказательством использования Gemini?
Нет. Они указывают на вероятность, но не являются юридическим подтверждением происхождения изображения.

Зачем Google скрывает водяные знаки, а не делает их видимыми?
Чтобы сохранить качество визуального контента и при этом дать возможность алгоритмам определять источник.

Опасно ли повышать насыщенность для проверки?
Нет, это не влияет на данные, но не гарантирует, что водяной знак станет видимым на всех изображениях.

Исторический контекст

Google представила SynthID в августе 2023 года как решение для борьбы с дезинформацией. Сначала технология применялась в сервисе Imagen, а затем распространилась на Gemini. В 2024 году её интегрировали в видео- и аудиогенераторы компании.
Теперь, когда пользователи самостоятельно обнаружили следы этой системы, дискуссия о прозрачности маркировки ИИ-контента получила новое развитие.

Интересные факты

1. Технология SynthID создаёт микроскопические искажения в яркостных каналах пикселей, незаметные глазу.

2. Даже при сжатии изображения до 30% водяной знак сохраняется.

3. Reddit уже обсуждает создание открытого инструмента для проверки наличия SynthID на изображениях.