Новый детектор. Google запустила сервис для проверки фото и видео на наличие ИИ

Об этом пишет издание Gizmodo .

Новый портал позволяет пользователям загружать фото или видео и проверять, содержит ли файл водяной знак SynthID. Google DeepMind представила эту технологию еще в 2023 году. Она добавляет невидимую для человеческого глаза метку к изображениям, созданным с помощью ИИ-инструментов компании. Водяной знак должен сохраняться даже после кадрирования или редактирования фотографии.

Однако SynthID.com не определяет любой контент, созданный искусственным интеллектом в интернете. Система способна распознавать материалы, созданные с помощью инструментов Google и других компаний, использующих SynthID. На данный момент в их число входят Google, OpenAI, Nvidia и Kakao.

Ограничения сервиса хорошо демонстрирует тест с фальшивым фото, на котором изображены Дональд Трамп, генеральный прокурор Техаса Кен Пакстон и персонаж McDonald's Гримас. Изображение было создано с помощью ИИ Gemini. Система правильно определила, что картинка искусственно создана или отредактирована.

В то же время Gemini ошибочно заявил, что в основе изображения лежит реальная фотография Трампа и Пакстона, сделанная в марте 2024 года в гольф-клубе Trump International в Уэст-Палм-Бич. Журналисты не нашли подтверждения существования такого оригинального снимка. Ссылка, которую Gemini предложил в качестве источника, также не содержала соответствующего фото.

Еще один тест провели с изображением, созданным Grok. SynthID не обнаружил своего водяного знака и указал, что маловероятно, будто этот материал был создан с помощью ИИ партнеров Google. В то же время сервис отдельно предупредил, что изображение могло быть создано другой компанией или до того, как она начала использовать SynthID.

Google отмечает, что технология уже интегрирована в экосистему моделей различных компаний, а список партнеров продолжает расширяться. Однако результаты таких проверок не следует воспринимать как окончательное доказательство подлинности изображения.

Еще одним ограничением является необходимость авторизации. Для использования SynthID.com нужно войти через учетную запись Google, Apple или ChatGPT.