Сгенерированное — не пройдет. YouTube будет наказывать пользователей за безответственное использование ИИ

В YouTube отмечают, что технологии с использованием ИИ становятся все более мощными, и могут использоваться для того, чтобы ввести зрителей в заблуждение. Особенно если они не знают, что видео было изменено или полностью создано с помощью ИИ.

Чтобы решить проблему, в течение следующих месяцев компания введет ряд изменений на платформе.

«В частности, мы будем требовать от создателей сообщать, если они меняли или создавали реалистичный контент, в частности, с помощью инструментов ИИ. Когда создатели загружают контент, будут новые параметры, где можно будет указать, что видео содержит реалистичный измененный или искусственный материал. Например, это может быть сгенерированное искусственным интеллектом видео, которое реалистично изображает событие, которого никогда не было, или контент, который показывает, как кто-то говорит или делает то, чего на самом деле не делал», — говорится в сообщении в блоге YouTube.

Авторы видео, которые сознательно умалчивают информацию о применении ИИ и других технологий, могут быть исключены из Партнерской программы YouTube или наказаны другим способом.

Часть изменений будет направлена на облегчение идентификации отредактированных видео зрителями. Зрителей будут информировать о том, что контент был изменен, с помощью нового примечания в описании к видео. В отдельных случаях видео могут быть удалены с платформы.

«Для определенных типов контента на деликатные темы мы добавим в видеопроигрыватель более заметную метку. Есть также некоторые области, где одной метки может быть недостаточно, чтобы уменьшить риск причинения вреда, и некоторые искусственные медиафайлы, независимо от того, есть ли на них метки, будут удалены с нашей платформы, если они нарушают наши Правила сообщества. Например, искусственно созданное видео, демонстрирующее реалистичное насилие, может быть удалено, если его целью является шокировать зрителей или вызвать отвращение», — объясняют в компании.

К деликатным темам, заслуживающим особого внимания, в YouTube относят выборы, текущие конфликты и кризисы в области здравоохранения, информацию о государственных служащих.

Ранее NV Техно писал, что YouTube начинает использовать инструменты с генеративным искусственным интеллектом для работы с комментариями и контентом. Уже идут испытания, в которых участвует ограниченное количество пользователей с подпиской Premium.