Наконец-то. Мировые производители ИИ-продуктов объединились для извлечения детской порнографии из учебных данных

CSAM уже находили в учебных материалах моделей искусственного интеллекта. Широкий круг компаний наконец договорился бороться с этим явлением. Google, Meta, OpenAI, Microsoft, Amazon, Anthropic, Stability AI и другие подписали новый набор принципов, направленный на ограничение распространения CSAM. Они обещают убедиться, что их учебные наборы данных не содержат CSAM, избегать наборов данных с высоким риском включения CSAM, а также удалять изображения CSAM или ссылки на CSAM из источников данных. Компании также обязуются проводить «стресс-тестирование» моделей искусственного интеллекта, чтобы убедиться, что они не создают никаких изображений с изображением сексуального насилия, и выпускать модели, только если они были оценены на предмет безопасности в отношении детей.

В заметке в блоге Google сообщает, что кроме соблюдения принципов, компания также увеличила гранты на рекламу для американского Национального центра пропавших без вести и эксплуатируемых детей (NCMEC) для продвижения его инициатив.

Как писал NV Техно, CSAM обнаруживали, в частности, в наборе данных LAION-5B, на котором Stability AI тренировала свою модель ИИ Stable Diffusion.