Полезное партнерство. Google, OpenAI, Roblox и Discord используют ИИ для борьбы с детской порнографией

По словам партнера-основателя ROOST и бывшего генерального директора Google Эрика Шмидта, новая инициатива направлена на решение критической проблемы ускорения инноваций в сфере онлайн-безопасности детей. Целью инициативы объявлено увеличение доступности уже существующих инструментов для выявления и отчетности о CSAM. Участники стремятся эффективно совместить различные технологии от организаций-членов в унифицированное решение, которое другим компаниям будет легче внедрить. Члены-основатели ROOST по-разному вовлечены в эту работу. Они предоставляют финансирование и предлагают свои инструменты или опыт для проекта.

«Начиная с платформы, ориентированной на защиту детей, совместный подход ROOST с открытым исходным кодом будет способствовать инновациям и сделает основную инфраструктуру более прозрачной, доступной и инклюзивной с целью создания более безопасного Интернета для всех», — сказал Шмидт.

В ROOST говорят. что сотрудничают с ведущими разработчиками базовой модели искусственного интеллекта, чтобы построить «сообщество практиков» по защите контента, которое будет включать предоставление проверенных наборов данных для обучения ИИ и выявления пробелов в безопасности. Пока непонятно, как эти инструменты будут взаимодействовать с существующими системами обнаружения материалов, связанных с сексуальным насилием, такими как инструмент анализа изображений PhotoDNA от Microsoft. Согласно пресс-релизу, организацию ROOST также получат поддержку эксперты по безопасности детей, искусственному интеллекту, технологиям с открытым кодом и «противодействию насильственному экстремизму».