Корисне партнерство. Google, OpenAI, Roblox і Discord використають ШІ для боротьби з дитячою порнографією

12 лютого, 17:26
Зробити резюме статті:
ChatGPT ChatGPT
Нова ініціатива проти CSAM хоче вдосконалити наявні інструменти (Фото: juriskraulis/Depositphotos)

Нова ініціатива проти CSAM хоче вдосконалити наявні інструменти (Фото: juriskraulis/Depositphotos)

Google, OpenAI, Roblox і Discord створили нову некомерційну організацію Robust Open Online Safety Tools (ROOST) для виявлення та звітування про матеріали, пов’язані з сексуальним насильством над дітьми (CSAM).

За словами партнера-засновника ROOST і колишнього генерального директора Google Еріка Шмідта, нова ініціатива спрямована на розв’язання критичної проблеми прискорення інновацій у сфері онлайн-безпеки дітей. Метою ініціативи оголошено збільшення доступності вже наявних інструментів для виявлення та звітування про CSAM. Учасники прагнуть ефективно поєднати різні технології від організацій-членів в уніфіковане рішення, яке іншим компаніям буде легше впровадити. Члени-засновники ROOST по-різному залучені до цієї роботи. Вони надають фінансування та пропонують свої інструменти чи досвід для проєкту.

Реклама

«Починаючи з платформи, орієнтованої на захист дітей, спільний підхід ROOST із відкритим вихідним кодом сприятиме інноваціям і зробить основну інфраструктуру більш прозорою, доступною та інклюзивною з метою створення безпечнішого Інтернету для всіх», — сказав Шмідт.

В ROOST кажуть. що співпрацюють з провідними розробниками базової моделі штучного інтелекту, щоб побудувати «спільноту практиків» із захисту вмісту, яка включатиме надання перевірених наборів даних для навчання ШІ та виявлення прогалин у безпеці. Поки незрозуміло, як ці інструменти будуть взаємодіяти з наявними системами виявлення матеріалів, пов’язаних з сексуальним насильством, такими як інструмент аналізу зображень PhotoDNA від Microsoft. Згідно з пресрелізом, організацію ROOST також отримають підтримку експерти з безпеки дітей, штучного інтелекту, технологій з відкритим кодом і «протидії насильницькому екстремізму».

Показати ще новини