Нарешті. Світові виробники ШІ-продуктів об'єдналися для вилучення дитячої порнографії з навчальних даних
Google, Meta, OpenAI, Microsoft і Amazon зобов’язалися переглянути свої навчальні дані для штучного інтелекту та вилучити будь-які матеріали, що можуть стосуватися сексуального насильства над дітьми (CSAM).
CSAM вже знаходили в навчальних матеріалах моделей штучного інтелекту. Широке коло компаній нарешті домовилося боротися з цим явищем. Google, Meta, OpenAI, Microsoft, Amazon, Anthropic, Stability AI та інші підписали новий набір принципів, спрямований на обмеження розповсюдження CSAM. Вони обіцяють переконатися, що їхні навчальні набори даних не містять CSAM, уникати наборів даних із високим ризиком включення CSAM, а також видаляти зображення CSAM або посилання на CSAM з джерел даних. Компанії також зобов’язуються проводити «стрес-тестування» моделей штучного інтелекту, щоб переконатися, що вони не створюють жодних зображень із зображенням сексуального насильства, і випускати моделі, лише якщо вони були оцінені на предмет безпеки щодо дітей.
У дописі в блозі Google повідомляє, що окрім дотримання принципів, також збільшує гранти на рекламу для американського Національного центру зниклих безвісти та експлуатованих дітей (NCMEC) для просування його ініціатив.
Як писав NV Техно, CSAM виявляли, зокрема, в наборі даних LAION-5B, на якому Stability AI тренувала свою модель ШІ Stable Diffusion.
