Діти в небезпеці. Набори даних для ШІ наповнені чутливою інформацією та фото неповнолітніх — дослідження

Минулого місяця дослідниця Human Rights Watch (HRW) Хе Чон Хан знайшла 170 фотографій бразильських дітей, які були в популярному наборі даних для навчання штучного інтелекту LAION-5B, створеному на основі миттєвих знімків загальнодоступної мережі Common Crawl. Тепер дослідниця виявила ще 190 фотографій дітей з Австралії. Ці фотографії потрапили в наборі даних без відома або згоди дітей або їхніх сімей.

Дані охоплюють дітей різного віку, що зрештою дозволяє генераторам зображень створювати реалістичні дипфейки з австралійськими дітьми. А URL-адреси в наборі даних іноді розкривають інформацію про дітей, потрібну для їхньої ідентифікації (імені, місце знімання тощо). Це полегшує пошук дітей, чиї зображення інакше не можна знайти в Інтернеті.

З одного посилання на одну фотографію, на якій зображено «двох хлопчиків, віком 3 і 4 роки, які широко посміхаються, тримаючи пензлі перед барвистою фрескою», дослідниці вдалося простежити повні імена та вік дітей, а також назву дошкільного закладу, який вони відвідують у Перті, у Західній Австралії.

Ще одне фото («великий план двох хлопчиків, які роблять смішні обличчя») виявилося скриншотом з відео на YouTube, автор якого зробив його доступним лише за посиланням. Обмеження не завадило Common Crawl заархівувати зображення, як і політика YouTube, яка забороняє збирати ідентифікаційну інформацію з відео на платформі.

Щоб знайти фотографії австралійських дітей, дослідниця «переглянула менш як 0,0001 відсотка з 5,85 мільярда зображень і підписів, що містяться в наборі даних».

Як пише Ars Technica, LAION працює з HRW, щоб видалити посилання на всі згадані зображення. Але очищення набору даних не є швидким процесом і шкоди вже було завдано, оскільки інструменти ШІ вже навчилися на цих даних.