Дети в опасности. Наборы данных для ИИ наполнены чувствительной информацией и фото несовершеннолетних — исследование

В прошлом месяце исследовательница Human Rights Watch (HRW) Хэ Чон Хан нашла 170 фотографий бразильских детей, которые были в популярном наборе данных для обучения искусственного интеллекта LAION-5B, созданном на основе мгновенных снимков общедоступной сети Common Crawl. Теперь исследовательница обнаружила еще 190 фотографий детей из Австралии. Эти фотографии попали в набор данных без ведома или согласия детей или их семей.

Данные охватывают детей разного возраста, что в конечном итоге позволяет генераторам изображений создавать реалистичные дипфейки с австралийскими детьми. А URL-адреса в наборе данных иногда раскрывают информацию о детях, необходимую для их идентификации (имя, место съемки и т. д.). Это облегчает поиск детей, чьи изображения иначе нельзя найти в Интернете.

Из ссылки на одну фотографию, на которой изображены «два мальчика в возрасте 3 и 4 года, которые широко улыбаются, держа кисти перед красочной фреской», исследовательнице удалось проследить полные имена и возраст детей, а также название дошкольного учреждения, которое они посещают в Перте, в Западной Австралии. 

Еще одно фото («крупный план двух мальчиков, которые делают смешные лица») оказалось скриншотом из видео на YouTube, автор которого сделал его доступным только по ссылке. Ограничение не помешало Common Crawl заархивировать изображение, как и политика YouTube, которая запрещает собирать идентификационную информацию с видео на платформе.

Чтобы найти фотографии австралийских детей, исследовательница «просмотрела менее 0,0001 процента из 5,85 миллиарда изображений и подписей, содержащихся в наборе данных».

Как пишет Ars Technica, LAION работает с HRW, чтобы удалить ссылки на все упомянутые изображения. Но очистка набора данных не является быстрым процессом и ущерб уже был нанесен, поскольку инструменты ИИ уже обучились на этих данных.