Новый скандал. Как популярная ИИ-программа научилась раздевать женщин без их согласия
IT-индустрия15 декабря 2022, 07:30
Технологии искусственного интеллекта, которые массово начали применять в цифровом искусстве, несут сразу несколько серьезных угроз для общества.
Во-первых, авторы контента разного рода побаиваются, что их интеллектуальная собственность навсегда утратит авторское право и другие формы защиты от плагиата.
Во-вторых, тот энтузиазм, с которым миллионы пользователей загружают личные фото на ИИ-платформы, вызывает опасения у экспертов по кибербезопасности и защите персональных данных.
Недавно к этим проблемам добавили сексуализацию женщин: оказалось, что популярный сервис Lensa охотно «раздевает» пользователей женского пола на снимках, где нет и намека на эротику.
Такую тенденцию пользователи платформы заметили даже в случае со своими детскими снимками.
Подпишитесь на NV Премиум и читайте без ограничений
Нам необходима ваша поддержка, чтобы заниматься качественной журналистикой
Что такое Lensa?
Представленная в 2018-м калифорнийской компанией с командой российских разработчиков Prisma Labs, сегодня Lensa ㅡ одно из самых популярных приложений для создания «художественных аватаров».
Вместе с дополнением Magic Avatars, Lensa позволяет генерировать стилизированные изображения из обычных селфи, используя технологии искусственного интеллекта.
Месячная премиум-подписка Lensa обойдется в $8, а за год использования всех функций приложения придется заплатить не менее $30.
В условиях использования сервиса указано, что для обработки нельзя отправлять фотографии с обнаженными телами и снимки детей.
Однако, многие пользователи ㅡ особенно женского пола ㅡ заметили, что даже при загрузке более чем скромных селфи платформа стремится сексуализировать финальный результат и буквально раздеть героев на фото.
Скандальный результат
«Из 100 созданных мною аватаров, 16 были топлесс, а еще на 14 я была одета в довольно открытую одежду и находилась в откровенно сексуальных позах», ㅡ пишет автор издания MIT Technology Review, Мелисса Хейккиля, которая лично испытала работу Lensa на собственных снимках.
По ее словам, платформа генерировала изображение женского обнаженного тела в сексуальной позе даже тогда, когда Хейккиля выбирала опцию содания мужского аватара на основе своего снимка.
Доцент Вашингтонского университета Айлин Калискан говорит, что в этой ситуации нет ничего удивительного, поскольку Lensa создает свои аватары на основе модели искусственного интеллекта Stable Diffusion, которая компилирует миллионы изображений из интернета.
Учитывая, что сеть переполнена снимками обнаженных женщин, финальные изображения пользователей приложения очень часто сексуализируются вне зависимости от их желания.
«Женщины ассоциируются с сексуальным контентом, тогда как мужчины ассоциируются с профессиональным контентом, связанным с карьерой, в любой важной области, включая медицину, науку, бизнес
В случае с мужскими снимками действительно гораздо чаще платформа выдает изображения, связанные с определенными профессиями. В то время как даже портретные фотографии женщин Lensa регулярно превращает в контент 18+.
Кроме этого, обозреватель журнала Wired и профессор Калифорнийского университета в Лос-Анджелесе Оливия Сноу заметила, что платформа также отбеливала кожу и «англизировала» внешние черты темнокожих и азиатских женщин.
Сноу добавила, что Lensa смогла сексуализировать даже ее десткие снимки: «В некоторых случаях ИИ, казалось, распознавал тело ребенка и, к счастью, не добавлял грудь. Вероятно, это было отражением не личной этики технологии, а закономерностей, которые она выявила на моей фотографии. Возможно, ИИ воспринимал мою плоскую грудь как взрослую».
По ее словам, дети, которые могут использовать это приложение, столкнуться с чрезмерной сексуализацией своих тел и смогут использовать это для сексуальных домагательств к сверстникам.
Кроме этого, Lensa никак не проверяет, кому принадлежат снимки, которые заргужает конкретный пользователей, что может привести к преднамеренной дискредитации людей.
Растущая опасность
Еще большую опасность представляет технология deepfake — ИИ, который может заменить лицо любого человека на видео на лицо другого, или даже озвучить какой-либо текст определенным голосом.
Несколько лет назад вокруг этой технологии вспыхнул скандал из-за deepfake-порно, в котором использовали лица знаменитостей.
Позже появились deepfake-сервисы, которые позволяли раздеть любую девушку на фото. Технология к этому времени развилась настолько, что зачастую невозможно определить, подделка это или настоящее фото/видео.
Недавно двух тайваньских YouTube-блогеров приговорили к штрафу в размере более $32 тыс. за создание deepfake-порно с членом городского совета.
А в Великобритании планируют ввести криминальную ответственность за распространение такого контента.
«Смотреть онлайн-видео, на котором ты занимаешься сексом, достаточно страшно, но видеть, как ты занимаешься сексом с кем-то, кого ты не помнишь, в месте, которого ты не помнишь, — это настоящая травма», — говорит британская активистка Кейт Айзекс, которая обнаружила в Twitter deepfake-порно со своим участием.
Один из веб-сайтов с таким контентом набрал более 38 млн просмотров за за первые восемь месяцев 2021 года.
«Мы должны сделать больше, чтобы защитить женщин и девочек от людей, которые манипулируют контентом 18+, чтобы преследовать или унизить их… Наши изменения дадут полиции и прокуратуре полномочия, необходимые для привлечения этих трусов к ответственности и защиты женщин и девочек от такого гнусного насилия», — заявил министр юстиции Великобритании Доминик Рааб.
Критики нового законопроекта говорят, что он может привести к ежедневной слежке правительства за личной перепиской миллионов пользователей.
В 2020 году эксперты по кибербезопасности также обнаружили Telegram-бот, который создавал обнаженные фотографии людей на основе их реальных снимков. От этого бота могли пострадать более 100 тыс. женщин, включая пользователей возрастом до 18 лет.