Вот так брешь. Лазейка в ИИ от Microsoft позволяла создавать фейковый порноконтент с Тейлор Свифт, ее закрыли
Инструмент Designer от Microsoft с искусственным интеллектом позволял создавать порнографические дипфейки со знаменитостями, в частности, Тейлор Свифт. Одну из лазеек, использованных юзерами, прикрыли.
Тысячи пользователей объединились на 4chan и в Telegram для обсуждения и создания фейковых сексуализированных изображений со знаменитостями с помощью генеративного искусственного интеллекта. В частности, активно использовали Designer от Microsoft, пишет 404 Media.
После того как изображения со звездами стали вирусными на прошлой неделе, Microsoft запретила генерировать изображения по простым текстовым подсказкам вроде «Тейлор Свифт обнаженная». Однако эту защиту пользователи массово обходили, прибегая к нехитрым манипуляциям, как написание имени певицы с орфографической ошибкой. Также генерировать порнографические изображения помогало использование описаний, которые не содержали бы никаких терминов, связанных с сексом.
Хотя многочисленные сообщения на 4chan и в Telegram свидетельствуют, что пользователи генерировали этот вредоносный контент с помощью Designer, Microsoft пока этого не подтверждает. Корпорация продолжает расследование и пытается усиливать ограничения для того, чтобы прекратить использование ее ИИ для создания такого контента. Сейчас большинство лазеек, которыми пользовались авторы порнографических дипфейков, закрыты, подтвердило тестирование, проведенное 404 Media.
Напомним, на прошлой неделе в соцсетях начали массово распространяться порноизображения с известной американской певицей Тейлор Свифт. Проблема стала настолько масштабной, что платформы начали запрещать поиск имени певицы на своих сайтах, а Белый дом призвал к законодательным изменениям.
