Малоизвестный ИИ завирусился в сети. Все благодаря плохой защите, позволявшей генерировать дипфейк-порно

В начале года стало известно, что ByteDance, которая владеет TikTok, без объявления запустила приложение с искусственным интеллектом Cici AI. Его разработала дочерняя компания ByteDance под названием Spring Pte. Ltd. Как и многие похожие программы, Cici AI может отвечать на вопросы и создавать изображения на основе текстовых подсказок.

ByteDance заявила, что этот ИИ в фазе тестирования и официально доступен только на нескольких рынках, однако доступ легко получить с помощью VPN. Потому несмотря на ограниченное развертывание малоизвестное приложение уже нашло своих сторонников. Правда, это произошло не из-за совершенного функционала программы, а из-за существенных пробелов в ее безопасности.

Как пишет 404Media, Cici AI активно использовали юзеры 4chan, которые обнаружили, что программа позволяет генерировать порнографические изображения без лишних усилий. В частности, изображения с известными людьми. Изображения, созданные с помощью Cici AI, были качественнее тех, что создавала Microsoft Designer, в которой генерировали скандальные дипфейки с Тейлор Свифт.

В условиях использования Cici AI указано, что генерировать откровенный контент запрещено, и многочисленные нарушения запрета могут привести к блокировке учетной записи, но это не остановило пользователей 4chan. После того как проблема получила огласку, ByteDance отключила возможности создания изображений.