Маловідомий ШІ завірусився в мережі. Все завдяки поганому захисту, що дозволяв генерувати дипфейк-порно

На початку року стало відомо, що ByteDance, яка володіє TikTok, без оголошення запустила застосунок зі штучним інтелектом Cici AI. Його розробила дочірня компанія ByteDance під назвою Spring Pte. Ltd. Як і багато схожих програм, Cici AI може відповідати на запитання та створювати зображення на основі текстових підказок.

Bytedance заявила, що цей ШІ у фазі тестування і офіційно доступний лише на кількох ринках, однак доступ легко отримати за допомогою VPN. Тож попри обмежене розгортання маловідомий застосунок вже знайшов своїх прихильників. Щоправда, це сталося не через досконалий функціонал програми, а через суттєві прогалини в її безпеці.

Як пише 404Media, Cici AI активно використовували юзери 4chan, які виявили, що програма дозволяє генерувати порнографічні зображення без зайвих зусиль. Зокрема, зображення з відомими людьми. Зображення, створені за допомогою Cici AI, були якіснішими за ті, що створювала Microsoft Designer, в якій генерували скандальні дипфейки з Тейлор Свіфт.

В умовах використання Cici AI зазначено, що генерувати відвертий вміст заборонено, і численні порушення заборони можуть призвести до блокування облікового запису, та це не зупинило користувачів 4chan. Після того, як проблема набула розголосу, ByteDance вимкнула можливості створення зображень.