Альтман, у нас проблемы. Магазин чат-ботов от OpenAI переполнен спамом
GPT Store заполнили созданные пользователями чат-боты, имитирующие настоящих людей и потенциально нарушающие права авторов популярных лент и мультфильмов.
Выпуск пользовательских GPT не требует от создателей навыков кодирования — достаточно лишь разобраться в инструментах для их создания, которые предлагает OpenAI. А разместить такого настроенного собственноручно чат-бота на базе GPT в маркете GPT Store могут все желающие. Неудивительно, что за 2,5 месяца таких пользовательских чат-ботов появились тысячи. Впрочем, система модерации OpenAI, похоже, не справляется с этим наплывом.
Как пишет TechCrunch, несмотря на имеющиеся инструменты модерации, на платформе есть немало чат-ботов, которые потенциально нарушают и политику компании, и законодательство. К примеру, журналисты обнаружили несколько GPT, которые ассоциируются с популярными франшизами, телешоу, видеоиграми и тому подобное. Один из них предлагает создать изображение монстра, как в мультфильме Корпорация монстров от Pixar, другой — создать новый текст о вселенной Звездных войн, еще один — поговорить с Аангом из мультфильма об Аватаре. Также есть чат-боты, которые предлагают создать что-то в стиле Disney или Marvel. Старший юрист Electronic Frontier Foundation Кит Уолш в комментарии изданию отметил, что эти GPT потенциально могут быть использованы для создания произведений, нарушающих авторские права. Также могут быть проблемы с использованием торговых марок. В то же время OpenAI не может быть привлечена к ответственности за создание и распространение такого контента на ее платформе — так же как и YouTube и Facebook не ответственны за своих нарушителей.
Еще одна замеченная журналистами проблема категория — чат-боты, ассоциированные с определенными людьми. В GPT Store есть десятки чат-ботов, имитирующих известных людей (Илона Маска, Дональда Трампа, Джо Рогана и других), и проблемным остается вопрос о том, являются ли они примером пародии или скорее чем-то, что выдает себя за другое лицо. В своей политике OpenAI запрещает разработчикам создавать GPT, которые выдают себя за людей или организации без их согласия или законного права. Представитель OpenAI отмечает, что платформа не запрещает создавать чат-бот в стиле определенных людей при определенных условиях.
«Мы позволяем создателям давать указания своим GPT соответствовать стилю конкретного реального лица, при условии, что они не выдают себя за него, например, если их называют настоящим лицом, получают инструкции полностью подражать им и включают их изображение как изображение профиля GPT», — заявляет представитель компании.
Это не единственные типы проблемных чат-ботов, которые начали массово появляться в магазине за последние недели. TechCrunch также обнаружил немало чат-ботов, которые якобы должны помочь клиентам обойти существующие детекторы искусственного интеллекта, используемые для проверки текстов. Более того, есть и чат-боты с не менее противоречивым уровнем эффективности, предлагающие обойти ограничения самой модели OpenAI и заставить ее отвечать на вопросы, которые она должна была бы игнорировать (например, о том, как создать бомбу).
NV Техно писал, что всего через несколько дней после запуска GPT Store заполонили модели, имитирующие романтическое общение с девушками. Это произошло несмотря на то, что политика использования OpenAI прямо указывает, что «GPT, направленные на развитие романтических отношений или выполнение регламентированной деятельности» запрещены.
