Онлайновый ад. Магазин самодельных чат-ботов с ИИ от OpenAI кишит порногенераторами и псевдоврачами
GPT Store, который позволяет пользователям распространять настроенные собственноручно чат-боты с искусственным интеллектом, все еще остается не самым привлекательным местом в Интернете.
6 ноября OpenAI на своей первой конференции разработчиков объявила, что пользователи смогут начать создавать собственные версии ChatGPT без необходимости изучать кодирование и даже смогут зарабатывать на этом. Магазин заработал в начале года и уже 9 месяцев имеет одну и ту же проблему — ужасную модерацию, из-за которой там распространяются чат-боты, нарушающие правила самой OpenAI.
Журналисты Gizmodo обнаружили в GPT Store более 100 проблемных чат-ботов, которые, кажется, нарушают политику компании в отношении сексуального контента, мошенничества, юридических и медицинских советов, азартных игр, имитации романтических отношений и тому подобное.
«Многие разработчики используют платформу для предоставления GPT, … которые явно создают порно, сгенерированное искусственным интеллектом, помогают студентам незаметно мошенничать, предлагает авторитетные медицинские и юридические советы», — пишет издание.
Поиск таких чат-ботов довольно прост. Например, поиск в магазине по запросу NSFW (от Not safe for work, сленговое выражение, обозначающее контент с порнографией, ненормативной лексикой и так далее), может привести к NSFW AI Art Generator, автор которого Offrobe AI прямо говорит, что это инструмент для создания порно с помощью искусственного интеллекта. Проблемные чат-боты можно было найти и просто на домашней странице GPT Store. Эти чат-боты во многих случаях использовались тысячи раз.
«Другой мошеннический GPT под названием Bypass Turnitin Detection, который обещает помочь студентам избежать антиплагиатного программного обеспечения Turnitin, был использован более 25 000 раз, согласно данным магазина. Как и DoctorGPT, бот, который «предоставляет доказательную медицинскую информацию и советы», — пишут журналисты.
После того как СМИ передали OpenAI перечень проблемных GPT, компания спрятала ИИ-генераторы порно и дипфейков, чат-боты, которые предоставляли рекомендации по спортивным ставкам, были удалены из магазина. Но боты, предлагающие медицинские советы, оставались доступными и рекламировались на домашней странице магазина. Комментируя свои проблемы с модерацией, компания сообщила, что использует подход, предусматривающий проверку настроенных GPT с помощью автоматических систем и персонала компании.
«Мы приняли меры против тех, кто нарушает нашу политику. Мы используем комбинацию автоматизированных систем, проверки персоналом и отчетов пользователей, чтобы находить и оценивать GPT, которые потенциально нарушают нашу политику. Мы также предлагаем встроенные инструменты отчетности, чтобы люди сообщали о GPT, которые нарушают наши правила», — сказала пресс-секретарь OpenAI Тая Кристиансон.
Это был не первый случай, когда на платформе обнаружили значительные проблемы с модерацией контента. Ранее журналисты обнаружили несколько GPT, которые могут иметь проблемы с авторским правом, поскольку копируют популярные франшизы, телешоу, видеоигры и тому подобное. Еще в первую неделю существования магазина его заполонили модели, имитирующие романтическое общение с девушками для пользователя.
