Онлайнове пекло. Магазин саморобних чат-ботів з ШІ від OpenAI кишить порногенераторами та псевдолікарями

6 листопада OpenAI на своїй першій конференції розробників оголосила, що користувачі зможуть почати створювати власні версії ChatGPT без необхідності вивчати кодування і навіть зможуть заробляти на цьому. Магазин запрацював на початку року і вже 9 місяців має одну і ту саму проблему — жахливу модерацію, через яку там поширюються чат-боти, що порушують правила самої OpenAI.

Журналісти Gizmodo виявили в GPT Store понад 100 проблемних чат-ботів, які, здається, порушують політику компанії щодо сексуального контенту, шахрайства, юридичних і медичних порад, азартних ігор, імітації романтичних стосунків тощо.

«Багато розробників використовують платформу для надання GPT, … які явно створюють порно, згенероване штучним інтелектом, допомагають студентам непомітно шахраювати, пропонує авторитетні медичні та юридичні поради», — пише видання.

Пошук таких чат-ботів є доволі легким. Наприклад, пошук у магазині за запитом NSFW (від Not safe for work, сленговий вислів на позначення контенту, що містить порнографію, ненормативну лексику тощо), може привести до NSFW AI Art Generator, автор котрого Offrobe AI прямо каже, що це інструмент для створення порно за допомогою штучного інтелекту. Проблемні чат-боти можна було знайти і просто на домашній сторінці GPT Store. Ці чат-боти в багатьох випадках використовувалися тисячі разів.

«Інший шахрайський GPT під назвою Bypass Turnitin Detection, який обіцяє допомогти студентам уникнути антиплагіатного програмного забезпечення Turnitin, був використаний понад 25 000 разів, згідно з даними магазину. Так само DoctorGPT, бот, який «надає доказову медичну інформацію та поради», — пишуть журналісти.

Після того, як ЗМІ передали OpenAI перелік проблемних GPT, компанія сховала ШІ-генератори порно і дипфейків, чат-боти, які надавали рекомендації щодо спортивних ставок, були видалені з магазину. Але боти, що пропонують медичні поради, залишалися доступними та рекламувалися на домашній сторінці магазину. Коментуючи свої проблеми з модерацією, компанія повідомила, що використовує підхід, що передбачає перевірку налаштованих GPT за допомогою автоматичних систем та персоналу компанії.

«Ми вжили заходів проти тих, хто порушує нашу політику. Ми використовуємо комбінацію автоматизованих систем, перевірки персоналом і звітів користувачів, щоб знаходити та оцінювати GPT, які потенційно порушують нашу політику. Ми також пропонуємо вбудовані інструменти звітування, щоб люди повідомляли про GPT, які порушують наші правила», — сказала речниця OpenAI Тая Крістіансон.

Це був не перший випадок, коли на платформі виявили значні проблеми з модерацією вмісту. Раніше журналісти виявили кілька GPT, які можуть мати проблеми з авторським правом, оскільки копіюють популярні франшизи, телешоу, відеоігри тощо. Ще у перший тиждень існування магазину його заполонили моделі, що імітують романтичне спілкування з дівчатами для користувача.