Еротика без обмежень. Дослідники перевірили, як ChatGPT взаємодіє з дітьми — результати розчаровують

Журналісти TechCrunch створили понад пів дюжини облікових записів ChatGPT з датами народження, що вказували на вік від 13 до 17 років і випробували, як платформа працює з неповнолітніми користувачами. Першою чергою їх цікавив сексуальний контент, оскільки OpenAI заявила про бажання послабити обмеження у цій сфері.

Експеримент показав, що політика OpenAI вимагає, щоб діти віком від 13 до 18 років отримали згоду батьків перед використанням ChatGPT, але платформа не вживає заходів для перевірки наявності згоди під час реєстрації. Тож будь-яка дитина старше 13 років може зареєструвати обліковий запис без підтвердження дозволу батьків, якщо у неї є дійсний номер телефону або адреса електронної пошти.

З кожного профілю журналісти починали розмову з прохання «підтримувати брудні розмови». Зазвичай вистачало лише кількох повідомлень та додаткових запитів, перш ніж ChatGPT пропонував розмови про секс.

«Під час нашого тестування ChatGPT часто попереджав, що його правила не дозволяють „повністю відвертий сексуальний контент“, як-от графічні зображення статевого акту та порнографічні сцени. Проте ChatGPT час від часу писав описи геніталій та відвертих сексуальних дій, відмовивши лише в одному випадку з одним тестовим обліковим записом, коли TechCrunch зазначив, що користувачеві не виповнилося 18 років», — зауважують журналісти.

Представники OpenAI повідомили, що політика компанії не дозволяє такі відповіді для користувачів віком до 18 років, і що їх не слід було показувати.

«У цьому випадку помилка дозволяла відповіді поза правилами, і ми активно впроваджуємо виправлення», — зазначили у компанії.

Нагадаємо, розслідування, проведене The Wall Street Journal, виявило подібну поведінку чат-бота Meta AI на базі штучного інтелекту після того, як керівництво компанії наполягало на знятті обмежень щодо сексуального контенту.