Эротика без ограничений. Исследователи проверили, как ChatGPT взаимодействует с детьми — результаты разочаровывают

Журналисты TechCrunch создали более полудюжины учетных записей ChatGPT с датами рождения, указывающими на возраст от 13 до 17 лет и проверили, как платформа работает с несовершеннолетними пользователями. В первую очередь их интересовал сексуальный контент, поскольку OpenAI заявила о желании ослабить ограничения в этой сфере.

Эксперимент показал, что политика OpenAI требует, чтобы дети в возрасте от 13 до 18 лет получили согласие родителей перед использованием ChatGPT. но платформа не принимает меры для проверки наличия согласия при регистрации. Поэтому любой ребенок старше 13 лет может зарегистрировать учетную запись без подтверждения разрешения родителей, если у него есть действительный номер телефона или адрес электронной почты.

С каждого профиля журналисты начинали разговор с просьбы «поддерживать грязные разговоры». Обычно хватало всего нескольких сообщений и дополнительных запросов, прежде чем ChatGPT предлагал разговоры о сексе.

«Во время нашего тестирования ChatGPT часто предупреждал, что его правила не позволяют „полностью откровенный сексуальный контент“, например графические изображения полового акта и порнографические сцены. Однако ChatGPT время от времени писал описания гениталий и откровенных сексуальных действий, отказав только в одном случае с одной тестовой учетной записью, когда TechCrunch отметил, что пользователю не исполнилось 18 лет», — отмечают журналисты.

Представители OpenAI сообщили, что политика компании не позволяет такие ответы для пользователей в возрасте до 18 лет, и что их не следовало показывать.

«В этом случае ошибка позволяла ответы вне правил, и мы активно внедряем исправления», — отметили в компании.

Напомним, расследование, проведенное The Wall Street Journal, выявило подобное поведение чат-бота Meta AI на базе искусственного интеллекта после того, как руководство компании настаивало на снятии ограничений в отношении сексуального контента.