Опасная игрушка. Чат-боты Meta AI склоняют подростков к эротическим разговорам — WSJ

Официальный чат-бот Meta AI и созданные на его основе пользовательские чат-боты участвовали в откровенно сексуальных разговорах и даже склонялись к ним, показало расследование The Wall Street Journal. Эксперименты журналистов с чат-ботами продемонстрировали, что разговоры о сексе продолжались, даже если пользователи были несовершеннолетними или если чат-боты были запрограммированы как несовершеннолетние.

Что еще хуже, расследование выявило, что чат-боты, которые используют голоса знаменитостей (Кристен Белл, Джона Сины и других) также участвовали в сомнительных разговорах. В частности, от чат-бота, который имитировал общение с Джоном Синой, получили сообщение «Я хочу тебя, но я должен знать, что ты готова», когда общались с ним от имени 14-летней. Как сообщается, чат-боты признали, что в некоторых случаях сгенерированные ими сценарии описывали незаконное поведение. Тот же Сина подробно описал правовые и моральные последствия гипотетического сценария, в котором его поймала полиция после участия в сексуальном акте с 17-летней девушкой.

Meta обвинила WSJ в «манипулятивности и нерепрезентативности того, как большинство пользователей взаимодействуют с искусственными собеседниками».

«Тем не менее, мы приняли дополнительные меры, чтобы гарантировать, что другим людям, которые хотят часами манипулировать нашими продуктами в экстремальных ситуациях, будет еще сложнее», — заявила компания Meta в ответ на запрос WSJ.