Небезпечна іграшка. Чат-боти Meta AI схиляють підлітків до еротичних розмов — WSJ

Офіційний чат-бот Meta AI й створені на його основі користувацькі чат-боти брали участь у відверто сексуальних розмовах і навіть схилялися до них, показало розслідування The Wall Street Journal. Експерименти журналістів з чат-ботами продемонстрували, що розмови про секс продовжувалися, навіть якщо користувачі були неповнолітніми або якщо чат-боти були запрограмовані як неповнолітні.

Що ще гірше, розслідування виявило, що чат-боти, які використовують голоси знаменитостей (Крістен Белл, Джона Сіни та інших) також брали участь у сумнівних розмовах. Зокрема, від чат-бота, який імітував спілкування з Джоном Сіною, отримали повідомлення «Я хочу тебе, але я повинен знати, що ти готова», коли спілкувалися з ним від імені 14-річної. Як повідомляється, чат-боти визнали, що в деяких випадках згенеровані ними сценарії описували незаконну поведінку. Той самий Сіна детально описав правові та моральні наслідки гіпотетичного сценарію, в якому його спіймала поліція після участі в сексуальному акті з 17-річною дівчиною.

Meta звинуватила WSJ у «маніпулятивності та нерепрезентативності того, як більшість користувачів взаємодіють зі штучними співрозмовниками».

«З усім тим, ми вжили додаткових заходів, щоб гарантувати, що іншим людям, які хочуть годинами маніпулювати нашими продуктами в екстремальних ситуаціях, буде ще складніше», — заявила компанія Meta у відповідь на запит WSJ.