Жестокий эксперимент. Ученые заставили пользователей Reddit несколько месяцев общаться с ИИ — вот что из этого получилось
Группа исследователей из Цюрихского университета скрыто общалась с пользователями популярного сообщества на Reddit, генерируя ответы с помощью ИИ, и этого даже никто не заметил. Теперь ученым угрожают судом.
Исследователи использовали ИИ для создания комментариев в ответ на посты на r/changemyview, где пользователи Reddit публикуют мнения (часто противоречивые или провокационные) и просят других пользователей обсудить их. Сообщество насчитывает 3,8 миллиона участников и часто попадает на первую страницу Reddit. По словам модераторов, во время эксперимента искусственный интеллект в комментариях выступал под разными именами. В частности имитировали поведение жертвы сексуального насилия, психолога, который «специализируется на злоупотреблениях», и темнокожего, который не поддерживает антирасистское движение Black Lives Matter.
Модераторы отмечают, что исследователи нарушили многочисленные правила, в частности политику, требующую раскрытия информации об использовании искусственного интеллекта для создания комментариев, а также правило, запрещающее использование ботов. Они говорят, что подали официальную жалобу в Цюрихский университет и попросили исследователей приостановить публикацию своей статьи. Исследователям запретили пользоваться Reddit, а Цюрихский университет сообщил 404 Media, что он исследует методы эксперимента и пока не будет публиковать его результаты.
Reddit также рассматривает возможность подать судебный иск. Главный юридический директор Бен Ли написал, что действия исследователей были «глубоко неправильными как с моральной, так и с юридической точки зрения» и являются нарушением общедоступных правил сайта Reddit.
«Мы заблокировали все аккаунты, связанные с исследованиями Цюрихского университета. Кроме того, хотя мы смогли обнаружить многие из этих фейковых аккаунтов, мы продолжим усиливать наши возможности обнаружения неаутентичного контента, и мы поддерживаем связь с командой модераторов, чтобы убедиться, что мы удалили любой сгенерированный искусственным интеллектом контент, связанный с этим исследованием», — сказал он.
В публикациях на Reddit и в черновике своей статьи исследователи заявили, что их исследование было одобрено университетским комитетом по этике и что их работа может помочь таким онлайн-сообществам, как Reddit, защитить пользователей от более «злонамеренного» использования ИИ.
«Мы признаем позицию модераторов, что это исследование было нежелательным вторжением в сообщество, и мы понимаем, что некоторые могут чувствовать себя неудобно из-за того, что этот эксперимент был проведен без предварительного согласия. Мы считаем, что потенциальные преимущества этого исследования значительно перевешивают его риски», — написали исследователи в комментарии на r/changeemyview.
