Жорстокий експеримент. Вчені змусили користувачів Reddit кілька місяців спілкуватися з ШІ — ось що з цього вийшло
Група дослідників з Цюрихського університету приховано спілкувалася з користувачами популярної спільноти на Reddit, генеруючи відповіді за допомогою ШІ, і цього навіть ніхто не помітив. Тепер вченим погрожують судом.
Дослідники використовували ШІ для створення коментарів у відповідь на пости на r/changemyview, де користувачі Reddit публікують думки (часто суперечливі або провокаційні) та просять інших користувачів обговорити їх. Спільнота налічує 3,8 мільйона учасників і часто потрапляє на першу сторінку Reddit. За словами модераторів, під час експерименту штучний інтелект у коментарях виступав під різними іменами. Зокрема імітували поведінку жертви сексуального насильства, психолога, який «спеціалізується на зловживаннях», і темношкірого, який не підтримує антирасистський рух Black Lives Matter.
Модератори зазначають, що дослідники порушили численні правила, зокрема політику, що вимагає розкриття інформації про використання штучного інтелекту для створення коментарів, а також правило, що забороняє використання ботів. Вони кажуть, що подали офіційну скаргу до Цюрихського університету і попросили дослідників призупинити публікацію своєї статті. Дослідникам заборонили користуватися Reddit, а Цюрихський університет повідомив 404 Media, що він досліджує методи експерименту та поки не публікуватиме його результати.
Reddit також розглядає можливість подати судовий позов. Головний юридичний директор Бен Лі написав, що дії дослідників були «глибоко неправильними як з моральної, так і з юридичного погляду» і є порушенням загальнодоступних правил сайту Reddit.
«Ми заблокували всі акаунти, пов’язані з дослідженнями Цюрихського університету. Крім того, хоча ми змогли виявити багато з цих фейкових акаунтів, ми продовжимо посилювати наші можливості виявлення неавтентичного контенту, і ми підтримуємо зв’язок з командою модераторів, щоб переконатися, що ми видалили будь-який згенерований штучним інтелектом контент, пов’язаний з цим дослідженням», — сказав він.
У публікаціях на Reddit і в чернетці своєї статті дослідники заявили, що їхнє дослідження було схвалене університетським комітетом з етики і що їхня робота може допомогти таким онлайн-спільнотам, як Reddit, захистити користувачів від більш «зловмисного» використання ШІ.
«Ми визнаємо позицію модераторів, що це дослідження було небажаним вторгненням у спільноту, і ми розуміємо, що деякі можуть відчувати себе незручно через те, що цей експеримент був проведений без попередньої згоди. Ми вважаємо, що потенційні переваги цього дослідження значно переважають його ризики», — написали дослідники в коментарі на r/changeemyview.
