Озброїлись ШІ. OpenAI викрила Китай, Росію та Іран у використанні ChatGPT для створення пропаганди
Іноземні пропагандисти продовжують використовувати ChatGPT у своїх кампаніях. OpenAI стверджує, що перешкодила кільком операціям в Китаї, Росії та Ірані.
OpenAI заявила, що нещодавно перешкодила чотирьом таємним операціям Китаю, під час яких використовували її інструмент ChatGPT. Завдяки ChatGPT створювали публікації у соціальних мережах TikTok, Facebook, Reddit та X. Згенеровані дописи як підтримували, так і засуджували різні гострі питання, щоб розпалити оманливий політичний дискурс. Створені ШІ коментарі стосувалися багатьох тем, від політики США до тайванської відеогри, в якій гравці борються з Комуністичною партією Китаю.
«Ми спостерігаємо, як Китай розширює спектр таємних операцій, використовуючи все більше різних тактик», — каже Бен Німмо, головний дослідник OpenAI в коментарі NPR.
Хоча OpenAI стверджує, що також перешкодила кільком операціям, які, на її думку, походили з Росії, Ірану та Північної Кореї, Німмо детально розповів лише про китайські операції. Він сказав, що вони були спрямовані на багато різних країн і тем, і деякі з них поєднували елементи операцій впливу, соціальної інженерії та стеження.
У 2024 році OpenAI опублікувала у своєму блозі інформацію про зусилля з перешкоджання п’яти операціям, пов’язаним з державами. Йшлося про гравців з Китаю, Ірану та Північної Кореї, які використовували моделі OpenAI зі зловмисною метою. Ці програми включали налагодження коду, генерацію скриптів і створення контенту для використання в фішингових кампаніях.
Того ж року OpenAI заявила, що зірвала іранську операцію, під час якої використовували ChatGPT для створення довгих політичних статей про вибори в США, які потім публікувалися на фейкових новинних сайтах.
