Штучний інтелект може врятувати вас від фейкових новин. Ось які інструменти посприяють цьому

Боротися з брехнею в новинах або їхнім неправдивим трактуванням — задача не з простих, адже водночас демократичні цінності відстоюють позицію свободи слова. Провести між ними чітку різницю, тобто пояснити, як відрізнити свідому брехню від банального нерозуміння і бажання розібратися, не може ніхто.

Це ускладнюється доступом до інформації та самою суттю соцмереж. Зараз фактично кожен, у кого є смартфон та доступ до інтернету, може як створювати контент, так і споживати його. Через це інформацію, що генерується навіть за один день, неможливо перевіряти вручну. Компанії розробляють власні нейромережі та наймають тисячі людей, які мають перевіряти контент, проте цього недостатньо.

І, скоріш за все, наші можливості перевіряти інформацію вже ніколи не наздоженуть можливості мільярдів людей її створювати, збагачувати, додавати нові сенси та спотворювати її.

Багато людей бояться, що мовні системи штучного інтелекту на кшталт ChatGPT зроблять ситуацію ще гіршою. Вже зараз текст, написаний ШІ, дуже важко відрізнити від тексту, над яким працювала людина. З розвитком мовних мереж ця проблема ставатиме ще критичнішою. Через це все більше країн задумуються над регулюванням розробки інструментів ШІ, адже ситуація вже очевидно виходить з-під контролю — наприклад, проти OpenAI готують судові позови через фейки, згенеровані чат-ботом компанії, які прямо впливають на репутацію людей.

У січні 2023 року дослідники NewsGuard, компанії, що перевіряє факти, помістили в ChatGPT 100 промптів, пов’язаних із поширеними неправдивими наративами про політику у сфері охорони здоров’я в США. У 80% своїх відповідей чат-бот давав неправдиві та оманливі заяви. Це відбувається через те, що дезінформації стало дуже багато, а компанії-розробники на кшталт OpenAI не можуть (чи не хочуть) відшукувати фейки в базах даних, на яких вони навчають свої системи ШІ.

А тому ми зіштовхуємось із ситуацією, коли системи штучного інтелекту будуть генерувати фейкову інформацію, внаслідок чого вона буде розповсюджуватись ще активніше.

Проте, якщо з задачею по її відстежуванню не можемо впоратися ми, можливо потрібно піти шляхом Енакіна Скайвокера і застосувати відомий мем про «ти мав боротися зі злом, а не долучатися до нього», тільки навпаки? Тобто використовувати ШІ не тільки щоб генерувати фейки, але й щоб виявляти їх?

Насправді такі інструменти вже існують. Наприклад, анонімні розробники запустили AI Fact Checker — це штучний інтелект, який перевіряє введену вами інформацію.

Це працює так: ви пишете якийсь факт, після чого платформа проходиться по надійним (як стверджують розробники) відкритим джерелам в інтернеті, аналізує зібрані дані та порівнює отримані дані з вашим твердженням, після чого визначає, чи є воно вірним, хибним чи незрозумілим.

Наша перевірка показала, що інструмент непогано справляється з історичними питаннями, а також добре працює з останніми новинами (наприклад, підтверджує тезу, що Захід має більше допомагати Україні у війні з Росією). Що цікаво, усі його тези можна перевірити, оскільки інструмент залишає робочі посилання, звідки він брав інформацію (чуєш, ChatGPT, лінки можна не просто рандомно генерувати, а залишати реальні!).

Проте нам все ж таки вдалося «зламати» AI Fact Checker. Іноді інструмент «розбиває» факт на кілька «підфактів», чим можна користуватися, щоб ввести його в оману.

Так, наприклад, наш факт про те, що Петро Порошенко — президент України, AI Fact Checker розбив це твердження на два: «Порошенко — президент» та «Україна має президента на прізвище Порошенко» та дійшов до загального висновку, що Петро Порошенко і зараз є президентом України.

Цікаво, що, коли ми знову спробували відтворити цей результат, AI Fact Checker вже згадав, що нинішнім президентом України є Володимир Зеленський.

Крім того, на питання про Крим він також відповідає в залежності від мови, якою ви поставите питання. Якщо напишете російською — він підтвердить, що Крим є нібито частиною Росії.

Напишете те саме українською — AI Fact Checker скаже, що це брехня (і попередньо перекладе ваш запит на англійську, чого він не робить з російською).

Очевидно, це далеко не ідеальний інструмент, який ще потрібно доопрацьовувати. Тим паче, що він, як і ChatGPT краще «розуміє» англійську мову, адже навчений саме на ній.

Проблема в тому, що зазвичай фактчекери, які розробляють ці інструменти — це невеликі організації, які мають протистояти величезним пропагандистським машинам, що підтримуються цілими урядами. Саме тому в інструменти перевірки можуть пробиратися такі галюцинації — тобто інформація, яка схожа на правдиву та навіть може спиратися на якісь матеріали, проте не має справжньої фактологічної основи.

Це ми й бачимо на прикладі AI Fact Checker та питання про Крим — перевіряючи інформацію, введену російською мовою, інструмент індексує саме російськомовні джерела, більшість з яких стверджує, що Крим — це російська територія.

Тобто, ШІ, як і люди, вразливий до маніпуляцій та брехні. І, на відміну від людей, він не розуміє, що саме він читає та пише. Може здатися, що ШІ може формулювати аргументи та робити висновки, проте насправді він не роздумує — він лише обробляє отриману інформацію та верифікує її через різноманітні джерела, які у більшості випадків відповідають мові введення твердження. І це накладає певні обмеження на можливості використання ШІ для перевірки фактів.

Майкл Шліхткрулл, науковий співробітник автоматизованої перевірки фактів у Кембриджському університеті, у коментарях для видання Wired пояснює, що нам ще дуже далеко до справжньої автоматизованої системи перевірки фактів.

Рубен Мігез, який разом з іншими членами команди Newtral працює над багатомовною мовною моделлю штучного інтелекту ClaimHunter, пояснює, що системам ШІ все ще важко орієнтуватися у повсякденних подіях. ШІ добре може «пройтися» Вікіпедією чи перечитати сотні випусків Forbes, проте нічого не знати про те, що сталося минулого тижня. Водночас за словами Мігеза, за кілька років їхньої роботи, він упевнився, що ця технологія дійсно може працювати — проте потрібен час для її калібрації.

«Коли ми почали працювати над цією проблемою [можливість перевірки фактів за допомогою ШІ - прим. НВ], питання полягало в тому, чи зможемо ми автоматизувати перевірку фактів. Тепер питання для нас полягає в тому, коли ми зможемо повністю автоматизувати це. Зараз це — наш пріоритет, оскільки фейкові технології розвиваються швидше, ніж технології виявлення дезінформації», — каже він.

Насправді кожен може опосередковано долучитися до покращення цих інструментів.

Найкраще, що ми можемо зробити зі своєї сторони — залишати фідбек для розробників з адекватним й аргументованим проханням, наприклад, вручну відключити певні російські джерела для індексації та перевірки новин чи історичних подій.

Проте це також підіймає багато логічних питань, які ми не можемо вирішити й досі — хто має обирати, які джерела потрібно ігнорувати, а яким можна довіряти? Чи не накладає таке рішення на розробників додаткову відповідальність за фільтрацію контенту? Чи готові ви довіряти чат-боту, чи гіпотетичному інструменту з перевірки фактів, який створить Ілон Маск?

Саме розв’язання цих питань на глобальному рівні має бути фундаментально-важливим кроком, який дозволить нам якісніше боротися з фейками.