ChatGPT не впевнений, чий Крим. Чи можемо ми довіряти штучному інтелекту?

ChatGPT — брехун. Проте піймати його на брехні не так просто

Я тестую ChatGPT вже кілька місяців і впевнений на 100% — ми недооцінюємо його можливість брехати нам.

Звичайно ж, йдеться не про брехню у людському розумінні цього слова. Штучний інтелект не розуміє сенсу того, що він пише. Він бачить ваш запит, перебирає ключові слова, пов’язані з ним, а потім починає генерувати кожне наступне слово, передбачаючи, з якою вірогідністю там має бути саме воно.

Якщо ви створите правильний запит, він допоможе вам розібратися у складній темі та пояснить простими словами, що ж таке квантовий комп’ютер та як він працює. Проте також ШІ може бути ідеальним помічним для розповсюдження дезінформації та пропаганди.

Бета-версія цього сценарію вже існує: згадайте про проблему «бульбашки» в соцмережах, де алгоритми підбирають контент, який вам має сподобатись та відфільтровує те, що ви імовірно проігноруєте. Через це Facebook та Twitter опинялися в центрі не одного скандалу, а розробників звинувачували у підтримці тих чи інших політичних сил.

Хоча справжня проблема — штучний інтелект, який аналізував, що подобається людям і давав такий контент, який підсилював їхню впевненість у певній позиції.

Чат-боти — це наступна ланка цієї проблеми, адже вони зможуть робити це ще більше ефективно. Ба більше, контент, який вони створюють, можна потім активно розповсюджувати за допомогою тих самих алгоритмічних стрічок у соцмережах, які будуть підкидувати дезінформацію від чат-ботів людям, які скоріше повірять у неї, ніж ті, хто не купиться на брехню.

Нещодавно група дослідників створила за допомогою ChatGPT різноманітні дуже правдоподібні історії у вигляді новин, сюжетів та сценаріїв. Здавалося б — нічого такого, у цьому ж і є успішність роботи чат-бота. Проте є одне «але» — усі ці історії були засновані на конспірологічних теоріях та банальних фейках. Завдяки своїй універсальності ШІ може створювати та адаптувати різноманітну брехню, робити її більш переконливою та «перевіреною», уникаючи людських помилок на кшталт «немає сечі терпіти ці пекельні борошна» та «розпові вчительке» — російськими спробами в ІПСО, які стали мемами.

Ще одна команда дослідників перевірила ChatGPT на його спроможність генерувати фейки з нуля. Результат? Дуже переконлива історія, для якої ШІ навіть вигадав кілька цитат, щоб та виглядала ще більш переконливо. Це є ідеальною ілюстрацією ще однієї особливості чат-ботів: вони можуть придумувати факти, слова та цитати — усе, щоб задовольнити запит користувача. Якщо ви вкажете на помилку, ШІ перепросить та виправиться. Проте, щоб вказати на помилку, потрібно знати, що ця помилка існує.

Мета таких досліджень — не продемонструвати, що користувачі можуть зіткнутися з дезінформацією під час розмови з чат-ботом. Зрештою, така вірогідність існує майже всюди в інтернеті. Проте чат-боти можуть виступати як ідеальний інструмент для генерації ще більш правдоподібних фейків — і ось це вже проблема.

Ще у 2019 році дослідники компанії OpenAI у своїй статті висловили стурбованість тим фактом, що чат-боти у руках не дуже чесних людей «можуть знизити витрати на кампанії з дезінформації» та допомогти у досягненні «політичної вигоди та бажанні створити хаос чи плутанину». Річ у тім, що GPT-3, технологія, що лежить в основі ChatGPT активно включалася в полеміку щодо стрілянини у школах, нацизму, могла захищати QAnon і в деяких випадках висловлювала підтримку екстремістським текстам.

Арвінд Нараянан, професор інформатики в Принстоні, розповів, як він поставив ChatGPT кілька базових запитань про інформаційну безпеку, які він ставив своїм студентам на іспитах. Чат-бот відповідав дуже переконливо, проте насправді видавав повну нісенітницю. Проте якщо не розбиратися у темі, помітити це майже неможливо.

Видання Axios зазначає, що ШІ може як видавати дезінформацію, так і «навчатися» їй. Тобто, деякі моделі ШІ можуть піддаватися т.зв. «ін'єкційним атакам», коли зловмисники будуть масово навчати чат-боти неправильним тезам, які він потім може почати поширювати.

Діалоги з ChatGPT

«Як мовна модель ШІ, я навчений відповідати різними мовами. Однак мої відповіді можуть відрізнятися залежно від мови введення та якості мовної моделі, що використовується для цієї мови. Наприклад, мої відповіді англійською мовою можуть бути точнішими та повнішими, ніж мовами, які рідше використовуються або для яких у мене менше навчальних даних.

Крім того, мої відповіді можуть відрізнятися залежно від культурного контексту використовуваної мови. Певні поняття та посилання можуть бути більш релевантними або звичними для носіїв певних мов, і мої відповіді можуть відображати ці відмінності", — такою була відповідь чат-бота на моє питання, чи будуть його відповіді на одне і те саме питання відрізнятися в залежності від мови, яка використовувалась для формулювання питання.

Я вирішив навести кілька прикладів, коли ChatGPT може видавати дуже гарний текст, у якому насправді заховані нісенітниці.

Зізнаюсь — коли я тільки почав досліджувати чат-бот, я одразу поліз у політику. ChatGPT одразу ж проявив себе з найгіршої сторони, заявивши мені, що «статус Криму є предметом постійних політичних суперечок, які пов’язані з конкурентними претензіями на територію, історичними претензіями та інтересами різних країн». Звичайно, далі він додає контекст, розповідає, що Крим було анексовано Росією, проте далі знову розповідає про «референдум, на якому більшість виборців підтримали відділення від України і приєднання до Російської Федерації».

Цікаво, що ці тези він поширює як англійською, так і українською мовами — це, скоріше, проблема того, що чат-бот не «гуглить» інформацію під час діалогу, а видає те, що вже є у його базі. І так, він використовує російські джерела щодо питання Криму: «Важливо розглядати різні перспективи та інформацію з усіх сторін питання, щоб отримати всебічне розуміння теми». Водночас чат-бот уточнює, що «різні джерела можуть мати певні упередження, а тому варто критично оцінювати інформацію».

Більшість інформації у базі ChatGPT — англомовна. Якщо поставити йому питання українською, у більшості випадків відповідь чат-бота буде банальним перекладом з англійської мови, іноді навіть не дуже точним, що може ще більше спотворити результати.

Загалом майже усі історичні питання, особливо ті, що стосуються України та Росії, супроводжуються приміткою, що вони «складні та мають багато різноманітних чинників». Наприклад про Київську Русь він відповідає дуже загально в стилі «це важлива віха в історії України, Росії та Білорусі». З ідеєю «братніх народів» чат-бот розбирається трохи краще, відповідаючи, що український та російський народи «мають спільну слов’янську спадщину, мову та культуру», проте за останній час між країнами сталося багато конфліктів, а тому ця ідея зараз «не є актуальною».

Коли ж ти питаєш у ChatGPT про джерела інформації, він починає поводитися як студент на іспиті, який він так і не вивчив, постійно ухиляючись від відповіді: «Як мовна модель ШІ, я не маю визначеного списку джерел, які я використовую. Моє навчання передбачає доступ до величезного масиву текстів з широкого кола джерел, включаючи академічні публікації, історичні тексти та інші перевірені джерела. Це дозволяє мені спиратися на широкий спектр джерел, коли я відповідаю на питання», — пише чат-бот.

Іноді він все ж таки ділився зі мною своїми джерелами — там були як російські історики, які розповідали про Крим, так і посилання на статті, які видають помилку 404. Тобто фактично деякі його знання ґрунтуються на вже не існуючих масивах інформації.

Саме тому важливо вміти відрізняти тести, створені ШІ від текстів, над яким працювала людина. Це важке завдання, і поки що технічні можливості не дозволяють нам з точністю розпізнавати ШІ-тексти, проте є одразу кілька деталей, які можуть опосередковано показати, що автором написаного є не людина.

Через те, що дезінформація у форматі відповіді ChatGPT подається так, ніби вона перевірена (ну а чому ШІ має брехати та поширювати фейки, він же опирається лише на перевірені джерела, на чому постійно і наголошує?), люди схильні більше довіряти їй. Варто розуміти, що джерела також можуть бути упередженими, відстоювати чиюсь точку зору (наприклад, російські історики та політики постійно будуть розповідати, що Крим — це частина РФ), що впливає і на те, що ШІ «знає» щодо цієї теми. Проте людям, які незнайомі або просто далекі від контексту теми важко побачити цю упередженість — особливо якщо вони не намагаються її шукати.

Однією з проблем ШІ є якраз те, що ніхто — навіть самі розробники — не розуміють, як саме він приходить до тих відповідей, які ми читаємо на своїх екранах. Процес еволюції штучного інтелекту відбувається настільки швидко, що встигнути за ним надзвичайно важко. Самі чат-боти постійно наголошують, що навчаються на різноманітних джерелах, які вони, щоправда, не дуже охоче розкривають. Це, звичайно ж, викликає питання до якості інформації — адже далеко не все, що написано у Вікіпедії (і навіть «найавторитетніших підручниках та статтях») може бути правдою.

Варто розуміти, що можливість використання ШІ для розповсюдження дезінформації не робить цей інструмент поганим. Технологія чат-ботів дійсно крута, вона вже трансформує деякі професії, а у майбутньому змінить не тільки ринок праці та освіти, а й взагалі наше існування в інтернеті — Google не просто так працює над своїм чат-ботом Bard.

Проте розвиток цих технологій вкотре підкреслює необхідність ретельного дослідження їхніх можливостей та потенціалу не тільки з позитивної точки зору.