Штучний інтелект створив статтю, яка змогла обдурити видання для хакерів

17 серпня 2020, 17:55

Студент американського коледжу використовував програму GPT-3 для написання фальшивого повідомлення в блозі, яке виявилося в топі порталу Hacker News.

Студент коледжу в Берклі Ліам Порр намагався продемонструвати, що контент, створюваний GPT-3, може змусити людей повірити в те, що він написаний людиною. За його словами, це «виявилося дуже просто, і це було найстрашніше».

Відео дня

Для експерименту йому потрібна була програма GPT-3 від розробника Open AI. По суті, GPT-3 автоматично доповнює текст на основі підказок від письменника-людини.

«Як і всі системи глибокого навчання, GPT-3 шукає закономірності в даних. Щоб спростити завдання, програма була навчена на величезному корпусі тексту, який був здобутий для виявлення статистичних закономірностей. Ці закономірності невідомі людям, але вони зберігаються у вигляді мільярдів зважених з'єднань між різними вузлами нейронної мережі GPT-3. Важливо відзначити, що в цьому процесі не бере участь людина: програма шукає і знаходить шаблони без будь-яких вказівок», — наголошується в описі алгоритму.

OpenAI вирішила надати доступ до GPT-3 дослідникам в приватній бета-версії, а не випускати його у відкритий доступ. Порр, який вивчає інформатику в Каліфорнійському університеті в Берклі, зміг знайти аспіранта, у якого вже був доступ до API і який погодився працювати з ним над експериментом.

Порр написав сценарій, який давав GPT-3 заголовок і вступ в блог. Він згенерував кілька версій повідомлення, і Порр вибрав для блогу одну, скопійоване з версії GPT-3 з дуже невеликим редагуванням. Для публікації довелося вигадати фейкового автора і дати йому псевдонім Адолос.

За словами Порра, повідомлення стало вірусним за кілька годин, а блог відвідали понад 26 000 людей. Він написав, що тільки одна людина задалася питанням, чи не було повідомлення створено штучним інтелектом, але цей коментар «замінусовалі».

Незабаром замітка Адолоса, присвячена надмірним роздумам, вибилася в топ порталу Hacker News і зайняла там перше місце.

Раніше НВ писав, що російська дизайн-студія «Студія Артемія Лебедєва» розкрила секрет свого проекту «Експрес-дизайн», який відзначився кількома гучними скандалами.

Як виявилося, за проектами стояла не реальна людина, а розроблена в умовах суворої секретності ізольованою командою нейромережа.

«Ми створили штучний дизайнерський інтелект, який здатний виконувати творчу роботу — розробляти унікальні логотипи і створювати на їх основі айдентику. Нейромережа успішно виконала понад 20 комерційних проектів», — хваляться розробники.

Проект розроблявся в умовах секретності ізольованою командою. Для конспірації нейромережа видавали за віддаленого співробітника. Йому створили власну сторінку з портфоліо і дали людське ім'я — Ніколай Іронов. Це дозволило уникнути витоків і отримувати об'єктивну зворотний зв’язок. Образ Ніколая також синтезований. Він був створений нейромережею на основі фотографій всіх співробітників студії.

poster
Дайджест головних новин
Безкоштовна email-розсилка лише відбірних матеріалів від редакторів NV
Розсилка відправляється з понеділка по п'ятницю

Показати ще новини
Радіо NV
X