Искусственный интеллект создал статью, которая смогла обмануть издание для хакеров

17 августа 2020, 17:55

Студент американского колледжа использовал программу GPT-3 для написания фальшивого сообщения в блоге, которое оказалось в топе портала Hacker News.

Студент колледжа в Беркли Лиам Порр пытался продемонстрировать, что контент, создаваемый GPT-3, может заставить людей поверить в то, что он написан человеком. По его словам, это «оказалось очень просто, и это было самое страшное».

Видео дня

Для эксперимента ему потребовалась программа GPT-3 от разработчика Open AI. По сути, GPT-3 автоматически дополняет текст на основе подсказок от писателя-человека.

«Как и все системы глубокого обучения, GPT-3 ищет закономерности в данных. Чтобы упростить задачу, программа была обучена на огромном корпусе текста, который был добыт для выявления статистических закономерностей. Эти закономерности неизвестны людям, но они хранятся в виде миллиардов взвешенных соединений между различными узлами нейронной сети GPT-3. Важно отметить, что в этом процессе не участвует человек: программа ищет и находит шаблоны без каких-либо указаний», — отмечается в описании алгоритма.

OpenAI решила предоставить доступ к GPT-3 исследователям в частной бета-версии, а не выпускать его в открытый доступ. Порр, который изучает информатику в Калифорнийском университете в Беркли, смог найти аспиранта, у которого уже был доступ к API и который согласился работать с ним над экспериментом.

Порр написал сценарий, который давал GPT-3 заголовок и вступление в блог. Он сгенерировал несколько версий сообщения, и Порр выбрал для блога одну, скопированную из версии GPT-3 с очень небольшим редактированием. Для публикации пришлось выдумать фейкового автора и дать ему псевдоним Адолос.

По словам Порра, сообщение стало вирусным за несколько часов, а блог посетили более 26 000 человек. Он написал, что только один человек задался вопросом, было ли сообщение создано искусственным интеллектом, но этот комментарий «заминусовали».

Вскоре заметка Адолоса, посвященная чрезмерному размышлению, выбилась в топ портала Hacker News и заняла там первое место.

Ранее НВ писал, что российская дизайн-студия «Студия Артемия Лебедева» раскрыла секрет своего проекта «Экспресс-дизайн», который отметился несколькими громкими скандалами.

Как оказалось, за проектами стоял не реальный человек, а разработанная в условиях строгой секретности изолированной командой нейросеть.

«Мы создали искусственный дизайнерский интеллект, который способен выполнять творческую работу — разрабатывать уникальные логотипы и создавать на их основе айдентику. нейросеть успешно выполнила более 20 коммерческих проектов», — хвастаются разработчики.

Проект разрабатывался в условиях секретности изолированной командой. Для конспирации нейросеть выдавали за удаленного сотрудника. Ему создали собственную страницу с портфолио и дали человеческое имя — Николай Иронов. Это позволило избежать утечек и получать объективную обратную связь. Образ Николая также синтезирован. Он был создан нейросетью на основе фотографий всех сотрудников студии.

poster
Подписаться на ежедневную email-рассылку
материалов раздела Техно
Рассылка о том как технологии изменяют мир
Каждый понедельник

Присоединяйтесь к нам в соцсетях Facebook, Telegram и Instagram.

Показать ещё новости
Радіо НВ
X