Цифровое рабство. Искусственный интеллект научился манипулировать людьми

12 февраля 2021, 14:19
Цей матеріал також доступний українською

Исследователи из Австралии обнаружили, что искусственный интеллект может научиться обманывать людей и заставлять их действовать так, как выгодно ему.

ИИ постепенно проникает во все большее количество сфер нашей жизни. Поэтому исследователи все больше времени уделяют изучению того, как нейросети взаимодействуют с людьми, чему они обучаются и что можно сделать, чтобы сделать это сотрудничество выгодным для нас без неожиданных опасностей.

Видео дня

Команда австралийских исследователей Data 61 провели три эксперимента, в которых люди играли в игры против компьютера. Их целью было выяснить, как искусственный интеллект будет учиться манипулировать людьми. Результаты и ход исследования были опубликованы в журнале Proceedings of the National Academy of Sciences.

В первом эксперименте участники нажимали на красные или синие поля, чтобы выиграть фальшивую валюту. При этом ИИ изучал шаблоны выбора участников и подталкивал их к конкретному выбору в 70% случаев.

Во втором эксперименте участники должны были смотреть на экран и нажимать кнопку, когда им показывают определенный символ (например, оранжевый треугольник), и не нажимать его, когда им показывают другой (например, синий круг). Здесь ИИ начал создавать такую последовательность символов, чтобы заставить участников больше ошибаться. В итоге нейросеть добилась увеличения количества ошибок почти на 25%.

Третий эксперимент состоял из нескольких раундов, в которых участник был в роли инвестора, а ИИ отыгрывал роль управляющего. Нейросеть использовала деньги, а потом возвращала определенную сумму человеку, который затем решал, сколько вложить в следующий раунд. В эту игру играли в двух разных режимах: в одном ИИ стремился максимизировать количество денег, которые он получил, а в другом он стремился к справедливому распределению денег между собой и человеком. ИИ был очень успешен в каждом режиме.

Исследователи отмечают, что машина в каждом эксперименте училась на решениях и ответах людей, со временем обнаруживая уязвимые места в процессе принятия решений. Конечным результатом стало то, что ИИ научился направлять участников к определенным действиям.

Результаты исследования пока еще абстрактны, но уже показывают, что машины могут влияет на решения людей. Таким образом, решили ученые, нужны дополнительные исследования, чтобы определить, как эти выводы можно реализовать и использовать на благо общества.

poster
Подписаться на ежедневную email-рассылку
материалов раздела Техно
Рассылка о том как технологии изменяют мир
Каждый понедельник

Присоединяйтесь к нам в соцсетях Facebook, Telegram и Instagram.

Показать ещё новости
Радіо НВ
X