Цифрове рабство. Штучний інтелект навчився маніпулювати людьми

12 лютого 2021, 14:19

Дослідники з Австралії виявили, що штучний інтелект може навчитися обманювати людей і змушувати їх діяти так, як вигідно йому.

ШІ поступово проникає в усі більшу кількість сфер нашого життя. Тому дослідники все більше часу приділяють вивченню того, як нейромережі взаємодіють з людьми, чому вони навчаються і що можна зробити, щоб зробити цю співпрацю вигідною для нас без несподіваних небезпек.

Відео дня

Команда австралійських дослідників Data 61 провела три експерименти, в яких люди грали в ігри проти комп'ютера. Їхньою метою було з'ясувати, як штучний інтелект буде вчитися маніпулювати людьми. Результати та хід дослідження були опубліковані в журналі Proceedings of the National Academy of Sciences.

У першому експерименті учасники натискали на червоні або сині поля, щоб виграти фальшиву валюту. При цьому ШІ вивчав шаблони вибору учасників і підштовхував їх до конкретного вибору в 70% випадків.

У другому експерименті учасники повинні були дивитися на екран і натискати кнопку, коли їм показують певний символ (наприклад, помаранчевий трикутник), і не натискати на нього, коли їм показують інший (наприклад, синє коло). Тут ШІ почав створювати таку послідовність символів, щоб змусити учасників більше помилятися. Врешті решт нейромережа домоглася збільшення кількості помилок майже на 25%.

Третій експеримент складався з декількох раундів, в яких учасник був в ролі інвестора, а ШІ відігравав роль керуючого. Нейромережа використовувала гроші, а потім повертала певну суму людині, яка потім вирішувала, скільки вкласти у наступний раунд. У цю гру грали в двох різних режимах: в одному ШІ прагнув максимізувати кількість грошей, які він отримав, а в іншому він прагнув до справедливого розподілу грошей між собою та людиною. ШІ був дуже успішним в кожному режимі.

Дослідники відзначають, що машина в кожному експерименті вчилася на рішеннях і відповідях людей, з часом виявляючи вразливі місця в процесі прийняття рішень. Кінцевим результатом стало те, що ШІ навчився спрямовувати учасників до певних дій.

Результати дослідження поки що абстрактні, але вже показують, що машини можуть впливати на рішення людей. Тому, вирішили вчені, потрібні додаткові дослідження, щоб визначити, як ці висновки можна реалізувати і використовувати на благо суспільства.

Показати ще новини
Радіо НВ
X