ШІ з людським інтелектом може зруйнувати світ. Дослідники з Google описали, як
Вчені з DeepMind переконані, що загальний штучний інтелект (AGI) з можливостями на рівні людини буде розроблений до 2030 року і зможе завдати серйозної шкоди, якщо не вжити заходів.
Команда DeepMind на чолі зі співзасновником компанії Шейном Леггом класифікувала негативні наслідки AGI. Дослідники виділили чотири загрози: неправильне використання, невідповідність, помилки та структурні ризики, пише Ars Technica.
Неправильне використання схоже на поточні ризики, пов’язані з ШІ. За допомогою AGI можна зловживати системою, щоб завдати шкоди. Наприклад, можна попросити виявити та використати вразливості нульового дня або створити дизайнерський вірус, який можна використовувати як біологічну зброю. В DeepMind кажуть, що компаніям, які розробляють AGI, доведеться провести всебічне тестування та створити надійні протоколи безпеки після навчання, щоб уникнути цього.
Друга загроза — невідповідність. Цей тип шкоди AGI описується як шахрайська машина, яка позбулася обмежень, накладених її розробниками. Такий ШІ виконує дії, які (що йому добре відомо) не мали на меті розробники. У DeepMind стверджують, що йдеться про щось більше за простий обман чи інтригу. Щоб уникнути цього, DeepMind пропонує розробникам використовувати такі методи, як посилений нагляд. Приміром, дві копії штучного інтелекту можуть перевірити вихідні дані одна одної, щоб створити надійні системи, які навряд чи шахраюватимуть.
Помилки — ще одна загроза. Йдеться про шкідливі результати, яких не мав на меті оператор. В DeepMind зазначають, що військові можуть розгорнути AGI через тиск конкуренції, але такі системи можуть припуститися серйозних помилок, які матимуть фатальні наслідки. Дослідники не пропонують шляхи розв’язання цієї проблеми, окрім як не дозволити AGI стати надто потужним.
Також дослідники кажуть про структурні ризики, які в DeepMind визначають як ненавмисні, але реальні наслідки багатоагентних систем. Наприклад, AGI може створювати неправдиву інформацію, яка настільки правдоподібна, що важко розібратися, чи можна цьому довіряти.
DeepMind презентує цей звіт про ризики AGI як відправну точку для життєво важливих дискусій про проблеми штучного інтелекту майбутнього.
