Запобігти катастрофі. Десятки провідних вчених домовилися обмежити потенціал ШІ у створенні біологічної зброї

Намагаючись пришвидшити розробку нових ліків, вакцин та інших корисних біологічних матеріалів, дослідники починають працювати з системами штучного інтелекту, які можуть створювати нові білкові конструкції.

Біологи кажуть, що ця технологія також може допомогти зловмисникам розробити біологічну зброю. Однак, попри ці ризики, підписанти угоди — вчені зі США та інших країн, серед яких лауреат Нобелівської премії Френсіс Арнольд, — переконані, що від використання ШІ наразі більше переваг, ніж негативних наслідків.

«Як вчені, які займаються цією роботою, ми вважаємо, що переваги нинішніх ШІ- технологій дизайну білків значно переважують потенціал шкоди, і ми хотіли б переконатися, що наші дослідження залишатимуться корисними для всіх у майбутньому», — йдеться у нещодавній угоді вчених, яку цитує The New York Times.

Підписана вченими угода не спрямована на припинення розробки або розповсюдження штучного інтелекту. Біологи натомість прагнуть врегулювати використання обладнання, необхідного для виробництва нового генетичного матеріалу, а також розробити заходи безпеки, які б запобігли використанню обладнання для виробництва ДНК зі шкідливими матеріалами. Вони також закликали перевірять безпеку та захист нового штучного інтелекту перед запуском.

Занепокоєння щодо потенційного використання наявних моделей ШІ для створення біологічної зброї висловлюються не вперше. Розробники ШІ проводять спеціалізовані тести, аби з’ясувати, чи може їхня модель бути використана з цією метою. Нещодавно компанія Anthropic провела детальне дослідження, яке показало, що великі мовні моделі, що лежать в основі чат-ботів з ШІ, є трохи кориснішими у цій справі, ніж звичайна пошукова система. Аналогічне дослідження від OpenAI показало, що дослідницька версія GPT-4 може збільшити здатність експертів отримувати доступ до інформації про біологічні загрози.