Пытаясь ускорить разработку новых лекарств, вакцин и других полезных биологических материалов, исследователи начинают работать с системами искусственного интеллекта, которые могут создавать новые белковые конструкции.

Биологи говорят, что эта технология также может помочь злоумышленникам разработать биологическое оружие. Но, несмотря на риски, подписанты соглашения — ученые из США и других стран, среди которых лауреат Нобелевской премии Фрэнсис Арнольд, — убеждены, что от использования ИИ пока больше преимуществ, чем негативных последствий.

«Как ученые, которые занимаются этой работой, мы считаем, что преимущества нынешних ИИ-технологий дизайна белков значительно перевешивают потенциал вреда, и мы хотели бы убедиться, что наши исследования будут оставаться полезными для всех в будущем», — говорится в недавнем соглашении ученых, которое цитирует The New York Times.

Подписанное учеными соглашение не направлено на прекращение разработки или распространения искусственного интеллекта. Биологи вместо этого стремятся урегулировать использование оборудования, необходимого для производства нового генетического материала, а также разработать меры безопасности, которые бы предотвратили использование оборудования для производства ДНК с вредными материалами. Они также призвали проверять безопасность и защиту нового искусственного интеллекта перед запуском.

Обеспокоенность относительно потенциального использования имеющихся моделей ИИ для создания биологического оружия высказываются не впервые. Разработчики ИИ проводят специализированные тесты, чтобы выяснить, может ли их модель быть использована в этих целях. Недавно компания Anthropic провела детальное исследование, которое показало, что большие языковые модели, лежащие в основе чат-ботов с ИИ, немного полезнее в этом деле, чем обычная поисковая система. Аналогичное исследование от OpenAI показало, что исследовательская версия GPT-4 может увеличить способность экспертов получать доступ к информации о биологических угрозах.