Сначала добровольно. Глава Google DeepMind выступил за государственную проверку передового ИИ

Об этом сообщает TechCrunch.

Директорами института стали соучредитель Google DeepMind и главный редактор проекта Шейн Легг, топ-менеджер Google Джеймс Маника, а также глава DeepMind Демис Хассабис.

Хассабис написал одно из четырех эссе, вошедших в первую подборку. Он предлагает создать в США орган, который будет оценивать самые совершенные модели ИИ. На начальном этапе компании будут предоставлять их на проверку добровольно — не позднее чем за 30 дней до релиза. Впоследствии прохождение тестирования может стать обязательным условием для запуска таких моделей в США.

Методики оценки орган сначала будет разрабатывать совместно с ИИ-компаниями, а затем перейдет к собственным закрытым тестам, чтобы лаборатории не подстраивали модели под известные проверки.

По словам Хассабиса, правила можно «ужесточать, если того потребует серьезность ситуации», вплоть до скоординированного замедления разработки.

Исследователи безопасности из DeepMind Рогин Шах и Анка Драган в другом эссе доказывают, что утрата возможности пошагово проверять ход рассуждений модели не является неизбежной. Они предлагают ограничить объем последовательных вычислений, не сопровождающихся читаемой записью рассуждений, или требовать доказательств того, что менее прозрачные системы поддаются мониторингу столь же эффективно.

Еще два эссе посвящены экономической политике на случай потрясений, вызванных AGI, и принципам человеческого процветания.

Напомним, что генеральный директор Anthropic Дарио Амодей призвал «регулировать темпы» разработки передового ИИ.