«Станет самодостаточным». Гендиректор Anthropic спрогнозировал опасный ИИ-прорыв в следующие несколько лет

Как пояснил Амодей в подкаст-интервью с Эзрой Кляйном из The New York Times, Anthropic использует аналогию с биобезопасностью вирусологической лаборатории для описания ИИ. Сейчас, по его словам, мир находится на уровне ASL 2, а ASL 4, который будет предусматривать автономию ИИ и наличие у него убеждений, может быть не за горами.

«ASL 4 будет больше касаться того, что на стороне злоупотребления субъектам государственного уровня будет разрешено значительно увеличить свои возможности, что гораздо труднее, чем позволить это случайным людям. Поэтому мы будем волноваться, что Северная Корея, Китай или Россия могут значительно усилить свои наступательные возможности в различных военных областях с помощью ИИ таким образом, что это даст им существенное преимущество на геополитическом уровне», — говорит он.

По словам Амодея, сейчас различные показатели имеющихся моделей «достаточно близки к возможности воспроизводиться и выживать в дикой природе». Он считает, что достичь этого уровня можно будет с 2025 года до 2028.

В марте, как писал NV Техно, компания экс-сотрудников OpenAI Anthropic представила новую LLM Claude 3, которая якобы превзошла ChatGPT и Google Gemini в тестах и получила почти человеческие способности. Позже инженер Anthropic Алекс Альберт показал противоречивые результаты тестирования большой языковой модели Claude 3 на способность запоминать. Искусственный интеллект якобы продемонстрировал при этом самосознание, показав, что понимает, что его испытывают.