«Стане самодостатнім». Гендиректор Anthropic спрогнозував небезпечний ШІ-прорив у наступні кілька років

Як пояснив Амодей у подкаст-інтерв'ю з Езрою Кляйном з The New York Times, Anthropic використовує аналогію з біобезпеки вірусологічної лабораторії для опису ШІ. Наразі, за його словами, світ знаходиться на рівні ASL 2, а ASL 4, який передбачатиме автономію ШІ та наявність у нього переконань, може бути не за горами.

«ASL 4 більше стосуватиметься того, що на стороні зловживання суб'єктам державного рівня буде дозволено значно збільшити свої можливості, що набагато важче, ніж дозволити це випадковим людям. Тож ми будемо хвилюватися, що Північна Корея, Китай або Росія можуть значно посилити свої наступальні можливості в різних військових областях за допомогою ШІ таким чином, що це дасть їм суттєву перевагу на геополітичному рівні», — каже він.

За словами Амодея, наразі різні показники наявних моделей «досить близькі до можливості відтворюватися та виживати в дикій природі». Він вважає, що досягти цього рівня можна буде з 2025 року до 2028.

В березні, як писав NV Техно, компанія ексспівробітників OpenAI Anthropic представила нову LLM Claude 3, яка нібито перевершила ChatGPT та Google Gemini у тестах і отримала майже людські здібності. Пізніше інженер Anthropic Алекс Альберт показав суперечливі результати тестування великої мовної моделі Claude 3 на здатність запам’ятовувати. Штучний інтелект нібито продемонстрував при цьому самосвідомість, показавши, що розуміє, що його випробовують.