Опять друзья из Anthropic. Пентагон хочет использовать хакерские ИИ-модели для кибератак — Politico

Об этом сообщило Politico со ссылкой на утечку переписки и анонимные источники.

По данным издания, Министерство обороны США создало специальную рабочую группу, которая будет изучать, как безопасно применять передовые модели искусственного интеллекта в различных военных задачах. Инициативу в этом месяце представил руководитель Киберкомандования США и директор Агентства национальной безопасности Джошуа Радд.

Речь идет о моделях вроде Claude Mythos Preview, который компания Anthropic официально еще не выпустила для широкого доступа из-за его потенциально опасных возможностей. Несмотря на это, модель вызвала интерес у военных структур США.

Politico отмечает, что Пентагон формально не имеет права сотрудничать с Anthropic. Ранее Минобороны США внесло компанию в перечень рисков для цепей поставок после длительного конфликта. Это ограничение также распространяется на подрядчиков Пентагона.

В то же время новая инициатива США частично напоминает проект Glasswing от Anthropic. Он позволяет отдельным компаниям и организациям использовать Claude Mythos Preview для поиска уязвимостей в собственных системах и их устранения.

Рабочая группа должна оценить, как модели искусственного интеллекта от крупных технологических компаний можно использовать в закрытых системах с доступом к секретной информации американской разведки.

Однако, как пишет Politico, Пентагон также рассматривает возможность применения таких моделей в наступательных кибероперациях. Бывший заместитель командующего Киберкомандования США Чарльз Мур заявил, что ИИ-инструменты быстро становятся необходимыми для выявления угроз, определения приоритетных уязвимостей, ускорения принятия решений и проведения как оборонительных, так и наступательных киберопераций быстрее противников.

Издание также сообщает, что Anthropic ранее не исключала использования Mythos в наступательных операциях.

По информации The Wall Street Journal, Белый дом также участвует во внедрении проекта Glasswing из-за рисков для национальной безопасности, связанных с моделью Mythos. Администрация Дональда Трампа даже имела право блокировать расширение списка компаний и организаций, которые могли получить доступ к этой системе.

Politico пишет, что использование Mythos — один из вариантов, который Пентагон, вероятно, будет изучать в ближайшее время.