OpenAI признала. Хакеры научились совершенствовать свои кибератаки с помощью ChatGPT
Microsoft и OpenAI в новом исследовании раскрыли, как киберпреступники используют большие языковые модели для того, чтобы сделать свои атаки более эффективными.
В недавно опубликованном исследовании компании заявили о попытках поддерживаемых Россией, Северной Кореей, Ираном и Китаем хакерских групп использовать такие инструменты, как ChatGPT, для исследования целей, улучшения сценариев кибератак и создания лучших методов социальной инженерии.
«Группы киберпреступников, субъекты угроз национальных государств и другие противники исследуют и тестируют различные технологии искусственного интеллекта по мере их появления, пытаясь понять потенциальную ценность для своих операций и средства контроля безопасности, которые им, возможно, придется обойти», — говорится в сообщении в блоге Microsoft.
В частности, было установлено, что группа Forest Blizzard или Strontium, связанная с российской военной разведкой, использует большие языковые модели в свою пользу.
«На протяжении всего конфликта Forest Blizzard была чрезвычайно активной в нападениях на организации, связанные с войной России в Украине, и Microsoft считает, что операции Forest Blizzard играют значительную вспомогательную роль во внешней политике и военных целях России как в Украине, так и в целом в международном сообществе. … Использование LLM компанией Forest Blizzard предусматривало исследование различных спутниковых и радиолокационных технологий, которые могут касаться обычных военных операций в Украине, а также общие исследования, направленные на поддержку их киберопераций», — констатируют в компании.
Microsoft и OpenAI утверждают, что пока не заметили никаких «значительных атак» с использованием LLM, но закрыли все учетные записи и активы, связанные с обнаруженными хакерскими группами. Несмотря на то, что пока использование искусственного интеллекта в кибератаках кажется ограниченным, Microsoft предупреждает об опасности таких операций в будущем.
«Мошенничество с помощью искусственного интеллекта является еще одной критической проблемой. Синтез голоса является примером того, что трехсекундный образец голоса может научить модель звучать как любой. Даже что-то такое безобидное, как ваше приветствие из голосовой почты, можно использовать для получения достаточной выборки», — говорят в Microsoft.
NV Техно писал, что в начале 2022 года Microsoft предотвратила попытку хакерской атаки российских военных шпионов, которые хотели навредить Украине, ЕС и США. Тогда группа хакеров Strontium пыталась атаковать госорганы и аналитические центры ЕС и США. Также под удар должны были попасть украинские госорганы и СМИ.
