Логика присутствует. OpenAI объяснила, почему использование ChatGPT злоумышленниками является вредным для них самих
OpenAI опубликовала отчет о новых тенденциях использования искусственного интеллекта в кибербезопасности. Из него следует, что использование ChatGPT злоумышленниками упрощает раскрытие их планов.
В своем отчете OpenAI описывает 20 случаев, когда ей удавалось вмешаться и помешать мошенничеству и операциям влияния благодаря тому, что злоумышленники использовали чат-бот с искусственным интеллектом ChatGPT как помощника.
«Эти случаи позволяют нам начать идентифицировать самые распространенные способы, которыми злоумышленники используют ИИ, чтобы попытаться повысить свою эффективность или производительность», — пишет OpenAI.
Их запросы в ChatGPT не только показали, на какие платформы они нацелены, но и демонстрируют новые инструменты, которые злоумышленники тестируют для своей деятельности в Интернете. В одном из случаев злоумышленник (вероятно, из Китая) SweetSpecter использовал подсказки ChatGPT, чтобы попытаться атаковать правительственных работников и сотрудников OpenAI с помощью фишинговой кампании. Злоумышленника разоблачили благодаря тому, что он спрашивал у ChatGPT о темах, которые могут заинтересовать правительственных чиновников, о хороших названиях для вложений, которые помогут избежать блокировки. Также SweetSpecter спросил ChatGPT об уязвимостях в различных программах и попросил помощи в поиске способов использования инфраструктуры, принадлежащей известному производителю автомобилей.
Получив эту информацию в ChatGPT, SweetSpecter написал письмо сотрудникам OpenAI, якобы как обычный пользователь. у которого есть проблема с платформой, описанная в файле во вложении. Нажатие на это вложение запустило бы вредоносное программное обеспечение Windows, известное как SugarGh0st RAT, и дало бы SweetSpecter контроль над скомпрометированной машиной. Спам-фильтр компании сдержал угрозу, так что ни один сотрудник не получил электронные письма. Считается, что это первая известная атака SweetSpecter на американскую компанию с использованием искусственного интеллекта.
Другой случай касался CyberAv3ngers, группы, подозреваемой в связи с вооруженными силами Ирана и известной своими разрушительными атаками на общественную инфраструктуру в США, Ирландии и Израиле. Мониторинг их подсказок, которые использовались для исследования, разведки и отладки кода, помог OpenAI определить дополнительные технологии и программное обеспечение, которые они могут попытаться использовать, чтобы нарушить водоснабжение, энергию и производственные системы.
Похожим образом была остановлена иранская группа STORM-0817, которая, похоже, впервые прибегла к использованию ИИ для своей атаки. В диалогах с ChatGPT группа раскрыла, что исследует код, который бы очистил страницу в Instagram, и тестирует его на аккаунте журналиста, критически относящегося к правительству страны.
