Логіка присутня. OpenAI пояснила, чому використання ChatGPT зловмисниками є шкідливим для них самих
OpenAI опублікувала звіт про нові тенденції використання штучного інтелекту в кібербезпеці. З нього випливає, що використання ChatGPT зловмисниками спрощує розкриття їхніх планів.
У своєму звіті OpenAI опитує 20 випадків, коли їй вдавалося втрутитися і завадити шахрайству й операціям впливу завдяки тому, що зловмисники використовували чат-бот зі штучним інтелектом ChatGPT для допомоги.
«Ці випадки дозволяють нам почати ідентифікувати найпоширеніші способи, якими зловмисники використовують ШІ, щоб спробувати підвищити свою ефективність або продуктивність», — пише OpenAI.
Їхні запити до ChatGPT не лише показали, на які платформи вони націлені, а й демонструють нові інструменти, які зловмисники тестують для своєї діяльність в Інтернеті. В одному з випадків зловмисник (ймовірно, з Китаю) SweetSpecter використовував підказки ChatGPT, щоб спробувати залучити урядових працівників і співробітників OpenAI до невдалої фішингової кампанії. Зловмисника викрили завдяки тому, що він питав у ChatGPT про теми, які можуть зацікавити урядовців, про гарні назви для вкладень, які допоможуть уникнути блокування. Також SweetSpecter запитав ChatGPT про вразливості в різних програмах і попросив допомогу в пошуку способів використання інфраструктури, що належить відомому виробнику автомобілів.
Отримавши цю інформацію в ChatGPT, SweetSpecter написав листа співробітникам OpenAI, нібито як звичайний користувач., який має проблему з платформою, яку описано у файлі у вкладенні. Натискання на це вкладення запустило б зловмисне програмне забезпечення Windows, відоме як SugarGh0st RAT і надало б SweetSpecter контроль над скомпрометованою машиною. Спам-фільтр компанії стримав загрозу, так що жоден співробітник не отримав електронні листи. Вважається, що це перша відома атака SweetSpecter на американську компанію зі застосуванням штучного інтелекту.
Інший випадок стосувався CyberAv3ngers, групи, підозрюваної у зв’язку зі збройними силами Ірану і відомої своїми руйнівними атаками на громадську інфраструктуру в США, Ірландії та Ізраїлі. Моніторинг їхніх підказок, які використовувалися для дослідження, розвідки та налагодження коду, допоміг OpenAI визначити додаткові технології та програмне забезпечення, які вони можуть спробувати використати, щоб порушити водопостачання, енергію та виробничі системи.
Схожим чином було зупинено іранську групу STORM-0817, яка, схоже, вперше вдалася до використання ШІ для своєї атаки. У діалогах з ChatGPT група розкрила, що досліджує код, який би очистив сторінку в Instagram, і тестує його на акаунті журналіста, що критично ставиться до уряду країни.
