OpenAI визнала. Хакери навчилися вдосконалювати свої кібератаки за допомогою ChatGPT
Microsoft і OpenAI у новому дослідженні розкрили, як кіберзлочинці використовують великі мовні моделі для того, аби зробити свої атаки більш ефективними.
У нещодавно опублікованому дослідженні компанії заявили про спроби підтримуваних Росією, Північною Кореєю, Іраном і Китаєм хакерських груп використовувати такі інструменти, як ChatGPT, для дослідження цілей, покращення сценаріїв кібератак та створення кращих методів соціальної інженерії.
«Групи кіберзлочинців, суб'єкти загроз національних держав та інші супротивники досліджують і тестують різні технології штучного інтелекту в міру їх появи, намагаючись зрозуміти потенційну цінність для своїх операцій і засоби контролю безпеки, які їм, можливо, доведеться обійти», — йдеться у повідомленні в блозі Microsoft.
Зокрема, було встановлено, що група Forest Blizzard або Strontium, пов’язана з російською військовою розвідкою, використовує великі мовні моделі на свою користь.
«Протягом усього конфлікту Forest Blizzard була надзвичайно активною у нападах на організації, пов’язані з війною Росії в Україні, і Microsoft вважає, що операції Forest Blizzard відіграють значну допоміжну роль у зовнішній політиці та військових цілях Росії як в Україні, так і загалом у міжнародній спільноті. … Використання LLM компанією Forest Blizzard передбачало дослідження різних супутникових і радіолокаційних технологій, які можуть стосуватися звичайних військових операцій в Україні, а також загальні дослідження, спрямовані на підтримку їхніх кібероперацій», — констатують в компанії.
Microsoft і OpenAI стверджують, що поки не помітили жодних «значних атак» з використанням LLM, але закрили всі облікові записи та активи, пов’язані з виявленими хакерськими групами. Попри те, що наразі використання штучного інтелекту в кібератаках здається обмеженим, Microsoft попереджає про небезпеку таких операцій в майбутньому.
«Шахрайство за допомогою штучного інтелекту є ще однією критичною проблемою. Синтез голосу є прикладом того, що трисекундний зразок голосу може навчити модель звучати як будь-хто. Навіть щось таке нешкідливе, як ваше привітання з голосової пошти, можна використати для отримання достатньої вибірки», — кажуть в Microsoft.
NV Техно писав, що на початку 2022 року Microsoft запобігла спробі хакерської атаки російських військових шпигунів, які хотіли нашкодити Україні, ЄС та США. Тоді група хакерів Strontium намагалася атакувати держоргани та аналітичні центри ЄС та США. Також під удар мали потрапити українські держоргани та ЗМІ.
