Шкоди більше, ніж користі? Президентка Signal назвала головні загрози ШІ-агентів, які роблять справи замість вас

Віттакер пояснила, що агенти штучного інтелекту, які рекламують, як спосіб підвищити якість життя, автоматизувавши різні онлайн-завдання, як пошук концертів, бронювання квитків, планування подій тощо. насправді вимагають безпрецедентного доступу до ваших даних. Йдеться про доступ до веббраузера, інформації кредитної картки, програм для обміну повідомленнями тощо.

Президентка Signal називає використання ШІ-агентів знищенням конфіденційності та безпеки заради «чарівного бота-джина, який подбає про життєві труднощі», пише TechCrunch.

«Він повинен мати можливість керувати цим у всій нашій системі за допомогою чогось, що виглядає як root-дозвіл, отримуючи доступ до кожної з цих баз даних — ймовірно, у відкритому вигляді, тому що немає моделі, яка б робила це зашифровано. І якщо ми говоримо про досить потужну модель штучного інтелекту, яка це забезпечує, це не може відбуватися на пристрої. Це майже напевно надсилається на хмарний сервер, де воно обробляється та надсилається назад. Отже, існує серйозна проблема з безпекою та конфіденційністю, яка переслідує цей ажіотаж навколо агентів, і це врешті-решт загрожує зламати гематоенцефалічний бар'єр між рівнем додатків і рівнем ОС, об'єднавши всі ці окремі служби та заплутавши їхні дані», — сказала Віттакер на сцені нещодавньої конференції SXSW в Остіні, штат Техас.

Наразі майже всі найбільші гравці на ринку штучного інтелекту працюють над створенням агентів. OpenAI пропонує свій продукт Operator для власників найдорожчого плану підписки Pro. Google розробляє агента Jarvis. Першість у розробці агентів штучного інтелекту, здатних виконувати завдання та здійснювати навігацію в Інтернеті від імені користувачів, здобула Anthropic. заснована вихідцями з OpenAI. Цього тижня небувалу популярність отримав китайський агент Manus AI.