Вреда больше, чем пользы? Президент Signal назвала главные угрозы ИИ-агентов, которые делают дела вместо вас

Уиттакер объяснила, что агенты искусственного интеллекта, которые рекламируют, как способ повысить качество жизни, автоматизировав различные онлайн-задачи, как поиск концертов, бронирование билетов, планирование событий и т. д. на самом деле требуют беспрецедентного доступа к вашим данным. Речь идет о доступе к веб-браузеру, информации кредитной карты, программам для обмена сообщениями и тому подобное.

Президент Signal называет использование ИИ-агентов уничтожением конфиденциальности и безопасности ради «волшебного бота-джина, который позаботится о жизненных трудностях», пишет TechCrunch.

«Он должен иметь возможность управлять этим во всей нашей системе с помощью чего-то, что выглядит как root-разрешение, получая доступ к каждой из этих баз данных — вероятно, в открытом виде, потому что нет модели, которая бы делала это зашифровано. И если мы говорим о достаточно мощной модели искусственного интеллекта, которая обеспечивает это, это не может происходить на устройстве. Это почти наверняка отправляется на облачный сервер, где оно обрабатывается и отправляется обратно. Таким образом, существует серьезная проблема с безопасностью и конфиденциальностью, которая преследует этот ажиотаж вокруг агентов, и это в конечном итоге угрожает сломать гематоэнцефалический барьер между уровнем приложений и уровнем ОС, объединив все эти отдельные службы и запутав их данные», — сказала Уиттакер на сцене недавней конференции SXSW в Остине, штат Техас.

Сейчас почти все крупнейшие игроки на рынке искусственного интеллекта работают над созданием агентов. OpenAI предлагает свой продукт Operator для владельцев самого дорогого плана подписки Pro. Google разрабатывает агента Jarvis. Первенство в разработке агентов искусственного интеллекта, способных выполнять задачи и осуществлять навигацию в Интернете от имени пользователей, получила Anthropic. основанная выходцами из OpenAI. На этой неделе небывалую популярность получил китайский агент Manus AI.