Защита свидетелей. Работники ИИ-отрасли требуют, чтобы их обезопасили от мести техногигантов

Некоторые из подписантов открытого письма утверждают, что уволились из-за того, что потеряли уверенность в том, что компании будут ответственно разрабатывать общий искусственный интеллект (ИИ, возможности которого превосходят возможности человека). Другие выражают серьезное беспокойство по поводу отсутствия эффективного государственного надзора за ИИ и финансовыми стимулами, побуждающими технических гигантов инвестировать в это.

Подписанты также отмечали, что бесконтрольная погоня за мощными системами искусственного интеллекта может привести к распространению дезинформации, обострению неравенства и даже потере человеком контроля над автономными системами, что потенциально приведет к вымиранию человечества.

«Пока нет эффективного государственного надзора за этими корпорациями, нынешние и бывшие сотрудники являются одними из немногих людей, которые могут привлечь их к ответственности перед общественностью. Однако широкие соглашения о конфиденциальности не позволяют нам выражать свои беспокойства», — говорится в письме.

Подписанты призывают компании в сфере искусственного интеллекта воздерживаться от мести сотрудникам, которые выражают беспокойство по безопасности; поддерживать анонимные системы для оповещения общественности и регуляторов о рисках для информаторов; позволить культуру открытой критики; избегать соглашений об неунижении или неразглашении, которые ограничивают сотрудников в том, что они могут говорить открыто.

Напомним, недавнее расследование Vox показало, что OpenAI пыталась заставить молчать недавно уволившихся сотрудников, принуждая их подписывать агрессивное соглашение, которое бы делало невозможным критику компании. Кроме этого, накануне компания потеряла важных сотрудников — соучредителя Илью Суцкевера и одного из руководителей Яна Лейке. Также была распущена команда по безопасности и создана новая, во главе которой — генеральный директор Сэм Альтман.