Захист свідків. Працівники ШІ-галузі вимагають, аби їх убезпечили від помсти техногігантів

Деякі з підписантів відкритого листа стверджують, що звільнилися через те, що втратили впевненість у тому, що компанії будуть відповідально розробляти загальний штучний інтелект (ШІ, можливості котрого перевершують можливості людини). Інші висловлюється серйозне занепокоєння з приводу відсутності ефективного державного нагляду за ШІ та фінансових стимулів, які спонукають технічних гігантів інвестувати в технології.

Підписанти також наголошували, що безконтрольна гонитва за потужними системами штучного інтелекту може призвести до поширення дезінформації, загострення нерівності та навіть втрати людиною контролю над автономними системами, що потенційно призведе до вимирання людства.

«Поки немає ефективного державного нагляду за цими корпораціями, нинішні та колишні співробітники є одними з небагатьох людей, які можуть притягнути їх до відповідальності перед громадськістю. Проте широкі угоди про конфіденційність не дозволяють нам висловлювати свої занепокоєння», — йдеться в листі.

Підписанти закликають компанії у сфері штучного інтелекту утримуватися від помсти співробітникам, які висловлюють занепокоєння щодо безпеки; підтримувати анонімні системи для сповіщення громадськості та регуляторів про ризики для інформаторів; дозволити культуру відкритої критики; уникати про неприниження чи нерозголошення, які обмежують співробітників у тому, що вони можуть говорити відкрито.

Нагадаємо, нещодавнє розслідування Vox показало, що OpenAI намагалася змусити мовчати співробітників, які нещодавно звільнилися, примушуючи їх підписувати агресивну угоду, яка б унеможливлювала критику компанії. Крім цього, напередодні компанія втратила важливих співробітників — співзасновника Іллю Суцкевера та одного з керівників Яна Лейке. Також було розпущено безпекову команду і створено нову, на чолі якої - генеральний директор Сем Альтман.