Некерований ШІ. Експрацівники OpenAI закликають уряди приборкати Альтмана
Колишні члени правління OpenAI Хелен Тонер і Таша МакКолі закликають до посилення державного регулювання компанії через невдале керівництво генерального директора Сема Альтмана.
OpenAI за останні тижні стикнулася з двома гучними звільненнями. Зокрема, пішов співзасновник і голова безпекової команди компанії Ілля Суцкевер. Також з компанії звільнився Ян Лейке, дослідник, який очолював підрозділ з керування та контролю ШІ-інструментів. OpenAI розпустила свою внутрішню команду з безпеки.
Тонер та МакКолі, що були дотичними до спроби усунути Альтмана з посади в листопаді минулого року, у статті, опублікованій у The Economist, стверджують, що модель поведінки гендиректора в поєднанні з опорою на самоврядування є рецептом для катастрофічного сценарію у сфері загального штучного інтелекту (AGI).
«Кілька вищих керівників приватно поділилися з правлінням серйозними занепокоєннями, заявивши, що вони вірять, що пан Альтман культивував «токсичну культуру брехні» та брав участь у «поведінці, яку можна схарактеризувати як психологічне насильство. Події, що відбулися після його повернення в компанію, включно з його відновленням на посаді ради директорів і відходом старших спеціалістів, які займаються безпекою, не віщували нічого хорошого для експерименту OpenAI у самоврядуванні. Навіть за найкращих намірів, без зовнішнього нагляду, такий вид саморегулювання в кінцевому підсумку буде неможливим, особливо під тиском величезних стимулів прибутку. Уряди повинні відігравати активну роль», — пишуть Тонер та МакКолі.
Колишні члени правління виступають проти нинішнього поштовху до самозвітності та мінімального зовнішнього регулювання компаній у сфері ШІ.
«Дуже важливо, щоб державний сектор був тісно залучений до розробки технології. Зараз настав час для урядових органів у всьому світі заявити про себе. Лише завдяки здоровому балансу ринкових сил і розумному регулюванню ми можемо надійно гарантувати, що еволюція ШІ справді принесе користь всьому людству», — додають вони.
В ЄС теж знаходять недоліки у тому, щоб покладатися на технічних гігантів у зусиллях з забезпечення безпеки ШІ. Зокрема, минулого тижня європейські регулятори видали корпорації Microsoft попередження через нерозкриття потенційних ризиків її інструментів Copilot і Image Creator на основі штучного інтелекту.
