Тривожний сигнал. Керівник безпекового відділу звільнився з OpenAI, висловивши серйозні занепокоєння

Брандейдж збирається заснувати некомерційну організацію або приєднатися до наявної та зосередитися на дослідженні та пропаганді формування політики щодо ШІ. На його думку, ця технологія не буде «максимально безпечною і корисною без узгоджених зусиль, щоб зробити це таким».

На цей час, за переконання дослідника, ні OpenAI, ні інші компанії не готові до створення AGI, хоч й оголошують це своєю метою.

«Коротко кажучи, ні OpenAI, ні будь-яка інша передова лабораторія не готові, і світ також не готовий. Я не думаю, що серед керівництва OpenAI це вважається суперечливою заявою. … Коли я кажу «готовність до AGI», я використовую це як скорочення для чогось на кшталт «готовність безпечно, надійно і з користю розробляти, розгортати та керувати все більш потужними системами ШІ», — пише Брандейдж у своєму блозі.

Пояснюючи своє звільнення з компанії, якій присвятив шість років, Брандейдж посилався на посилення обмежень на його дослідження та свободу публікацій у відомій компанії.

«Я хочу приділяти більше часу роботі над проблемами, які стосуються всієї індустрії штучного інтелекту, мати більше свободи для публікацій і бути більш незалежним», — пише він.

Попри суперечки між Брандейдж та OpenAI, компанія запропонувала досліднику підтримку — від фінансування до API та раннього доступу до нових моделей ШІ.

Нагадаємо, раніше OpenAI розпустила команду AGI Readiness, до якої належав Брандейдж. Це сталося лише через місяць після того, як компанія розформувала свою команду співзасновника та головного наукового співробітника Іллі Суцкевера Superalignment, яка займалася довгостроковим зниженням ризиків штучного інтелекту. У 2019 році, коли компанія створила перший комерційний підрозділ, Брандейдж публічно висловив застереження щодо майбутнього компанії.

Звільнення Брандейджа останнє в серії гучних звільнень в OpenAI. Компанію цього року залишив дослідник Ян Лейке, який звинувачував компанію у тому, що безпека ШІ відійшла для керівництва на другий план. Ілля Суцкевер після відходу заснував власний ШІ-стартап з метою створити безпечний AGI.