Тревожный сигнал. Руководитель отдела безопасности уволился из OpenAI, выразив серьезные беспокойства

Брандейдж собирается основать некоммерческую организацию или присоединиться к существующей и сосредоточиться на исследовании и пропаганде формирования политики в отношении ИИ. По его мнению, эта технология не будет «максимально безопасной и полезной без согласованных усилий, чтобы сделать ее такой».

В настоящее время, по убеждению исследователя, ни OpenAI, ни другие компании не готовы к созданию AGI, хоть и объявляют это своей целью.

«Короче говоря, ни OpenAI, ни любая другая передовая лаборатория не готовы, и мир также не готов. Я не думаю, что среди руководства OpenAI это считается противоречивым заявлением. … Когда я говорю «готовность к AGI», я использую это как сокращение для чего-то вроде «готовность безопасно, надежно и с пользой разрабатывать, развертывать и управлять все более мощными системами ИИ», — пишет Брандейдж в своем блоге.

Объясняя свое увольнение из компании, которой посвятил шесть лет, Брандейдж ссылался на ужесточение ограничений на его исследования и свободу публикаций в известной компании.

«Я хочу уделять больше времени работе над проблемами, которые касаются всей индустрии искусственного интеллекта, иметь больше свободы для публикаций и быть более независимым», — пишет он.

Несмотря на споры между Брандейдж и OpenAI, компания предложила исследователю поддержку — от финансирования до API и раннего доступа к новым моделям ИИ.

Напомним, ранее OpenAI распустила команду AGI Readiness, частью которой был Брандейдж. Это произошло всего через месяц после того, как компания расформировала свою команду соучредителя и главного научного сотрудника Ильи Суцкевера Superalignment, которая занималась долгосрочным снижением рисков искусственного интеллекта. В 2019 году, когда компания создала первое коммерческое подразделение, Брандейдж публично высказал предостережения относительно будущего компании.

Увольнение Брандейджа последнее в серии громких увольнений в OpenAI. Компанию в этом году покинул исследователь Ян Лейке, который обвинял компанию в том, что безопасность ИИ отошла для руководства на второй план. Илья Суцкевер после ухода основал собственный ИИ-стартап с целью создать безопасный AGI.