Неуправляемый ИИ. Экс-сотрудники OpenAI призывают правительства обуздать Альтмана

OpenAI за последние недели столкнулась с двумя громкими увольнениями. В частности, ушел сооснователь и глава команды по безопасности компании Илья Суцкевер. Также из компании уволился Ян Лейке, исследователь, возглавлявший подразделение по управлению и контролю ИИ-инструментов. OpenAI распустила свою внутреннюю команду по безопасности.

Тонер и Макколи, которые были причастны к попытке отстранить Альтмана с должности в ноябре прошлого года, в статье, опубликованной в The Economist, утверждают, что модель поведения гендиректора в сочетании с опорой на самоуправление является рецептом для катастрофического сценария в сфере общего искусственного интеллекта (AGI).

«Несколько высших руководителей частным образом поделились с правлением серьезной обеспокоенностью, заявив, что они верят, что Альтман культивировал „токсичную культуру лжи“ и участвовал в „поведении, которое можно охарактеризовать как психологическое насилие“. События, произошедшие после его возвращения в компанию, включая его восстановление в должности совета директоров и уход старших специалистов, занимающихся безопасностью, не предвещали ничего хорошего для эксперимента OpenAI в самоуправлении. Даже при самых лучших намерениях, без внешнего надзора, такой вид саморегулирования в конечном итоге будет невозможен, особенно под давлением огромных стимулов прибыли. Правительства должны играть активную роль», — пишут Тонер и Макколи.

Бывшие члены правления выступают против нынешнего толчка к самоотчетности и минимальному внешнему регулированию компаний в сфере ИИ.

«Очень важно, чтобы государственный сектор был тесно вовлечен в разработку технологии. Сейчас настало время для правительственных органов во всем мире заявить о себе. Только благодаря здоровому балансу рыночных сил и разумному регулированию мы можем надежно гарантировать, что эволюция ИИ действительно принесет пользу всему человечеству», — добавляют они.

В ЕС тоже находят недостатки в том, чтобы полагаться на технических гигантов в усилиях по обеспечению безопасности ИИ. В частности, на прошлой неделе европейские регуляторы выдали корпорации Microsoft предупреждение из-за нераскрытия потенциальных рисков ее инструментов Copilot и Image Creator на основе искусственного интеллекта.