Пополнение в семье. Ключевой эксперт OpenAI перешел к ее ожесточенному конкуренту

Ян Лейке работал в Google DeepMind и последние 3 года посвятил OpenAI, где вместе с соучредителем и бывшим главным научным сотрудником Ильей Суцкевером руководил новым проектом по безопасности Superalignment (супервыравнивание), посвященным обеспечению того, чтобы системы искусственного интеллекта, которые превосходят человеческий интеллект во всех сферах, действовали в соответствии с человеческими ценностями и целями.

Вскоре после недавнего увольнения из компании он объявил о своем новом месте работы на X. Он присоединится к Anthropic и продолжит работать по направлению Superalignment. Как известно, Anthropic основали бывшие сотрудники OpenAI. Причиной для этого стало, в частности, то, что их не устраивал подход OpenAI, который считали больше сосредоточенным на коммерческих интересах, чем на создании этического искусственного интеллекта.

«Я рад присоединиться к AnthropicAI, чтобы продолжить миссию по супервыравниванию. Моя новая команда будет работать над масштабируемым наблюдением, обобщением от слабого к сильному и автоматизированным исследованием выравнивания», — говорит Лейке.

Ранее Лейке критиковал OpenAI за недостаточное количество вычислительных ресурсов для обеспечения безопасности. Со своей стороны Anthropic декларирует, что придерживается этических принципов в обучении своей модели искусственного интеллекта Claude, собирает отзывы общественности и интегрирует концепции из таких источников, как Всеобщая декларация прав человека ООН.

Пока неизвестно, каким будет следующий шаг другого ключевого работника OpenAI Ильи Суцкевера, который также уволился и тоже подчеркивал необходимость гарантировать безопасность новейших разработок в области искусственного интеллекта. Его присоединение к Anthropic не исключено. OpenAI же после увольнения Лейке и Суцкевера создала новое подразделение безопасности и объявила, что начала работу над новой прорывной моделью искусственного интеллекта.