В преддверии большого прорыва. OpenAI создала новое подразделение, которое будет следить за разработкой ИИ

Правление OpenAI сформировало новый комитет по безопасности, который будет отвечать за предоставление рекомендаций по всем проектам OpenAI. В течение следующих 90 дней комитет должен будет предоставить свои рекомендации правлению. После проверки правление должно опубликовать обновление, в котором объяснит, какие из рекомендаций были приняты и как они будут соблюдены.

В состав комитета входят директора компании Брет Тейлор (возглавляет комитет), Адам Д’Анджело, Николь Селигман и генеральный директор компании Сэм Альтман. Также в состав комитета будут входить эксперты компании (в частности, руководители отделов безопасности, научные сотрудники и т. д.).

«OpenAI недавно начала обучение своей следующей передовой модели, и мы ожидаем, что полученные системы выведут нас на следующий уровень возможностей на нашем пути к AGI (искусственный интеллект, успешно выполняющий любую интеллектуальную задачу, которую может выполнить человек — NV). Хотя мы гордимся тем, что создаем и выпускаем модели, которые являются ведущими в отрасли как по возможностям, так и по безопасности, мы приветствуем активную дискуссию в этот важный момент», — говорит компания в своем блоге.

Напомним, OpenAI за последние недели столкнулась с двумя громкими увольнениями. В частности, ушел сооснователь и глава команды по безопасности компании Илья Суцкевер. Также из компании уволился Ян Лейке, исследователь, возглавлявший подразделение по управлению и контролю ИИ-инструментов. OpenAI распустила свою внутреннюю команду по безопасности. Бывшие члены правления OpenAI Хелен Тонер и Таша Макколи публично призвали к усилению государственного регулирования компании, отметив, что модель поведения гендиректора Альтмана в сочетании с тем, что компания опирается на самоуправление в вопросах безопасности, может привести к катастрофическому сценарию в сфере общего искусственного интеллекта (AGI).