Важный шаг. OpenAI убрала Альтмана из команды, отвечающей за безопасность ИИ

OpenAI превращает свой Комитет по безопасности и защите в наблюдательный комитет Совета директоров, который сосредоточится на вопросах безопасности и защиты, Согласно сообщению в блоге OpenAI, новый комитет имеет право задерживать запуск моделей по соображениям безопасности.

Решение о создании нового комитета было принято после 90-дневного анализа ситуации с безопасностью и защитой в OpenAI. Проверка, проведенная Комитетом по безопасности OpenAI, также помогла создать дополнительные возможности для отраслевого сотрудничества и обмена информацией для повышения безопасности индустрии искусственного интеллекта. Члены комитета по безопасности OpenAI также являются членами совета директоров компании, поэтому непонятно, насколько независимым является этот орган. Генеральный директор Сэм Альтман, который ранее входил в состав комитета, больше не является его членом. Орган возглавляет Зико Колтер. В состав комитета также входят Адам Д’Анджело, Пол Накасоне и Николь Селигман.

Компания сообщает, что новый комитет будет получать от руководства информацию об оценке безопасности основных выпусков моделей и вместе с полным составом совета директоров будет осуществлять надзор за запуском моделей.