Укротить зверя. OpenAI будет предоставлять правительству США доступ к новым ИИ-моделям перед выпуском

Национальный институт стандартов и технологий (NIST) официально создал Институт безопасности искусственного интеллекта в начале этого года. Согласно описанию консорциума NIST, целью является разработать научно обоснованные и эмпирически подтвержденные указания и стандарты для формирования политики в отношении искусственного интеллекта.

Как объявил генеральный директор OpenAI Сэм Альтман в X, компания предоставит институту ранний доступ к своей следующей модели в рамках мер безопасности.

«Наша команда работает с Институтом безопасности искусственного интеллекта США над соглашением, согласно которому мы предоставим ранний доступ к нашей следующей базовой модели, чтобы мы могли работать вместе для продвижения науки оценивания ИИ. В восторге от этого!», — написал Альтман.

Ранее NV Техно писал, что OpenAI распустила команду Superalignment, которая должна была следить за безопасностью разработок искусственного интеллекта. Также компанию покинул соучредитель и главный научный сотрудник OpenAI Илья Суцкевер, который был одним из руководителей команды Superalignment. В конце мая OpenAI создала новую команду по безопасности, однако ее возглавил сам Альтман, что ставит под сомнение ее объективность.