Напередодні великого прориву. OpenAI створила новий підрозділ, що стежитиме за розробкою ШІ

Правління OpenAI сформувало новий комітет з безпеки, що відповідатиме за надання рекомендацій щодо всіх проєктів OpenAI. Упродовж наступних 90 днів комітет матиме надати свої рекомендації правлінню. Після перевірки правління мусить опублікувати оновлення, у якому пояснить, які з рекомендацій було прийнято та як їх буде дотримано.

До складу комітету входять директори компанії Брет Тейлор (очолює комітет), Адам Д’Анджело, Ніколь Селігман і генеральний директор компанії Сем Альтман. Також до складу комітету входитимуть експерти компанії (зокрема, керівники відділів безпеки, наукові співробітники тощо).

«OpenAI нещодавно розпочала навчання своєї наступної передової моделі, і ми очікуємо, що отримані системи виведуть нас на наступний рівень можливостей на нашому шляху до AGI (штучний інтелект, який може успішно виконати будь-яку інтелектуальну задачу, котру може виконати людина — NV). Хоча ми пишаємося тим, що створюємо та випускаємо моделі, які є провідними в галузі як за можливостями, так і за безпекою, ми вітаємо активну дискусію в цей важливий момент», — каже компанія у своєму блозі.

Нагадаємо, OpenAI за останні тижні стикнулася з двома гучними звільненнями. Зокрема, пішов співзасновник і голова безпекової команди компанії Ілля Суцкевер. Також з компанії звільнився Ян Лейке, дослідник, який очолював підрозділ з керування та контролю ШІ-інструментів. OpenAI розпустила свою внутрішню команду з безпеки. Колишні члени правління OpenAI Хелен Тонер і Таша МакКолі публічно закликали до посилення державного регулювання компанії, наголосивши, що модель поведінки гендиректора Альтмана в поєднанні з тим, що компанія спирається на самоврядування у безпекових питаннях, може призвести до катастрофічного сценарію у сфері загального штучного інтелекту (AGI).