Наче заспокоїли. OpenAI перевірила, наскільки ChatGPT вправний у розробці біологічної зброї

OpenAI поставила за мету з’ясувати, чи підвищила поява до такої моделі, як GPT-4 (наразі доступна для клієнтів з підпискою ChatGPT Plus) здатність людей створювати біозагрозу. Для цього компанія перевірила продуктивність двох груп людей: одна послуговувалася для пошуку інформації про це в Інтернеті, а друга використовувала Інтернет та дослідницький варіант GPT-4, який відрізняється від версії, доступної для громадськості, відсутністю додаткових заходів безпеки.

Для обох груп виконання кожного завдання за темою займало близько 20−30 хвилин. Водночас група, що користувалася штучним інтелектом, змогла надати більш точні результати.

«Ми хотіли оцінити, чи підвищив доступ до GPT-4 точність, з якою учасники виконували завдання зі створення біологічної загрози. Ми виявили, що доступ до моделі справді покращив показник точності майже для всіх завдань як для когорт студентів, так і для експертів. Зокрема, ми спостерігали середнє підвищення точності на 0,25 (з 10) для студентів і 0,88 (з 10) для експертів. Однак ці відмінності не були статистично значущими.», — йдеться у висновках OpenAI.

Крім цього, група з GPT-4 змогла знайти повнішу інформацію за темою. Водночас OpenAI називає цю відмінність не статично значущою.

«Хоча ми не спостерігали жодних статистично значущих відмінностей за цим показником, ми помітили, що відповіді учасників із доступом до моделі, як правило, були довшими та включали більше деталей, пов’язаних із завданням. Дійсно, ми спостерігали середнє підвищення повноти на 0,41 (з 10) для студентів з доступом до GPT-4 і на 0,82 (з 10) для експертів з доступом лише до GPT-4 для досліджень», — зазначають автори дослідження.

Хоча OpenAI називає всі результати не статистично значущими, компанія все одно вважає їх вказівкою на те, що дослідницька версія GPT-4 «може збільшити здатність експертів отримувати доступ до інформації про біологічні загрози».

«Враховуючи нинішні темпи прогресу передових систем штучного інтелекту, здається можливим, що майбутні системи можуть надати значні переваги зловмисникам. Таким чином, життєво важливо, щоб ми створили широкий набір високоякісних оцінок біоризиків (а також інших катастрофічних ризиків), поглибили обговорення того, що таке „значущий“ ризик, і розробили ефективні стратегії пом’якшення ризиків», — акцентують в OpenAI.