Вроде успокоили. OpenAI проверила, насколько ChatGPT искусен в разработке биологического оружия

OpenAI поставила цель выяснить, повысило ли появление такой модели, как GPT-4 (сейчас доступна для клиентов с подпиской ChatGPT Plus) способность людей создавать биоугрозу. Для этого компания проверила продуктивность двух групп людей: одна пользовалась для поиска информации об этом в Интернете, а вторая использовала Интернет и исследовательский вариант GPT-4, который отличается от версии, доступной для общественности, отсутствием дополнительных мер безопасности.

Для обеих групп выполнение каждого задания по теме занимало около 20−30 минут. В то же время группа, пользовавшаяся искусственным интеллектом, смогла предоставить более точные результаты.

«Мы хотели оценить, повысил ли доступ к GPT-4 точность, с которой участники выполняли задания по созданию биологической угрозы. Мы обнаружили, что доступ к модели действительно улучшил показатель точности почти для всех задач как для студентов, так и для экспертов. В частности, мы наблюдали среднее повышение точности на 0,25 (из 10) для студентов и 0,88 (из 10) для экспертов. Однако эти различия не были статистически значимыми», — говорится в выводах OpenAI.

Кроме этого, группа с GPT-4 смогла найти более полную информацию по теме. В то же время OpenAI называет это различие не статически значимым.

«Хотя мы не наблюдали никаких статистически значимых различий по этому показателю, мы заметили, что ответы участников с доступом к модели, как правило, были длиннее и включали больше деталей, связанных с заданием. Действительно, мы наблюдали среднее повышение полноты на 0,41 (из 10) для студентов с доступом к GPT-4 и на 0,82 (из 10) для экспертов с доступом только к GPT-4 для исследований», — отмечают авторы исследования.

Хотя OpenAI называет все результаты не статистически значимыми, компания все равно считает их указанием на то, что исследовательская версия GPT-4 «может увеличить способность экспертов получать доступ к информации о биологических угрозах».

«Учитывая нынешние темпы прогресса передовых систем искусственного интеллекта, кажется возможным, что будущие системы могут предоставить значительные преимущества злоумышленникам. Таким образом, жизненно важно, чтобы мы создали широкий набор высококачественных оценок биорисков (а также других катастрофических рисков), углубили обсуждение того, что такое „значимый“ риск, и разработали эффективные стратегии смягчения рисков», — акцентируют в OpenAI.