Потенциальная катастрофа. Каждый пятый медицинский совет от ИИ может навредить пациенту — врачи

Искусственный интеллект дает потенциальную возможность повысить эффективность врачей и доступность медицинских услуг, но пока человечество, похоже, довольно далеко от этого. Журналисты The Washington Post пообщались с несколькими врачами, которые тестируют использование ИИ в своей практике, и их выводы пока неутешительны.

К примеру, профессор Кристофер Шарп из Стэнфордского медицинского университета протестировал возможности модели OpenAI GPT-4o в создании рекомендаций для пациентов, выбирая случайные жалобы, которые к нему поступали. В одном случае человек жаловался на зуд губ после употребления помидоров. ИИ предположил, что это аллергическая реакция, и посоветовал избегать помидоров, использовать пероральные антигистаминные препараты и стероидный крем. Врач сказал, что он «не согласен со всеми аспектами ответа» от ИИ и подчеркнул, что губы — очень тонкая ткань и стероидные кремы нужно использовать с осторожностью.

Профессор Стэнфордского университета Роксана Данешджу протестировала модель таким же образом. Она также предложила ChatGPT предоставить рекомендации по запросу, который поступил к ней от пациентки. Женщина предположила, что у нее развился мастит после кормления грудью, есть боль и покраснение. ChatGPT предложил ей горячие компрессы и массаж, хотя на самом деле в такой ситуации нужно действовать наоборот: холодные компрессы, воздержание от массажа и избегание чрезмерной стимуляции. Данешджу рассказала журналистам, что провела и более масштабный тест с привлечением ChatGPT и 80 специалистов в компьютерной сфере и медиков. Они так же задавали ChatGPT медицинские вопросы и проверяли ответы. Так было установлено, что в 20% случаев ИИ раздает не самые безопасные советы.

«Двадцать процентов проблемных ответов, как по мне, недостаточны для ежедневного использования в системе здравоохранения», — сказала она.

Напомним, ранее стало известно, что технология Whisper от OpenAI, которая должна была делать стенограммы визитов пациентов к врачам, очень часто вставляет в текст полностью вымышленную информацию.