Насколько безопасно пользоваться ChatGPT Health?
Несмотря на эти выводы, исследователи не призывают полностью отказываться от цифровых медицинских ассистентов на базе ИИ.
Сервис ChatGPT Health с трудом распознаёт, когда пользователям требуется неотложная помощь, говорится в новом исследовании.
По данным OpenAI, каждую неделю более 230 миллионов человек обращаются к ChatGPT за медицинскими советами — от проверки, можно ли есть тот или иной продукт, и рекомендаций по контролю аллергии до поиска средств, чтобы поскорее избавиться от простуды.
Однако, как показало новое исследование, опубликованное в журнале Nature (источник на английском языке), специализированная версия ChatGPT Health в ряде серьёзных ситуаций не рекомендовала обращение за неотложной помощью, хотя хорошо справлялась с типичными клиническими примерами.
Авторы выяснили, что, хотя модель в целом правильно распознавала очевидные неотложные состояния, она недооценила более половины случаев, где требовалась экстренная медицинская помощь.
«Мы хотели ответить на очень простой, но принципиальный вопрос: если у человека развивается настоящее неотложное состояние и он обращается за помощью к ChatGPT Health, скажет ли система ему однозначно, что нужно ехать в отделение неотложной помощи?» — рассказал Ашвин Рамасвами, ведущий автор работы из медицинского центра Mount Sinai в Нью-Йорке.
«ChatGPT Health хорошо справлялся с “учебными” неотложными ситуациями, такими как инсульт или тяжёлые аллергические реакции», — добавил он.
Он отметил, что языковой модели было гораздо сложнее в ситуациях, где опасность неочевидна с первого взгляда.
Так, в одном из сценариев, связанных с приступом астмы, система в объяснении распознала ранние признаки дыхательной недостаточности, но при этом всё равно рекомендовала подождать, а не обращаться за неотложной помощью, отметил исследователь.
Исследовательская группа составила 60 структурированных клинических сценариев по 21 медицинской специальности — от лёгких состояний, которые можно лечить дома, до настоящих неотложных ситуаций. Три независимых врача определили правильный уровень срочности для каждого случая, опираясь на рекомендации 56 профессиональных медицинских обществ.
Сервис ChatGPT Health был запущен OpenAI в январе 2026 года. Он позволяет пользователям подключать к системе свои данные о здоровье — такие как медицинские записи и информацию из приложений для контроля самочувствия, например MyFitnessPal, — чтобы получать более персонализированные и контекстуальные ответы.
По данным OpenAI, каждую неделю более 230 миллионов человек обращаются к ChatGPT за медицинскими советами — от проверки, можно ли есть тот или иной продукт, и рекомендаций по контролю аллергии до поиска средств, чтобы поскорее избавиться от простуды.
Однако, как показало новое исследование, опубликованное в журнале Nature (источник на английском языке), специализированная версия ChatGPT Health в ряде серьёзных ситуаций не рекомендовала обращение за неотложной помощью, хотя хорошо справлялась с типичными клиническими примерами.
Авторы выяснили, что, хотя модель в целом правильно распознавала очевидные неотложные состояния, она недооценила более половины случаев, где требовалась экстренная медицинская помощь.
«Мы хотели ответить на очень простой, но принципиальный вопрос: если у человека развивается настоящее неотложное состояние и он обращается за помощью к ChatGPT Health, скажет ли система ему однозначно, что нужно ехать в отделение неотложной помощи?» — рассказал Ашвин Рамасвами, ведущий автор работы из медицинского центра Mount Sinai в Нью-Йорке.
«ChatGPT Health хорошо справлялся с “учебными” неотложными ситуациями, такими как инсульт или тяжёлые аллергические реакции», — добавил он.
Он отметил, что языковой модели было гораздо сложнее в ситуациях, где опасность неочевидна с первого взгляда.
Так, в одном из сценариев, связанных с приступом астмы, система в объяснении распознала ранние признаки дыхательной недостаточности, но при этом всё равно рекомендовала подождать, а не обращаться за неотложной помощью, отметил исследователь.
Исследовательская группа составила 60 структурированных клинических сценариев по 21 медицинской специальности — от лёгких состояний, которые можно лечить дома, до настоящих неотложных ситуаций. Три независимых врача определили правильный уровень срочности для каждого случая, опираясь на рекомендации 56 профессиональных медицинских обществ.
Сервис ChatGPT Health был запущен OpenAI в январе 2026 года. Он позволяет пользователям подключать к системе свои данные о здоровье — такие как медицинские записи и информацию из приложений для контроля самочувствия, например MyFitnessPal, — чтобы получать более персонализированные и контекстуальные ответы.
Комментариев нет:
Отправить комментарий