Почему не стоит доверять чат-ботам в вопросах здоровья: исследование Оксфорда

Исследование Оксфордского университета показало, что люди часто получают недостоверные или трудные для интерпретации медицинские советы от чат-ботов, что может привести к недооценке серьёзности заболеваний.

В эпоху, когда очереди к врачам растут, а стоимость медицинских услуг неуклонно повышается, многие из нас обращаются к ИИ-чатботам в надежде получить быстрый и бесплатный медицинский совет. Однако, как выяснилось, это может быть не самой лучшей идеей.

Согласно недавнему исследованию, проведённому Оксфордским университетом, около 1 из 6 взрослых американцев ежемесячно использует чат-боты для получения медицинских консультаций. Но проблема в том, что эти советы далеко не всегда оказываются полезными. Участники исследования, которым было предложено диагностировать различные медицинские сценарии с помощью чат-ботов, таких как ChatGPT, GPT-4o, Cohere’s Command R+ и Meta’s Llama 3, часто пропускали ключевые детали или получали ответы, которые было трудно интерпретировать.

«Исследование выявило двусторонний сбой в коммуникации», — отмечает Адам Махди, соавтор исследования. «Те, кто использовал чат-боты, не принимали лучших решений по сравнению с теми, кто полагался на традиционные методы, такие как поиск в интернете или собственное суждение.»

Более того, чат-боты не только снижали вероятность правильной идентификации заболевания, но и заставляли участников недооценивать его серьёзность. Это особенно тревожно, учитывая, что крупные tech-компании, такие как Apple, Amazon и Microsoft, активно разрабатывают ИИ-инструменты для здравоохранения.

Эксперты, включая Американскую медицинскую ассоциацию, предостерегают от использования чат-ботов для принятия клинических решений. «Мы рекомендуем полагаться на проверенные источники информации при принятии решений, связанных со здоровьем», — подчёркивает Махди.