Слабые стороны искусственного интеллекта в медицине

В медицине все чаще стали прибегать к искусственному интеллекту и другим разработкам и технологиям. Например, для принятия врачебных решений сейчас активно используют симптом-чекеры (приложения проверки симптомов заболеваний), предиктивные, аналитические системы, системы, работающие с визуальными данными (рентген-, КТ-изображения, морфология, дерматография и др.) Такие решения называют «искусственный интеллект в медицине».

Слабые стороны искусственного интеллекта в медицине

Разработка искусственного интеллекта 

В основе решений на базе искусственного интеллекта лежат медицинские знания – об организме человека, этиологии, патогенезе, диагностике и методах лечения заболеваний.

Команда, разрабатывающая ИИ, состоит из разработчиков, программистов и специалистов по знаниям, которые, как правило, являются представителями медицинского и научного сообщества. Также в команду входят руководство и представители бизнеса.

Медицинские данные (знания), которые берутся из открытых источников (дата-сеты, размеченные данные) и собираются дата-сайентистами из команды разработчиков являются самым важным компонентом бизнес-продукта. Качество этих данных определяет правильность работы программного обеспечения, так как именно на их основе принимаются медицинские решения.

Причины неудач в системе принятия врачебных решений

Самыми очевидными и наиболее часто упоминаемыми причинами в некачественной работе искусственного интеллекта являются:

  1. Ошибки в использовании программных библиотек.
  2. Некачественно собранные медицинские данные.
  3. Недостаточное количество данных или выборки данных для обучения алгоритма.
  4. Нерепрезентативная выборка (не все данные, не по всем клиническим случаям оказались в дата-сете).
  5. Ошибки в разработке программного продукта.

Однако есть ряд других причин, которые порой не учитываются в разработке, но могут носить фатальный характер в принятии медицинских клинических решений:

  1. Отсутствие знаний в определенной предметной области
    Кто занимается реальной клинической практикой, понимает, что не всегда эффективны те или иные методы диагностики, лечения, базирующиеся на клинических рекомендациях, что может говорить о недостаточном уровне знаний о состоянии организма человека, неправильной интерпретации протекающих патологических процессов, приводящих к заболеванию и неправильном подходе к их лечению.
  2. Социальные искажения
    Личное отношение врача к пациенту, перспективность применения к пациенту того или иного метода, использование дорогостоящих методов диагностики и лечения, прогноз развития заболевания, эвтаназия – лежат за рамками медицины, основанной на доказательствах. Поэтому такие знания очень сложно собрать, классифицировать и алгоритмизировать.
  3. Искажение первичных медицинских знаний
    Бывают случаи, что в научных журналах специально публикуются статьи, построенные по всем правилам медицины, основанной на доказательствах. В них заинтересованы представители медицинской индустрии в силу подтверждения своей первоначальной гипотезы. Поэтому из-за таких правильно построенных исследований меняются клинические рекомендации и референсные значения физиологических показателей. А это искажает медицинские знания для сбора информации, необходимой искусственному интеллекту. 
Спасибо за внимательность!
Выделите опечатку и нажмите Ctrl + Enter, чтобы отправить сообщение об ошибке.