Здравоохранение, основанное на искусственном интеллекте (ИИ), может изменить процесс принятия медицинских решений и лечения, но эти алгоритмы необходимо тщательно тестировать и постоянно контролировать, чтобы избежать непредвиденных последствий для пациентов.
В открытом приглашенном комментарии сети JAMA президент и главный исполнительный директор Regenstrief Institute и заместитель декана Медицинского факультета Университета Индианы по исследованиям в области информатики и здравоохранения Питер Эмби, доктор медицины, магистр медицины, решительно заявил о важности алгоритмической бдительности для устранения неотъемлемых предубеждений в алгоритмах здравоохранения и их размещение. Алгоритмовидность, термин, придуманный доктором Эмби, можно определить как научные методы и действия, относящиеся к оценке, мониторингу, пониманию и предотвращению неблагоприятных последствий алгоритмов в здравоохранении.
«Мы бы не думали о лечении пациентов с помощью нового лекарственного препарата или устройства, не убедившись сначала в их эффективности и безопасности», — сказал д-р Эмби. «Таким же образом мы должны признать, что алгоритмы могут принести как большую пользу, так и вред и, следовательно, требуют изучения. Кроме того, по сравнению с лекарствами или устройствами, алгоритмы часто имеют дополнительные сложности и вариации, например способы их применения, кто с ними взаимодействует, и клинические рабочие процессы, в которых происходит взаимодействие с алгоритмами «.
Комментарий был дан в ответ на исследование ученых IBM, в котором оценивались различные подходы к ослаблению алгоритмов здравоохранения, разработанные для прогнозирования послеродовой депрессии. Доктор Эмби заявил, что исследование предполагает, что методы устранения смещения могут помочь устранить основные различия, представленные в данных, используемых для разработки и развертывания подходов к ИИ. Он также сказал, что исследование демонстрирует, что оценка и мониторинг этих алгоритмов на предмет эффективности и справедливости необходимы и даже требуются с этической точки зрения.
«Алгоритмическая производительность меняется по мере его развертывания с разными данными, различными настройками и различными взаимодействиями человека и компьютера. Эти факторы могут превратить полезный инструмент в инструмент, причиняющий непреднамеренный вред, поэтому эти алгоритмы необходимо постоянно оценивать, чтобы устранить внутреннее и системное неравенство, которое существуют в нашей системе здравоохранения », — продолжил доктор Эмби. «Поэтому крайне важно, чтобы мы продолжали разрабатывать инструменты и возможности для обеспечения систематического наблюдения и бдительности при разработке и использовании алгоритмов в здравоохранении ».
