Производители медицинской техники стремятся оснастить свои устройства искусственным интеллектом (ИИ), обещая настоящую революцию в диагностике и лечении. Однако за громкими заявлениями о прорывах всё чаще следуют тревожные сигналы.
Регулирующие органы фиксируют растущее число жалоб, связанных с устройствами на базе ИИ, а пациенты сообщают о серьёзных травмах. Это заставляет задуматься: успевает ли безопасность за стремительным внедрением новых технологий?
Ярким примером такой двойственности стала история навигационной системы TruDi, предназначенной для операций на пазухах носа. В 2021 году её производитель, компания Acclarent (позже приобретённая Integra LifeSciences), объявил о «прорыве» — интеграции алгоритмов машинного обучения для помощи хирургам.
Однако данные Управления по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) показывают тревожную динамику: если до внедрения ИИ было несколько сообщений о сбоях, то после их число превысило сотню. В отчётах упоминаются случаи повреждения артерий, проколов основания черепа и даже инсультов у пациентов. Хотя в FDA подчёркивают, что эти отчёты не устанавливают причинно-следственную связь, а производитель отрицает вину технологии, в Техасе уже поданы иски от пациентов, утверждающих, что ИИ системы TruDi способствовал их травмам.
Система TruDi — не единственный случай. В настоящее время FDA одобрено уже более 1350 медицинских устройств с ИИ, и их количество продолжает быстро расти. Исследователи из ведущих университетов США обнаружили, что 60 таких устройств были связаны с 182 отзывами с рынка, причём почти половина отзывов произошла в первый же год после одобрения.
Рост производства медицинских устройств с ИИ
За последние три десятилетия FDA одобрила 1357 медицинских устройств с искусственным интеллектом. Более половины из них получили разрешение за последние три года.
Среди инцидентов — кардиомониторы, пропускающие опасные аритмии, и ультразвуковое ПО для беременных, которое, согласно отчёту, могло ошибочно идентифицировать части тела плода.
Ситуацию усложняет тот факт, что регуляторы зачастую не успевают за технологическим бумом. Как сообщают бывшие и действующие сотрудники FDA, агентство, потеряв ключевых специалистов по ИИ в ходе недавних сокращений, испытывает трудности с экспертной оценкой потока новых устройств. При этом другая грань ИИ — генеративные чат-боты — создаёт новые вызовы: пациенты всё чаще используют их для самодиагностики, что может привести к конфликту с рекомендациями врачей и опасным заблуждениям.
История Эрин Ральф, перенёсшей инсульт после операции с использованием TruDi, стала одним из человеческих лиц этой проблемы. В её иске утверждается, что система ввела хирурга в заблуждение относительно положения инструмента, что привело к повреждению артерии. Подобные случаи ставят сложные вопросы о балансе между инновациями и безопасностью, маркетинговой гонкой и клинической ответственностью.
Таким образом, внедрение искусственного интеллекта в медицину — это путь не только к невероятным возможностям, но и к новым, плохо изученным рискам. Технология, способная анализировать снимки лучше человека, одновременно может давать сбои, последствия которых катастрофичны.
Пока рынок и энтузиазм производителей опережают формирование надёжных систем контроля и понимание долгосрочных эффектов, вопрос «революция или риск?» остаётся открытым. Будущее медицинского ИИ будет зависеть от того, сможет ли отрасль найти ответ на этот вызов, поставив безопасность пациента превыше скорости внедрения новшеств.
