Авторы: Кайл Лэм, Майкл Д. Абрамофф, Хосе М. Балибреа, Стивен М. Бишоп, Ричард Р. Брэди, Рэйчел А. Каллкат, Маниш Чанд, Джастин В. Коллинз, Маркус К. Динер, Маттиас Айзенманн, Келли Фермонт, Мануэль Гальвао Нето, Грегори Д. Хагер, Роберт Дж. Хинчлифф, Алан Хорган, Пьер Жаннен, Александр Лангерман, Картик Логишетти, Амит Махадик, Лена Майер-Хайн, Эстебан Мартин Антона, Пьетро Масканьи, Райан К. Мэтью, Бит П. Мюллер-Штих, Томас Ноймут, Феликс Никель, Адриан Парк, Джанлука Пеллино, Фрэнк Рудзич, Сэм Шах, Марк Слэк, Майлз Дж. Смит, Наим Соомро, Стефани Шпайдель, Данаил Стоянов, Генри С. Тилни, Мартин Вагнер, Ара Дарзи, Джеймс М. Кинросс и Санджай Пуркайста.
Использование цифровых технологий быстро растет во всех хирургических специальностях, но единого мнения по поводу термина «цифровая хирургия» пока не сформировалось. Это крайне важно, поскольку технологии цифрового здравоохранения создают технические, управленческие и юридические вызовы, которые уникальны для хирурга и пациента. Мы стремимся дать определение термину «цифровая хирургия» и уделить внимание этическим вопросам, связанным с его клиническим применением, а также определить барьеры и исследовательские цели для будущей практики. 38 международных экспертов в области хирургии, искусственного интеллекта, промышленности, права, этики и политики приняли участие в опросе с использованием метода Дельфи, состоящего из 4-х раундов. Вопросы были сформулированы экспертной и общественной группами с помощью опросника по ключевым темам, выявленным в литературе в ходе двух последующих раундов анкетирования. Консенсус определялся, если более 70% экспертов считали заявление важным, а менее 30% — неважным. Была проведена заключительная онлайн-встреча для обсуждения консенсусных заявлений. Достигнуто 100% согласие в определении цифровой хирургии: использование технологии для улучшения предоперационного планирования, хирургической производительности, терапевтической поддержки или обучения с целью улучшения результатов и снижения вреда. Мы освещаем ключевые этические вопросы, касающиеся данных, неприкосновенности частной жизни, конфиденциальности и общественного доверия, согласия, права, судебных разбирательств и ответственности, а также коммерческого партнерства в области цифровой хирургии. Также определяем барьеры и исследовательские цели для будущей практики. Разработчики и пользователи цифровой хирургии должны быть осведомлены не только об этических проблемах, связанных с цифровыми приложениями в здравоохранении, но и об этических соображениях, присущих цифровой хирургии. В будущих исследованиях этих вопросов должны участвовать все заинтересованные стороны цифровой хирургии, включая пациентов.
Вступление
Цифровые технологии, начиная от робототехники (1), виртуальной и дополненной реальности (2) , и искусственный интеллект (ИИ) (3) предлагают высокоточную хирургию на основе данных с целью улучшения результатов лечения пациентов, эффективности операций, с одной стороны, а также производительности и эффективности хирургов и их команд, с другой стороны (4,5). Внедрение цифровых технологий не ограничивается только операционной. В настоящее время цифровые технологии играют важную роль в таких областях, как предоперационное планирование (6), прогнозирование хирургического риска (7), а также оценка эффективности хирургического вмешательства (8,9).
Во многом быстрое внедрение этих технологий обусловлено коммерческими возможностями и обещанием лучших результатов для хирургов и пациентов. Рынок роботической хирургии, который составляет лишь часть мирового рынка цифровых хирургических технологий, оценивается в 5 миллиардов долларов США с оценочной стоимостью 16,77 миллиарда долларов США к 2031 году (10). Таким образом, хирурги и поставщики медицинских услуг получают все большую свободу в выборе технологий для использования в своих операционных.
Несмотря на растущую роль цифровых технологий в хирургии, определение термина «цифровая хирургия» остается неясным, при этом имеет большое значение по ряду причин. Во-первых, хирургическое вмешательство является клиническим вмешательством с высоким риском, и сбои в этих технологиях могут нанести серьезный вред. Хирургия отличается от других клинических дисциплин, поскольку она зависит от анализа разнородных данных в режиме реального времени, а пациенты и хирурги заслуживают стандартизации новых технологий для снижения рисков. Во-вторых, цифровая хирургия не может быть эффективно опробована или понята, если нет четкого определения. Без этого невозможно обеспечить качество клинических вмешательств или испытаний. Поскольку цифровая хирургия быстро внедряется в клиническую практику, также важно, чтобы мы могли четко и последовательно объяснять ее роль пациентам, особенно в контексте сбора и обработки данных для приложений цифровой хирургии. Наконец, отсутствие ясности в цифровой хирургии препятствует прогрессу. Быстро развивающиеся области, куда входит цифровая хирургия, требуют уточнения приоритетов исследований и областей для сотрудничества.
В связи с растущим использованием цифровых технологий, хирургия не является уникальной среди медицинских специальностей. Тем не менее, она будет включать в себя не только использование цифровых технологий, но и прорыв в культуре и практике хирургии как специальности, которая исторически была сосредоточена на послеоперационных результатах с небольшим акцентом на сбор данных в операционной. В результате потенциальные выгоды и риски внедрения цифровых технологий уникальны для хирургии, что требует от цифровой хирургии четкого определения.
Использование цифровых технологий в хирургии может создавать риски, которые не доводятся до сведения пациентов в рамках текущей практики получения согласия. Помимо установленных рисков, связанных с внедрением новых технологий в клиническую практику, цифровые технологии часто зависят от крупномасштабной обработки персональных данных, что создает определенные этические проблемы и проблемы управления данными.
Опрос об использовании ИИ в здравоохранении, проведенный в 2018 году, показал очень или чрезвычайно важными факторы, способствующие развитию ИИ (11), — создание этических рамок для укрепления/сохранения доверия и прозрачности (88% респондентов) и ясность в отношении прав собственности на данные (82% респондентов). Поэтому для достижения успеха цифровые приложения должны быть не только точными , но и основываться на этических принципах (12).
Можно извлечь уроки из этики ИИ в других секторах. Глобальные ключевые этические принципы в области ИИ сводятся к 5 основным: прозрачность, справедливость и беспристрастность, отсутствие причинения вреда, ответственность, автономность (13,14).
Эти принципы могут служить общим руководством для тех, кто разрабатывает и использует цифровые инструменты в хирургии. Но существует недостаток рекомендаций для охвата конкретных этических вопросов и вопросов управления данными, связанными с хирургической практикой. Лаборатория искусственного интеллекта Национальной службы здравоохранения Великобритании опубликовала систему управления и сбора данных для безопасного внедрения систем ИИ в здравоохранении (15). Кроме того, недавно Всемирная организация здравоохранения анонсировала новые рекомендации по этике ИИ в здравоохранении (16). Это создает общую базу для развития ИИ в здравоохранении, но не затрагивает конкретные вопросы этики ИИ в хирургии. Во-первых, процесс принятия хирургических решений является уникальным и требует оперативности, которая зависит от конкретной ситуации, происходящей «здесь и сейчас», при этом пациент часто не может быть проконсультирован. Во-вторых, базы данных по хирургии обширны и разнородны, включая хирургические видео, данные датчиков и данные о работе хирургической бригады (17, 18). Вопросы управления данными в хирургии влияют не только на пациента, но и на хирурга и хирургическую бригаду в целом. Недавняя публикация этических норм использования ИИ в обучении роботизированной хирургии (19) сигнализирует о специфике природы хирургической практики и необходимости изучения этических вопросов в рамках цифровой хирургии. Кроме того, право собственности на хирургические данные является спорным и не вписывается в существующие правовые рамки.
В существующей литературе было мало работ, посвященных этическим принципам и вопросам управления данными, связанными с цифровыми технологиями в хирургии. В областях, которые охватывают несколько сфер знаний и где недостаточно информации, эффективно используются методы консенсуса, такие как метод Дельфи (20). Поэтому мы провели исследование данным методом. Во-первых, чтобы определить ключевые этические принципы и сформулировать вопросы управления данными в цифровой хирургии, а во-вторых, чтобы сопоставить эти мнения между ключевыми заинтересованными сторонами в цифровой хирургии для достижения консенсуса. Цели исследования заключаются в том, чтобы, во-первых, согласовать определение термина «цифровая хирургия», которое может быть использовано как в клинической, так и в академической среде, во-вторых, определить ключевые этические принципы и сформулировать вопросы управления данными, связанные с цифровой хирургией. Далее определить ключевые барьеры и исследовательские цели для будущего цифровой хирургии.
Результаты
52 эксперта завершили первый раунд, 44 участника (84,6%) завершили второй раунд и 38 участников (86,4%) завершили третий раунд. В 1-м раунде также приняли участие 20 представителей общественности, и вопросы, поднятые в этом раунде, были объединены с экспертными вопросами во 2-м раунде. Альфа Кронбаха (коэффициент, показывающий внутреннюю согласованность характеристик, описывающий один объект) составил 0,981 и 0,881 во 2-м и 3-м раундах, соответственно, что указывает на высокую надежность между оценщиками. С полным текстом опросника и результатами раундов 2 и 3 можно ознакомиться в Дополнительных примечаниях 2 и 3. Консенсус был достигнут по 114 вопросам, которые были сгруппированы в 7 ключевых тем:
- Определение цифровой хирургии
- Данные
- Неприкосновенность частной жизни
- Конфиденциальность и общественное доверие
- Согласие
- Закон
- Судебные разбирательства и ответственность.
- Коммерческие партнерства
Был достигнут консенсус по 38 вопросам, связанным с разработкой, внедрением и мониторингом цифровых хирургических систем, и по 22 техническим, клиническим и организационным целям будущих исследований в области цифровой хирургии. Список всех вопросов, по которым достигнут консенсус, можно найти в Дополнительном примечании 4.
Определение цифровой хирургии
Цифровая хирургия — использование технологий для улучшения предоперационного планирования, хирургической производительности, терапевтической поддержки или обучения для оптимизации результатов и снижения вреда.
71% участников согласились с тем, что в настоящее время нет четкого определения цифровой хирургии. 86% участников согласились с тем, что цифровая хирургия должна включать в себя предоперационный период, хирургическое вмешательство и послеоперационные период. 82% участников согласились с тем, что термин «цифровая хирургия» должен включать в себя не только оперативные аспекты хирургии, но и другие, в т.ч. обучение, диагностику и исследование.
Участникам было предложено прокомментировать определение термина «цифровая хирургия». Это определение обсуждалось на заключительном онлайн-совещании, где 100% участников дискуссии согласились с окончательной согласованной формулировкой. Данное определение дает практическую формулировку, которая может применяться как в клинических, так и исследовательских целях. Им могут воспользоваться и те, кто обладает ограниченными знаниями в этой области. Участникам дискуссии также было предложено согласовать технологии, входящие в состав цифровой хирургии (Рис. 1). Наконец, участники дискуссии согласились с существующими и потенциальными преимуществами цифровой хирургии (Таблица 1). Элементы консенсуса были сгруппированы по трем темам: данные, анализ и приложения.
Рис. 1: Составляющие цифровой хирургии, идентифицированные методом Дельфи.
Преимущества цифровой хирургии
выявленные панелью Дельфи
Пациент
Улучшение клинических результатов
Улучшение ухода за пациентом
Совершенствование диагностики
Индивидуальное лечение пациента
Более оперативное выявление ухудшения состояния пациента
Хирург
Возможность планирования предоперационного периода
Поддержка принятия решений хирургом
Снижение когнитивной нагрузки на хирурга
Автоматизация хирургических процессов
Прогнозирование ошибок
Обнаружение ошибок
Стандартизация хирургических процессов
Улучшение эргономики и здоровья хирурга
Оценка работы хирурга
Ускоренное хирургическое образование
Организация
Повышение эффективности хирургии
Повышение экономической эффективности
Количественная оценка результатов, выходящих за рамки выживаемости, и других стандартных критериев оценки исходов
Понимание преимуществ и ограничений хирургических стратегий
Понимание и улучшение командной динамики
Таблица 1. Преимущества цифровой хирургии, выявленные панелью Дельфи.
Вопросы сбора данных
Доступ к данным
Данные играют центральную роль как в разработке, так и в использовании цифровых хирургических технологий. Участники дискуссии согласились с тем, что в настоящее время отсутствует инфраструктура для сбора данных, и что существенным фактором этого является отсутствие функциональной совместимости (ранее определяемой как способность двух или более систем или компонентов обмениваться информацией и использовать информацию, которой обменивались (21) между различными устройствами и системами). Таким образом, участники дискуссии согласились с тем, что данные не всегда доступны в цифровом формате. Кроме того, они пришли к выводу, что существует нехватка надежных наборов данных, и это осложняется отсутствием стандартов качества данных, аннотации и их форматирования. Наконец, участники дискуссии согласились с тем, что определение надлежащего доступа к данным является важным вопросом, и что процессы управления данными в настоящее время являются чрезмерно сложными.
Хранение и безопасность данных
Чтобы цифровая хирургия была успешной, данные должны храниться надлежащим образом и надежно. Участники дискуссии сошлись во мнении, что в настоящее время больницам не хватает технических возможностей и структуры для надлежащего хранения данных. Они также подчеркнули, что важными вопросами являются затраты на хранение данных и надлежащее шифрование данных. Кроме того, участники дискуссии согласились с тем, что учреждения не оснащены оборудованием и не имеют достаточных ресурсов для обеспечения надлежащей кибербезопасности. Наконец, последствия утечек данных в настоящее время плохо определены.
Обмен данными
Обмен данными включает в себя их обмен между различными технологиями, между больницами, а также между больницами и коммерческими партнерами. Участники дискуссии согласились с тем, что в настоящее время отсутствуют руководящие принципы, касающиеся прав собственности на данные, а международные правовые требования, касающиеся обмена данными, неясны. Кроме того, участники дискуссии согласились с тем, что соблюдение существующих правил работы с данными может препятствовать конкурентоспособности. Также обмен данными через международные границы является проблематичным, и нет единого мнения о форматах обмена данными. Наконец, участники дискуссии согласились с тем, что у хирургов нет мотива делиться данными.
Неприкосновенность частной жизни, конфиденциальность и общественное доверие
Сохранение неприкосновенности частной жизни и конфиденциальности имеет важное значение не только для защиты автономии пациента, но и для обеспечения доверия пациентов, что жизненно важно для будущего развития цифровых хирургических приложений. Участники дискуссии согласились с тем, что надлежащая анонимность данных имеет большое значение. Кроме того, был достигнут консенсус о том, что должны быть определены соглашения с пациентами об обмене данными и что данные должны использоваться в явном виде для целей, для которых они были собраны. Участники дискуссии согласились с тем, что хирургические бригады недостаточно осведомлены о значимости данных, которые они собирают. Это говорит о том, что существует потребность в более глубоком обучении в области управления данными и безопасностью.
Широко распространенное неправомерное использование персональных данных как в клинических, так и в неклинических условиях привело к обеспокоенности общественности в отношении сбора персональных данных, особенно в сотрудничестве с коммерческой организацией (22). Участники дискуссии согласились с тем, что формирование общественного доверия к обмену данными является важным вопросом. До настоящего времени наблюдалось недостаточное взаимодействие с общественностью, среди которой в целом отсутствует просвещение в области ИИ. Участники дискуссии сошлись во мнении, что на общественное доверие влияют следующие важные факторы:
- недостаточная информированность из-за непрозрачности хирургических систем ИИ;
- боязнь того, что ИИ усилит предвзятость в наборах данных;
- неспособность создать на сегодняшний день эффективную хирургическую систему искусственного интеллекта.
Независимо от успеха или неудачи участники дискуссии согласились с тем, что должна быть обязательная отчетность о результатах. Вопросы неприкосновенности частной жизни и конфиденциальности распространяются не только на пациента, но и на хирургическую команду. Участники дискуссии согласились с тем, что важным вопросом является право хирурга на неприкосновенность частной жизни и потенциальное влияние цифровых хирургических систем на его поведение.
Согласие
Большие объемы хирургических данных жизненно важны для разработки и оценки цифровых хирургических технологий. Для обеспечения конфиденциальности персональных данных пациента необходимо получить от него соответствующее согласие. В соответствии с Общим регламентом по защите персональных данных Великобритании и ЕС (General Data Protection Regulation, GDPR) согласие должно быть конкретным и информированным и, следовательно, включать в себя цели обработки и право на отзыв в любое время. Применительно к цифровому хирургическому контексту участники дискуссии согласились с тем, что при сборе данных для неизвестных будущих заявок могут возникнуть проблемы с процедурами получения согласия. Кроме того, важным вопросом является ведение пациента, решившего отозвать свое согласие. «Право на удаление», хотя и с оговорками, является проблематичным в контексте цифровой хирургии. Например, для систем ИИ, предварительно обученных на наборе данных пациента, который решил отозвать свое согласие.
Неясно, в какой степени пациенты должны быть проинформированы о согласии на передачу своих данных. Участники дискуссии согласились с важностью понимания пациентами о чем их просят, когда они соглашаются на обмен данными. Обучение пациентов обмену данными для цифровых хирургических приложений должно быть приоритетом. Участники дискуссии согласились с тем, что вопросы, связанные с различными требованиями к согласию между странами, имеют важное значение. Наконец, участники дискуссии согласились с тем, что необходимо рассмотреть право хирурга и хирургической бригады отказаться от сбора данных.
Таким образом, участники дискуссии пришли к консенсусу в отношении того, что должна существовать стандартизированная методология, позволяющая пациентам делиться своими данными для применения в цифровой хирургии. Процедуры получения согласия на цифровую хирургическую операцию должны:
- определять объем сбора данных;
- определять кто будет получать доступ к данным;
- объяснять, почему данные будут собираться;
- разрешать сбор данных для будущих/неизвестных приложений;
- пациенты должны давать отдельное согласие, если коммерческие партнеры имеют доступ к их данным.
Закон
Ключевым законодательством в Европе, регулирующим использование данных в цифровой хирургии, является Общий регламент по защите персональных данных (General Data Protection Regulation) Великобритании и ЕС. Этот основополагающий законодательный акт регулирует данные о здоровье, (а также другие данные) независимо от формата или способа их сбора. GDPR является нейтральным в отношении технологий без упоминания искусственного интеллекта или связанных с ним технологий. Однако значительное внимание уделяется крупномасштабной обработке персональных данных.
Законодательство США более сложное. Большая часть соответствующего законодательства регулируется Правилом конфиденциальности в рамках Закона о передаче и защите данных учреждений здравоохранения (Health Insurance Portability and Accountability Act , HIPAA). В отличие от GDPR, HIPAA является более ограниченным и касается только защищенной медицинской информации (Protected Health Information, PHI), которая является идентифицируемой. Таким образом, обезличенные данные не подпадают под действие HIPAA. Кроме того, право собственности на данные в соответствии с HIPAA является проблемой, которую еще предстоит решить.
Участники дискуссии сошлись во мнении, что важной проблемой является отсутствие стандартизации терминологии в законодательстве, касающейся ИИ, и отсутствие специальных нормативных актов, связанных с цифровыми клиническими данными. Важным вопросом, с которым согласились участники дискуссии, было то, что нынешняя модель владения как данными, так и интеллектуальной собственностью неясна в соответствии с законом. Кроме того, отсутствует ясность в отношении правовых основ сбора и обмена данными. В настоящее время неясно, кто несет ответственность за целостность данных в соответствии с законом. Другие вопросы, согласованные участниками дискуссии, включали различия в законодательстве о данных в разных странах и нечеткие правила, касающиеся международной передачи данных. Наконец, участники дискуссии согласились с тем, что все заинтересованные стороны в области цифровой хирургии недостаточно осведомлены в сфере законодательства о данных, а в медицинских учреждениях недостаточно знаний в области права данных.
Судебные разбирательства и ответственность
Несмотря на то, что цифровые хирургические системы обещают преимущества для пациентов, хирургов и учреждений (Таблица 1), участники дискуссии согласились с тем, что существует недостаток регулирования в отношении судебных разбирательств и ответственности, как в случае сбоев в работе цифровых хирургических систем, так и в отношении хирургов, которые предпочитают не следовать таким системам, как инструменты поддержки принятия решений на основе ИИ. Кроме того, если хирург будет следовать поддержке принятия решений с помощью ИИ, и это приведет к отрицательному результату, неясно, как будет рассматриваться ответственность. Однако следует отметить, что в недавнем руководстве, опубликованном Американской медицинской ассоциацией в отношении ИИ в здравоохранении, говорится, что автономные создатели ИИ должны взять на себя ответственность (23). Другие важные вопросы, с которыми согласились участники дискуссии, включали потенциальное влияние цифровых хирургических систем на возмещение медицинской ответственности и использование расширенного сбора хирургических данных для целей определения медицинской халатности.
Коммерческое партнерство
Будущий успех цифровой хирургии, вероятно, будет зависеть от развития коммерческих партнерств, которые смогут предложить медицинским учреждениям ресурсы и соответствующую экспертизу. Участники дискуссии согласились с тем, что бизнес-модели и модели обмена данными между больницами и коммерческими компаниями не были четко определены. Участники дискуссии сошлись во мнении, что в большинстве учреждений отсутствует основа или опыт для установления справедливых партнерских отношений между медицинскими и коммерческими организациями. Они обратили внимание на проблемы, связанные с неравенством власти и различными мотивами между больницами и коммерческими компаниями. Наконец, участники дискуссии согласились с тем, что коммерческие партнерства могут привести к ограничению способности больниц сообщать о результатах.
Барьеры на пути к цифровой хирургии
Участникам дискуссии было предложено определить основные препятствия на пути развития цифровой хирургии в трех областях: разработка, развёртывание и мониторинг. Десять барьеров консенсуса, которые были определены как наиболее важные в предыдущих раундах, были ранжированы во время заключительного онлайн-совещания по достижению консенсуса (Таблица 2).
Барьеры на пути к цифровой хирургии
выявленные и ранжированные от самого высокого к самому низкому в порядке важности по методу Дельфи
Развитие
Отсутствие цифровизации в больницах
Устаревшие ИТ-системы больниц не соответствуют своему назначению
Недостаточная доступность данных
Отсутствие общей онтологии для аннотаций
Отсутствие реестра данных и стандартов платформы
Отсутствие стандартов в методах форматирования данных
Отсутствие стандартов качества данных
Недостаточный опыт в области хирургического ИИ
Плохая функциональная совместимость между системами ИИ и встроенными технологиями в операционной
Трудности в обмене данными между несколькими центрами
Внедрение
Затраты на создание инфраструктуры
Затруднение процесса из-за бюрократических сложностей
Трудности при установлении договорных отношений
Компенсация или бизнес-модель не четко определены
Институциональное нежелание делиться данными о пациентах
Неспособность продемонстрировать заинтересованным сторонам безопасность или клиническую пользу
Сложности интеграции систем ИИ с существующей ИТ-инфраструктурой
Различия в ИТ-системах больниц
Нормативные требования в настоящее время неясны
Отсутствие механизмов для получения согласия и получения данных
Мониторинг
Ясность в отношении ответственности за мониторинг данных
Нехватка ресурсов и персонала, преданных задаче
Затраты, связанные с мониторингом
Отсутствие стандартизированных критериев оценки исходов для мониторинга
Трудности количественной оценки улучшений
В настоящее время мониторингу не уделяется должного внимания
Разделение между теми, кто занимается мониторингом и разработкой хирургических систем искусственного интеллекта
Таблица 2. Барьеры на пути к цифровой хирургии
Будущие цели исследований
Участникам дискуссии было предложено определить технические, клинические и организационные цели исследований для будущей практики. Впоследствии они были ранжированы в порядке важности на заключительном совещании по консенсусу (Таблица 3).
Будущие цели исследований в области цифровой хирургии
выявленные и ранжированные от самого высокого к самому низкому в порядке важности по методу Дельфи
Технические
Стандартизация хирургических платформ обработки и анализа данных для обмена данными и аннотации
Общая онтология для аннотации данных
Повышение объяснимости алгоритмов ИИ
Работа с немаркированными или слабо размеченными данными
Выявление неравенств в базовых наборах данных
Эффективные системы сбора данных
Внедрение единого стандарта связи для хирургических данных
Генерация наборов данных с открытым исходным кодом
Функциональная совместимость между различными устройствами и системами
Клинические
Определение наиболее подходящих сценариев использования/приложений для хирургического ИИ
Разработка основных результатов, отчетности и наборов измерений, имеющих отношение к ИИ в хирургии
Разработка основы для внедрения и оценки ИИ в хирургии
Определение методологии исследования для оценки хирургического ИИ
Стандартизация процессов
Стимулирование хирургов к обмену данными
Организационные
Демонстрация эффективности хирургических систем искусственного интеллекта
Повышение общественного доверия и просвещения в области ИИ
Нормативно-правовая база для внедрения и мониторинга хирургических систем с искусственным интеллектом
Стимулирование междисциплинарного образования
Организация рабочей группы с участием всех заинтересованных сторон для определения лучших практик в области хирургического ИИ
Определение влияния хирургических систем ИИ на судебные разбирательства и ответственность
Разработка типового бизнес-плана с учетом интересов отрасли
Таблица 3. Будущие цели исследований в области цифровой хирургии
Реакция общественности
В общей сложности 20 представителей общественности ответили на вопросник, который был адаптирован для не экспертной аудитории. Вопросы, возникшие в ходе этого раунда, были вынесены на обсуждение 2-го раунда вместе с вопросами, подготовленными экспертами, для голосования экспертной группы, чтобы обеспечить надлежащий учет мнений общественности. Публичная группа состояла из представителей различных возрастных групп, уровней образования и самопровозглашенных, знакомых с ИИ. Несмотря на то, что участники дискуссии были осведомлены о технологиях цифровой хирургии и применении хирургии к ИИ, таких как робототехника, визуализация и поддержка принятия решений, существовали также распространенные заблуждения относительно использования ИИ, заменяющего человеческое взаимодействие, и степени автономии в хирургической робототехнике. Общественность признала потенциальные преимущества цифровых хирургических технологий для пациентов, а также для хирургических бригад с использованием хирургического ИИ в качестве вспомогательного средства для хирургов.
Общественная группа поддержала обмен данными для целей хирургического ИИ. Тем не менее, среди участников общественной группы были выявлены общие темы, касающиеся обмена данными, включая эффективную кибербезопасность, надлежащую анонимизацию и понимание того, кто будет иметь доступ к их данным. Что касается прозрачности и общественного доверия, то общей темой для участников общественной дискуссии была необходимость получения дополнительных знаний об ИИ в хирургии. Участники дискуссии заявили, что «общественность плохо понимает ИИ» и что предоставление общественности доступа к хирургическим приложениям ИИ «укрепит доверие». Комиссия заявила, что при наличии неблагоприятных исходов должна быть прозрачность, и что нераскрытие информации повлияет на общественное доверие и восприятие.
Наконец, участники дискуссии высказали противоположные мнения относительно партнерства между больницами и коммерческими компаниями. В то время как некоторые представители общественности понимали ценность и ресурсы, которые могут принести такие партнерства, другие были настроены более скептически, опасаясь, что компании будут продавать или получать прибыль от своих данных, а также из-за плохих исторических записей о защите данных пользователей.
Обсуждение
Данное исследование является первым в опубликованной литературе, в котором дается определение термину «цифровая хирургия». Несмотря на то, что цифровые технологии широко распространены в здравоохранении, точное значение термина «цифровая хирургия» неясно. Мы представляем практическое согласованное определение, которое может быть использовано клиницистами и учеными, а также другими заинтересованными сторонами в области цифровой хирургии, включая пациентов и политиков. Это основано на устоявшихся определениях таких терминов, как хирургическая наука о данных, которая «направлена на повышение качества интервенционной медицины и ее ценности за счет сбора, организации, анализа и моделирования данных» (4,5). Несмотря на то, что метод Дельфи демонстрирует потенциальные преимущества, которые может принести цифровая хирургия, мы подчеркиваем этические проблемы и проблемы управления данными, с которыми придется столкнуться разработчикам и пользователям цифровых хирургических технологий. Для того, чтобы цифровые решения были успешными в операционной, выявленные этические проблемы и проблемы управления данными не должны быть второстепенными. Они должны быть в приоритете у тех, кто разрабатывает и использует приложения для цифровой хирургии на всех этапах.
Несмотря на то, что многие проблемы цифровой хирургии, выявленные методом Дельфи, имеют параллели с цифровым здравоохранением, необходимо выделить те из них, которые являются уникальными для цифровой хирургии. Во-первых, термин «цифровая хирургия» широко используется в рамках специальности, хотя 71% участников этого анализа согласились с тем, что определение цифровой хирургии неясно. Для того, чтобы эти технологии были безопасно перенесены в клиническую практику и применены в исследованиях, необходима стандартизация этой терминологии.
Во-вторых, хирургия представляет собой клиническую среду с высоким риском, где последствия сбоев в цифровых технологиях могут нанести значительный и немедленный вред в масштабах времени, несопоставимых с другими областями клинической практики. В-третьих, высокое качество хирургических результатов зависит от эффективности и поведения мультидисциплинарной команды, и поэтому масштабирование цифровых технологий потребует широкого культурного прогресса. В-четвертых, даже рутинная запись и анализ видеоданных операционной создает беспрецедентные этические препятствия, уникальные для процедурных специальностей. Эти проблемы должны быть решены в срочном порядке до масштабирования этих методик в операционной. Это выходит за рамки одной лишь конфиденциальности пациента (обычно это основное соображение о конфиденциальности в приложениях цифрового здравоохранения) и затрагивает вопрос конфиденциальности хирургов и их команд, которые могут подвергаться тщательной проверке за каждое их действие. В связи с этим угроза судебного разбирательства может служить более серьезным препятствием для разработки и внедрения цифровых хирургических инструментов, чем в других областях здравоохранения. Например, хирурги могут неохотно разрешать использовать свои данные для разработки алгоритмов, опасаясь, что это же видео может быть использовано против них в судебных целях. Наконец, существует уникальный набор барьеров для доступа к потенциально большим и разнообразным наборам хирургических данных, которым не хватает стандартизации, онтологии или гарантий качества. Многие операционные остаются аналоговыми, а во многих хирургических отделениях отсутствует техническая инфраструктура для сбора доступной им цифровой информации, или они могут просто не делать этого. Поэтому мы выделяем 3 ключевых направления цифровой хирургии в будущем.
Во-первых, цифровая хирургия уже здесь, но больницы и системы здравоохранения к ней не готовы. Для успеха цифровой хирургии необходимы значительные инвестиции в инфраструктуру. Первопроходцам, внедрившим цифровую хирургию, пришлось столкнуться с двойной проблемой: бюрократией и стоимостью. Для того, чтобы цифровая хирургия получила широкое распространение, необходимо приложить усилия для оптимизации этого процесса. Шаблонные соглашения об обмене данными и коммерческие модели, разработанные специально для приложений цифровой хирургии, могут служить отправной точкой для больниц, участвующих в сложных и длительных переговорах. Тем не менее, для получения индивидуальных консультаций должны быть предоставлены соответствующие коммерческие и юридические экспертные знания. В Соединенном Королевстве создан Национальный экспертный центр для надзора и предоставления рекомендаций больницам, участвующим в этих партнерствах. Успех также может быть достигнут в создании национального центра данных исследований в сфере здравоохранения в хирургии по аналогии с существующими национальными центрами данных исследований в области здравоохранения в таких областях, как боль, психическое здоровье и лечение рака (24).
Участники дискуссии отметили, что функциональная совместимость является ключевым вопросом при внедрении цифровой хирургии в здравоохранение. Стандарты хирургических данных должны быть определены. Шаги в этом направлении уже были предприняты с недавней публикацией стандартов аннотирования данных (25). Проблемы интероперабельности выходят за рамки цифровой хирургии и создают проблемы для более широкого применения цифровых технологий в здравоохранении. Текущие проблемы с обменом данными между устройствами или больницами будут еще больше усложняться будущими приложениями, требующими глобального объединения данных. Международные процессы обмена данными должны будут иметь дело с проблемами функциональной совместимости на фоне меняющихся требований к конфиденциальности, и будущие усилия должны быть направлены на стандартизацию и рационализацию этого процесса.
Современные операционные обладают потенциалом для генерации обширных и разнородных наборов данных, но большинство больниц в настоящее время не могут извлечь из этого выгоду. Им не хватает технических средств для хранения данных, а также сетей и средств кибербезопасности, включая финансирование, необходимых для того, чтобы идти в ногу с развитием технологий. Цифровая хирургия также должна бороться с более широкими проблемами в области цифрового здравоохранения, такими как различные уровни цифровизации в государственных и частных больницах или национальных поставщиках медицинских услуг, в сочетании с проблемами гетерогенных больничных ИТ-систем и электронных медицинских карт, которые создают значительные препятствия для масштабного внедрения безопасных технологий цифровой хирургии.
Наконец, несмотря на то, что они не являются специфическими для цифровой хирургии, нельзя упускать из виду вопросы кибербезопасности. Цифровые хирургические системы работают в клинических средах с высоким риском, и нарушения кибербезопасности, влияющие на них, могут нанести значительно больший вред пациентам по сравнению с другими медицинскими специальностями. Несмотря на то, что в 2017 году в результате атаки вредоносного ПО WannaCry не было зарегистрировано ни одного вреда для пациентов, она подчеркнула уязвимость больниц к угрозам кибербезопасности (26,27). Меры кибербезопасности должны быть не только достаточно надежными для защиты этих систем, но и учитывать «наихудшие, но возможные» сценарии.
Во-вторых, участие общественности и пациентов имеет жизненно важное значение для разработки и внедрения цифровой хирургии. Наша общественная группа показала, что пациенты поддерживают цифровую хирургию и готовы пожертвовать данные. Опасения возникали, главным образом, из-за недостаточной осведомленности о том, что влечет за собой цифровая хирургия и как будут использоваться данные пациентов. Эта недостаточная осведомленность о цифровой хирургии может привести к плохому пониманию преимуществ, доступных цифровой хирургии по сравнению с текущей хирургической практикой.
Прозрачность цифрового подхода к лечению пациентов и доверие общественности неизменно выделяются в качестве ключевых вопросов как для общественности, так и для экспертов, а также в руководстве по внедрению ИИ в других областях. Общественность является ключевой заинтересованной стороной в цифровой хирургии. Ее участие на всех этапах разработки и внедрения жизненно важно для укрепления доверия. Мы не должны забывать, что пациенты находятся в центре цифровой хирургии. Нельзя упускать из виду общественную приемлемость приложений для цифровой хирургии, а также сбор и обмен данными, которые могут им потребоваться.
Тем не менее, наша общественная группа показала, что уровни понимания цифровой хирургии и искусственного интеллекта значительно различаются. Пациенты могут не до конца понимать объем сбора данных, как это может повлиять на них или что влечет за собой цифровая хирургия. Обучение пациентов цифровой хирургии может основываться на существующих инициативах, таких как программа Wellcome Trust «Понимание данных о пациентах» (28). Они позволяют пациентам быть информированными о том, какие данные собираются, и как они используются в приложениях цифровой хирургии. Только путем просвещения и взаимодействия с общественностью они могут предоставить надлежащим образом информированное согласие на то, хотят ли они делиться своими данными.
В-третьих, обучение необходимо не только для пациентов, но и для всех заинтересованных сторон. Несмотря на то, что важной исследовательской целью, определенной нашей группой, была необходимость определения наиболее подходящих приложений для хирургического ИИ, это будет достигнуто только при наличии достаточного междисциплинарного образования. Разработчики должны иметь представление о хирургических проблемах, которые могут быть решены с помощью цифровых технологий. Точно так же клиницисты должны понимать основы технологий, которые они используют, если они хотят защищать интересы своих пациентов.
Кроме того, метод Дельфи выявил более широкие этические, управленческие и юридические вопросы, связанные с цифровой хирургией. Участники дискуссии отметили, что существует плохое понимание правовых вопросов, а также недостаток юридических знаний в больницах. Необходимо прилагать усилия для просвещения заинтересованных сторон и поиска экспертных знаний по этим вопросам, а также для того, чтобы они были осведомлены о меняющемся правовом и нормативном поле, которое может выходить за рамки законодательства о конфиденциальности данных. А также включать вопросы законодательства о конкуренции и правах интеллектуальной собственности, в том числе коммерческие вопросы, такие как ответственность, возмещение убытков и право собственности на данные. Будущий цифровой хирург будет не только хирургом. Он должен иметь представление об искусственном интеллекте и технологиях, а также осведомленность о правовых, этических вопросах и вопросах управления данными, связанных с их использованием.
В то время как метод Дельфи успешно используется в литературе для обеспечения консенсусного мнения (29,30) у него есть ограничения. Во-первых, выводы, сделанные из метода Дельфи, являются субъективным мнением одной группы. Чтобы смягчить этот эффект, были предприняты усилия по уменьшению систематической ошибки и обеспечению репрезентативности сделанных выводов путем привлечения большого числа экспертов с национальным или международным профилем из ряда ключевых областей цифровой хирургии. Более того, в таких областях, как цифровая хирургия, где существующие знания ограничены и есть потребность в знаниях из нескольких различных областей, метод Дельфи показал себя как высокоэффективную методологию (31).
Во-вторых, надежность методологии Дельфи подвергалась критике из-за отсутствия методологической стандартизации (20). Мы стремились повысить надежность этого исследования, опираясь на существующую методологию, используемую в литературе. Мы также рассмотрели это ограничение путем широкого обсуждения на заключительном совещании, чтобы убедиться, что сделанные выводы являются обоснованными и уместными.
Наконец, можно утверждать, что нашему итоговому определению «цифровой хирургии» может не хватать конкретики, например, из-за того, что мы не расширяем такие термины, как «технология». Этот вопрос широко обсуждался Дельфийской комиссией, и окончательное определение было согласовано по нескольким причинам. Во-первых, неясно, как определить приоритеты технологий, которые должны или не должны быть включены в определение, и из технологий, которые были опущены, могут быть сделаны ошибочные выводы. Во-вторых, перечисление всех технологий, которые должны быть включены, значительно расширило бы определение, что ограничило бы его практическое использование. Наконец, в определении не будет перспективы. Благодаря строгому определению технологий, включенных в цифровую хирургию, исключаются технологии, которые в настоящее время не разрабатываются. Таким образом, мы считаем, что это первое согласованное определение «цифровой хирургии» удовлетворяет цели создания пригодного для использования определения и может служить платформой для будущих итераций.
В заключение, этот метод Дельфи определяет цифровую хирургию как использование технологий для улучшения предоперационного планирования, хирургической производительности, терапевтической поддержки или обучения с целью улучшения результатов и снижения вреда. Технологии генерации данных несут в себе как возможности, так и риски. Данный метод Дельфи определил ключевые этические проблемы, барьеры и цели исследований, которые послужат основой для будущих исследований в этой области. Вопросы, связанные с данными, неприкосновенностью частной жизни, конфиденциальностью и общественным доверием, согласием, законом, судебными разбирательствами и ответственностью, а также коммерческим партнерством, должны рассматриваться на всех этапах теми, кто разрабатывает и использует цифровую хирургию. В будущих исследованиях выявленных выше проблем должны участвовать все заинтересованные стороны цифровой хирургии и, следовательно, работать в партнерстве с пациентами.
Методика
Протокол этого Дельфийского консенсусного исследования был опубликован ранее (32). Структура метода Дельфи состояла из четырех раундов (Рис. 2). Раунд 1 состоял из первоначального раунда определения объема работ, в ходе которого участникам дискуссии было предложено сформулировать вопросы по темам, выявленным в литературе. Во 2-м и 3-м раундах эксперты проголосовали по вопросам, возникшим в 1-м раунде, с точки зрения их важности или согласия. Раунд 4 состоял из заключительной онлайн-встречи участников дискуссии, на которой, во-первых, голосовали за неконсенсусные заявления, а во-вторых, обсуждались консенсусные заявления предыдущих раундов.
Рис. 2. Структура метода Дельфи в раундах
Экспертный совет
К участию были приглашены эксперты в области хирургии, искусственного интеллекта, промышленности, права, этики и политики. Все приглашенные участники имели национальный или международный профиль в своих уважаемых областях и/или были авторами высокоэффективных исследований в этой области. Первоначально к 122 участникам обратились по электронной почте, чтобы выразить свою заинтересованность в участии в исследовании. Из 38 участников, завершивших все раунды, 24 были хирургами, интересующимися цифровыми технологиями, 8 были учеными, имеющими опыт в области искусственного интеллекта и его применения в хирургии, 3 были из отрасли здравоохранения, а остальные участники были вовлечены в области политики здравоохранения, цифрового права и этики. 18 участников были из Великобритании, 13 участников из остальной Европы, 6 участников из Северной Америки и 1 участник из Южной Америки. Медиана (диапазон) индекса Хирша для участников составила 26 (5–76), а медиана (диапазон) участников составила 15 (4–32) лет опыта.
Раунд 1
Обзор литературы, посвященной управлению данными и этическим вопросам внедрения цифровой хирургии, выявил ключевые темы, которые легли в основу обзорного раунда (13,33-37). Кроме того, участникам был задан вопрос об их понимании термина «цифровая хирургия», а также о том, как определить ключевые барьеры и будущие исследовательские цели, связанные с цифровой хирургией (см. Дополнительные методы для полного опросника). Цель этого первоначального раунда оценки заключалась в том, чтобы стимулировать генерацию проблем по этим темам.
Раунд 2
Вопросы, поднятые как экспертной группой, так и непрофессиональными участниками 1-го раунда, были тематически проанализированы с помощью программного обеспечения для качественного анализа данных NVivo (QSR International Pty Ltd. Version 12, 2018) с целью формирования отчетности для 2-го раунда. Заявления, сделанные в ходе 1-го раунда, в дополнение к ответам общественности были представлены экспертной группе через платформу Qualtrics XM (Qualtrics, Provo, UT). Участников дискуссии попросили оценить высказывания по 9-балльной шкале Лайкерта в соответствии с важностью или согласием. Консенсус определялся априори, если вопрос оценивался в диапазоне от 7 до 9 (от важного до абсолютно важного) по крайней мере 70% экспертов и от 1 до 3 (от совершенно неважного до неважного) менее чем 30% группы, популярный подход, используемый в упражнениях Дельфи (38). Участникам дискуссии также было предложено порекомендовать дополнительные заявления или изменения к заявлениям.
Раунд 3
Заявления, по которым не удалось достичь консенсуса во 2-м раунде, в дополнение к новым заявлениям, сделанным во 2-м раунде, были представлены участникам 3-го раунда. Результаты предыдущего раунда наряду со сводными статистическими данными были представлены всем участникам дискуссии с целью поощрения сближения мнений в отношении несогласованных заявлений. Участники дискуссии голосовали по заявлениям так же, как и во 2-м раунде.
Раунд 4
Участники дискуссии, завершившие все предыдущие раунды Дельфийского исследования, были приглашены на заключительное совещание по консенсусу, состоявшееся на платформе Microsoft Teams (Microsoft, Редмонд, Вашингтон) 24.06.2021. Заявления, по которым не удалось достичь консенсуса в 3-м раунде, обсуждались и впоследствии было проведено голосование во время заседания с помощью программного обеспечения для опросов в режиме реального времени Mentimeter (Mentimeter, Стокгольм, Швеция). Во время этого заключительного совещания участники дискуссии обсудили заявления с целью выработки консенсусного документа. Наконец, препятствия на пути разработки, внедрения и мониторинга цифровой хирургии, а также будущие исследовательские цели, по которым был достигнут консенсус в предыдущих раундах, были ранжированы участниками совещания от наиболее до наименее важных.
Этическое одобрение
Этическое одобрение этого исследования было предоставлено местным комитетом по этике исследований в Имперском колледже Лондона (20IC6136). Всем участникам была предоставлена информация об участниках в электронном виде до начала 1-го раунда. Все участники предоставили электронное информированное согласие до начала раунда 1.
Сводка отчетности
Более подробная информация о дизайне исследования доступна в Nature Research Reporting Summary, ссылка на которую приведена в этой статье.
Доступность данных
Наборы данных, сгенерированные в ходе настоящего исследования, можно получить у автора, ответственного за переписку, по обоснованному запросу.