Биоэтические вызовы искусственного интеллекта в хирургии

Резюме

Обсуждаются биоэтические вызовы (блага и риски) системных преобразований врачебной, в том числе хирургической, деятельности, обусловленные широким проникновением систем искусственного интеллекта (ИИ) в медицинскую практику. Отмечается значение биоэтических технологий для преобразования биомедицинских открытий и изобретений в социально приемлемые и востребованные инновации. Различаются 3 режима включения медицинских систем ИИ в структуры отношений врачей и пациентов. В контексте первого режима ИИ выступает в качестве инструмента, улучшающего деятельность рук и органов чувств хирурга. В контексте второго режима ИИ играет роль ассистента или консультанта оперирующего хирурга. Для третьего, пока гипотетического, режима характерно превращение хирургического робота в оперирующего хирурга (автономного субъекта врачевания). Рассматриваются биоэтические вызовы, связанные с каждым режимом. Центральной категорией биоэтического анализа выступает принцип автономии пациента в двух формах - автономии выбора (decisional autonomy) и автономии исполнения лечебного плана (executive autonomy). В заключение отмечается необходимость междисциплинарного, с участием социогуманитарных наук и общества, обсуждения вызовов ИИ в медицине, в котором биоэтике отводится роль модератора.

Ключевые слова:автономия, автономия выбора, автономия исполнения, биоэтика, биоэтические вызовы, взаимоотношения "врач-пациент", искусственный интеллект, хирургические роботы, инновации, машинная этика

Финансирование. Статья подготовлена при поддержке РФФИ, проект № 19-011-00064. 
Конфликт интересов. Авторы заявляют об отсутствии конфликта интересов.
Для цитирования: Гребенщикова Е.Г., Тищенко П.Д. Биоэтические вызовы искусственного интеллекта в хирургии // Клиническая и экспериментальная хирургия. Журнал имени академика Б.В. Петровского. 2021. Т. 9, № 3. С. 7-15. DOI: https://doi.org/10.33029/2308-1198-2021-9-3-7-15 

Поскольку общепринятого определения искусственного интеллекта (ИИ) не существует, будем использовать этот термин в достаточно общем смысле, обозначая системы, действующие на основе компьютерных, информационно-коммуникативных и коммуникационных технологий, которые имитируют такие интеллектуальные функции человека, как восприятие информации, ее анализ и накопление, принятие решений, способность к обучению, а также участвуют в осуществлении действий врачей и другого медицинского персонала. Использование ИИ системно преобразует врачебную, в том числе хирургическую, практику. Преобразования системны в том смысле, что они тотально затрагивают все аспекты медицины как уходящего корнями в глубины древности мастерства деятельного сострадания. При этом меняются технологии врачебного восприятия телесного страдания, его визуализации и интерпретации визуализаций в диагностических процедурах [1], практики принятия врачебных решений [2], технологии осуществления хирургических вмешательств [3], средства контроля состояния пациентов [4], возникают новые, в том числе роботизированные, технологии проведения хирургических операций и послеоперационного ухода [5]. Революционно преобразуются технологии протезирования нарушенной деятельности различных частей человеческого тела [б]. Системы на основе ИИ становятся неотъемлемой частью управления здравоохранением, контроля поведения (комплаентности) пациентов и населения в целом. Об этом свидетельствует опыт пандемии COVID-19 [7].

Одновременно глубоким преобразованиям подвергается страдающая телесность пациента. Она тоже оказывается технологически оснащенной. Прежде всего изменяется характер вовлечения человека в системы медицинского обслуживания, его обращения за помощью. Современный человек все чаще задает вопрос: "Что со мной происходит?" не врачу, а Интернету - распределенному в информационно-коммуникативной сети ИИ, использующему чат-боты и другие информационно-коммуникативные средства для врачебных консультаций, анализа жалоб и направления к конкретным специалистам. Порядка 89% американцев, прежде чем обращаться к врачу, наводят справки в Google [8]. Можно предположить, что это общемировая тенденция. Сетевые ресурсы, создав предпонимание медицинских проблем у данного человека, формируют его первичный запрос о помощи и продолжают принимать активное участие в интерпретации врачебных рекомендаций пациентами на всех стадиях получения медицинских услуг. Различного рода датчики, прикрепленные к телу пациента и даже внедренные в него, позволяют осуществлять текущий контроль его состояния, непосредственно связывая его тело с Интернетом [9]. Параллельно растут сетевые ресурсы как для реализации разнообразных практик самолечения и самоконтроля гражданами, так и для контроля комплаентности пациентов со стороны лечащих врачей или медицинских страховых компаний. Границы клиник размываются, вбирая в себя две полярные семантики систем ИИ и повседневного знания неспециалистов.

Таким образом, ИИ меняет базисные структуры врачевания и социальный контекст оказания медицинской помощи. Для оценки биоэтических вызовов (благ и рисков), сопровождающих отмеченные преобразования, имеет смысл различать технологии слабого и сильного ИИ, как это предлагал Дж.Р. Серль (J.R. Searle) [10]. Технологии слабого ИИ функционально ограничены, моделируют и имитируют частные аспекты врачебной деятельности, выступая, по сути, высокотехнологичными инструментами в руках ответственно действующего врача. Технологии сильного ИИ моделируют и имитируют действия человека в целом не только как средства (орудия), но и как самостоятельного субъекта. Учитывая данное различие, можно выделить 3 основных режима взаимодействия систем ИИ и врачей в практиках врачевания.

Первый режим. Медицинские системы ИИ используются как инструменты, позволяющие врачам выносить обоснованные клинические решения, осуществлять хирургические операции, контролировать лечение и его последствия. Несмотря на интеллектуальную оснастку таких систем, в данном режиме действующим и, соответственно, ответственным субъектом остается лечащий врач. Это режим включения в процедуры врачевания систем слабого ИИ, его примером могут служить хирургические роботы Da Vinci.

Второй режим. Медицинские системы ИИ уже не просто играют роль инструментов, а в некоторой степени выполняют функции автономных, самостоятельно действующих агентов. При этом можно говорить о двух смыслах автономной агентности: ИИ в качестве ассистента и в качестве консультанта. В качестве ассистентов медицинские роботы уже появляются в клиниках, участвуя, к примеру, в послеоперационном уходе за больными [11]. В качестве консультантов системы ИИ входят в системы поддержки принятия врачебных решений и дистанционного мониторинга состояния пациентов [12].

Третий режим. Медицинские системы ИИ играют роль основных (и в некоторой степени - единственных) агентов врачевания. Данный вариант предполагает разработку роботов с сильным ИИ. Пока это гипотетический способ взаимодействия, но его появление рассматривается как ближайшая и желаннейшая перспектива развития медицинской робототехники.

Три выделенных режима можно рассматривать и как 3 стадии вхождения ИИ в практики врачевания, и как 3 параллельно сосуществующих типа. Подавляющее большинство роботизированных систем в хирургии, как и в других областях медицинской деятельности, пока функционируют в первом режиме. Системы ИИ занимают статус инструментов, выполняя частные задачи под контролем врача или пациента. Тем самым классическая схема врачевания как взаимодействия двух субъектов (врача и пациента) с моральной и правовой точки зрения существенных новаций пока не несет.

Ситуация постепенно изменится, когда ИИ сможет завоевать себе место в качестве третьего автономного субъекта во взаимодействиях врачей и пациентов. Причем реализация этой задачи становится генеральной линией инновационного развития медицины. Как сформулировал на заседании президиума РАН, посвященного развитию робототехники в медицине, член-корреспондент РАН О.О. Янушевич: "На сегодня наши исследователи работают не просто над роботическими системами, которые помогают хирургу, а именно над роботами, которые будут заменять хирургов в той или иной операции или части этой операции..." (курсив наш. - Е.Г., П.Т.) [13]. Тем самым на смену, а отчасти параллельно первому режиму взаимодействия ИИ, врачей и пациентов планируется широкое развертывание второго и третьего режимов. Хирургические роботы получат роль ассистентов, частично заменяя хирургов, или полностью исключат их (хирургов) из процедур проведения операций. Насколько подобного рода планы преобразования режимов взаимодействия врачей, пациентов и медицинских систем ИИ реалистичны - сложный междисциплинарный и пока еще дискуссионный вопрос.

Вместе с тем наше обсуждение биоэтических вызовов, сопряженных с внедрением систем ИИ в хирургию и медицину в целом, является не только реакцией на уже сложившуюся ситуацию, но и попыткой провести проактивную диагностику и оценку моральных рисков и благ, которые ждут нас на пути инновационного развития медицинских технологий уже в ближайшем будущем.

Однако, прежде чем перейти к обсуждению рассматриваемой проблематики, нам необходимо, учитывая национальные особенности инновационного развития, обосновать законность (значимость) собственного голоса в дискуссиях по проблемам развития хирургической робототехники. Отметим симптоматичный факт - на уже упомянутое совещание президиума РАН не были приглашены представители социальных и гуманитарных наук (социологи, психологи, юристы, экономисты, философы, биоэтики). Перспективы медицинской роботизации связывались исключительно с решением научных, инженерных и производственных проблем. В сознании ученых и инженеров продолжает господствовать устаревшая и неэффективная в современных условиях модель взаимодействия с обществом в форме административного внедрения научных открытий и инженерных изобретений. Без использования современных социогуманитарных технологий (к которым относится биоэтика) открытия и изобретения не приобретают форму социально востребованных инноваций. Поэтому нередки такие случаи: что-то открыто или изобретено в нашей стране, а на практике применяется в Европе или США.

Мы предполагаем, что для формирования общественного доверия к новым технологиям и обеспечения социальной востребованности инноваций необходимы адекватные социогуманитарные технологии. Поэтому радикальные преобразования, связанные с использованием технологий ИИ в медицине, нуждаются в серьезной оценке как ожидаемых благ для пациентов и врачей, так и определенных рисков, которые необходимо проанализировать не только с профессиональной медицинской точки зрения, но и с биоэтической.

Биоэтика и социогуманитарное обеспечение биомедицинских инноваций

Биоэтика занимается широким спектром социогуманитарных проблем современной медицины, к которым прежде всего относятся социальные, правовые и этические проблемы (Ethical, legal, and social issues, ELSI). Начиная с международного проекта "Геном человека" (1990-2003), биоэтика стала неотъемлемой частью научных исследований социально значимых биологических и медицинских проблем. В проекте 3-5% финансирования выделялось на проактивную диагностику, оценку и менеджмент социогуманитарных рисков, связанных с генетическими открытиями и развитием геномных технологий, их трансляцией в практику здравоохранения и общественную жизнь [14]. Эта модель стала универсальной моделью социогуманитарного сопровождения инновационных биомедицинских проектов. В качестве подпрограммы она выступала составной частью отечественного проекта "Геном человека".

Биоэтика призвана обеспечить доверие общества к науке, создать благоприятную среду ответственного биотехнологического прогресса [15]. В качестве особого рода социальной технологии она имеет большое значение для эффективного усвоения обществом биомедицинских инноваций, в отличие от устаревших методов административного внедрения научных достижений.

Проблема ответственности в электронном здравоохранении

Взаимоотношения "врач-ИИ-пациент" являются частью системы деятельности конкретной клиники и здравоохранения в целом. Земский врач оказывал помощь пациентам, полностью отвечая в меру своей искусности и добросовестности за ее объем и качество. Сегодня врачевание представляет собой иерархически организованную структуру, в которой практически любая конкретная услуга является результатом действия не одного конкретного врача, а кооперативного взаимодействия врачей нескольких специальностей, медсестер и другого медицинского персонала.

Непосредственно в отношениях с пациентом реальным субъектом врачевания является лечащий врач. Но сам он опирается не только на свои профессиональные навыки, но и на компетенции междисциплинарной команды врачей разных специальностей клиники, которая формируется его назначениями, направлениями и различного рода рекомендациями, маршрутизируя продвижение пациента в социально распределенной системе оказания медицинской помощи. Поэтому моральную и правовую ответственность за возможное причинение вреда пациенту в результате, например, врачебной ошибки может нести и конкретный врач, и медицинская организация. Последнее обстоятельство обусловлено как эффектами кооперации медицинских работников, так и особенностями страховой системы и организации системы здравоохранения в целом. Врач не только управляет имеющимися в его распоряжении ресурсами для оказания медицинской услуги пациенту, но и сам оказывается объектом управления со стороны органов здравоохранения, представленных администрацией клиники, которые, в свою очередь, активно приступают к внедрению систем, использующих ИИ. Как и в практиках оказания врачебной помощи конкретному пациенту, ИИ в системах управления здравоохранением проходит определенные стадии приобретения субъектности от простого средства к стадии ассистента и, как отмечалось выше, в будущем - автономного субъекта управления.

В этой ситуации сложившаяся система ответственности должна учитываться для решения более концептуально сложной проблемы распределения ответственности между различными субъектами оказания конкретной медицинской услуги, включая разной степени автономности ИИ. В качестве примеров, которые свидетельствуют о неизбежности обсуждения, пока кажущейся абстрактной, природы субъектности медицинских ИИ, можно напомнить проблемы ответственности, уже возникающие при использовании автономно движущихся автомобилей [16].

С этико-правовой точки зрения в настоящее время обсуждаются различные модели конституирования статуса ИИ, в том числе в качестве юридического лица, которое обладает определенными правами и обязанностями, но одновременно не всегда является конкретным человеческим существом [17]. Пока эти дискуссии имеют отвлеченный характер, но важно, что в них намечаются этикоправовые основания переформатирования первого режима взаимодействий врачей и пациентов с системами ИИ в режимы второго или третьего типа. В таком контексте важно оценить уже существующий в медицине режим взаимодействия "врач-ИИ-пациент" с точки зрения стандартных принципов и правил биоэтики.

Проблема автономии пациентов

Формирование биоэтики во второй половине прошлого века во многом было связано с поворотом к автономии и отказом от патернализма, доминировавшего на протяжении веков в медицине. В лечебной и научной медицинской практике произошло преобразование патерналистской установки "врач знает лучше" в современную, либеральную установку - "пациент знает лучше" [18]. Безусловно, речь не идет о том, что пациент лучше врача знает и понимает медицинские аспекты своего состояния, - здесь авторитет врача заменить невозможно. Однако окончательное решение о допустимости проведения того или иного медицинского вмешательства определяет, за редким исключением, согласие (автономное решение) пациента, полученное на основе адекватной медицинской информации. Основанием решения является знание его жизненных приоритетов, оценка влияния выявленной у него патологии на качество привычного образа жизни, оценка финансового бремени лечения, уникальная психоэмоциональная реакция на особенности тех или иных диагностических или терапевтических (хирургических) процедур и т.д.

Неслучайно требование уважения автономии пациента стало одним из основных принципов биоэтики. Смысловое содержание принципа автономии пациентов имеет разную философскую интерпретацию. В своем обсуждении проблем автономии ИИ мы будем ориентироваться на доминирующую концепцию авторов биоэтического принципализма (от слова - принципы) Т. Бичампа и Дж. Чилдресса [19]. Они разработали своеобразную биоэтическую технологию - систему четырех принципов и 3 правил, используя которые можно обсуждать сложные моральные коллизии современной медицинской науки и здравоохранения, несмотря на расхождения врачебных, философских, религиозных или иных концептуальных позиций. Принцип автономии в этой биоэтической технологии занимает центральное место, прямо или косвенно определяя толкование других принципов: "Твори добро!", "Не навреди!" и принципа справедливости.

В своей классической формулировке принцип автономии регламентирует морально одобряемые критерии принятия пациентом самостоятельного решения (выбора). К таким критериям относятся: а) преднамеренность действия; б) понимание того, что человек делает; в) исключение внешних влияний, которые могли бы ограничить свободу действия и поставить под вопрос ответственность человека за то, что он делает. Эти критерии реализуются в процедуре (правиле в концепции принципализма) получения информированного согласия, предполагающей добровольность пациента, адекватное понимание предоставляемой врачами информации и рациональность совершаемого им (на основе врачебных рекомендаций) выбора.

Авторы принципализма разрабатывали свою систему, имея в виду главным образом остро развивающиеся патологические состояния. Их купирование исчерпывается оказанным объемом медицинской помощи. Получив эту помощь, человек возвращается к нормальной жизни. Соответственно участие пациента в выборе того или иного медицинского вмешательства путем предоставления своего информированного согласия исчерпывало содержание принципа автономии.

Учет особенностей течения и лечения хронических заболеваний вынудил исследователей расширить содержание принципа автономии, что впоследствии оказалось полезно для биоэтического анализа режимов взаимодействия врачей и пациентов, включающих системы ИИ. Было, в частности, введено различие автономии выбора формы медицинского вмешательства (decisional autonomy), о которой говорилось выше в связи с купированием острых расстройств, и автономии исполнения лечебного плана (executive autonomy) [20]. Если в ситуации острого заболевания врач на основе согласия пациента решал его возникшие проблемы, то в ситуации хронического заболевания основную роль в облегчении перманентно существующих проблем здоровья играет сам пациент, поддерживая определенный образ жизни, обеспечивая комплаентность рекомендациям врачей, рационально реагируя на факторы внешней среды. Его автономность выражается не просто в свободном выборе и согласии, но и в собственной активной деятельности. В определенном смысле он становится менеджером собственного здоровья.

Развитие электронного здравоохранения, и в частности медицинских систем ИИ, продукты которых адресованы пациентам, стало триггером обогащения содержания принципа автономии необходимостью обеспечить исполнение собственных жизненных планов (executive autonomy). Так, использование мобильных устройств и приложений для контроля состояния здоровья демонстрирует значительный потенциал защиты автономии пациента, обеспечения его независимости от врачей. Постоянный контакт с ресурсами Интернета, обращаясь к которым пациенты все чаще формируют свой запрос на получение врачебной помощи, уточняют смысл назначений, сами ищут новые возможности решения медицинских проблем, обсуждают друг с другом субъективно оцениваемое качество предоставляемых услуг, утверждает их автономию и реализует роль активных пациентов в отношении к собственным медицинским проблемам, а также во взаимодействиях с врачами.

Использование технологий ИИ рассматривается как основа расширения полномочий пациентов в "заботе о себе" в различных медицинских состояниях. Так, ИИ может оказать серьезную информационную поддержку пациентам в послеоперационном периоде. Система консультирует пациентов по самым разным бытовым и медицинским проблемам, ведет с ними беседы, записывает и обобщает их жалобы, связывается с лечащими, врачами [21]. Причем все эти коммуникации проходят вне медицинских учреждений, в удобное для пациентов время. Аналогичные системы ИИ, разрабатываемые для поддержки людей с хроническими заболеваниями или инвалидностью, могут улучшать качество их жизни, позволяя больше находиться дома и не посещать лечебные учреждения. В то же время возникают опасения, что постепенное сокращение контактов между больными и медицинским персоналом на фоне внедрения роботов будет способствовать социальной изоляции пациентов, вытеснению эмоциональных связей, потере эмпатии и доверия к врачам. Уже сейчас можно констатировать серьезную зависимость граждан от Интернета, которая небезобидна в плане обеспечения их автономии, в том числе при решении проблем собственного здоровья. То, что им представляется как свободный, автономный выбор того или иного плана сохранения здоровья или решения медицинских проблем, нередко оказывается результатом рекламной манипуляции со стороны продавцов самых разных медицинских и парамедицинских продуктов и услуг.

Проблемы врачебной автономии

Учитывая постепенное формирование трех режимов взаимодействия врачей, пациентов и систем ИИ в медицинской практике, исходя из общетеоретических соображений, можно выделить соответствующие каждому режиму вызовы - блага и риски для врачей. В первом режиме мы видим роботизированные системы, которые являются техническим продолжением рук и глаз хирурга. Преимущества большей точности и меньших осложнений вполне оправдывают их использование в клинической практике [22]. Проблем моральной ответственности не возникает, поскольку в данной ситуации у нас один действующий субъект (врач). Однако на телесном уровне, определяющем хирургическое мастерство, возникает достаточно рискованная перестройка функциональной анатомии хирурга. Навыки (компетенции), которые перестают использоваться благодаря применению хирургических роботов на практике, постепенно отмирают. А у молодых хирургов, только осваивающих свою профессию, они и вовсе не будут развиваться. Это достаточно естественный и предсказуемый процесс, результатом которого может стать превращение хирурга в киборга (термин D. Haraway), т.е. гибрида живого человека и технической системы с ИИ [23]. Без своей технической компоненты хирург уже не сможет выполнять профессиональные обязанности. Если вспомнить три условия автономии, отмеченных выше, то, поступая намеренно (на основе свободной воли), понимая смысл своего действия, хирург, став частью гибрида человек-машина, оказывается в существенной зависимости от ИИ машины. Данное обстоятельство не отменяет автономии хирурга и, как следствие, его врачебной ответственности, но существенно ограничивает ее конструктивными и программными особенностями роботизированных "протезов" рук и глаз.

Второй режим предполагает появление систем ИИ, частично замещающих реальных хирургов в операционной, как если бы в знаменитом хирургическом конвейере С. Федорова отдельные хирургические позиции постепенно замещались бы хирургическими роботами. Если в контексте первого режима формируется гибрид индивидуального тела хирурга и системы ИИ, то в контексте второго постепенно превращается в киборга (гибрид, включающий людей и автономных роботов) социальное тело хирургической бригады. При этом в обычной ситуации действия хирурга-ассистента оперирующему хирургу понятны. Он всегда может уточнить у него, почему нечто было или не было сделано. Действия автономно работающего робота-асси-стента принципиально не понятны. Такой ассистент выступает в роли "черного ящика", принимающего решения на основе непонятного для хирурга алгоритма, перерабатывающего огромные непредставимые для человека объемы информации. В еще большей степени действие роботов-ассистентов будут непонятны пациентам.

Роботизированные системы, играющие роль ассистентов оперирующего хирурга, обладают субъектностью в том смысле, что им делегируется часть врачебных полномочий. Последнее обстоятельство предполагает ответственное поведение машины, имитирующее не только манипуляции хирурга, но и определенные моральные принципы его взаимодействия с пациентами и коллегами - членами хирургической бригады. В настоящее время решением этой задачи занимаются программы перевода языка моральных принципов и правил, принятых в современном человеческом сообществе, на язык, понятный машинам. Активно развиваются исследования по разработке "моральных машин", созданию специфической "машинной этики", которая представляла бы формализованные нормы взаимодействия с людьми - коллегами и пациентами [24]. Программы глубокого обучения, позволяющие обобщать уже осуществленный опыт решения поставленных задач, например, конкретных случаев взаимодействия с пациентами и коллегами, позволит более адекватно соотнести общие моральные формализованные машинные принципы с реальными ситуациями в хирургических операционных. В настоящее время аналогичные проблемы активно обсуждаются и решаются в связи с появлением на улицах городов беспилотных автомобилей [25].

Появление в хирургических бригадах автономных субъектов, которые в определенной степени не контролируются оперирующими хирургами в качестве первостепенной ставит проблему доверия в производственных отношениях людей и роботов, которая затрагивает как отношения с коллегами, так и отношения с пациентами.

Будет ли пациент доверять "машине" так, как он доверяет врачу, с которым установились хорошие отношения? В отличие от человека, который может дополнительно проконсультировать или объяснить непонятные моменты, система ИИ, как уже было отмечено выше, - это "черный ящик", принимающий решения на основе определенных алгоритмов. В этом кроется одно из опасений, связанное с угрозой автономии пациента, ограничением его возможности принимать свободные и осознанные решения относительно своего здоровья на основе полного информирования. Кроме того, в случае невозможности определить, с кем - с машиной или с человеком - взаимодействует пациент, ситуация усложняется и будет рассматриваться как форма обмана и нарушения интересов пациента.

Но проблема и в том, что ИИ не всегда доверяют сами врачи. Так, клинические испытания IBM Watson Oncology были остановлены в некоторых клиниках за пределами США, поскольку врачи засомневались в рекомендациях "машины", посчитав, что она отражает специфический для США подход к лечению онкологических заболеваний [26]. Однако излишнее доверие "машине" со стороны медицинского персонала тоже чревато рисками ошибок, которые могут быть замечены не сразу, потерей профессиональных навыков, сокращением времени на личный контакт с пациентом, его осмотр. Очевидные преимущества многих систем ИИ в анализе рентгеновских снимков, подборе методов лечения в сочетании со скоростью работы, отсутствием усталости и возможностью работать дистанционно позволяют надеяться на решение ряда проблем здравоохранения. В то же время переоценка их возможностей и чрезмерное доверие "машинам" может привести к существенным проблемам. Цена ошибки возрастет многократно, поскольку она будет затрагивать не одного пациента и может быть не сразу выявлена.

Третий режим взаимодействия врачей, систем ИИ и пациентов, в рамках которого оперирующим хирургом станет хирургический робот, пока видится реалистичным только в весьма отдаленной перспективе. Для его реализации придется не только создать соответствующие системы сильного хирургического интеллекта (эта задача уже ставится во втором режиме взаимодействий), но и трансформировать этические нормы и правила поведения хирургов-людей, включающие правила субординации и подчинения, с тем чтобы адекватно вписать их деятельное присутствие в систему, управляемую ИИ. Позволим себе только обозначить эту отдаленную перспективу.

Заключение

Тотальное преобразование врачебных (в том числе хирургических) практик, вызванное широким использованием медицинских систем ИИ, требует междисциплинарных обсуждений возникающих проблем, включающих не только врачей, инженеров и производственников, но и широкий круг представителей социогуманитарных профессий. Принципиально важно участие в этих обсуждениях общественности. Биоэтика, сфокусировав полемику на проблемах автономии (свободы) как пациентов, так и врачей, сможет выступить модератором дискуссий, призванных обеспечить общественное доверие к технологиям ИИ и их востребованность обществом.

Литература

1.    Petersen S.E., Abdulkareem M., Leiner T. Artificial intelligence will transform cardiac imaging - opportunities and challenges // Front. Cardiovasc. Med. 2019. Vol. 6. P. 133.

2.    Shortliffe E.H., Sepulveda M.J. Clinical decision support in the era of artificial intelligence // JAMA. 2018. Vol. 320, N 21. P. 2199-2200.

3.    Gettman M., Rivera M. Innovations in robotic surgery // Curr. Opin. Urol. 2016. Vol. 26, N 3. P. 271276.

4.    Rigby M.J. Ethical dimensions of using artificial intelligence in health care // AMA J. Ethics. 2019. Vol. 21, N 2. P. 121-124.

5.    Hashimoto D.A. et al. Artificial intelligence in surgery: promises and perils // Ann. Surg. 2018. Vol. 268, N 1. P. 70.

6.    Roche A., Lakey B., Mendez I., Vujaklija I., Farina D., Aszmann O. Clinical perspectives in upper limb pros-theses: an update // Curr. Surg. Rep. 2019. Vol. 7, N 5. P. 1-10.

7.    Naude W. Artificial intelligence vs COVID-19: limitations, constraints and pitfalls // AI Soc. 2020. Vol. 35, N 3. P. 761-765.

8.    Study finds 89% of US citizens turn to Google before their doctor. URL: https://www.wect.com/2019/06/24/study-finds-us-citizens-turn-google-before-their-doctor/

9.    Marcolino M.S. et al. The impact of mHealth interventions: systematic review of systematic reviews // JMIR mHealth uHealth. 2018. Vol. 6, N 1. P. e23.

10.    Сирль Дж. Разум мозга - компьютерная программа? Искусственный интеллект: различные взгляды на проблему // В мире науки. 1990. № 3. С. 7-13.

11.    Bian Y. et al. Artificial intelligence-assisted system in postoperative follow-up of orthopedic patients: exploratory quantitative and qualitative study // J. Med. Internet Res. 2020. Vol. 22, N 5. Article ID e16896.

12.    Обзор российских систем принятия врачебных решений (СППВР) // WEBIOMED 30 января 2021 г. URL: https://webiomed.ai/blog/obzor-rossiiskikh-sistem-podderzhki-priniatiia-vrachebnykh-reshenii/

13.    Заседание Президиума Российской академии наук "О внедрении робототехники в отечественную медицину - проблемы и пути решения". URL: http://www.ras.ru/news/news_release.aspx?ID=2eaccb0cd887-4d02-bb10-7caae48b083b&print=1

14.    Zwart H., Nelis A. What is ELSA genomics? // EMBO Rep. 2009. Vol. 10, N 6. P. 540-544.

15. Тищенко П. Д., Юдин Б. Г. Социогуманитарное сопровождение инновационных проектов в биомедицине // Знание. Понимание. Умение. 2016. № 2. С. 73-86.

16.    McManus R.M., Rutchick A.M. Autonomous vehicles and the attribution of moral responsibility // Soc. Psychol. Pers. Sci. 2019. Vol. 10, N 3. P. 345-352.

17.    Нечкин А.В. Конституционно-правовой статус искусственного интеллекта в России: настоящее и будущее // Lex Russica. 2020. Т. 73, № 8. С. 78-85.

18.    Will J.F. A brief historical and theoretical perspective on patient autonomy and medical decision making. Part II: The autonomy model // Chest. 2011. Vol. 139, N 6. P. 1491-1497.

19.    Beauchamp T.L., Childress J.F. Principles of Biomedical Ethics. New York, NY : Oxford Univ. Press, 1989.

20.    Naik A.D. et al. Patient autonomy for the management of chronic conditions: a two-component reconceptualization // Am. J. Bioethics. 2009. Vol. 9, N 2. P. 23-30.

21.    Bian Y. et al. Artificial intelligence-assisted system in postoperative follow-up of orthopedic patients: exploratory quantitative and qualitative study // J. Med. Internet Res. 2020. Vol. 22, N 5. Article ID e16896.

22. Гавриленко А.В., Аль-Юсеф Н.Н., Абрамян А.В., Магомедова Г.Ф., Семенякин И.В. Робот-ассистированное подвздошно-глубокобедренное шунтирование у пациента с атеросклерозом артерий нижних конечностей (клиническое наблюдение) // Клиническая и экспериментальная хирургия. Журнал имени академика Б.В. Петровского. 2020. Т. 8, № 1. С. 108-111.

23.    Haraway D. A manifesto for cyborgs: Science, technology, and socialist feminism in the 1980s // The Postmodern Turn: New Perspectives on Social Theory. 1994. P. 82-115.

24.    Whitby B. Automating medicine the ethical way // Machine Medical Ethics. Cham : Springer, 2015. P. 223-232.

25.    Anderson M., Anderson S.L. (eds). Machine Ethics. Cambridge University Press, 2011.

26.    Bioethics briefing note: artificial intelligence (AI) in healthcare and research. 2018. P. 1-8.

ГЛАВНЫЙ РЕДАКТОР
ГЛАВНЫЙ РЕДАКТОР
Дземешкевич Сергей Леонидович
Доктор медицинских наук, профессор (Москва, Россия)
РОСМЕДОБР 2021
Вскрытие
Медицина сегодня
Конференция "Молекулярная диагностика"

Уважаемые коллеги ! Приглашаем Вас принять участие в X Юбилейной конференции "Молекулярная диагностика", которая пройдёт 9-11 ноября 2021 г. в Москве в ГК "Космос" (Проспект Мира, 150). На сегодняшний день согласно приказу Мэра Москвы с 8 ноября все массовые мероприятия с...

III Конгресс "Психическое здоровье человека XXI века"

ДЕТИ. ОБЩЕСТВО. БУДУЩЕЕ. III Конгресс "Психическое здоровье человека XXI века" Более 10 тысяч медицинских и немедицинских специалистов в сфере охраны психического здоровья, а также представителей социально-ориентированных НКО, деловых кругов, СМИ из 37 стран стали...

II Национальный междисциплинарный конгресс "Времена года. Женское здоровье от юного до серебряного и золотого возраста".

Пресс-релиз 21 и 22 октября 2021 года состоится II Национальный междисциплинарный конгресс "Времена года. Женское здоровье от юного до серебряного и золотого возраста" . Конгресс будет посвящен 20-летию Российской Ассоциации Маммологов и 15-летию первой кафедры клинической...


Журналы «ГЭОТАР-Медиа»