临床指南的遵循与基于人工智能的临床决策支持系统：对伦理和信任的影响

VIP免费

薛定谔的龙猫 2025-11-19 10 542.21KB 22 页 50质量币

侵权投诉

临床指南的遵循与基于人工智能的临床决策支持

系统：对伦理和信任的影响

Éric Pardoux1,2,3 ·Angeliki Kerasidou4

收稿日期：2024 年 12 月 6 日 / 接受日期：2025

年 9 月 29 日 © 作者 2025 年

摘要

人工智能（AI）正在逐渐改变医疗保健行业。然而，尽管其前景广阔，但医

疗保健领域的人工智能也引发了一系列伦理、法律和社会方面的担忧。为解

决这些问题，有人提出了“设计合规”（CbD）这一理念。在医疗保健领域，

CbD 的努力可以集中在使人工智能系统符合现有的临床指南（CGs），因为这

些指南是根据循证医学确定的最佳实践。在本文中，我们以基于人工智能的

临床决策支持系统（CDSS）为例，从理论上探讨医疗人工智能工具是否可以

设计为与临床指南完全一致，以及这对伦理和信任的影响。我们认为，当应

用于特定患者病例时，基于人工智能的 CDSS 系统性地遵循临床指南并非理

想之举，因为尽管临床指南在指导医疗决策方面很有用，但它们只是关于如

何诊断和治疗疾病的建议。因此，我们提出了一种关于临床决策支持系统

（CGs）的基于人工智能的新理解，即将其视为一个适用于整个临床决策过程

的社会技术项目，而不仅仅是将其视为仅存在于人工智能工具内部的一个过

程。这意味着要考虑到实际临床实践中不断涌现的知识，以便对临床决策支

持系统进行客观审视，同时也要考虑用户对于决策所需信息的反思，以及设

计文化上的转变，即从将人工智能视为独立工具转变为将其视为特定医疗环

境中的在地服务。

关键词：合规性 · 信任 · 道德 · 临床决策支持系统 · 人工智能 · 设

计 · 临床指南

1-3

介绍

数字化正在渗透医疗保健的各个领域。在所有可能引发医疗保健结构性变

革的新技术中，人工智能（AI）似乎是最为关键的一环。人工智能是一个

涵盖众多不同技术现实的通用术语，目前机器学习系统及其衍生技术最具

前景（Nittas 等人，2023 年）。人工智能在医疗保健应用中日益普及，并

且有望在诊断和治疗方案的制定中发挥越来越重要的作用（Lenharo，

2023 年）。就临床决策支持系统（CDSS）而言，人工智能系统与患者和

临床医生都有直接或间接的互动。这些互动可能发生在病理识别、治疗方

案设计以及治疗过程本身等决策环节。人工智能的实施有望提升这些环节

的表现，无论是结果、速度还是成本等方面（Arena、Gaglio 和 Vayre，

2025 年）。

尽管人工智能在改善医疗服务方面展现出巨大的潜力，但对其开发、部署

和整合进行监管的需求也日益凸显（Elish，2018；Sendak 等人，2023）。

近年来，已发布了诸多指导方针（Corrêa 等人，2023），同时全球各国及

超国家机构也在制定相关法规，例如欧盟的《人工智能法案》。关于如何

开发和治理基于人工智能的系统的理论探讨，主要在新成立的人工智能伦

理领域进行。人工智能伦理领域涵盖了广泛的学科，包括哲学、政治学、

法学以及机器伦理学、计算机伦理学和数字伦理学等相关领域（Sætra 和

Danaher，2022）。人工智能伦理领域现有的伦理框架因过度依赖原则且在

实际操作中缺乏可操作性而受到批评。因此，高层次的伦理原则被认为很

难——甚至不可能——转化为实际的规则、政策和实践。正如米特尔施塔

特（2019 年，第 501 页）所总结的那样：“迄今为止，人工智能伦理倡

议大多只是提出了模糊的、高层次的原则和价值声明，承诺能够指导行动，

但实际上却很少提供具体的建议，也未能解决关键概念中所蕴含的根本规

范和政治紧张关系。”尽管自 2019 年以来人工智能伦理领域可能有所进

展，但问题的核心依然存在：目前对于如何最好地开发“合乎道德”的人工

智能系统仍未达成共识。另一种看待该问题的方式是，在尝试使其合乎道

德之前，首先确保人工智能系统在法律上合规。例如，埃齐奥尼（2018

年）建议，人工智能系统应“受适用于其操作人员的所有法律的约束”（第

31 页），而莫赫塔里安（2018 年）则认为，“我们可能需要赋予（人工智

能系统）遵守其运行所在法律体系的能力”（第 206 页）。 “设计合规”

（CbD）（萨克曼等人，2008 年）可以被视为一种“赋予”人工智能系统遵

守某些明确规则的能力的方法。萨克曼将“基于设计的合规”定义为“一种

预防性方法，侧重于强化期望的行为并防止有害事件的发生”（同上，第

80 页）。从法律层面来看，“期望的行为”可根据不同的法律参照框架来界

定，比如法律或法规。

1-3

É. Pardoux, A.

Page 2 of

然而，也有人认为合规性可能还有其他维度，而不仅仅是法律层面的，比

如技术层面甚至道德层面的（皮斯蒂利等人，2023 年）。参考框架不仅包

括法律和政策，还可以以技术规范（如国际标准化组织标准）的形式发布，

用于技术合规，也可以是职业准则，甚至是道德章程之类的自律规范，用

于道德合规。如果合规系统无法偏离框架所认定的许可范围，那么该过程

就可以被贴上符合设计（CbD）的标签（萨克曼等人，2008 年，第 80

页）。

在本文中，我们以基于人工智能的临床决策支持系统（CDSS）为例，探

讨基于临床指南（CGs）的合规性设计（CbD）能否为构建合乎伦理的人

工智能系统提供一条途径。首先，我们描述基于人工智能的 CDSS。然后，

我们分析在医疗保健背景下，关于临床指南的合规性和 CbD 可能意味着

什么。在设定好这一背景之后，我们介绍了一些在基于人工智能的 CDSS

中实现 CbD 所面临的挑战。我们提出将合规性理解为整个临床决策过程

层面的一种方式，以应对基于临床指南的 CbD 在 CDSS 中所面临的部

分挑战。接着，我们提出我们与技术关系的变化如何有助于在医疗保健及

其他领域新兴技术的发展中实施这种合规性理解。最后，我们讨论了合规

性对于新兴技术的伦理和信任方面的意义。

人工智能与临床决策制定

在医疗保健领域引入人工智能技术，其在医疗、社会和伦理方面的结果充

满不确定性。就医疗影响而言，呼吁引入人工智能时往往伴随着对医疗和

护理实践将发生范式转变的承诺，声称人工智能“能够将数据迅速转化为

可行的方案”（胡德等人，2022 年，第 40 页）。像勒罗伊·胡德及其同事

这样的人工智能和大数据的支持者认为，它们将重新定义我们对疾病和病

理学的理解，推动护理朝着更具预测性的方向发展，实现“疾病进程的早

期逆转”（同上，第 38 页）。因此，基于人工智能的医疗保健继承并延续

了与预测医学相关的长期承诺（奥利维尔，2021 年）。然而，有人认为这

些承诺可能被过分夸大，甚至基于错误的假设，更多地反映了承诺的经济

价值而非实际预测（阿雷纳、加利奥和瓦耶尔，2025 年）。就社会影响而

言，人工智能可能导致患者和医生之间任务和角色的重新分配，这需要对

既定的实践和责任进行重新评估。从伦理角度来看，此类系统可能会延续

甚至加剧医疗保健领域已存在的问题。例如，在医疗资源分配方面

（Obermeyer 等人，2019 年），或者在以患者为中心的共情护理的实施方

面（Kerasidou，2020 年）。如何利用人工智能的优势同时限制其可能带来

的危害，目前尚不明确。在这一背景下

Page 3 of

Compliance with Clinical Guidelines and AI-Based Clinical

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

立即下载 VIP免费下载

标签： #指南 #人工智能 #临床决策

摘要：

临床指南的遵循与基于人工智能的临床决策支持系统：对伦理和信任的影响ÉricPardoux1,2,3·AngelikiKerasidou4收稿日期：2024年12月6日/接受日期：2025年9月29日©作者2025年摘要人工智能（AI）正在逐渐改变医疗保健行业。然而，尽管其前景广阔，但医疗保健领域的人工智能也引发了一系列伦理、法律和社会方面的担忧。为解决这些问题，有人提出了“设计合规”（CbD）这一理念。在医疗保健领域，CbD的努力可以集中在使人工智能系统符合现有的临床指南（CGs），因为这些指南是根据循证医学确定的最佳实践。在本文中，我们以基于人工智能的临床决策支持系统（CDSS）为例，从理论...

展开>> 收起<<

临床指南的遵循与基于人工智能的临床决策支持系统：对伦理和信任的影响.pdf

共22页,预览22页

还剩页未读，继续阅读

声明：如果您的权利被侵害，请联系我们的进行举报。

临床指南的遵循与基于人工智能的临床决策支持系统：对伦理和信任的影响

相关推荐

相关内容

热门标签

举报选择: