（来源：中国医药报）

　　转自：中国医药报

　　 □ 徐成君

　　 随着人工智能技术的快速发展，人工智能医疗器械在预防筛查、辅助诊断、临床治疗和术后康复等医疗场景中展现出巨大的应用潜力，逐步成为推动智慧医疗发展的重要力量。近年来，国内外已有不少人工智能医疗器械产品获批上市，越来越多的产品正加速从实验室研究迈向临床实践。然而，作为一类融合算法、数据与软件的复杂医疗产品，人工智能医疗器械在研发、生产与使用的全生命周期中面临风险识别不充分、数据质量控制困难、算法可解释性不足、模型迭代验证复杂、系统可追溯性要求高及上市后监管难度大等挑战，其质量管理体系的构建远比传统医疗器械更为复杂。

　　 在人工智能医疗器械质量管理体系构建中，企业需充分考虑产品全生命周期开发过程中的需求分析、数据管理、风险管理、算法设计与开发、验证与确认、可追溯性与透明度、上市后监管与性能监测等核心要素的实施策略，以系统性思维破解质量管控难题，全面提升质量管理水平，助力人工智能医疗器械安全、有效、可持续地服务于临床需求。

　　 要素一 需求分析

　　 需求分析作为人工智能医疗器械全生命周期的起点，发挥着将用户需求转化为技术规格的关键作用。国家药监局医疗器械技术审评中心发布的《人工智能医疗器械注册审查指导原则》提出，需求分析以用户需求与风险为导向，结合产品的预期用途、使用场景、核心功能，综合考虑法规、标准、用户、产品、数据、功能、性能、接口、用户界面、网络安全、警示提示等需求，重点考虑数据收集、算法性能、使用限制等要求。这高度概括了人工智能医疗器械需求分析的核心方法论。它强调研发不能脱离临床实际，必须以真实的用户需求和前置的风险管理为双导向，并聚焦产品的预期用途与使用场景。

　　 在此基础上，需求分析是一项系统工程，需全面统筹考虑法规、网络安全、人机交互等多维要素。特别是针对人工智能产品的特殊性，必须确保数据收集的合规与多样性，量化算法性能指标，并清晰界定产品的使用限制与警示提示。只有统筹兼顾安全底线与功能上限，才能打造出好用、安全且符合监管要求的医疗产品。

　　 要素二 数据管理

　　 数据采集是构建算法模型的重要基础。中国、美国、欧盟的监管机构均强调数据的代表性与合法性，因此在开展数据采集前应建立数据采集规范，明确采集目标、人员资质、过程要求，以及数据纳入和排除标准。在实践过程中，建议建立多中心数据采集渠道，确保采集到的数据涵盖不同年龄、性别、种族及设备厂商的数据，以应对不同国家和地区可能存在的“人种与流行病学差异”风险。需要注意的是，所有数据都必须签署完善的数据授权协议，确保数据来源合规，并严格进行脱敏及去标识化处理，防止隐私泄露。

　　 数据预处理与清洗针对的是已完成采集并符合采集要求的原始数据。在实施预处理和清洗前，需建立相应的操作规范，明确规则、过程及方法，并形成完整的操作记录。此外，需警惕预处理带来的信息丢失风险，如过度的图像增强可能引入“伪影”。

　　 数据标注也需建立相应的规范，明确标注人员的资质、标注过程及质量评估要求。在实践中，通常采用“多人背对背标注+专家仲裁”的模式。在标注开始前需对标注人员进行统一培训与考核。

　　 数据集构建通常基于标注数据，可划分为训练集、调优集和测试集。数据集构建同样需要建立操作规范，明确数据集的划分方法、依据及比例等。需要注意的是，应保证数据集内数据分布的均衡合理，并确保不同数据集间无交集。

　　 要素三 风险管理

　　 在搭建人工智能医疗器械质量管理体系的实践中，不少风险工程师仍延续传统医疗器械的风险管理模式，对ISO 14971标准存在较强的路径依赖，甚至陷入“单一通用标准即可覆盖全场景风险”的认知误区，缺乏对人工智能技术衍生的专项法规、标准体系的主动跟进与深度研判。必须厘清的是，ISO 14971标准仅提供了医疗器械风险管理的通用方法论，其框架围绕传统医疗器械的风险特征设计，无法完整覆盖人工智能医疗器械因数据质量偏差、算法黑盒特性、模型泛化边界、动态迭代更新等产生的一系列新型风险场景。

　　 为消除传统标准在人工智能医疗器械特性方面的合规盲区，企业必须摆脱对单一标准的依赖，严格对标并融合不同国家和地区针对人工智能医疗器械的专项法规与标准要求，从以下四个风险维度，完善人工智能医疗器械风险管理。

　　 一是识别数据与算法底层风险。传统风险管理往往忽视数据质量对安全的影响，而在人工智能医疗器械的开发中，数据质量在很大程度上影响着产品质量。针对数据质量与偏差的风险，风险工程师应依据ISO/IEC 5259系列标准，在风险分析过程中建立数据质量风险评估机制，评估由数据引发的相关风险及潜在偏差，并引入相关风险控制措施对偏差进行校正，将风险降低至可接受范围；在算法方面，将人工智能医疗器械特有的因“模型不确定性”和“泛化能力不足”等可能导致的“假阴性”“假阳性”情况纳入危害分析，确保风险识别覆盖从数据采集到模型停止服务的全生命周期。

　　 二是管控算法持续迭代风险。针对“自适应”算法的持续学习与更新，人工智能医疗器械风险管理体系必须具备前瞻性。尤其是面向美国市场的产品，依托预设变更控制计划（PCCP）相关要求，在风险管理程序中内嵌严格的“影响评估”机制；同时，建立量化评估指标，精准界定算法自主更新的“安全包络线”，预判算法在预设边界内迭代时可能引入的新风险，确保性能稳定性。

　　 三是警惕预训练模型可能引入的风险。将预训练模型作为OTSS（现成软件）引入前，需要对预训练模型进行专项评估，重点评估模型参数规模、结构特征与预期临床用途的适配性，以及遗忘、幻觉和网络安全等风险。

　　 四是防范临床人机交互风险。人工智能的“黑盒”特性容易造成临床医生对人工智能医疗器械的过度信任或误用，因此需结合可用性工程实施风险管理，重点分析“自动化偏见”带来的临床风险。针对此类风险，应制定相应的风险控制措施，确保系统设计有效的“人在回路”确认机制，同时配套可解释性输出，防止临床医生因盲目信赖人工智能建议而导致医疗事故。

　　 要素四 算法设计与开发

　　 人工智能医疗器械的核心在于算法设计，主要涵盖算法选择、训练及性能评估三大环节。对于“黑盒”算法，还需结合医学知识提升可解释性。

　　 在算法选择阶段，需明确算法的名称、类型、结构、输入、输出及运行环境等基础信息，并提供充分的选用依据。若使用集成学习或迁移学习等组合算法，也需予以详细说明。

　　 在算法训练阶段，需基于训练集和调优集，设定合理的评估指标、训练目标及调优方式。同时，需提供受试者特征曲线（ROC曲线）、混淆矩阵及训练数据量-评估指标曲线等客观证据，以证明算法训练的充分性与有效性。

　　 在性能评估阶段，需基于测试集全面考察算法的假阴性/假阳性、鲁棒性及实时性等指标。此外，还要分析采集设备、病变特征等因素对算法性能的影响，明确产品的使用限制与警示信息，并开展压力测试与对抗测试，确保算法满足设计目标。

　　 要素五 验证与确认

　　 设计验证与确认是保障人工智能医疗器械安全有效的重要环节。

　　 设计验证通过测试与评审，确保各阶段输出满足输入要求，保障产品安全有效，是确认的基础。

　　 设计确认则通过用户测试和临床评价等方式，证实产品满足预期用途。对于临床评价，非辅助决策类与辅助决策类功能需依据核心功能或算法开展同品种比对或临床试验。同时，需综合评估算法性能，针对样本量不足、性能变异过大等情况，应通过随附文件等方式明确产品的适用范围与使用限制。

　　 要素六 可追溯性与透明度

　　 可追溯性是支撑人工智能医疗器械透明度、可问责性、可审计性的关键质量特性，中国、美国、欧盟的监管机构均对此提出了要求。

　　 在我国，2023年9月发布的《人工智能医疗器械 质量要求和评价 第4部分：可追溯性》规定了人工智能医疗器械在设计开发、使用和更新三个阶段的可追溯性通用要求及评价方法。该标准强调对算法需求、算法设计、算法实现、算法验证与确认、风险管理、数据集六大要素及其内在关联进行全过程追踪，以过程文档和可追溯性矩阵的形式呈现。

　　 欧盟《人工智能法案》第50条透明度相关新规已于今年8月2日正式施行，涵盖人工智能与自然人直接交互、生成合成内容、情绪识别或生物特征分类、深度伪造四类透明度相关义务。高风险人工智能系统还需满足日志记录与可追溯性、技术文档、人工监督等要求。

　　 美国食品药品管理局（FDA）于2025年1月发布支持人工智能医疗器械的设备软件功能相关草案，聚焦全生命周期动态监管，要求将透明度与偏差管理贯穿设计、开发、测试及上市后监测全过程。

　　 要素七 上市后监管与性能监测

　　 人工智能医疗器械的上市后监管与性能监测是保障产品全生命周期安全有效的关键。在我国，《人工智能医疗器械注册审查指导原则》强调建立完善的上市后监测体系，要求持续开展算法泛化能力研究，对不良事件等进行持续跟踪。国际上，欧盟《人工智能法案》将医疗器械人工智能列为高风险等级，强制要求实施上市后监测（PMS），其中包括上市后临床随访（PMCF），确保算法在真实世界合规；FDA强调全生命周期风险管理，并推出PCCP，允许在预设框架内对算法进行迭代更新。

　　 受算法特性影响，人工智能医疗器械性能表现与真实世界数据高度绑定。在实践中，通过合规建立常态化的真实世界数据收集与评估机制，定期开展真实世界性能评估，及时捕捉识别算法可能出现的性能漂移等异常情况，并据此开展影响因素分析、制定干预预案。同时，完善监督机制与不良事件报告流程，确保在发现性能变异或安全风险时，能够及时采取限制使用、软件回滚或变更注册等措施，从而实现风险闭环管理，持续赋能产品临床价值。

　　 结语

　　 构建人工智能医疗器械质量管理体系，是保障产品安全有效、合规上市的基石。从监管态势来看，人工智能医疗器械监管已转向全生命周期管理，聚焦数据治理、风险管理、算法透明度与持续性能监测等方面。

　　 在实践中，企业需深刻认识到构建人工智能医疗器械质量管理体系不仅仅是技术问题，更是一个系统工程。需求分析明确了产品的预期用途与核心功能；数据管理确保了训练与测试数据的代表性、完整性，且符合伦理与隐私合规要求；风险管理则贯穿始终，识别并控制从数据采集到算法部署各环节的潜在风险；算法设计与开发作为核心环节，要求算法具有可解释性且经过充分验证；验证与确认则是证明产品满足用户需求与安全标准的客观证据；建立完善的可追溯性与透明度机制，是确保产品符合不同国家和地区法规要求的关键。最后，通过上市后监管与性能监测，企业能实时掌握产品在真实世界中的表现，持续迭代优化产品。

　　 只有将质量管理理念深度融入产品全生命周期管理，才能推动人工智能医疗器械行业健康、可持续发展，最终造福患者。

　　 （作者单位：上海联影医疗科技股份有限公司）