随着人工智能技术的迅速发展，FDA正在应对平衡创新与患者安全的挑战，制定法规，确保人工智能工具在其整个生命周期中保持有效。

发表在《美国医学会杂志》（JAMA）上的一篇特别通讯研究了美国在医疗保健领域对人工智能（AI）的监管。食品和药物管理局（FDA）。它还探讨了人工智能在临床研究、医疗产品开发和患者护理方面的潜力，同时强调了需要解决的关键领域，因为法规已适应人工智能在生物医学和医疗保健方面的一些独特挑战。

背景

大型语言模型（llm），如生成式人工智能，被强调为一种独特的监管挑战，因为它们有可能产生不可预测的输出，如果管理不当，可能会影响临床决策。

人工智能的进步对改变生物医学和医疗保健具有巨大的潜力。对人工智能的期望往往超过以前的医疗技术，如远程医疗、数字健康工具和电子健康记录。虽然其中许多技术都是突破性的，但人工智能工具在数据分析、诊断和个性化护理方面的能力是革命性的。

然而，人工智能在医学和医疗保健领域的使用也引发了与监督和监管有关的重大担忧。美国食品药品监督管理局（FDA）长期以来一直在制定将人工智能纳入医疗产品和保健开发的规定。然而，人工智能技术的动态特性带来了一些独特的监管挑战，特别是在有效性、安全性、上市后绩效和问责制方面。此外，人工智能技术的快速发展需要能够快速适应的监管框架。

FDA对医学人工智能的规定

根据审查，FDA对人工智能医疗产品的监管始于1995年，当时批准了PAPNET，这是一种基于人工智能的工具，病理学家可以使用它来诊断宫颈癌。尽管PAPNET由于成本高而没有被广泛采用，但FDA已经批准了近1000种基于人工智能的医疗设备和产品，主要应用于放射学和心脏病学。

人工智能也被广泛应用于药物开发，包括药物发现、临床试验和剂量优化。此外，虽然基于人工智能的应用在肿瘤学领域变得越来越普遍，但人们对将人工智能应用于心理健康领域的兴趣越来越大，而数字技术在这一领域有可能产生重大影响。

FDA收到的在药物开发中使用人工智能的监管申请数量在一年内增加了十倍，鉴于人工智能的应用范围广泛和复杂性，FDA也调整了监管框架，使其基于风险，但也注意到人工智能在现实世界临床环境中的发展。

人工智能在药物开发方面显示出巨大的前景，特别是在医药领域神经科和精神健康，当人工智能模型可以加强药物发现、试验设计，甚至是对不良反应的上市后监测。

FDA于2021年提出了一项五点行动计划，用于监管机器学习和基于人工智能的医疗器械，旨在促进创新，同时确保这些产品的有效性和安全性。该行动计划也符合国会的指导意见，该指导意见鼓励FDA制定足够灵活的法规，允许开发人员更新人工智能产品，而无需不断寻求FDA的批准。

然而，这篇文章强调，这些法规必须考虑到在人工智能产品的整个生命周期中对其进行管理的需求，特别是通过在临床环境中部署后对其性能进行持续监测。

FDA的医疗产品中心还确定了人工智能发展的四个重点领域，包括加强公共卫生安全，支持监管创新，促进最佳实践和统一标准，以及推进人工智能绩效评估的研究。

关键的公司FDA对人工智能监管的概念

FDA的目标是，以美国法律和全球标准为基础，塑造人工智能医疗产品的监管。与国际医疗器械监管机构论坛等机构的合作使FDA能够在全球范围内促进统一的人工智能标准，包括通过国际合作管理人工智能在药物开发中的作用，并使临床试验现代化。

随着人工智能技术的快速发展，FDA面临的主要挑战之一是有效处理大量人工智能提交的申请，同时确保创新不受阻碍，安全性不受影响。此外，对人工智能系统进行持续的上市后监测对于确保它们随着时间的推移按预期发挥作用至关重要，特别是在多样化和不断变化的临床环境中。这需要一个灵活的、基于科学的监管框架，例如软件预认证试点，允许对人工智能产品进行持续评估。

监管人工智能医疗设备的基于风险的方法还允许在广泛的人工智能模型中采用灵活的方法。例如，用于管理功能的简单人工智能模型受到的监管较少，而嵌入心脏除颤器的复杂人工智能模型则受到更严格的监管。

审稿人提供的另一个例子是基于人工智能的脓毒症检测工具败血症免疫评分（sepsis ImmunoScore），该工具被归类为II类设备，需要特殊的安全措施来考虑潜在的偏差或算法失败风险。

该评论强调，需要专门的监管工具来评估越来越多的人工智能模型，包括生成式人工智能和大型语言模型。这一点尤其重要，因为不可预测的输出（如错误诊断）带来的风险需要在临床工作流程部署之前和之后进行彻底评估。

结论

总而言之，该审查表明，灵活的监管方法和跨行业、国际组织和政府的协调努力，以及FDA的严格监管，对于跟上人工智能技术在医学领域的快速发展，确保人工智能工具的有效性和安全性至关重要。

作者认为，严格关注上市后监测和人工智能工具的整个生命周期对于确保它们在临床实践中继续安全有效地发挥作用至关重要。他们认为，将人工智能整合到医疗保健中，应该关注患者的健康结果，而不是财务优化。他们还警告说，平衡创新与患者护理必须仍然是一个优先事项，以防止人工智能主要受到经济激励的驱动。