美国食品药品监督管理局（FDA ）于 2024 年 10 月 15 日发表了一篇文章，描述了监管医疗产品中使用的 AI 的几个重点领域。文章是 数字健康卓越中心主任 Troy Tazbaz 于 2024 年 6 月发表的一篇题为“人工智能对改善医疗保健的承诺”的博客文章之后发布的，他在其中提供了关于 FDA 如何努力确保医疗保健领域的 AI 创新对最终用户安全有效的见解。新的 文章进一步确定了 FDA 关注的十个人工智能相关领域：
1、美国政府和全球背景下的 AI 监管。FDA 认识到美国监管标准尽可能与全球标准兼容的重要性，为此，FDA 注意到其参与了国际医疗器械监管机构论坛和国际协调委员会的 AI 工作组。
2、跟上 AI 的变化步伐。文章认为，AI 产品需要一个适应性强、基于科学的监管计划，并且成功开发和实施新兴技术的创新计划可能需要 FDA 获得额外的资源和新的法定机构。
3、跨 AI 模型范围的灵活方法。在解释其基于风险的医疗器械监管方法时，FDA 强调，用于临床决策支持的 AI 模型“处于中间位置”，其中算法带来的风险程度为 FDA 对监管要求的应用提供信息，特别是当算法输出的基础不够透明，以至于临床医生能够理解建议的来源时。文章警告说：“这些基于风险的监管方法需要仔细考虑和调整。
4、人工智能在医疗产品开发中的应用。Califf 博士和他的合著者写道：“FDA 看到了 AI 在药物开发和临床研究中的应用的巨大潜力。因此，FDA 审查员“必须对该学科有深入的了解，才能适当地审查”提交给该机构的大量上市申请。
5、为 LLM 未知数和生成式 AI 做准备。尽管 FDA 尚未授权大型语言模型 （LLM），但鉴于其预期用于诊断、治疗或疾病预防，医疗保健领域的许多拟议应用将需要 FDA 的监督。因此，FDA 官员写道，他们认为“需要专门的工具，以便在使用 LLM 的环境和环境中更好地评估它们”，以免给个别临床医生带来过重的负担。
6、AI 生命周期管理的核心重要性。JAMA 文章断言，鉴于解锁的 AI 模型有可能“进化”，“越来越明显的是，循环 AI 性能监控应该发生在使用它的环境中”。在赞扬“外部保障实验室”和“特定地点的本地化验证”的潜在好处的同时，FDA 指出需要更多的方法和工具，并告诫“在实践中部署的不受监控的 AI 系统可能会造成重大伤害”。
7、受监管行业的职责。该机构在 文章中写道，“FDA 监管的核心始于受监管行业本身的自愿遵守”，该机构将帮助评估 AI 应用的健康益处是否影响患者的负担放在了行业身上。FDA 官员进一步强调，“在医疗产品开发中对 AI 进行监管的概念......从负责任的行为开始，申办者的质量管理与 FDA 的一般监管制度没有根本区别。尽管如此，该机构仍表示担心，在整个生命周期中对 AI 进行反复的本地评估对于确保产品随着时间的推移的安全性和有效性是必要的，而且这样做所需的努力规模可能超出任何当前的监管计划或开发和临床社区的能力。
8、维护稳健的供应链。FDA 认识到 AI 模型可以在管理供应链方面发挥关键作用，但警告说，AI 模型可能容易受到中断和短缺的影响，强调需要最大限度地减少对网络安全威胁的敏感性，并开发“弹性备份”。
9、在大型科技公司、初创企业和学术界之间找到平衡。尽管“大型科技公司......拥有“AI 开发”所需的资金、计算资源和专业知识，文章作者表达了对初创企业、企业家和学术机构可能需要帮助以确保实施的 AI 模型“在不同环境中的整个产品生命周期中安全有效”表示担忧。
10、使用 AI 优化财务回报与改善健康结果之间的紧张关系。文章最后强调了 FDA 公共卫生保障措施的重要性，作为抵御系统性压力的堡垒，当使患者受益的 AI 创新“可能以牺牲医疗保健领域的传统工作、资本结构和收入流为代价”时，可能会出现系统性压力。在这里，FDA 赞扬了让人类临床医生参与其中的作用，他们可以倡导高质量的健康益处证据，为 AI 的临床应用提供信息。
2024/10/25 08:44
