监管生成式AI：数字健康专家委员会讨论FDA面临的挑战

主要观点总结

美国FDA于11月20日和21日召集数字健康专家委员会讨论如何监管生成式AI医疗器械。会议关注AI技术的经济影响及其对监管的挑战。AI的精准医疗应用引起广泛关注，会议讨论包括上市前评估和上市后监测两方面。由于生成式AI的特性，传统评估指标和监控手段不适用，需要更准确的评估和控制方法。专家建议建立中央数据库或注册表监控产品的准确性、安全性和使用范围。

关键观点总结

关键观点1: 会议背景

FDA召集专家讨论监管生成式AI医疗器械，这是针对经济影响而非健康改善的担忧。

关键观点2: 上市前评估的挑战

生成式AI的响应变化多端，给FDA的审评流程带来麻烦。必须考虑AI的输出可变性，并评估和控制其不确定性。

关键观点3: 专家建议

专家建议准确定义生成式AI的预期用途，并披露训练数据和使用情况。审评过程应参考对医生的评估方式，注意大型语言模型的学习方式与人类的不同。

关键观点4: 上市后监测的问题

上市后监测系统面临挑战，如错误报告的识别和管理，以及如何有效监控产品的性能变化。

关键观点5: 解决方案和建议

专家建议建立中央数据库监控生成式AI产品的性能，并考虑收取使用者费用支持监控需求。同时强调主动监控的重要性，指出需要适应新的监管范式。