上海鹰瞳医疗科技有限公司(Airdoc)(以下简称Airdoc)于2020年8月初成功获得国家药品监督管理局(NMPA,原CFDA)批准的首张“眼底图像人工智能辅助诊断类软件”(以下简称“产品”)的III类医疗器械注册证书,也是全国首张真正实现疾病诊断与后期管理建议的辅助诊断软件III类医疗器械注册证书。分析两年半的注册经历发现,决策的正确与否很重要,最为关键的是行动的充分性和持续性,后者决定了注册的成功与否。为此,本文做相关的经验分享交流,为此类产品的上市前注册工作提供参考。
1 研发过程与注册经验分享
2017年初,Airdoc研发团队从需求定义开始产品研发工作。此时,深度学习技术经过近年的多次重大突破和学术成果发表[1-5],在图像分类问题上的应用已经足够成熟。Airdoc研发团队经过大量实践,已经能够使用最先进的深度学习技术支持产品的各方面需求。
1.1 产品定型与临床试验
2017年Airdoc将资源集中在需求确认、数据收集、算法验证等工作中,产品正式定型后,团队准备启动注册检验工作。当时为了更好解决国内没有具备医疗人工智能软件检测能力的检验机构这一问题,Airdoc开始与中国食品药品检定研究院(简称中检院)合作推进眼底图像数据库的工作,其间中检院共收集国内10个省份11家医疗机构的眼底图像,并从国内顶尖医疗机构邀请数十位具有五年以上工作经验的眼科医师进行图像标注。中检院眼底图像数据库建库工作完成后,与此同时,Airdoc委托型式检验并与中检院共同解决多个检测难题之后,获得检验报告。
获得检验报告后,Airdoc开始启动临床试验,在北京同仁医院等三家三级甲等医院开展多中心临床试验,试验设计是参考了在美国FDA获批的IDx-DR的临床试验方案。临床试验入组完毕,开始后期统计工作。
1.2 产品注册
国内几家同类产品都在竞相申报注册,基于Airdoc获得2项发明专利,另外还有9项针对算法的发明专利正在公示和国家科技部“数字诊疗装备”重大专项的支持,Airdoc决定先申请创新医疗器械,争取进入快速审批通道。2019年Airdoc首次进行创新医疗器械答辩,NMPA器审中心发布的《深度学习辅助决策医疗器械评审要点》为创新申报工作提供了很多参考。但由于产品的临床试验报告及其他临床研究结果尚未结题和发表,首次申报创新医疗器械未获批。此后补充了相关临床研究成果之后再次申报创新医疗器械,次月即获批,公示完成后,Airdoc正式提交注册申报。
依照国家的相关法律法规要求,产品注册团队全面、系统地准备注册申报资料,包括六个方面的内容:地区性管理信息、申报产品综述、非临床研究和临床研究资料、说明书标签及质量管理体系文档。其中非临床研究和临床研究资料是审查重点,更为具体的重点是非临床资料中的风险管理报告、产品技术要求和检测报告、软件开发过程的验证和确认报告,以及临床研究资料中的临床试验方案和临床试验报告。人工智能类产品的注册基本上没有过往的经验可循,需要一步一步地研究讨论,多方探寻解决方案。与此同时,为了满足市场需求,在注册项目时间轴的管理方面也需要付出很多的努力,争分夺秒,日以继夜。
总体而言,本产品的注册资料是以《医疗器械注册管理办法》(国家食品药品监督管理总局令第4号)为依据进行整体把控,在架构上是以《医疗器械注册申请电子提交技术指南(试行)》和《医疗器械产品注册项目立卷审查要求(试行)》为依据进行收集整理,内容上是以《医疗器械软件注册技术审查指导原则》为依据进行撰写编辑。
2 主要注册资料的准备
2.1 非临床研究资料
2.1.1 风险管理报告
根据YY/T0316-2016《医疗器械风险管理对医疗器械的应用》、YY/T1406《医疗器械软件第1部分:YY/T0316应用于医疗器械软件的指南》和YY/T0664-2008《医疗器械软件软件生命周期过程》和产品的实际情况,编写风险管理文档。此文档应涵盖对一般软件的风险考虑和医疗软件及人工智能类软件的预期风险分析与评估,还应该针对具体的申报产品,产品在实际应用中的各个环节进行风险分析和评估,并给出风险缓解措施及结果。
NMPA医疗器械技术审评机构非常关注产品将来临床使用的预期风险和风险控制措施,因此在后期的NMPA器审中心专家咨询会及注册补正资料过程中注册团队着重对这方面涉及的内容进行了内部与外部的反复沟通探讨。
2.1.1.1 图像质量控制的预期风险及控制措施
本软件具有自动判断图像质量是否合格的功能,由此会令监管者产生一些问题:“能否判断图像拍摄区域是否含有病变?”,“能否判断图像是否满足临床诊断需要?”,“如果一直出现图像质量差拒绝识别的情况该如何处理?”。
产品操作员界面点击“图片质量低,拒绝识别”时提示:图片质量低可能是由小瞳孔、晶体混浊、光路受阻或者拍摄不规范导致,建议排除以上原因后再次尝试拍摄眼底照片,如有需要请寻求医生的指导帮助,并在产品上作出明确的提示和说明。
2.1.1.2 软件替代医生审核的预期风险及控制措施
为突显医生为临床诊断的最终决策人和相关责任人,产品始终要避免替代医生审核的风险,并在结果显示、相关说明和警示上都要明确标注。
2.1.2 产品技术要求和检测报告
依据《医疗器械产品技术要求编写指导原则》和《医疗器械软件技术审查指导原则》,结合本申报产品的实际情况编写《产品技术要求》并委托检测机构检测。同时,在技术审评环节,专家认为算法的灵敏度、特异性和其他一些性能指标在临床阶段的体现比型式检测的测试结果更重要、更具有说服力。此外,针对软件预期使用中操作人员和医生的权责划分,以及适配眼底照相设备的符合条件,都在《产品技术要求》中给以明确。
2.1.3 软件开发过程的验证和确认报告
2.1.3.1 数据采集的合规性与全面性
根据《深度学习辅助决策医疗器械评审要点》,首先保证采集数据的多样性,数据的地域分布和流行病学分布,还要考虑设备的比例分布。训练集、调优集和测试集的数据处理过程是从确认标注工具到实际预处理的数据清洗。此外,申报材料要统一标明训练数据的数据量、疾病构成、来源机构、设计情况。
2.1.3.2 算法性能的影响因素
根据《深度学习辅助决策医疗器械评审要点》,专家比较关注怎么证明算法经过了充分训练。在专家的建议下,注册团队补充了训练数据量和算法性能的曲线。充分证明,随着训练数据量的增加,算法性能不断提升,当训练数据量增加到一定数值后,算法性能达到预设的性能指标并维持稳定而优异的输出。
2.1.3.3 网络安全与云计算
根据《医疗器械网络安全注册技术审查指导原则》提供网络安全文档和相应的验证资料,根据《移动医疗器械注册技术审查指导原则》提供关于云计算的注册资料,并且提供关于数据上传的内容限制、云平台上保存的信息内容说明以及Airdoc内部云平台数据管理规定,同时需要提交销售环节的声明,确保用户知晓云平台的数据上传与数据存储的信息内容及风险。
2.2 临床研究资料
由于本产品属于创新医疗器械,市场上并没有同类产品可供比对和参考,因此临床研究资料的提供主要是以临床试验报告为主的相关验证资料。临床试验的准备工作与流程操作、所有数据的整理和存储须严格依照《医疗器械临床试验质量管理规范》的相关内容实施。
2.2.1 临床试验方案
临床试验方案的科学合理性是NMPA审查的重点。注册团队在参考《医疗器械临床试验设计指导原则》的思路和原则基础上,依照《医疗器械临床试验质量管理规范》第二十八条和《医疗器械临床评价立卷审查表(试行)》的要求,针对本产品的临床预期使用情况,对包括临床试验方案可行性分析、临床试验的质量控制和临床试验数据管理在内的多项内容进行分析、归纳、整理和撰写。具体的方案设计是参考了在美国FDA获批的IDx-DR的临床试验,并根据中华医学会眼科学会发布的《我国糖尿病视网膜病变临床诊疗指南》调整阅片人资质、阅片标准和分级标准,使其完全符合我国的临床现状。
在接受NMPA技术审评审查的过程当中,注册团队被问及如下问题:
1)从临床设计、评价指标设置、目标值确定、临床试验数据的覆盖性等方面补充其合理性依据;2)论述构建金标准和执行机构/人的合理性;3)适配机型泛化能力的临床支持性证据;4)适用各种临床机构的支持性证据。
针对以上问题,Airodc团队补充了多篇文献资料以证明试验方案中多个指标的设定依据;全面提交适配机型和不同临床机构的相关数据、研究工作及相关论文,经审评专家严格审核、讨论后获得批准。
2.2.2 临床试验报告
在科学合理的临床试验方案的基础上,临床试验报告只要做到记录准确、统计无误、备案完整,对于各种与试验设计不符的情况,依据试验方案进行处理即可。
此外,由于2019年6月NMPA器审中心开始实施立卷审查程序,在资料的准备和提交过程中一定要参考相应的立卷审查要求,包括临床试验中心小结、临床试验备案表和临床试验协议在内的所有临床研究资料提交完整。
3 总结
总结下来,眼底图像人工智能辅助诊断产品在注册申报过程中的关键点包括如下内容:1)研发验证过程的完整性;2)临床研究工作(包括注册阶段的临床试验和真实世界的临床试用)的科学性;3)医疗数据管理的合规性。
需要强调的是,从开始准备注册起,所有的工作应该在专业人士的参与下全盘规划、步步跟进、定期沟通、不留死角,这样才能实现全程高效和正确的完成预期的目标。
人工智能类医疗器械的发展是计算机工程与医疗大数据发展的必然产物,是解决医疗资源短缺与人民健康需求增长矛盾的最佳方案,这个过程中,Airdoc能够感受到全行业的努力以及全社会的支持,尤其是NMPA对于人工智能医疗器械产品注册工作的努力和推动,2019年NMPA器审中心和中国信息通信研究院(信通院)牵头,联合10多家单位共同建立了人工智能医疗器械创新合作平台,对于人工智能医疗器械的转化和应用,起到了很大的推动作用。相信在不久的将来,人工智能医疗器械会迎来一个新的里程碑,到那时,每一个普通人都可以更加方便快捷地享用智能医疗带来的简单与美好。
注:此文来自Airdoc注册团队的总结。