距FDA关于监管框架的讨论文件已经过去了将近18个月，以使正在进行的人工智能和机器学习算法能够基于现实世界的学习和适应而改变为医疗设备(SaMD)的软件。但是，FDA数字健康部门主管Bakul Patel认为，该机构制定指导草案仍需要一些关键的内容。
帕特尔说，2019年4月发布后的下一步将是一系列FDA文件，而不是一个单一的指南，将在周四的食品药品法协会活动上发表讲话。尽管该机构在SaMD预先规范(SPS)和算法更改协议(ACP)方面拥有丰富经验，但他说FDA正在寻求行业和利益相关方提供有关ML(机器学习)规范(GMLP)的意见。
FDA对算法设计，开发，培训和测试的良好实践有“很多问题”，Patel表示，因为该机构考虑采用基于产品生命周期的整体方法来调节利用自我更新算法的医疗设备。“我们可能很快就会有一个多管齐下的方法，我们正在努力实现这一目标。”一个rtificial智能和机器学习具有的潜在变换和扰乱医疗通过实施基于ML-AI /医疗设备。但是，在重是显著的采用挑战这些技术，争辩帕特尔。
其中的障碍为AI和基于机器学习的设备都缺乏大型，高曲先进而精湛和精心策划的数据集，在无法解释的“黑盒子”的方法，以及在数据的社会偏见不好处护理所有的病人和可能加剧的健康disparitie小号，根据帕特尔。
“通过机器学习，您现在有点受数据集的支配了，” Patel说。“即使我们有很多数据，我们也没有很多好的数据可以训练。”
当谈到黑匣子现象时，通常会批评AI系统过于复杂，并且难以向医疗保健提供者解释其如何准确得出结果。不断发展的机器学习算法(称为“自适应”或“连续学习”算法)使解释性变得更加困难，不需要手动修改就可以合并学习或更新。
据周五在《 npj Digital Medicine》杂志上发表论文的研究人员称，当前的监管框架并非针对自适应算法而设计。他们写道，FDA仅使用“锁定”算法清除或批准了医疗设备，每次将相同的输入应用到该设备时，它们都会提供相同的结果，并且不会发生变化。
作者认为，FDA 2019年拟议的监管框架存在一个问题，该框架采用了整个产品生命周期方法，该机构没有要求公司将其技术归类为基于AI / ML的技术，并且一些公司没有提及特定的AI / ML方法他们用。
“目前，由于对基于AI / ML的医疗设备和算法的批准缺乏明确性，阻碍了对批准和实施过程的评估，因为FDA公告并未明确说明使用这些方法。”作者还宣布创建一个新的在线数据库，以跟踪FDA批准的设备和算法。
由于FDA没有维护这样的数据库，研究人员认为他们必须设定评估应包括哪些技术的阈值。其中包括29种符合FDA官方公告中被视为基于AI / ML技术的标准的医疗设备和算法。