在现在看来是一个遥不可及的大流行前期，人们对医疗保健中人工智能(AI)潜力的兴奋已经升级。从学术和临床领域到医疗保健业务和创业领域，人工智能的发展非常迅猛，例如基于注意力的学习，神经网络，在线会议离线和物联网。进行所有此类活动的原因很明显-AI为改善医疗质量和安全性，提高护理效率，降低总体护理成本提供了改变游戏规则的机会。
在COVID-19开始挑战我们的医疗保健系统并引起对AI的更大需求之前，思想领袖们一直在提供警告性建议。医学博士罗伯特·珀尔(Robert Pearl)是著名的技术先进护理提供者，最近在《福布斯》(Forbes)上写道，由于技术开发人员倾向于专注于将要出售的产品，因此许多投放市场的AI应用未能改善人们的健康状况，改善患者安全性，或降低医疗费用。Pearl说：“如果要在医疗保健行业中实现AI宣传，产品必须首先解决基本的人类问题。”
在2019年12月的研讨会上，针对医疗保健中AI的“中间人”观点，国际知名的医学伦理学家Aimee van Wynsberghe 提出了从一开始就将道德规范纳入产品设计过程的论据。换句话说，人类价值和保护应该成为医疗保健中人工智能业务模型的核心。
健康公平应成为AI设计和使用方式的驱动原则;但是，某些模型可能会无意中引入偏见，并从最需要的患者身上转移资源。例如，在医疗系统的电子健康记录(EHR)中建立了预测性AI模型，以通过超额预订来解决“未出现”患者的问题。研究人员确定，使用EHR中的个人特征(种族，财务状况，宗教，体重指数)可能导致系统地从边缘化个人转移资源。甚至以前的“不出现”模式也可能与社会经济状况和慢性病相关。
快进到今天，人工智能似乎已成为国家新闻报道中的永久性工具。自称是怀疑论者的Alex Engler指出记者经常高估AI可以执行的任务，夸大其有效性的主张，忽略人类参与的程度以及没有考虑相关的风险，我认为这是他最近在文章中对AI的重要考虑。布鲁金斯学会。这里有一些：
只有当经验丰富的主题专家明智地应用AI时，AI才有用。决定如何预测并构筑这些预测是关键。算法和大数据无法有效预测定义错误的问题。在预测COVID-19的传播情况下，请看正在建立统计AI模型的流行病学家，这些模型明确纳入了一个世纪的科学发现。
单靠AI无法预测新的大流行病的蔓延，因为没有像流感一样的先前COVID-19暴发的数据库。一些公司正在销售产品(例如，视频分析软件，声称检测到COVID-19“发烧”的AI系统)而没有必要的大量数据和多样化的采样。Engler写道：“质疑数据源始终是评估AI系统可行性的一种有意义的方法。”
实际部署会降低AI性能。例如，在评估CT扫描时，可以区分健康人和COVID-19人的AI模型在遇到普通流感患者时可能会开始失败。关于AI可用于测量体温的说法，实际环境因素导致的测量比实验室条件更加不完善。
实施AI会产生意想不到的后果。市场力量的巩固，不安全的数据积累和监视问题是AI使用的非常常见的副产品。就AI对抗COVID-19而言，监视问题已遍及世界各国。
尽管模型通常被认为是客观的和中立的，但AI会产生偏差。AI模型中的偏差导致不同子组之间的估计偏差。例如，使用生物标志物和行为特征来预测COVID-19患者的死亡风险可能会导致偏差的估计而无法准确代表死亡风险。恩格勒说：“如果一个AI模型没有记录和评估的偏见，那将增加怀疑者对它们隐藏，未解决和有害的确定性。”
根据我们对AI在医疗保健中的局限性和潜在危害的了解(大部分已被COVID-19放大)，我将制定什么样的治疗计划?首先，我鼓励所有医疗保健AI开发人员和供应商从产品开发伊始就让伦理学家，临床信息学专家和运营专家参与其中。