AI在医疗保健中应该扮演什么角色？
人工智能在医疗保健中应该扮演什么角色？
关于机器学习在医疗保健和联合医疗人工智能丑闻中的应用
你们中的一些人可能知道我在学术上是一名社会学家-准确地说，我在研究生院研究了医学社会学。这意味着我专注于人们和群体如何与疾病、医药、医疗机构以及围绕健康的概念和思想互动。
我曾经是兼职教授时，教授那些进入医疗领域的本科生们有关这些问题的知识，我认为让成为我们医疗供应商的人了解我们社会、经济和种族地位与我们健康之间的相互作用是非常重要的。每个生病的人都不是一样的，只有在了解这一点之后，才能为人们提供高质量的护理。
我提到所有这些只是为了说明我在今天这个话题上的观点背景-机器学习在医疗保健中的应用。我有点等待着讨论这个话题，因为它是如此庞大，但最近的一些新闻报道激发了我开始谈论。很有可能，我以后还会继续谈论这个。
生死之间
我发现在医疗领域使用机器学习很难谈论的一个原因是失败的风险非常灾难性。如果我预测你在网上订购的袜子包裹的到达日期错误，最坏的情况是你两三天脚冷。如果在医疗环境中机器学习模型出现错误，风险就会直接上升到生命丧失或生活质量丧失的程度。
如果在医疗环境中机器学习模型出现错误，风险就会直接上升到生命丧失或生活质量丧失的程度。
当然，我们的医疗供应商已经意识到他们在日常工作中面临的风险，并学会应对。但总的来说，数据科学家和机器学习模型开发人员对于思考具有这种风险的模型结果是不熟悉的。在建模过程中，例如分类模型，任务的重要部分是估计我们所称之为假阳性和假阴性的成本-实际上，当我们预测一个事件实际上没有发生（FP）或者我们预测没有事件发生但实际上发生了（FN）时会发生什么坏事。在其他类型的模型中，我们还会花时间考虑模型预测与期望值或实际情况之间有很大差距或者与实际发生情况完全不同的成本。共同的线索是，模型总是会有一些无法避免的错误，即使是生成式人工智能。正如我过去多次谈到的那样，模型的输出在某种程度上基于概率，这给出了一些出现错误（不良行为）的空间。
但是，在医疗环境中，假阳性或假阴性等错误的成本意味着什么呢？如果还不明显的话，金钱只是潜在错误的一小部分，无论是在医疗保健领域还是其他行业。与“生命的丧失”或“无法独立生活”的比较起来，金钱损失应该是一个较低的优先级。尽管我们的法律体系试图为这些事物分配货币价值，以便在分配损害赔偿的法庭案件中，但实际上这并不是同一回事，尤其是当涉及到你的生命或生活质量时。
联合医疗
最近有报道的联合医疗如何在其实践中使用机器学习的例子将“金钱”在医疗决策中赋予比“生命”更高的优先级的坏事凸显出来。这与模型实际上没有太多关系，因为如果愿意，可以教会一个模型优先考虑更好的医疗结果。
不幸的是，我们的医疗体系面临两个竞争性优先事项：护理质量和利润。我坚决反对这两者可以和平共存的观点，因为它们始终处于紧张状态，但美国体系仍然基于这个靠不住的基础。这是重要的一点，在谈论联合医疗究竟在做什么以及为什么时需要记住这一点。
UHC（几乎被普遍认为是美国最糟糕的大型健康保险公司，因为在实际支付医疗费用方面表现最差）所做的是：
- 个人已经付清保费，按照要求办理了所有手续，以便获得保险保障；
- 该人年纪较大和/或患病，需要住院治疗以康复伤病；
- UHC的模型基于病情和患者的一般特征，预测康复期所需的时间。该预测比医生建议的康复期要短得多；
- UHC相信模型而不是医生，拒绝支付较长的康复期，使患者在康复之前被拒之于护理设施之外。
许多医生和医学界学者谈到，当医保公司对医生已经过教育培训的医学意见提出异议时，他们从事“非执业医学”行为，而这种行为正好符合这种行为。当UHC（在模型的支持下）改变患者的护理方案时，我们还应该称之为什么呢？
但这并不是新鲜事，实际上，保险公司在对医生的选择进行反复推敲上并不需要模型的支持。这在我们的医疗保险体系中很常见，每天都在发生，如事前授权。保险公司会辩称，他们有其他的医生团队作为最后决策者，因此“非执业医学”并不适用，但这些医生明显的利益是站在保险公司这一边，而非患者。可以肯定这些医生永远不会为患者推荐比其主治医生更昂贵的护理。
应用机器学习
那么，为什么UHC的行为现在成为新闻？它与机器学习有什么关系呢？UHC用于确定这些老年患者的后疗护理时长的模型来自一家名为naviHealth的公司，该公司专门处理这些案例。从阅读他们的网站上，我能理解的最好的一点是，naviHealth找到了减少老年患者在护理设施中停留时间的方法。他们可能提供一些围绕病例管理的元素，在患者回家前与患者进行咨询。他们在网站上肯定声称可以为保险公司提供“显著的成本节约”。
但重要的一点是，这个名为“nH Predict”的模型声称可以告诉患者在离开家外的治疗环境中允许停留的最佳时长，表面上是为了获得最佳的护理效果，而实际上模型的阈值设置并不与护理效果相符，而是仅仅与成本节约相符。
换句话说：如果您允许患者在医院或康复设施中逗留，但他们已经准备好提前回家并这样做，那是很好的。没有人愿意在医院里呆的时间比必要的时间更长（您曾经尝试过那里的食物吗？）。通过提供高质量的护理、描述的病例管理和其他有益的服务，同时给患者提供所需的护理，这是一种成本节约。但UHC所做的不是通过提供这些服务并让患者提前离开医院来实现成本节约，而是拒绝为患者支付医院费用，所以无论他们是否准备好，患者都被赶出去并送回家。
但UHC所做的不是通过提供这些服务并让患者提前离开医院来实现成本节约，而是拒绝为患者支付医院费用，所以无论他们是否准备好，患者都被赶出去并送回家。
模型如何了解医疗
我想要明确的是，这不是“人工智能失控”，而是人类在做出不道德的决策，并利用机器学习来推卸责任。如果您想要在不考虑老年人的生活或健康后果的情况下把他们赶出医院，那么如果您是今天的美国保险商，您是可以做到的。您不需要模型来给您许可。但UHC意识到，我认为，如果他们有一个模型给出这些建议，而人类审阅者只需盖上戳，那么他们就有了遮掩的可能性，因为人们会假设模型具有某种程度的独立准确性。毕竟，模型肯定不会关注这种护理的价格标签！
但是请记住，模型只是将模式融合到数学语言中的一种尝试，它不能控制你提供什么信息，或教它回答什么问题。在创建一个预测住院护理天数的模型的情况下，你可以这样做：
- 收集大量过去的病人档案数据，其中某人受伤或生病，进入医院，接受住院康复护理，并有一个结果（好转、再次住院或去世）。
- 将这些档案转化为数值数据。将每名患者视为电子表格中的一行，并开始收集病人的年龄、初次受伤的严重程度、病人过去的病史数据，以及是否患有其他疾病（糖尿病、心脏病、痴呆症等等）。这些数据成为训练数据。最重要的是，你需要包括康复住院护理的天数和结果。
- 现在你需要提出问题。在这种情况下，模型训练的一种方式可能是这样的：“在具有良好预后的患者中，考虑到其病例的所有特征，他们需要进行多少天的康复住院护理？”然后，你可以将其与“在具有不良预后的患者中，考虑到其病例的所有特征，他们需要进行多少天的康复住院护理？”进行比较。这只是一种假设性的提出方式，还可以有其他很多方式提出问题和组织训练数据。
最后，你将得到每位患者的康复天数的估计。你可能会得到一个范围，或者你可能会得到以天数为基础的良好预后的概率，如果增加天数到一定点，那么概率会增加，如果超过一定点，则再次变得有风险。
请记住，康复天数与其他一切都不是独立的 – 你可能存在感染、并发症或其他疾病，这意味着长时间住院是必要的，不是为了好的原因（康复），而是为了不幸的原因（其他疾病）。因此，长时间留在医院也有潜在的危害，但这与住院天数无关。考虑时间顺序有助于理解可能发生因果关系的地方。
使用模型的结果
因此，我们有一个模型，如果我们告诉它我们关于患者的信息，那么它将给我们一个估计，即如果这个人要有一个良好的预后，他可能需要进行多长时间的康复住院。这里真正相关的问题是我们如何处理这些信息！
如果我们是统一医疗保健（UHC），我们的目标是为自己节省资金。我们选择估计的最低端，甚至低于模型对良好预后的推荐范围，并在那一点上停止支付护理费用。根据报道，这似乎是这个故事的发展方向。
然而，如果我们的目标是患者预后，让我们停下来好好思考一下。我们是否认为患者长时间住院或住院康复是出于非医疗原因？我们是否认为医生将患者送往康复的原因是不合适的？可能是什么原因？老实说，我很难想到有很多情况下这样做是有意义的。正如我之前提到的，谁想在病情好转后还呆在医院？如果这确实发生了，那么我们应该考虑改变医生的行为方式，但不能以牺牲患者的护理质量为代价。也许，医院高收费的医疗护理部门希望病人能再多呆一段时间，但医生的薪水与病人住院天数无关，医生的目标是患者康复。
我想表达的是，如果我们的目标纯粹是为了让患者康复，我不确定让这个模型参与其中是否有意义。目前，康复时间过长并不是我们患者健康面临的最大危险。
本文是关于机器学习的，这是我大多数读者来到这里的原因，但它也涉及到了医疗保健经济学的问题。这些问题对于所有美国人来说都很重要，因为医疗体系迟早会影响到我们。我还认为，对数据科学家来说，思考将模型投入到实际运作中真正意味着什么是很有意义的，不是从召回率和精确度的角度来看，而是从实际人类生活受到影响的角度来看。你对模型的优化负有责任。在构建模型时，你所做的决定会使该模型对人们和社会的影响是积极的还是消极的，并且你不能只是举手投降说“模型做了这个决定”。
即使您的模型不会对人们的医疗做出选择，它仍然对人们产生一些影响（如果没有的话，为什么要构建它呢？）我鼓励该领域的所有从业人员在工作中谨记这一点。
*医学社会学关心的问题可能包括：
- 患有慢性疾病的人如何看待自己和他们在社会中的地位？
- 当人们成为医疗保健提供者时，他们的生活和身份有何不同？
- 少数或弱势群体的长期健康结果是什么，它们与多数群体有何不同，以及为什么不同？
- 环境问题如何影响人们的健康，它们如何与社会结构/特权相互作用？
这只是其中几个例子-这个社会学领域涵盖了对人们的生活和福祉非常重要的许多方面。
查看更多我的作品，请访问www.stephaniekirmer.com。
参考资料
国会委员会、监管机构质疑允许Cigna医生拒绝理赔的系统
此次调查是跟随ProPublica和The Capitol Forum的调查，揭示Cigna允许其医生拒绝数百个理赔…
www.propublica.org
UnitedHealth使用错误的人工智能来拒绝老年患者的必要医疗保障，诉讼称
前受益人的家属声称UnitedHealth的人工智能系统“积极地”拒绝了对必要医疗的理赔…
www.cbsnews.com
主页- naviHealth
老年人中心护理的未来就在这里
navihealth.com
