一项研究发现，一种被广泛使用的算法存在种族偏见，这种算法帮助医院识别高风险患者，而这些患者最有可能受益于特殊的医疗保健计划。

 

研究人员在10月25日的《科学》(Science)杂志上发表报告称，消除这一算法中的种族偏见，沐鸣平台登陆Q554258可以使黑人患者自动获得专门项目的比例增加一倍以上，这些项目旨在减少糖尿病、贫血和高血压等慢性健康问题的并发症。

 

斯坦福大学生物伦理学家大卫·马格努斯(David Magnus)表示，这项研究“表明，一旦你破解了这个算法，了解了偏见的来源及其运作机制，你就可以纠正它。”马格努斯没有参与这项研究。

 

为了确定哪些患者应该接受额外的治疗，过去十年的医疗保健系统已经开始依赖机器学习算法，这些算法研究过去的例子，并识别模式，以学习如何完成一项任务。

 

市场上排名前十的医疗保健算法——包括研究中分析的Impact Pro——使用患者过去的医疗成本来预测未来的成本。预测成本被用来代替医疗需求，但支出可能不是最准确的衡量标准。研究表明，即使黑人病人与白人病人病情相同或更严重，他们在医疗保健上的花费也更少，包括看医生和处方药。研究人员说，这种差距的存在有很多原因，包括获得医疗服务的不平等，以及黑人对医疗服务提供者的不信任。这种不信任部分源于塔斯基吉实验(SN: 3/1/75)，在该实验中，数百名患有梅毒的黑人男性数十年来一直得不到治疗。

 

这项研究的共同作者、加州大学伯克利分校的机器学习和卫生政策专家Ziad Obermeyer说，由于这种错误的衡量标准，“这些[医疗]项目把错误的人放在了优先考虑的位置。”

 

对机器学习算法的偏见的关注——它现在正在帮助诊断疾病和预测犯罪活动，以及其他任务——并不是新的(SN: 9/6/17)。但是，由于研究人员很少能够接触到用于训练算法的数据，隔离偏见来源被证明是具有挑战性的。

 

然而，Obermeyer和他的同事们已经在与一家学术医院(研究人员拒绝透露其名称)合作进行另一个项目，该项目使用了Impact Pro，并意识到用于启动和运行该算法的数据可以在医院的服务器上获得。

 

因此，该团队分析了2013年至2015年该医院初级保健医生的患者数据，并放大了自认为是白人的43539名患者和自认为是黑人的6079名患者的数据。该算法为所有通过私人保险或医疗保险获得保险的患者提供了一个基于过去医疗成本的风险评分。

 

理论上，具有相同风险得分的患者应该是同样患病的。但研究人员发现，在他们对黑人和白人患者的抽样调查中，与白人患者风险得分相同的黑人患者平均患慢性病的比例更高。例如，对于超过第97个百分位的风险评分，也就是病人自动被纳入专门项目的那一点，黑人病人比白人病人多26.3%的慢性病——或者平均4.8个慢性病，白人病人比黑人病人多3.8个慢性病。排在第97百分位以上的病人中，不到五分之一是黑人。

 

Obermeyer把算法的偏见评估比作病人排队进入专门的程序。每个人都根据他们的风险评分来排队。但是“由于这种偏见，”他说，“更健康的白人病人排在黑人病人前面，尽管这些黑人病人的病情更严重。”

 

当Obermeyer的团队以慢性疾病的数量而不是医疗费用来对病人进行排名时，黑人病人的比例从17.7%上升到46.5%。