研究揭示人工智能工具在诊断女性健康问题时存在偏见

佛罗里达大学的研究人员发现，旨在诊断影响女性的常见感染的机器学习算法在种族群体中表现出诊断偏差。

尽管人工智能工具为改善医疗保健服务提供了巨大潜力，但从业者和科学家警告称，它们可能会导致种族不平等长期存在。这是第一篇评估这些工具与女性健康问题相关的公平性的论文，发表在《npj Digital Medicine》上。

“机器学习可以成为医学诊断的一个很好的工具，但我们发现它可能对不同种族群体表现出偏见，”J. Crayton Pruitt Family 生物医学工程系副教授、该研究的作者 Ruogu Fang 说。“这对女性健康来说是令人担忧的，因为不同种族之间已经存在差异。”

研究人员评估了机器学习在诊断细菌性阴道病(BV)方面的公平性，细菌性阴道病是一种影响育龄妇女的常见疾病，不同种族之间存在明显的诊断差异。

Fang 和共同通讯作者 Ivana Parker 都是赫伯特·沃特海姆工程学院的教员，他们从 400 名女性中提取了数据，其中包括来自白人、黑人、亚洲人和西班牙裔等各个族裔群体的 100 名女性。

在调查四种机器学习模型预测无症状女性 BV 的能力时，研究人员表示，不同种族的准确性有所不同。西班牙裔女性的假阳性诊断最多，亚洲女性的假阴性诊断最多。

“这些模型在白人女性中表现最高，在亚洲女性中表现最低，”生物工程助理教授帕克说。“这告诉我们机器学习方法并没有平等地对待种族群体。”