外媒 | Dandelion Health开展试点，评估AI的表现和潜在偏差-普瑞纯证

纽约初创公司Dandelion Health Data Consortium，也称Dandelion Health，正在利用其由三个主要健康系统——San Diego的Sharp HealthCare、South Dakota的Sioux Falls的Sanford Health和Texas的Arlington的Texas Health Resources——组成的联盟，聚合和去识别临床数据，以验证算法。据今天的声明，Dandelion首先将运行其数据集上的心电图算法，该数据集涵盖了1000万患者，以衡量人工智能在关键种族、民族和地理子群体中的表现和偏差。

这家初创公司表示，这项首创性服务解决了验证算法针对预期人群的表现的基本难题——获得涵盖多样化人群的高质量临床数据集，并将患者隐私放在第一位，这需要高成本和难以找到。Dandelion承诺尽可能让更多的预测分析心电图波形的算法开发者获得这项服务。

任何拥有合法权利的研究人员或公司都可以上传其心电图算法到符合HIPAA和SOC-2标准的平台，并指定他们想要查询的性能指标。用户将签署合同以保护其IP地址，使用提供的样本数据对算法进行预处理，在模板中编写约10行包装器代码，提交容器并确认他们已经准备好进行验证。然后，Dandelion将在大约500,000个记录上运行该算法，收集和计算结果，并发送报告。

Dandelion Health的CEO兼联合创始人Elliott Green表示：“当算法在剑桥或帕洛奥托的数据集上进行训练，然后应用于其他人群——不同的地理位置、不同的护理环境或不同的种族和民族混合的患者群体——算法的表现可能会大幅降低。了解算法的整体表现以及最脆弱的患者群体的表现至关重要，这些群体通常不在算法训练数据集中。我们的试点计划回答了以下问题：你的算法是否执行其所应执行的任务？对于所有人，它是否执行得公平？”

Dandelion表示，参与的研究人员和公司的名称永远不会公开，并且结果仅提供给算法开发者，除非他们授权其他人获得结果。

版权声明 本网站所有注明“来源：普瑞纯证”或“来源：pureFDA”的文字、图片和音视频资料，版权均属于普瑞纯证网站所有。非经授权，任何媒体、网站或个人不得转载，否则将追究法律责任。取得书面授权转载时，须注明“来源：普瑞纯证”。其它来源的文章系转载文章，本网所有转载文章系出于传递更多信息之目的，转载内容不代表本站立场。