麻省理工学院的研究人员致力于消除人工智能

麻省理工学院计算机科学与人工智能实验室的研究人员正在努力开发一种算法，该算法可以自动“消除”人工智能模型的数据，这一问题困扰着该技术在医疗领域的日益普及。

“公平和公正的AI系统的开发和部署对于防止意外歧视和确保长期接受这些算法至关重要，”麻省理工学院的博士生Alexander Amini等人说。写在纸上。“我们设想，所提出的方法将作为促进现代AI系统的系统化，算法公平性的附加工具。”

上个月在夏威夷举行的人工智能，伦理与社会会议上介绍了该团队正在进行的工作。根据该论文，团队的深度学习算法可以同时学习所需的任务和训练数据的潜在结构，这意味着该算法可以查看数据集，了解其中隐藏的内容，并自动对其重采样以更公平，而无需使用一个程序员。

作者解释说，学习潜在结构可以使研究人员发现训练数据中的隐性或隐性偏差。

“我们的算法建立在变分自动编码器(VAE)之上，能够识别训练数据集中代表性不足的示例，从而提高学习算法对这些数据点进行采样的概率，” Amini等人。写道。

当将该算法应用于面部检测数据集时，该模型显示出更高的分类准确性，并降低了种族和性别之间的分类偏差。它能够将分类偏差降低60%以上。

阿米尼在一份准备好的声明中说：“尤其是面部分类是一种通常被视为'解决'的技术，即使很明显，经常使用的数据集没有得到适当的审查。” “解决这些问题尤其重要，因为我们开始看到在安全，执法和其他领域中使用这些算法。”

随着基于AI的产品的最近兴起，确保AI算法不会延续临床偏见已在整个行业中广泛讨论。包括美国医学协会和加拿大安大略省的圭尔夫大学在内的多家机构已经为解决这一问题做出了努力。

（编辑：济源站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!