您现在的位置是:首页 > 机器人网站首页机器人

一个去偏见算法的人工智能

  • 机器人
  • 2020-03-24 18:46:24

我们近年来了解到,人工智能系统可能是不公平的,这是危险的,因为它们越来越多地被用来做从预测犯罪到确定我们消费的新闻的一切。 去年的研究显示了面部识别算法的种族主义,这证明了人工智能的一个基本真理:如果你用有偏见的数据训练,你就会得到有偏见的结果。

麻省理工学院CSAIL的一个团队正在研究一个解决方案,该算法可以通过重新采样使数据更加平衡,自动“去偏差”数据。

该算法可以学习特定的任务,如人脸检测,以及训练数据的底层结构,这使得它能够识别和最小化任何隐藏的偏差。 在测试中,该算法比最先进的面部检测模型减少了60%以上的“分类偏差”,同时保持了这些系统的整体精度。 研究小组在去年麻省理工学院媒体实验室的研究人员开发的相同的面部图像数据集上对该算法进行了评估。

在这一领域,许多现有的方法至少需要一定程度的人类投入到系统中,以定义研究人员希望它学习的特定偏见。 相比之下,MIT团队的算法可以查看数据集,了解其内部隐藏的内容,并自动重新采样以使其更公平,而不需要循环中的程序员。

PhPh说:“面部分类是一种经常被视为“已解决”的技术,即使很明显,正在使用的数据集经常没有经过适当的审查。 D.学生亚历山大·阿米尼,他是本周在人工智能、道德和社会会议上提交的一篇相关论文的共同主要作者。 “纠正这些问题特别重要,因为我们开始看到这些算法被用于安全、执法和其他领域。

阿米尼说,该团队的系统将特别适用于更大的数据集,这些数据集太大,无法手动审查,也扩展到其他计算机视觉应用程序,超出了面部检测。


Top