Twitter 宣布首个算法偏见赏金挑战赛

Twitter 宣布了其首个算法偏见赏金挑战赛，为那些可以帮助自己识别一系列问题的人提供 500 美元到 3,500 美元的现金奖励。

在去年遭到强烈反对后，该公司在 5 月承认其自动裁剪算法反复裁剪黑人面孔，而偏向于白人面孔。根据 Twitter 的研究，它也偏爱男性而不是女性。多个 Twitter 用户使用他们自己或前总统奥巴马等名人的照片证明了这一事实。

Twitter META 的主管 Rumman Chowdhury 解释说，该公司决定改变算法，并承认像 Twitter 这样的公司经常“一旦公开就发现意外的道德危害”。

上周五，Chowdhury 和 Twitter META 产品经理 Jutta Williams 公布了算法偏见赏金竞赛，他们说这是今年 DEF CON AI Village 的一部分。

在创建该程序时，他们受到了研究和黑客社区如何帮助安全领域建立识别和减轻漏洞以保护公众的最佳实践的启发。

他们表示 Twitter 希望建立一个类似的社区，但一个专注于机器学习伦理的社区将帮助公司“识别比我们自己能够识别的更广泛的问题”。

Chowdhury 和 Williams 写道：“通过这项挑战，我们的目标是在 Twitter 和行业内树立一个先例，以主动和集体识别算法危害。”

HackerOne 上有一个提交页面，人们可以在其中找到更多信息、用于为每个条目评分的标准以及如何进入的详细信息。参赛作品将由 Ariel Herbert-Voss、Matt Mitchell、Peiter "Mudge" Zatko 和 Patrick Hall 进行评判。

第一名获得者将获得 3,500 美元，第二名获得者获得 1,000 美元，第三名获得 500 美元。最具创新性和最具普遍性的人还将获得 1,000 美元的奖励。比赛的获胜者将于 8 月 8 日在 DEF CON AI Village 研讨会上宣布。