Twitter 宣佈首個算法偏見賞金挑戰賽

Twitter 宣佈了其首個算法偏見賞金挑戰賽，為那些可以幫助自己識別一系列問題的人提供 500 美元到 3,500 美元的現金獎勵。

在去年遭到強烈反對後，該公司在 5 月承認其自動裁剪算法反覆裁剪黑人面孔，而偏向於白人面孔。根據 Twitter 的研究，它也偏愛男性而不是女性。多個 Twitter 用戶使用他們自己或前總統奧巴馬等名人的照片證明了這一事實。

Twitter META 的主管 Rumman Chowdhury 解釋說，該公司決定改變算法，並承認像 Twitter 這樣的公司經常“一旦公開就發現意外的道德危害”。

上週五，Chowdhury 和 Twitter META 產品經理 Jutta Williams 公佈了算法偏見賞金競賽，他們說這是今年 DEF CON AI Village 的一部分。

在創建該程序時，他們受到了研究和黑客社區如何幫助安全領域建立識別和減輕漏洞以保護公眾的最佳實踐的啟發。

他們表示 Twitter 希望建立一個類似的社區，但一個專注於機器學習倫理的社區將幫助公司“識別比我們自己能夠識別的更廣泛的問題”。

Chowdhury 和 Williams 寫道：“通過這項挑戰，我們的目標是在 Twitter 和行業內樹立一個先例，以主動和集體識別算法危害。”

HackerOne 上有一個提交頁面，人們可以在其中找到更多信息、用於為每個條目評分的標準以及如何進入的詳細信息。參賽作品將由 Ariel Herbert-Voss、Matt Mitchell、Peiter "Mudge" Zatko 和 Patrick Hall 進行評判。

第一名獲得者將獲得 3,500 美元，第二名獲得者獲得 1,000 美元，第三名獲得 500 美元。最具創新性和最具普遍性的人還將獲得 1,000 美元的獎勵。比賽的獲勝者將於 8 月 8 日在 DEF CON AI Village 研討會上宣佈。