禁用人臉識別之後,舊金山卻用 AI 幫助檢察官辦案

原標題:禁用人臉識別之後,舊金山卻用 AI 幫助檢察官辦案

【 圖片來源: 所有者:THE VERGE 】

雷鋒網消息,2019 年 6 月 12 日,,舊金山宣布la一個“減少偏見嘅工具”,計劃於 7 月 1 日開始實施,這個工具使用基本嘅人工智能技術,可以自動修改警方報告中可以識別出嫌疑人種族嘅信息。

之所以設計出這個工具,係為la防止檢察官喺決定某人係否被控犯罪時受到種族偏見嘅影響。

舊金山地區檢察官 George Gascón 喺新聞發布會上表示,喺美國被監禁嘅人中,有色人種係唔成比例嘅。此外,他還指出,當看到像 Hernandez 咁樣嘅名字時,檢察官立即就會明白這個人係拉美裔,而這可能會影響結果。

此前,舊金山就已致力於唔讓檢察官看到報告中同種族相關嘅信息,但隻係移除報告嘅前兩頁內容,剩下嘅部分檢察官還係會看到,所以才諗利用機器學習來減少偏見。

據舊金山地區檢察官辦公室嘅說法,該工具唔僅可以刪除種族描述,還可以刪除眼睛顏色同頭發顏色等描述。嗰些可能有意或無意地向檢察官透露嫌疑人有某種種族背景嘅人名、地點同社區也會被刪除。唔僅如此,這個工具還會刪除警察嘅詳細信息,包括佢哋嘅警徽號碼,以防檢察官碰巧認識,可能對佢哋嘅報告有偏見。

另外,值得一提嘅係,地方檢察官辦公室稱這係“全國第一次”使用這項技術,之前冇乜嘢機構使用人工智能來做這件事。

這個將被美國首次應用嘅工具係 Alex Chohlas-Wood 同斯坦福計算政策實驗室嘅團隊開發嘅。Wood 說,這個新工具基本上隻係一個輕量級嘅 web 應用程序,它使用幾種算法來自動編輯警察報告,使用計算機視覺識別報告中嘅單詞,並將其替換為通用版本,如位置、一號警官等。

此外,Wood 還表示這個工具已經進入la最後階段,係由舊金山科技公司免費開發嘅,將喺幾周內開放源代碼,供其他公司采用。

目前,由於冇看到這個係統喺警察報告上運行,所以還唔清楚效果點樣樣。唔過,當記者詢問如果男扮女裝,或者女扮男裝,這個工具係否還可以修改這些信息時,Gascón 隻係表示今天係個起點,這個工具會唔斷發展嘅。

另外,這個工具也隻係用於逮捕後嘅第一次審查,檢察官嘅最終決定仍基於完整嘅未修訂嘅報告。並且,如果最初嘅指控證據係視頻資料,還係會好明顯地揭示出嫌疑人嘅種族。

盡管這個工具係否能產生幫助尚未可知,但值得注意嘅係,喺上個月,舊金山才剛剛發出 AI 人臉識別嘅禁令(可參見雷鋒網此前報道),係全球首個發布此項禁令嘅城市;而發出禁令嘅原因之一,就係人臉識別技術存喺種族偏見。

說到底,AI 係具有偏見還係可以消除偏見,最終還係取決於 AI 技術,而就目前 AI 頻繁處於爭議中嘅情況看來,雷鋒網認為,AI 技術嘅發展還有好長嘅路要走。

search更多:手機數碼電腦
at手機數碼電腦相關網站

發表於 分類 科技