看板 Practice
作者 標題 [新聞] 糗了！Amazon 的人臉辨識將黑人議員辨識為罪犯
時間 2018-07-30 Mon. 07:00:41
糗了！Amazon 的人臉辨識將黑人議員辨識為罪犯
作者 陳 瑞霖 | 發布日期 2018 年 07 月 27 日 18:45 | 分類 AI 人工智慧 follow us in feedly
人臉辨識在追捕犯人，或是協尋失蹤人口是相當好用的工具，但可能侵犯人權和過度介入人民生活卻是隱憂。如今又爆出訓練出來的人臉辨識 AI 出錯，人權團體用 Amazon 的人臉辨識程式 Rekognition 來掃國會議員，卻將不少位議員誤認為罪犯，其中大部分是黑人議員。
美國人權團體美國公民自由聯盟 (American Civil Liberties Union，ACLU) 的部落格發佈他們的發現結果，他們用 Amazon 的人臉辨識程式 Rekognition，掃描所有美國眾議院、參議院議員，預設的信賴區間 80% 下去做，這意味有 80% 的機會辨識正確。
ACLU 運用公共資料庫中 25,000 個大頭照為訓練素材，再去辨認國會議員。結果發現有 28 位議員有被誤判狀況，辨識為犯人。有 40% 的誤判狀況是有色人種，儘管全部國會的人中，只有 20% 是有色人種。
當訓練資料不夠代表普及狀況時，AI 的辨識效果會被有偏差的資料誤導，導致出來的結果出問題。Amazon 發言人回應，稱用人臉辨識在警政、執法上面，信賴區間要設高些，至少要 95%。
先前 Google 也曾發生類似事情，Google 相簿將上傳的黑人女性，辨識為大猩猩。
https://technews.tw/2018/07/27/oops-...-black-lawmakers-as-criminals/
--
※ 作者: DrPlague 時間: 2018-07-30 07:00:41
※ 看板: Practice 文章推薦值: 0 目前人氣: 0 累積人氣: 77
回列表(←)
分享