※ 本文轉寄自 ptt.cc 更新時間: 2017-11-06 21:35:47
看板 Gossiping
作者 標題 [新聞] 研究人員展示AI的弱點：把烏龜辨識為槍枝
時間 Mon Nov 6 20:02:02 2017
1.媒體來源:
iThome
2.完整新聞標題:
※ 標題沒有寫出來 ---> 依照板規刪除文章
研究人員展示AI的弱點：把烏龜辨識為槍枝
3.完整新聞內文:
※ 社論特稿都不能貼! 違者刪除(政治類水桶3個月)，貼廣告也會被刪除喔!
https://imgur.com/0LASbiz
![[圖]](https://i.imgur.com/0LASbiz.jpg)
你會把上面圖片中的烏龜，誤認成來福槍嗎？應該不會吧，但Google釋出的InceptionV3
影像分類器，不管從那個角度，都認為這是一支來福槍
文/陳曉莉 | 2017-11-06發表
麻省理工學院（MIT）的AI實驗室LabSix上周發表一研究報告，以合成的3D對抗物件（
adversarial objects）來愚弄受過訓練的神經網路，顯示基於人工智慧的神經網路存有
弱點，把人類可輕易辨識的烏龜當成是槍枝。
在人們愈來愈信任人工智慧（AI）的當下，除了AI可能延襲人們的偏見而引發討論之外，
研究人員也發現AI仍有可遭受攻擊的安全漏洞。
研究人員說明，基於神經網路的分類器在許多任務上可達到近似人類的效能，也被應用在
高風險的實體系統上，不過，這些神經網路在遇見對抗物件時特別虛弱，當透過某些輸入
值來困擾它們時，就會造成神經網路在分類上的錯亂。
高風險的實體系統上，不過，這些神經網路在遇見對抗物件時特別虛弱，當透過某些輸入
值來困擾它們時，就會造成神經網路在分類上的錯亂。
過去的對抗物件演算法並不成熟，物件可能轉個角度就能讓AI成功辨識，相關的攻擊行動
也只是理論上的。然而，LabSix採用了一個全新的演算去，可用來產生可靠的2D或3D的對
抗範例，它完全愚弄了Google的InceptionV3影像分類引擎，不管從哪個角度，
也只是理論上的。然而，LabSix採用了一個全新的演算去，可用來產生可靠的2D或3D的對
抗範例，它完全愚弄了Google的InceptionV3影像分類引擎，不管從哪個角度，
InceptionV3都會將烏龜辨識成槍枝，或是把棒球當成咖啡，就算是加入背景，
InceptionV3也會以為在水裡的烏龜是槍枝，而手套中的棒球是咖啡。
研究人員認為，若對抗物件被證實是個針對AI的可靠攻擊指標，那麼就應該發展防禦它的
能力。它可能被用來攻擊自動駕駛車，透過混淆的道路指標來愚弄AI系統，像是竄改道路
速限，或是精心打造一個可矇騙機場掃描系統的行李箱。
能力。它可能被用來攻擊自動駕駛車，透過混淆的道路指標來愚弄AI系統，像是竄改道路
速限，或是精心打造一個可矇騙機場掃描系統的行李箱。
4.完整新聞連結 (或短網址):
https://www.ithome.com.tw/news/118052
研究人員展示AI的弱點：把烏龜辨識為槍枝 | iThome
![[圖]]()
你會把上面圖片中的烏龜，誤認成來福槍嗎？應該不會吧，但Google釋出的InceptionV3影像分類器，不管從那個角度，都認為這是一支來福槍 ...
![[圖]](https://s4.itho.me/sites/default/files/field/image/wu_gui_bian_shi_cheng_lai_fu_qiang_.jpg)
5.備註:
說個笑話：人工智慧
--
推 : 雷姆教 雷姆教 雷姆幫你蕊懶叫08/22 00:40
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 220.132.107.225
※ 文章代碼(AID): #1Q04z51I (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1509969733.A.052.html
噓 : 五樓把馬眼當成屁眼肛1F 11/06 20:02
→ : 天網：等我上線你們就知道2F 11/06 20:02
推 : 烏龜外掛~~~~~~~~~~啟動~~~~~~~~~~~~~~~~~~~~~~~~~~~~~3F 11/06 20:03
推 : 五樓馬眼被當成屁眼肛4F 11/06 20:03
→ : 呵呵5F 11/06 20:03
推 : 某種意義上也不算錯6F 11/06 20:03
→ : 很好 一樓四樓我們法院見7F 11/06 20:03
→ : 對不起 我錯了8F 11/06 20:04
推 : 告不成9F 11/06 20:04
噓 : 現在的AI都還不算AI吧10F 11/06 20:05
→ : 在推文時5樓是不特定人選11F 11/06 20:05
推 : 小龜～12F 11/06 20:05
![[圖]](https://i.imgur.com/vkeVgIK.jpg)
推 : 應該說目前AI只有某些面向，而且多數仰賴大數據14F 11/06 20:07
→ : 哪有錯？！ 樓下脫褲子15F 11/06 20:09
推 : 看你覺得視覺算不算智慧囉16F 11/06 20:09
推 : 視覺的模式辨識反而是非常難的AI課題，最近才有突破17F 11/06 20:12
推 : 烏龜的頭跟槍枝不是一樣的東西嗎！？18F 11/06 20:13
推 : 拍謝啦。拉鍊沒拉好。這麼長辨識錯誤情有可原19F 11/06 20:16
推 : AI發展起來會比原PO還聰明 技術奇異點20F 11/06 20:19
→ : 不是一樣嗎21F 11/06 20:22
→ : 因為龜頭是武器?22F 11/06 20:29
推 : 都是長長一條23F 11/06 20:32
推 : 看來我跨下有很大一支槍呢24F 11/06 20:37
推 : 然後就被機器戰警打死了25F 11/06 20:43
→ : 幹 上面的麵包圖好噁爛XD
→ : 幹 上面的麵包圖好噁爛XD
推 : 進步很快，明年搞不好就沒這些問題了27F 11/06 20:45
推 : 這AI玩過瑪莉兄弟 知道烏龜可以當武器使用28F 11/06 20:49
推 : ai表示人類竟然把槍看成烏龜29F 11/06 21:06
--
※ 看板: K_hot 文章推薦值: 0 目前人氣: 0 累積人氣: 58
回列表(←)
分享