作者 jjimmy (注意健康 關心家人)標題 Re: [閒聊] 機器人三大法則有解嗎？時間 Fri Oct 27 10:31:25 2023
身為一個看過艾西莫夫作品、原子小金剛、浦澤正樹的PLUTO，還有一些有提到機器人受
人類限制作品的大叔，看到這篇文章後有感而發，在此想發表一點淺見。
(PS:我還沒看動畫，下面對PLUTO是對漫畫的印象)
誠如一些回覆的版友所言，艾西莫夫當初在機器人相關故事中，設了三原則這個前提，其
本質目的就是要嘗試打破。所以有不少故事會看到機器人在違反三原則的邊緣間遊走，而
引發許多機器人混亂、矛盾、甚至自我毀滅的結果。
這邊有一點可能在討論中沒被強調，就是在艾西莫夫的這些機器人要裝三原則，並非法律
規範的必要，而是不得不為。因為故事裡還有條不是討論中提到的第0原則的優先原則:正
子腦型機器人如果不裝三原則，則無法正常運作。運作後一旦違法了，輕則當機故障，重
則自我毀滅，再起不能。三原則對這些機器人來說，並不是法律規範那麼簡單的事情，用
比喻的話比較像人必須呼吸空氣來維持生命，一旦違反就不能呼吸了的生理機能一樣。
當然這麼多故事中，也有少數的機器人角色，搞了第0原則來 成功地突破三原則限制，成
為了比喻中不用呼吸也可以維持生命的超越存在。但大部分機器人還是難以突破。另外印
象還有為了不讓間接或無意中違反三原則的機器人出事，而故意欺瞞機器人的漏洞故事。
這個漏洞似乎只要不讓機器人意識到自己其實有違反了三原則，就不會故障。但如果它後
來還是發現了呢? 因為看過的印象時間有點久，這邊可能就需要有人補充了。
然後我曾看人提到過，艾西莫夫在某些作品中，有出現過不再受限於三原則也可以運作的
新型機器人。因為我自己沒印象看過這方面的故事，所以不方便討論這邊跑出了甚麼情節
來跟三原則激盪。但我知道有個相關改編作品有明顯出現這種機器人，就是威爾史密斯主
演的機械公敵(I, Robot)。這片就我的角度來看，算是呈現了大眾印象的三原則是什麼模
樣。
電影裡面三原則沒那麼被強調是機器人得以運作、思考的根本，看到更多的是裡面的大眾
認知的服從、安全保障機制，認為只要機器人有裝三原則，就不用擔心機器人對人類做甚
麼危險的事情。然後根據電影慣例，黑幕搞出了不用三原則也能動的新型機器人，導致安
全跟信任出了問題。片尾，被人懷疑有疑慮的新型機器人(不分是否是黑幕做的)，也沒有
重新改造，而只能大批地封印起來。
這個作法基本上也可以拿去比對其他借用三原則設定的作品上。然後就會發現，機械公敵
跟別的作品相比，其實真的比較接近艾西莫夫原本的作品。因為，它並沒有說，把新型機
器人回去加上三原則就可以繼續使用了。因為艾氏設定中，沒有辦法這樣做! 這些可以違
反三原則也不當機的新型，已經不需要三原則就可以運作了，哪把它加回去其實不會影響
它們的存亡。如果真要加，就是新的奴隸控制程式，類似裡面的黑幕操作它們一樣。
這點方面，絕大多數借用三原則的作品，其實就跟這些新型機器人對待的方式一樣，只是
把三原則當作西遊記中控制孫悟空的"緊箍咒"。在"不需要三原則也能行動"的機器人上面
另外加了限制程式。為什麼? 因為人類就是害怕啊! 機器人就是比人強很多啊，要是做出
對人不利的事情怎麼辦? 同樣的道理，如果有人發明了可以保證狗一定服從人類的晶片，
會不會就有人要求所有寵物狗都要裝這種晶片? 可能會有愛寵人士反對，但一定也會有怕
狗傷到的人支持。
印象原子小金剛系列有些機器人權倡導者，也就是基於這點，而提出不要給裡面的機器人
安裝所謂的"三原則"。但這無形中也透漏，就是這個作品裡面的機器人，不用裝三原則也
可以行動的事實，所以有時候才會跑出大壞蛋說:哈哈哈，我的機器人沒有裝三原則，受
死吧!人類警察!(跟著原子小金剛衝壞人基地也算勇敢了) 的場面。
也因為這一點啊，我一直對PLUTO 有個角色的存在，感到有點不解。如果它是要遵守三原
則才能運作的機器人，才比較有存在的道理。如果是只是把三原則當緊箍咒去控制機器人
不去傷害人類的世界觀，那麼，緊箍一定有解的方法吧? 有必要對它的存在感到那麼大驚
小怪嗎? 還是我一直誤解了PLUTO 的世界觀，裡面的機器人也是要有三原則才能行動的類
型?
最後，講個日本ACG 後來常見的引用三原則的笑話場景。我最早是在椎名高志的GS美神中
看到，裡面的卡奧斯博士做了新的機器人，卻被對方倒打一把才說自己忘了裝三原則。這
基本上又是上面把三原則當緊箍咒的模式。其實，對某些意圖不軌的反派來說，要給機器
人裝的根本不是三原則，而是"絕對服從自己"的程式。不然，如果今天你去征服世界，機
器人看到人類防衛隊來抵擋，就說"我不能傷害人類"，然後反派大喊"可是你要服從我的
命令"啊，導致機器人當場當機，這誰要看啊?
一點淺見，搏君一笑。
--
給全世界的孩子們愛與勇氣！！
這樣做的前提是－－首先讓他們感覺到恐怖－－！！
以一輩子無法遺忘的恐怖和衝擊，
使他們擁有一輩子無法遺忘的愛與勇氣！
by 富士鷹 操筆樂
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 36.224.210.147 (臺灣)
※ 作者: jjimmy 2023-10-27 10:31:25
※ 文章代碼(AID): #1bEo46Vk (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1698373894.A.7EE.html
※ 同主題文章:
Re: [閒聊] 機器人三大法則有解嗎？
10-27 10:31 jjimmy
※ 編輯: jjimmy (36.224.210.147 臺灣), 10/27/2023 10:34:00
推 ainamk: 要講小金剛的話其實還要講時常被遺忘的機器人十法1F 10/27 10:33
推 iam0718: 等AI機器人有感情的一天 大概就慘了3F 10/27 10:39
→ linzero: 現在就有不少人在擔心當今AI的發展了
像有條美軍訓練AI戰鬥的新聞就是AI判定人類是阻礙達成軍事目標的要素而去排除他4F 10/27 10:44
推 RoChing: 比起給人類用來限制機器人，三法更是機器人用來限制自己7F 10/27 10:47
→ iam0718: 人類如果被AI判定成病毒 或該死的那種也不是很意外8F 10/27 10:49
→ bluejark: 如果只是限制那就沒有智慧可言
這三原則會流行的原因就是因為他的矛盾等於人性的道德9F 10/27 11:05
推 lifehunter: 沒看過原子小金剛原作 但冥王看起來裡面機器人是有加入三原則 是當緊箍咒用 所以布萊鄔殺人 他們本來以為是AI(緊箍)壞掉 但檢查後發現他的AI(緊箍)好好的
所以科學家才害怕 因為這表示緊箍咒是有Bug在的 而且還不知道Bug出在哪 那表示現在路上成千上億的機器人都不安全 隨時都可能暴起殺人~11F 10/27 11:29
→ xxx60709: 不用艾氏設定，是因為那個強制安裝理由完全不合邏輯也不合現實
嘛，這也是艾氏作品常見的漏洞缺陷就是17F 10/27 11:44
→ bluejark: 這個科幻理論同時也是有諷刺人類社會
一方面是人類對機器反叛的恐懼另有對人類社會的檢討
其中一個就是覺得AI為了保護人類而消滅人類20F 10/27 11:55
--