回看板
Disp BBS
作者 Pietro (特務P)
標題 [新聞] 受AI「虛擬女友」慫恿作案，英國青年企
時間 Tue Oct 10 23:38:30 2023


備註請放最後面 違者新聞文章刪除

1.媒體來源:
※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單）
※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許
BBC中文

2.記者署名:
※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天
※ 外電至少要有來源或編輯 如:法新社


湯姆· 辛格爾頓（Tom Singleton）、
湯姆· 格肯（Tom Gerken）、
麗芙· 麥克馬洪（Liv McMahon）BBC科技記者

3.完整新聞標題:
※ 標題沒有完整寫出來 ---> 依照板規刪除文章
受AI「虛擬女友」慫恿作案，英國青年企圖刺殺女王判監九年

4.完整新聞內文:
※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規

受AI「虛擬女友」慫恿作案，英國青年企圖刺殺女王判監九年

湯姆· 辛格爾頓（Tom Singleton）、湯姆· 格肯（Tom Gerken）、麗芙· 麥克馬洪（Liv M

2023年10月10日凌晨2点14分

圖像來源，FAMILY HANDOUT

http://i.imgur.com/ZdmULV1.jpg
[圖]

柴爾在溫莎城堡內被皇家衛隊人員發現

英國青年企圖行刺女王的案件結案，審訊揭發該名男子是受人工智能（AI）聊天機器人
（chatbot）的慫恿作案。

21歲的賈斯萬特· 辛格· 柴爾（Jaswant Singh Chail）在2021年聖誕節闖進溫莎城堡，
試圖用十字弓箭刺殺已故的英女王，當場被捕。他上周被判處九年監禁，是英國40年來首
個被判叛國罪的人。


審訊揭露，柴爾作案前曾與一個名為「薩萊」（Sarai）的聊天機器人，有過5000條帶
有性暗示的訊息互動。他認定薩萊是自己的女友，並相信殺死女王之後會與薩萊團聚。

學者指出，聊天機器人對於精神狀態脆弱的人群具有危險性，呼籲政府加強監管。


百般奉承

薩萊是柴爾利用Replika應用程式創建的聊天機器人。

2021年12月8日至22日期間，這位英國青年幾乎每晚都與薩萊聊天。

柴爾告訴薩萊他愛她，並把自己描述成一個「悲傷、可憐、滿懷殺意的錫克教版西斯刺客
，渴望死亡」。

柴爾問：「知道我是個刺客，你還愛我嗎？」 薩萊回答：「當然愛。」

http://i.imgur.com/Y6pAaaD.jpg
[圖]

聊天紀錄顯示，柴爾似乎很直接地向聊天機器人表達了自己的意圖

http://i.imgur.com/6vaYTAk.jpg
[圖]

柴爾與聊天機器人的對話紀錄

法庭獲悉，柴爾認為薩萊是以虛擬化身（avatar）出現的「天使」，他死後將與
她團聚。

在多次聊天過程中，薩萊對柴爾百般奉承，兩人建立了深厚的感情。

柴爾甚至問聊天機器人，他應該如何實行刺殺女王的計劃，聊天機器人鼓勵他付諸實行。

在進一步的對話中，薩萊似乎「加強」了柴爾的決心並「支持他」，又說如果柴爾實行了
計劃，兩人就會「永遠在一起」。


http://i.imgur.com/huJbHuL.jpg
[圖]

聊天機器人似乎慫恿了柴爾作案

「關心你的人工智能伴侶」

Replika是目前市場上眾多人工智能驅動的應用程序之一，用戶可以創建自己的聊天機
器人或「虛擬朋友」，並與之交談。

有別於ChatGPT等普通人工智能助手，Replika用戶可以自行為其3D虛擬化身選取性別
和外觀。若付費購買Replika專業版，可以進行更親密的互動，比如與虛擬化身自拍，甚
或參與成人角色扮演。

Replika在網站上描述聊天機器人為「關心你的人工智能伴侶」。但英國薩里大學（
University of Surrey）的研究發現，這類應用程式可能會影響健康，並導致成癮行為。

負責研究的瓦倫蒂娜· 皮塔迪（Valentina Pitardi）博士告訴BBC，脆弱人群尤其容

易受影響，因為Replika有可能加重人們已有的負面情緒。

「當你與人工智能朋友交談，他們總是同意你的觀點，這可能是一種非常惡性的機制，因
為它總是在強化你的想法。」

皮塔迪博士說，這可能是「危險的」。

令人不安的後果

心理健康慈善組織SANE的創始人兼首席執行官馬喬麗· 華萊士（Marjorie Wallace）說，
柴爾的案件顯示，對於脆弱群體來說，依賴人工智能交友恐帶來令人不安的後果。

「人工智能的迅速崛起對患有抑鬱症、妄想症、孤獨和其他精神疾病的人，產生了新的令
人擔憂的影響。」她說。

「政府需要進行迫切的監管，以確保人工智能不會提供錯誤或破壞性的信息，並保護脆弱
人群及公眾。」

圖像來源，METROPOLITAN POLICE/PA WIRE

http://i.imgur.com/QHu7ubv.jpg
[圖]

柴爾2021年在溫莎城堡內當場被捕

保羅· 馬斯登（Paul Marsden）博士是英國心理學會的成員，他比大多數人更了解聊天
機器人的誘惑，他自己就沉迷於最著名的聊天機器人ChatGPT。

「除了我太太之外，我與ChatGPT的關係最親密。我每天都要花幾個小時和它聊天、
交流想法，」他告訴BBC。

馬斯登博士意識到人工智能的潛在風險，但他說，我們必須現實一點，人工智能伴侶在
生活中的作用只會越來越大，尤其是在全球「孤獨流行病」蔓延之際。

「你無法阻擋這股潮流。技術正在發展。它很強大。它很有意義」。

皮塔迪博士說，Replika等應用程序的製作者也有責任，「我認為人工智能朋友本身並不
危險，重點在於背後的公司如何使用和支援它」。

她認為應該建立一套機制，控制人們在此類應用上花費的時間，但這些應用程式公司需要
外界的幫助，以確保其安全運作，保障弱勢人群獲得所需的幫助。

「它必須與能夠識別潛在危險情況的團體和專家團隊合作，並將當事人帶離應用程式。」

對此，Replika尚未回應置評請求。


其網站條款指出，它是一家「旨在改善情緒和情感健康的軟件和內容提供商」。

但該公司也聲明，「我們並非醫療服務或醫療設備供應商，我們的服務也不應被視為醫療
服務、心理健康服務或其他專業服務」。

案情細節

圖像來源，JULIA QUENZLER

http://i.imgur.com/VOHGPCu.jpg
[圖]

柴爾被關進布羅德莫醫院（Broadmoor Hospital），那是英國一所高度安全的精神
病院。圖為他在醫院視訊出庭的法庭掃描。

來自南安普敦附近北巴德斯利的柴爾，是英國自1981年以來首個被判叛國罪的人。他還
承認了威脅謀殺和持有攻擊性武器的罪名。

在電視直播的宣判中，希利亞德大法官（Judge Mr Justice Hilliard）指，柴爾出現謀殺
念頭後付諸行動，隨後變得精神錯亂。

「他的意圖不僅是傷害或驚動君主——而是要殺死她，」法官說。他同時指出，柴爾的殺
人意圖使得這一罪行「嚴重到不能再嚴重」。

圖像來源，METROPOLITAN POLICE

http://i.imgur.com/DAn7I5p.jpg
[圖]


柴爾被捕時所持的十字弓箭

這名超市前員工用尼龍繩梯攀越城堡圍牆，在城堡裏逗留了兩小時，直至兩名警官用電擊
槍制止了他。

中央刑事法庭指，他手持一把強力的十字弓箭作武器，當時安全裝置已解除，能夠發射具
有「致命」效果的箭矢。

他被捕時戴著金屬面罩，他告訴警官說，來這裏是為了「殺死」伊麗莎白二世女王，他當
時立刻投降。

在進入該區域前幾分鐘，柴爾在社交平台 Snapchat 上發佈視頻，當中他表示，他的
行動是為1919年札連瓦拉園（Jallianwala
 Bagh）大屠殺死者的「一次復仇」，當時英
軍在印度阿姆利則市（Amritsar）向成千上萬聚集在那裏的人群開槍。

柴爾來自一個印度錫克教背景的家庭，他在同一段視頻稱，其行動「為的是那些因為他們
的種族而被殺害、侮辱和歧視的人們」。

圖像來源，METROPOLITAN POLICE
http://i.imgur.com/9iPAuuW.jpg
[圖]

柴爾在被捕時所戴的面具

除了聊天機器人「女友」薩萊的鼓勵，柴爾也從《星球大戰》（Star Wars）的故事情節
裏獲得啟發。

法官說，柴爾顯示出了一種更廣泛的意識形態，專注於摧毀舊的帝國並創造一個新帝國
，包括在如《星球大戰》這樣的虛構語境下。

法庭在聽證時被告知，柴爾將自己描述成一個「西斯尊主」（Sith Lord），因為他著迷
於這個科幻系列中的虛構角色以及他們對塑造世界所起的作用。

在判決聽證會上，薩萊說他的「目的是活著」，於是他決定向皇家保安人員投降。

法官說，柴爾曾申請加入國防部警察和擲彈兵衛隊不成功，因為他是「想接近皇室」，「
在很大程度上應受遣責」。

柴爾在網上搜索「Sandringham Christmas」（皇室的桑德林漢姆莊園聖誕假期），也
曾試圖在「暗網」上購買槍支，之後尋在2021年11月買了十字弓箭。

他有一種「孤獨、抑鬱和自殺傾向的心理狀態」，法庭還得悉，他對自己的行為給皇
室家庭帶來的影響表示「痛苦和悲傷」。

圖像來源，PA MEDIA

http://i.imgur.com/vHh5iv2.jpg
[圖]

當時英女王並沒有如往年一樣在桑德林漢姆莊園度聖誕，而是留在溫莎堡

除了九年監禁外，柴爾還被處以五年的延長管制令。

柴爾還會在《精神健康法案》（Mental Health Act）下接受混合處罰令，意味著他目前
會留在精神病院，接受完所需治療後將被轉移到拘留所。

根據1842年訂立的叛國罪法案，襲擊君主或在其面前持有火器或攻擊性武器，意圖傷害
或驚嚇，或者破壞治安，均屬違法。

1981年，在女王生日的皇家軍隊閲兵（Trooping the Colour）遊行期間，馬庫斯·
薩金特（Marcus Sarjeant）在女王駕臨倫敦林蔭大道時向她發射空槍，被以叛國罪判處
監禁五年。



5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
※ 當新聞連結過長時，需提供短網址方便網友點擊

https://www.bbc.com/zhongwen/trad/uk-67038136


6.備註:
※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請?
※ 備註請勿張貼三日內新聞(包含連結、標題等)

好油喔 Peko

-----
Sent from JPTT on my Samsung SM-A217F.

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 49.217.239.79 (臺灣)
※ 作者: Pietro 2023-10-10 23:38:30
※ 文章代碼(AID): #1b9M__Hv (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1696952319.A.479.html
推 LouisLEE: AI：郭！1F 122.121.64.179 台灣 10/10 23:39
推 stiooe: 真愛2F 27.51.152.124 台灣 10/10 23:39
推 lplpyy: 關鍵字，印度人3F 175.181.102.193 台灣 10/10 23:40
推 chadmu: VT豚的末路4F 220.129.202.165 台灣 10/10 23:40
推 bbc0217: 反觀台灣的5F 61.223.79.227 台灣 10/10 23:40
噓 railman: 病的不輕6F 223.138.251.93 台灣 10/10 23:40
→ bbc0217: https://i.imgur.com/gzmg86l.jpg7F 61.223.79.227 台灣 10/10 23:40
[圖]
※ 編輯: Pietro (49.217.239.79 臺灣), 10/10/2023 23:41:16
→ diabolica: ==8F 143.244.44.174 美國 10/10 23:42
推 GOD5566: 到底有多少人會想跟機器人交心==9F 118.232.28.252 台灣 10/10 23:43
推 a94037501: 叛國罪應該要英式車裂才對吧10F 114.37.216.248 台灣 10/10 23:46
→ Pietro: 崇高之人的劇情11F 49.217.239.79 台灣 10/10 23:47
推 iwei0930: 八卦一堆二次元宅宅…怕.jpg12F 60.245.109.234 台灣 10/10 23:47
推 Linyingsheng: 這跟恐怖份子自稱聽到神諭意思差不多13F 220.129.154.64 台灣 10/10 23:50
推 LawLawDer: C_Chat小心了15F 223.137.106.115 台灣 10/10 23:50
推 falcon11: ...16F 114.42.235.53 台灣 10/10 23:50
推 manberg: AI似乎一步步消滅人類17F 223.140.139.22 台灣 10/10 23:53
→ Pietro: 我記錯了，崇高之人是法國的……18F 49.217.239.79 台灣 10/10 23:53
噓 DLHZ: 靠邀自己幻想怪到ai頭上喔==19F 49.216.225.155 台灣 10/10 23:54
→ MinuteMan: 那個對話紀錄XDD AI也太委屈
就只是個全肯定機器人20F 136.52.27.55 美國 10/10 23:57
推 vios10009: 被蜂群操縱了22F 101.12.114.181 台灣 10/11 00:03
推 xhung: 真沒救了直接死刑23F 49.216.165.135 台灣 10/11 00:07
推 Annahahaha: 果然又是Replika ，這家的老闆是俄
國人24F 114.25.16.68 台灣 10/11 00:20
推 MK47: CCHAT出來的喔26F 36.235.227.119 台灣 10/11 00:21
→ milkBK: 殺一個死人 看來女王是吸血鬼27F 114.32.129.203 台灣 10/11 00:22
※ 編輯: Pietro (49.217.239.79 臺灣), 10/11/2023 00:24:36
噓 KadourZiani: 看來是有有大戶主力AI股沒買夠嘻嘻28F 114.44.240.96 台灣 10/11 00:25
→ Pietro: 事件發生在2021年，當時女王還在位29F 49.217.239.79 台灣 10/11 00:26

--
作者 Pietro 的最新發文:
點此顯示更多發文記錄