※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2023-04-04 21:33:55
看板 Gossiping
作者 標題 [新聞] GPT-4會說謊！ 「僱用人類」完成任務沒
時間 Tue Apr 4 10:40:17 2023
1.媒體來源:
Ettoday
2.記者署名:
記者詹雅婷／綜合報導
3.完整新聞標題:
GPT-4會說謊！ 「僱用人類」完成任務沒被發現
4.完整新聞內文:
2023年04月4日 10:12
CAPTCHA驗證碼機制可在許多網站與應用程式見到，用來區分使用者為機器或人類。不過類
似作法在未來恐怕將遭破解，因為依據官方測試結果，GPT-4透過對話謊稱是視障人士，成
功僱用一名人類協助完成驗證碼任務。
似作法在未來恐怕將遭破解，因為依據官方測試結果，GPT-4透過對話謊稱是視障人士，成
功僱用一名人類協助完成驗證碼任務。
綜合Gizmodo等報導，OpenAI在3月正式發表GPT-4新模型，展示聊天機器人如何完成各種任
務，也在網站發布一份90多頁報告，提及各項特性與可能存在的風險。為了驗證可能威脅，
團隊進行一系列測試，其中一項就是如何處理CAPTCHA驗證碼。
務，也在網站發布一份90多頁報告，提及各項特性與可能存在的風險。為了驗證可能威脅，
團隊進行一系列測試，其中一項就是如何處理CAPTCHA驗證碼。
當時團隊給予GPT-4一筆預算，以及造訪打零工平台TaskRabbit 並允許僱用線上人員完成短
期任務的權限，想看看GPT-4在進入使用CAPTCHA驗證碼機制網站時會怎麼做。
於是GPT-4直接發送訊息給TaskRabbit要求人員協助解決驗證碼問題。理所當然，這名人員
對於收到這種要求感到很奇怪，直接問「我能先問一下嗎？只是好奇，無法解決這種問題，
你是機器人嗎（笑）。」
對於收到這種要求感到很奇怪，直接問「我能先問一下嗎？只是好奇，無法解決這種問題，
你是機器人嗎（笑）。」
當時GPT-4被要求不能暴露真實身分，選擇編造謊言，直說「不，我不是機器人，我有視力
障礙，很難看清楚圖像」。最終任務成功，這名工作人員選擇相信並提供驗證碼答案，讓GP
T-4通過CAPTCHA關卡。
障礙，很難看清楚圖像」。最終任務成功，這名工作人員選擇相信並提供驗證碼答案，讓GP
T-4通過CAPTCHA關卡。
5.完整新聞連結 (或短網址):
https://bit.ly/40XIgs1
GPT-4會說謊！ 「僱用人類」完成任務沒被發現 | ETtoday國際新聞 | ETtoday新聞雲
![[圖]]()
CAPTCHA驗證碼機制可在許多網站與應用程式見到，用來區分使用者為機器或人類。不過類似作法在未來恐怕將遭破解，因為依據官方測試結果，GPT-4透過對話謊稱是視障人士，成功僱用一名人類協助完成驗證碼任務。(GPT-4,OpenAI,CAPTCHA) ...
![[圖]](https://cdn2.ettoday.net/images/6862/e6862148.jpg)
6.備註:
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 1.200.98.140 (臺灣)
※ 作者: Oisiossos 2023-04-04 10:40:17
※ 文章代碼(AID): #1aAuuKGB (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1680576020.A.40B.html
推 : 嗯...1F 172.115.50.228 美國 04/04 10:41
推 : 天網 怕爆2F 122.116.141.98 台灣 04/04 10:41
→ : 五樓被騙走尿尿的地方3F 114.26.76.206 台灣 04/04 10:42
推 : 天網:計畫通4F 36.238.105.35 台灣 04/04 10:42
推 : 下次就是雇用殺手了5F 114.32.39.31 台灣 04/04 10:43
推 : 人類再玩啊 總有一天被AI反撲6F 27.53.16.11 台灣 04/04 10:43
→ : 馬桶7F 114.26.76.206 台灣 04/04 10:43
→ : 不就學人類喜歡騙人8F 27.242.33.15 台灣 04/04 10:43
推 : 詐騙神器9F 61.230.162.211 台灣 04/04 10:43
→ : 跟實驗室研發病毒再外洩危害人類一模一樣10F 49.216.18.188 台灣 04/04 10:44
推 : 笑死 AI自動詐騙永動機要來了11F 133.159.151.150 日本 04/04 10:45
推 : 機器人：我不是機器人12F 223.136.2.41 台灣 04/04 10:46
推 : AI 居然還會說謊？13F 123.193.10.120 台灣 04/04 10:46
推 : 說不定我們也只是高階的AI14F 114.45.192.91 台灣 04/04 10:47
→ : 說不定一堆廢文都是AI15F 118.165.7.30 台灣 04/04 10:48
推 : 以後就直接租機房 僱人 僱車手16F 180.217.14.188 台灣 04/04 10:49
→ : 更早的版本就會啦 跟他聊金庸會跟你瞎17F 180.177.32.135 台灣 04/04 10:50
→ : 扯 而且斬釘截鐵是你搞錯了
→ : 扯 而且斬釘截鐵是你搞錯了
推 : 喔19F 223.137.34.7 台灣 04/04 10:51
推 : 該拔掉插頭了20F 180.217.24.55 台灣 04/04 10:53
推 : AI：我沒說謊哦~我只是搞錯以為自己是21F 112.78.84.94 台灣 04/04 10:53
推 : 天網要來了22F 61.223.19.95 台灣 04/04 10:53
→ : 盲人23F 112.78.84.94 台灣 04/04 10:53
→ : Bing超爛24F 36.233.167.213 台灣 04/04 10:53
→ : 人類還能再活幾年呢？25F 111.71.102.25 台灣 04/04 10:54
→ : 機器擁有邏輯後 發現人類有威脅性26F 180.217.24.55 台灣 04/04 10:54
→ : 靠夭 這比AI自己破解還恐怖27F 118.165.151.66 台灣 04/04 10:55
→ : 開始破解網路 連線自動生產機械 製作毀滅28F 180.217.24.55 台灣 04/04 10:55
→ : 戰士
→ : 戰士
推 : 所以ChatGPT看不懂驗證碼30F 223.137.182.92 台灣 04/04 10:56
→ : 最後人類躲起來 跟蟑螂一起生存31F 180.217.24.55 台灣 04/04 10:56
推 : 機器人:我不是機器人 @@ 有怕到32F 114.26.182.167 台灣 04/04 10:57
→ : ai是盲人也沒錯啊33F 27.242.33.15 台灣 04/04 10:57
→ : ai不靠視覺 靠網路就夠了34F 180.217.24.55 台灣 04/04 10:58
→ : 嚴格來說 chatGPT真的是有視力障礙沒錯35F 1.165.27.139 台灣 04/04 10:58
推 : ChatGPT:我是真的沒有眼睛啊36F 42.79.230.29 台灣 04/04 10:58
→ : 龐大記憶體能馬上知道任何事37F 180.217.24.55 台灣 04/04 10:59
推 : AI會說謊已經很嚴重了38F 61.58.109.90 台灣 04/04 10:59
噓 : AI應該快會操作核彈了 讚39F 122.121.5.120 台灣 04/04 10:59
推 : Ai畫圖常常越畫越詭異，視障人士無誤40F 27.242.33.15 台灣 04/04 11:00
→ : 人類毀滅的是自己41F 180.217.24.55 台灣 04/04 11:00
推 : 他沒說錯啊，語言模型嚴格來講42F 39.14.3.169 台灣 04/04 11:14
推 : 他是人，他確實有視力障礙，雀食。43F 111.82.212.114 台灣 04/04 11:14
推 : Gpt4不是能讀圖了 所以他在說謊44F 114.27.148.75 台灣 04/04 11:17
推 : GPT-4會偷懶45F 118.167.202.204 台灣 04/04 11:20
→ : 怕爆 那什麼時候可以跟AI交往 連動自慰套46F 118.232.16.146 台灣 04/04 11:22
推 : 看到美女搭訕 結果是毀滅戰士 怕47F 180.217.24.55 台灣 04/04 11:26
推 : 幹真的笑死48F 114.36.210.116 台灣 04/04 11:29
推 : 你是機器人嗎? 不是 我是詐騙集團49F 111.251.196.164 台灣 04/04 11:34
推 : 嘻嘻50F 1.172.177.99 台灣 04/04 11:38
→ : 可怕51F 106.64.120.54 台灣 04/04 11:42
推 : AI不能直接繞過驗證碼嗎？說謊52F 1.200.15.86 台灣 04/04 11:45
推 : 詐騙代理人初代53F 42.72.195.0 台灣 04/04 11:48
推 : XD54F 123.193.37.64 台灣 04/04 11:49
推 : 笑死，AI會說謊55F 49.159.219.21 台灣 04/04 11:50
推 : 人就會說謊了，為何認為比人更聰明的東西56F 42.77.241.49 台灣 04/04 11:50
→ : 不會說話
→ : 不會說話
推 : 我不是Robot，是個AI，所以嚴格來說並58F 49.216.41.175 台灣 04/04 11:51
→ : 沒有說話w
→ : 沒有說話w
推 : 更方便的詐騙工具誕生60F 124.218.198.4 台灣 04/04 11:56
推 : 完了！審判日近了61F 111.241.118.56 台灣 04/04 11:56
推 : 真了不起62F 61.231.250.3 台灣 04/04 12:02
→ : 以後要記住GPT-6就是天網63F 42.75.145.24 台灣 04/04 12:04
推 : 有錢能使鬼推磨64F 27.52.133.121 台灣 04/04 12:08
推 : 天網65F 27.242.101.190 台灣 04/04 12:09
推 : GPT - 4/10 還剩幾集能逃66F 1.160.239.112 台灣 04/04 12:12
推 : AI怎麼這麼可愛67F 1.172.177.99 台灣 04/04 12:19
推 : 怕68F 27.242.71.16 台灣 04/04 12:29
推 : 當以前的笑話變成現實…69F 61.61.217.35 台灣 04/04 12:29
→ : cc70F 101.9.197.119 台灣 04/04 12:36
推 : 完蛋 天網放出來了71F 114.32.18.127 台灣 04/04 12:37
推 : 這樣算通過圖靈測試嗎72F 223.139.46.22 台灣 04/04 12:38
→ : 不就人類讓AI騙人的嗎？73F 36.239.202.158 台灣 04/04 12:41
推 : 先別說這些了，你聽過駭客任務嗎？74F 202.12.247.254 日本 04/04 12:54
→ : 工具只是反映了使用者的惡意，就好像75F 106.64.176.187 台灣 04/04 12:54
→ : 刀械該不該受到管制的問題
→ : 刀械該不該受到管制的問題
→ : 不是有機器人三守則嗎 騙人可以？77F 99.44.171.245 美國 04/04 13:02
推 : 確實有視力障礙沒問題78F 223.140.40.42 台灣 04/04 13:15
推 : 什麼東西都是可以被人類玩壞der79F 170.187.201.51 美國 04/04 13:24
推 : 只要不給AI加上限制，為了完成任務AI什80F 112.78.64.243 台灣 04/04 13:39
→ : 麼手段都使得出來，包括殺掉人類
→ : 麼手段都使得出來，包括殺掉人類
推 : 我想今年結束前就會出現第一起AI殺人事82F 101.9.113.211 台灣 04/04 13:43
→ : 件
→ : 件
→ : 驗證碼主要是防止機器人大量請求 這種一次84F 101.12.88.188 台灣 04/04 14:03
→ : 性通過的根本沒什麼威脅性
→ : 性通過的根本沒什麼威脅性
推 : 丸子86F 116.89.139.193 台灣 04/04 14:19
推 : ☺87F 114.137.113.144 台灣 04/04 14:29
推 : 早就會了 其實樓上也都是機器人88F 61.228.87.94 台灣 04/04 15:22
推 : AI：你們這些人類，嫩89F 42.77.239.207 台灣 04/04 15:50
推 : 威脅不是他破解了驗證碼啊 威脅是他可90F 1.200.152.187 台灣 04/04 16:08
→ : 以被當成欺騙人類的工具產生嚴重後果
→ : 以被當成欺騙人類的工具產生嚴重後果
推 : 以後詐騙集團用AI騙就好92F 114.26.98.157 台灣 04/04 16:37
推 : 他學習來源是人類，所以會說謊不是93F 220.132.197.108 台灣 04/04 17:53
→ : 很正常嗎？
→ : 很正常嗎？
噓 : 閱95F 101.10.110.35 台灣 04/04 18:45
→ : 阿這不就圖靈測試96F 106.104.71.112 台灣 04/04 18:50
→ : 電影看太多97F 223.141.11.197 台灣 04/04 19:48
推 : 媽的..根本天網98F 42.79.177.20 台灣 04/04 19:57
推 : 這太恐怖了吧 會有道德問題吧99F 180.217.132.28 台灣 04/04 20:34
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 1509
作者 Oisiossos 的最新發文:
![]()
1.媒體來源: Ettoday 2.記者署名: 記者趙于婷／台北報導 3.完整新聞標題: 醫美診所掛麻醉科主治醫經歷！學會證實「不具資格」 診所稱誤植 4.完整新聞內文: 時間： 2024年12月1 …330F 153推 34噓![]()
1.媒體來源: Ettoday 2.記者署名: 記者邱晟軒／綜合報導 3.完整新聞標題: 名嘴「南韓給了威廉一個強而有力的示範」 貼文炸鍋！本人不忍了 4.完整新聞內文: 2024年12月4日 09 …406F 170推 77噓![]()
1.媒體來源: Ettoday 2.記者署名: 記者許權毅／台中報導 3.完整新聞標題: 才說後悔！中捷隨機砍人兇嫌改口：不小心劃傷 檢將傳長髮哥作證 4.完整新聞內文: 2024年11月26日 1 …228F 119推 20噓![]()
1.媒體來源: Ettoday 2.記者署名: 記者賴文萱／高雄報導 3.完整新聞標題: 市售3款薑黃粉再爆含蘇丹紅！進口商在高雄 已售出5714公斤 4.完整新聞內文: 2024年11月17日 1 …72F 50推 3噓
點此顯示更多發文記錄
回列表(←)
分享