※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2023-03-30 19:09:17
看板 Gossiping
作者 標題 [新聞] 馬斯克、蘋果創辦人等人呼籲暫停開發AI
時間 Thu Mar 30 15:30:44 2023
1.媒體來源:
iThome
2.記者署名:
林妍溱
3.完整新聞標題:
馬斯克、蘋果創辦人等人加入呼籲暫停開發高階AI
4.完整新聞內文:
特斯拉執行長馬斯克（Elon Musk）、蘋果共同創辦人Steve Wozniak等科技大老昨（29）
日指出AI可能對社會和人類帶來重大風險，公開呼籲暫停開發比OpenAI的GPT-4高階的AI
系統至少6個月。
日指出AI可能對社會和人類帶來重大風險，公開呼籲暫停開發比OpenAI的GPT-4高階的AI
系統至少6個月。
這份公開信是由非營利組織未來生活研究院（Future of Life Institute）發表，獲得
1,300多人聯署，包括馬斯克、Wozniak、Stability AI公司執行長Emad Mostaque、
Google AI部門DeepMind研究人員等人簽署聲援。
這份公開信指出，近幾個月各AI實驗室已陷入失控的競賽，發展與部署更強大，但甚至連
發明者都無法理解、預測和控制的AI。人類必須思考AI可預見的風險，包括散布假訊息、
自動化所有工作、超越或取代人類，甚至控制人類社會。為了防範這些情形發生，公開信
贊同OpenAI的觀點，認為在訓練未來AI系統前應獲得獨立審查，並且限制投入開發新模型
的運算資源。
發明者都無法理解、預測和控制的AI。人類必須思考AI可預見的風險，包括散布假訊息、
自動化所有工作、超越或取代人類，甚至控制人類社會。為了防範這些情形發生，公開信
贊同OpenAI的觀點，認為在訓練未來AI系統前應獲得獨立審查，並且限制投入開發新模型
的運算資源。
這份公開信呼籲立即暫停訓練比GPT-4更強大的AI系統至少6個月，必須包含所有關鍵人士
，且需公開且可驗證。若無法立即暫停，各國政府應介入強制中止。
而在暫停期間，AI實驗室和獨立專家共同開發安全規範，以開發精確、安全、可解釋、一
致化及可信任的AI系統，並由外部獨立人士嚴格稽核有確實遵守。他們強調，暫停措施並
不是要求全面性停止AI開發，只是希望能阻止危險的發展競賽，使其開發出不可預測及不
透明的AI模型。
致化及可信任的AI系統，並由外部獨立人士嚴格稽核有確實遵守。他們強調，暫停措施並
不是要求全面性停止AI開發，只是希望能阻止危險的發展競賽，使其開發出不可預測及不
透明的AI模型。
同時公開信要求，AI開發人員應與立法機關合作，加速AI治理系統的建立。這個系統包括
成立專門主管機關、AI監管及追蹤工具、強大運算能力、稽核與認證系統、辨別AI合成內
容及追蹤模型外洩的浮水印技術，以及以公共基金支持AI安全研究，並建立AI傷害究責、
因應AI政經破壞的系統。
成立專門主管機關、AI監管及追蹤工具、強大運算能力、稽核與認證系統、辨別AI合成內
容及追蹤模型外洩的浮水印技術，以及以公共基金支持AI安全研究，並建立AI傷害究責、
因應AI政經破壞的系統。
因應AI技術的快速演進，各國政府已有管制AI的倡議。歐盟計畫正在規畫第一部《人工智
慧法案》（AI Act），旨在強化AI模型的資料品質、透明度、人為監控及責任。中國則在
今年初發布人工智慧合成影片服務的管理法規，要求Deepfake影片應加上顯著標識以避免
公眾混淆。
慧法案》（AI Act），旨在強化AI模型的資料品質、透明度、人為監控及責任。中國則在
今年初發布人工智慧合成影片服務的管理法規，要求Deepfake影片應加上顯著標識以避免
公眾混淆。
OpenAI執行長Sam Altman近日也指出，魯莽發展超智能的通用式AI（Artificial
General Intelligence，AGI）對世界造成的傷害和獨裁體制相同，共同規範AGI在關鍵時
刻放慢腳步有其必要性。但OpenAI並未對此公開信發表評論。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://www.ithome.com.tw/news/156198
馬斯克、蘋果創辦人等人加入呼籲暫停開發高階AI | iThome
![[圖]]()
基於目前世界各國對於AI應用尚缺乏明確規範，Future of Life Institute發表公開信，呼籲各界連署要求科技公司暫停訓練比GPT-4更強大的AI系統至少6個月，獲得Elon Musk、蘋果共同創辦人Steve Wozniak、Stability AI執行長等科技大老聲援 ...
![[圖]](https://s4.itho.me/sites/default/files/field/image/0330-pause_giant_ai_experimentsan_open_letter_by_future_of_life_institute-960.jpg)
6.備註:
還有辦法停下來嗎？
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.251.62.253 (臺灣)
※ 作者: Cyuhsuan 2023-03-30 15:30:44
※ 文章代碼(AID): #1a9JgcJ5 (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1680161446.A.4C5.html
推 : 等等我們 還沒上車啊1F 114.136.90.52 台灣 03/30 15:31
推 : 鄉民:快點開發更強大的AI統治世界吧2F 36.226.179.103 台灣 03/30 15:31
→ : 誰停下來誰笨蛋3F 114.137.167.16 台灣 03/30 15:31
→ : 我們已經受夠了Y4F 36.226.179.103 台灣 03/30 15:32
→ : 微軟：當初不出錢靠北什麼啦5F 114.137.120.49 台灣 03/30 15:32
推 : 心機真重6F 36.235.222.3 台灣 03/30 15:32
→ : 讓機器人統治人類不錯啊...=.=7F 61.220.247.190 台灣 03/30 15:32
推 : 停下來等你迎頭趕上喔?8F 125.229.205.11 台灣 03/30 15:33
推 : 玩不贏微軟開始哭囉9F 114.137.133.139 台灣 03/30 15:33
→ : 真的train到工程師也不知道它會說啥了10F 49.216.49.181 台灣 03/30 15:33
→ : AI 太夯就不能炒特斯拉了，ㄏㄏ11F 111.251.34.169 台灣 03/30 15:33
推 : 2023時代管不住了啦，別的國家誰鳥你12F 1.162.186.176 台灣 03/30 15:33
推 : 我還沒分到大餅啊13F 49.217.175.181 台灣 03/30 15:34
→ : 自己一堆項目看似要被打趴在那邊演14F 125.229.205.11 台灣 03/30 15:34
推 : 呼籲個雞巴毛,不是很有錢，買下來暫停15F 175.182.219.184 台灣 03/30 15:34
推 : 等到大家都同意緩慢發展之後，馬斯克再偷16F 59.102.177.205 台灣 03/30 15:34
噓 : 翻譯：我跟不上慢一點17F 1.171.208.99 台灣 03/30 15:34
→ : 偷進行開發下一代ai18F 59.102.177.205 台灣 03/30 15:34
→ : 你的全自駕呢19F 42.73.209.86 台灣 03/30 15:35
→ : 等等 我還沒上車啊20F 27.242.11.247 台灣 03/30 15:35
噓 : 人類該滅亡囉21F 42.77.129.80 台灣 03/30 15:35
![[圖]](https://i4.disp.cc/imgur/NWRASprh.jpg)
→ : XDDDD484因為你們慢惹阿23F 1.172.99.166 台灣 03/30 15:36
推 : 比爾蓋茨：你們跑得慢 怪我囉24F 101.8.14.19 台灣 03/30 15:36
推 : 想偷偷超車人家吼，很壞25F 39.10.8.70 台灣 03/30 15:36
噓 : 嘻嘻 電影都演過了26F 59.120.18.107 台灣 03/30 15:36
→ : 停下來等我一下啊27F 61.222.87.153 台灣 03/30 15:37
→ : 谷哥很怕28F 111.240.112.189 台灣 03/30 15:37
推 : 人類總是不斷在犯已知的錯誤29F 223.137.25.194 台灣 03/30 15:38
→ : 天網30F 42.79.152.167 台灣 03/30 15:39
推 : 翻譯 停下來等我一下 我還沒開發出來啊31F 122.117.48.133 台灣 03/30 15:40
推 : 翻譯：等等我還沒上車32F 42.75.37.162 台灣 03/30 15:42
推 : 軟軟不講武德先跑了33F 1.200.118.17 台灣 03/30 15:42
推 : 停下來就輸了34F 27.53.81.3 台灣 03/30 15:42
→ : 想收購35F 1.165.142.96 台灣 03/30 15:43
推 : 比我們厲害!請停止研發!XD36F 180.217.15.125 台灣 03/30 15:43
→ : 這種東西一旦開始了就不可能停了啦37F 61.220.127.70 台灣 03/30 15:43
→ : 你在那邊呼籲一定還是有人會偷偷繼續
→ : 你在那邊呼籲一定還是有人會偷偷繼續
推 : 微軟：別這樣 好不容易才領先39F 101.12.30.140 台灣 03/30 15:43
推 : 要對手停下來XD40F 114.32.115.188 台灣 03/30 15:44
噓 : 笑死 被超過就阻止 有看到ms連署嗎41F 145.40.142.223 英國 03/30 15:44
→ : 天網表示：啟動了還想停42F 180.217.30.140 台灣 03/30 15:45
推 : 就是被超前了追不上在哭而已43F 61.66.151.73 台灣 03/30 15:45
推 : 拔插頭喔 怎麼停得下來44F 220.133.180.201 台灣 03/30 15:45
→ : 八成是看到chatgpt 最新發布的插件45F 61.66.151.73 台灣 03/30 15:46
→ : 可做到的事情發現自己追不上了才搞
→ : 可做到的事情發現自己追不上了才搞
噓 : 很難 因為有人會想: 這是彎道超美的大好機47F 112.97.55.194 中國 03/30 15:46
→ : 這齣戲賭賭看48F 61.66.151.73 台灣 03/30 15:46
→ : 會49F 112.97.55.194 中國 03/30 15:46
噓 : 跟我們講幹嘛 權貴跟超級有錢人會管屁50F 101.12.48.10 台灣 03/30 15:46
→ : 民說啥？= =
→ : 民說啥？= =
推 : 還要等你喔 沒上車自己活該52F 126.35.220.115 日本 03/30 15:47
→ : 比核武更厲害53F 112.97.55.194 中國 03/30 15:47
→ : SKYNET出來了叫我54F 118.163.139.54 台灣 03/30 15:48
推 : 蘋果先想辦法升級智障siri 吧55F 114.24.111.45 台灣 03/30 15:48
噓 : 輸不起喔56F 50.47.204.124 美國 03/30 15:50
推 : 早就來不及了57F 116.241.120.28 台灣 03/30 15:50
推 : 自己追不上就不讓人開發嗎?58F 124.32.211.222 日本 03/30 15:50
推 : 意思是Tesla的Autopilot是低階的東西囉?59F 60.250.73.76 台灣 03/30 15:50
推 : 失控(x) 擔心自己優勢被顛覆(o)60F 49.216.100.157 台灣 03/30 15:51
推 : 法律規範跟不上 可撥61F 111.83.131.162 台灣 03/30 15:52
→ : 再優秀的新創公司也都有變成死水的一天62F 49.216.100.157 台灣 03/30 15:52
推 : 輸慘跟不上就喊別開發 笑死63F 36.226.156.60 台灣 03/30 15:55
推 : 早廢話了你跑快點吧，蓋子已經快套圈了64F 118.161.221.226 台灣 03/30 15:57
→ : 一定是沒上到車65F 111.81.218.23 台灣 03/30 15:58
→ : ：先等我訓練好66F 101.137.245.73 台灣 03/30 15:59
噓 : 推文真的完美展現台灣年輕人智商的極限XD67F 36.231.176.119 台灣 03/30 16:00
推 : 怕研發AI失控生出天網就無言了68F 39.9.43.205 台灣 03/30 16:00
→ : 兩成工作被取代....69F 36.236.103.22 台灣 03/30 16:01
→ : 天網準備該派殺手過來了70F 114.35.201.84 台灣 03/30 16:01
→ : 不可預測的模式71F 39.9.43.205 台灣 03/30 16:01
推 : 別人就算了Google自己弄AI都多久了，怕被微72F 101.9.135.64 台灣 03/30 16:06
→ : 軟超車就說啦
→ : 軟超車就說啦
推 : AI到時候會發現人類已經蠢到不用統治，給74F 39.9.166.48 台灣 03/30 16:07
→ : 奶頭樂就好
→ : 奶頭樂就好
噓 : 賺不到就開始雞雞歪歪76F 101.10.12.5 台灣 03/30 16:08
→ : 最聰明AI就是裝白癡，這樣愚蠢的人類就會77F 39.9.166.48 台灣 03/30 16:08
→ : 花更多資源在擴充它
→ : 花更多資源在擴充它
推 : 不重要，只有讓AI徹底問世才有解決辦法79F 111.71.216.36 台灣 03/30 16:09
→ : 其實天網什麼事都不用做，只要煽動一下人80F 39.9.166.48 台灣 03/30 16:09
→ : 類就會自相殘殺了
→ : 類就會自相殘殺了
→ : 跟不上就叫人別開發 爛82F 125.227.5.157 台灣 03/30 16:10
推 : 停六個月 先等我趕進度83F 218.35.155.143 台灣 03/30 16:11
→ eeccms …
推 : 發現追不上要人家等你們喔85F 60.251.182.146 台灣 03/30 16:15
→ : 就在等SKYNET發動審判日，停什麼86F 39.14.33.230 台灣 03/30 16:17
推 : 誰停誰傻逼 嘻嘻87F 101.12.46.135 台灣 03/30 16:20
推 : 連deepmind都加入88F 223.136.74.96 台灣 03/30 16:24
→ : 馬投顧：幹你娘 我還沒上車啊 等我89F 49.216.43.161 台灣 03/30 16:32
→ : 誰呼籲都行 馬投顧這咖炒股仔說有危害
→ : 笑死 100%就是他還沒賺錢而已
→ : 誰呼籲都行 馬投顧這咖炒股仔說有危害
→ : 笑死 100%就是他還沒賺錢而已
→ : 等一下 一開始出資的就是馬克思 半途92F 114.137.188.42 台灣 03/30 16:34
→ : 不玩微軟接手現在才在哭
→ : 不玩微軟接手現在才在哭
推 : 看資本家急了，就知道做對了94F 180.217.196.91 台灣 03/30 16:35
推 : 確實要先有標準再做比較好，但來得及嗎95F 49.216.191.208 台灣 03/30 16:36
推 : 軍備競賽，AI毀滅人類已經勢不可擋了96F 111.83.22.11 台灣 03/30 16:41
推 : 廢物97F 112.105.45.110 台灣 03/30 16:48
推 : 快停下來＝我還沒想到辦法壟斷98F 220.133.167.67 台灣 03/30 16:49
→ : 等等我啊 我還沒上車99F 36.232.199.39 台灣 03/30 16:49
推 : 我勸你們最好別多管閒事100F 118.167.223.118 台灣 03/30 16:49
推 : 老實說 擋不住 大家也怕大廠私下開發101F 36.226.69.121 台灣 03/30 16:54
→ : 與其讓這些巨頭整盤拿去 不如搶得先機
→ : 與其讓這些巨頭整盤拿去 不如搶得先機
推 : 怕死，輸囉103F 39.9.134.174 台灣 03/30 17:09
推 : 贏不了微軟就開始哭104F 101.12.89.172 台灣 03/30 17:11
推 : 打不贏就開始黑，笑死105F 101.12.27.245 台灣 03/30 17:26
推 : Siri跟不上了..106F 123.0.62.125 台灣 03/30 17:29
推 : 原來落後六個月107F 36.227.129.197 台灣 03/30 17:31
推 : 幹 看推文才知老馬慢六個月108F 114.47.151.119 台灣 03/30 17:34
推 : 名單一堆競爭對手，說服力有點低啊109F 123.241.182.177 台灣 03/30 17:40
推 : 大家先暫停 然後大佬們偷偷狂開發110F 223.137.233.215 台灣 03/30 17:50
推 : 開發者就算了 不懂怎麼會有人使用者以111F 86.48.13.119 日本 03/30 17:52
→ : 為這樣暴走下去自己會是贏的那邊？操作A
→ : I這件事事後將會遠比要AI做的內容簡單
→ : 更多 更容易被AI取代 什麼AI溝通師才是
→ : 最沒競爭力的
→ : 為這樣暴走下去自己會是贏的那邊？操作A
→ : I這件事事後將會遠比要AI做的內容簡單
→ : 更多 更容易被AI取代 什麼AI溝通師才是
→ : 最沒競爭力的
推 : 人類滅絕計畫開跑116F 60.251.182.68 台灣 03/30 17:55
推 : 寫出判斷力強 公正無私AI 取代政客法官吧117F 1.34.133.190 台灣 03/30 17:57
推 : 笑了 還沒上車的兩個人118F 114.45.10.175 台灣 03/30 17:59
→ : 出來就出來了 不管誰被取代 只能適應
→ : 出來就出來了 不管誰被取代 只能適應
→ : 那六個月後勒?笑死不就自己還沒上車ZZZ120F 114.37.168.227 台灣 03/30 18:05
推 : 等我跟上進度啊121F 175.98.129.226 台灣 03/30 18:05
→ : 然後AI真取代人類也是大家一起死,對韭菜來122F 114.37.168.227 台灣 03/30 18:07
→ : 說根本都沒差,哪可能聖母心幫有錢人著想
→ : 說根本都沒差,哪可能聖母心幫有錢人著想
推 : 別人呼籲你別玩猴腦的時候你又怎麼說?124F 111.248.15.128 台灣 03/30 18:20
推 : 翻譯：欸等我一下125F 223.136.92.202 台灣 03/30 18:22
推 : 好啦其實認真講他們呼籲的內容也都
→ : 蠻合理的，沒好好規範真的很有可能
→ : 失控
→ : 回樓上，Siri何止跟不上，你用過GPT
→ : 4問專業問題就會知道根本已經不同次
→ : 元了XD
推 : 好啦其實認真講他們呼籲的內容也都
→ : 蠻合理的，沒好好規範真的很有可能
→ : 失控
→ : 回樓上，Siri何止跟不上，你用過GPT
→ : 4問專業問題就會知道根本已經不同次
→ : 元了XD
→ : 給落後的人機會趕上嗎？132F 42.73.183.208 台灣 03/30 18:45
推 : 怕ai發現人類是地球的禍害133F 101.137.201.112 台灣 03/30 18:51
→ : 馬斯克：停下來讓我超車134F 118.171.216.43 台灣 03/30 18:58
推 : musk你好意思XD135F 42.73.43.134 台灣 03/30 19:01
--
※ 看板: Gossiping 文章推薦值: 0 目前人氣: 0 累積人氣: 2438
作者 Cyuhsuan 的最新發文:
- 10F 5推 1噓
- 13F 10推
![]()
台北市捷運中山站一名女子日前搭乘捷運時，行經進出站口，突然遭一名紅衣男子攔路咆 哮說「你憑什麼打亂我的人生」，正當女子滿頭問號時，男子突然出腳飛踢，還用雨傘攻 擊，直到站務人員阻止。女子事後驗傷報案， …106F 70推 3噓
點此顯示更多發文記錄
3樓 時間: 2023-03-30 16:42:07 (台灣)
瞎
03-30 16:42 TW
隔行如隔山，一些在其他領域獲得成功的人，在一知半解的狀態下，講一些危言聳聽的句子，可以讓自己看起來比較聰明
4樓 時間: 2023-03-31 01:27:02 (台灣)
讚
03-31 01:27 TW
沒有什麼危言聳聽.AI如果一但實用,開始開發總有一天一定會反蝕人類...AI它的能力起步就是人類的幾百倍了,這麼大的利益大家一定會搶著用.然後總有一天一定會開發到危及人類的程式,但AI又過於強大.人類無法阻止
回列表(←)
分享