回看板
Disp BBS
作者 ewings (火星人當研究生)
標題 Re: [閒聊] 人工智慧全盤掌握民航機飛行的可能性？
時間 Tue Aug 27 00:13:09 2024

※ 引述《amanda815625 ()》之銘言：
: 飛機的自動控制系統
: 從上個世紀就有開始開發
: 包括自動駕駛和自動油門

目前還沒辦法交給AI的最大原因，就是沒人知道AI裡面是什麼，
人類不知道AI會不會因為跑道上出現一頭豬，然後決定將整架飛機插進草地上？

早期的AI是由人類透過程式建立規則，使系統能夠在特定的場景下做出特定的反應，
此時人類可以確保自己知道AI的底層邏輯是什麼，也能找到bug在那邊，
但是這樣的系統受限於人類無法設想所有可能發生的離譜事件，
所以這樣的系統是非常具有侷限性的，如果遇到設想外的狀況，
AI就無法應對。


而自從機械學習、深度學習、大語言模型的出現，
配合海量的資料庫，AI可以自我學習，而不需要人類逐條建立規則，
現在AI的性能相較早期的AI有劇烈的提升，
但是這帶來另一個問題是，人類無法掌控AI到底學會了什麼。

就以ChatGPT為例，它並沒有自發產生人類的道德感，甚至會說謊來回答問題，
就連OpenAI的創辦人奧特曼也承認人類目前也還不能理解AI底層是怎麼運作的。

如果一個沒有在底層就加入人類道德判斷的AI，

你又怎麼有辦法相信這個AI會優先保護人類而不是跑道上的豬呢？

這個問題在上個世紀就由以薩克.艾西莫夫探討過，而提出的方案就是機器人三定律，
然而目前AI技術的發展，卻還沒有能力將機器人三定律寫入AI的最底層裡，
因此最後還是需要人類進行監督，而如果需要人類監督，
就沒比現在的自動駕駛與ILS來的有優勢。

飛機和汽車不同，飛機的安全標準要遠高於汽車，
而汽車到現在還無法做到不在人類監控下的完全自動駕駛，
安全標準更高的民航業更不可能近期內放心交給AI。

: 從最早期的機械控制到後來的電子控制
: 飛機的電腦和系統一直在進步
: 目前飛機起飛和降落
: 基本上都是機長和副機長控制
: (早期有飛航工程師)
: 但有系統輔助
: 降落時如果復飛也可以交給電腦
: 那如果開發出人工智慧系統
: 全盤讓人工智慧接管飛機的起飛和降落
: 不只是無人機
: 而是民航機由人工智慧AI來駕駛
: 在技術上是否有可行性呢？
: 從自動導航
: 變成人工智能AI導航
: 再變成人工智慧接管全部程序
: 不只是固定在37000英尺巡航高度的時候
: 而是包括起飛和降落
: 通通由人工智慧來控制
: 人類不干預
: 這樣有沒有可能做到？？

--
亂餵流浪狗的人其實和渣男沒什麼兩樣
一個是讓狗以為自己是有主人的狗，一個是讓人以為感情有了歸宿
但都只是做半套不想完全負責而已

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 114.32.235.116 (臺灣)
※ 作者: ewings 2024-08-27 00:13:09
※ 文章代碼(AID): #1cpAcQRI (Aviation)
※ 文章網址: https://www.ptt.cc/bbs/Aviation/M.1724688794.A.6D2.html
推 c52chungyuny: 先做到一架飛機單一駕駛員吧1F 08/27 04:04
推 miragejames: 推分析2F 08/27 06:41
推 Answerme: AI飛機那乾脆AI旅行就好了，直接遠端機器人開機幫你登機checkin，商務探親旅遊免出門免墜機空難3F 08/27 08:03
→ pippen2002: 先去幫忙灑農藥都盯垃圾?5F 08/27 10:12
推 akira30: ChatGPT你的理解是錯的，他是個語言模型，他負責的是接話遊戲自然不會知道自己是不是在幻想，他計算的是字和字之間結合的機率。另外目前光自動駕駛其實就很夠民航使用了6F 08/27 16:51
→ ewings: 連LLM都無法透過人類語言資料訓練出人類的道德觀，更複雜的AGI要怎麼訓練出人類的道德？10F 08/27 18:00
推 gruenherz: AI知道人沒有道德，所以乾脆不需學習？12F 08/27 18:17
推 yuzuki: 這麼說來我們也經常不知道人類在幹嘛，明明沒有東西故障，卻也做出莫名其妙的決定13F 08/27 23:50
→ ewayne: 因為很多負責寫程式的人都不怎麼重視道德阿...15F 08/28 02:20
→ sammy98: 連人都會關錯引擎了 Ai怎麼學正確的？16F 08/28 06:41

--
作者 ewings 的最新發文:
點此顯示更多發文記錄