回看板
Disp BBS
作者 stpiknow (H)
標題 [新聞] Sam Altman被解雇之謎，可能與OpenAI的Q-
時間 Tue Nov 28 15:38:26 2023


Sam Altman被解雇之謎，可能與OpenAI的Q-Star模型有關，通用人工智慧的突破帶來未來
不可預測性

https://bit.ly/3SWTb4x
策略評析 ： Sam Altman被解雇之謎，可能與OpenAI的Q-Star模型有關，通用人工智慧的突破帶來未來不可預測性 - 科技產業資訊室(iKnow)
[圖]

 

隨著OpenAI的混亂塵埃落定，人們很想知道Sam Altman為何被解僱。如今有消息指出，這
可能與一個神秘的AI模式有關。

由OpenAI首席科學家Ilya Sutskever領導的團隊似乎在2023年某個時間點取得了突破，讓
其建構一個名為Q*（發音為「Q-star」）的新模型。這一模型可以解決基本的數學問題。
也就是Q-star模型引發了內部風暴，人們擔憂這項新突破可能威脅人類未來。


解決基本數學問題的能力聽起來可能不那麼令人印象深刻，但AI專家表示這是一個非常巨
大飛躍。如果AI能夠對抽象概念進行邏輯推理，那麼其就可想人類一樣具有解決目前難題
的能力，這與現在的生成式AI是完全不同的概念。


簡單來說，人們學習數學就是訓練邏輯推理能力。傳統上，AI語言模型在這方面很難達到
邏輯推理的境界，只能擁有有效的直覺。

有專家表示，Q*的名字暗示它是兩種著名的AI技術的組合，即是Q-learning和A*搜尋。這
表明新模型可以將支援ChatGPT的深度學習技術與人類程式設計的規則。這種方法可以幫
助解決聊天機器人的幻覺問題。這具有非常重要的象徵意義。


Q*將導致通用人工智慧（AGI）的進步，且絕對離我們所認為的智慧更近了一步，並且有
可能導致模型能夠產生新的想法，這是ChatGPT做不到的。

現今的AI模型存在巨大限制，其不僅僅無法從訓練數據中反省訊息，也無法推理和開發新
想法。以人為本的AI研究所所長Andrew Rogoyski表示，解決看不見的問題是創建AGI的關
鍵一步。


就數學而言，我們知道現有的AI已被證明能夠進行大學水準的數學運算，但無法處理更高
階的數學問題。然而，如果AI不僅僅會反省或重塑現有知識，而能夠進步到解決新的、看
不見的問題，那麼這將是一件大事。


可是並非所有人都對Q-Star的突破如此興奮。有些AI專家表示，如果Q-Star今天只是一位
小學生，可是其擁有的能力可以讓其未來接管全世界。

總之，不管如何，隨著Sam Altman回歸OpenAI的執行長，人類已經打開了潘朵拉盒子。在
利益的驅使下，其發展的速度不單單依賴OpenAI的研發能量，還有其背後投資者的野心，
就像人類當年在研發原子彈軍備競賽一樣，追求更棒的AGI能力。


我們現在只能祈求OpenAI及其投資人能夠在底層邏輯上控制好Q-Star的AGI，以及未來政
府可能的干涉了。

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 203.145.192.245 (臺灣)
※ 作者: stpiknow 2023-11-28 15:38:26
※ 文章代碼(AID): #1bPPZq7M (Tech_Job)
※ 文章網址: https://www.ptt.cc/bbs/Tech_Job/M.1701157108.A.1D6.html
推 lusifa2007: 天網膩1F 11/28 15:58
→ rammstein: 還剩幾集可以逃？2F 11/28 16:03
噓 teddyisgood: 越來越唬爛3F 11/28 16:04
噓 kkes0001: 傳4F 11/28 16:42
噓 kmd: 上週的新聞，這週才轉貼，是來洗文章數的5F 11/28 17:47
噓 musashi023: 好好笑喔6F 11/28 18:16
→ jobintan: 口可，文組記者擔心自己的工作會被AI取代先吧。7F 11/29 13:15

--
作者 stpiknow 的最新發文:
點此顯示更多發文記錄