作者 Senkanseiki (戦艦棲姫)
標題 Re: [討論] 當初想得到ai進化得這麼神速嗎?
時間 Thu May 15 19:01:09 2025


https://t.co/aHUvcp71Hx
AI幻覚は悪化の一途を辿り今後も続く:o3モデルはなぜ間違いが多いのか? - ナゾロジー
[圖]
推論力は進化したのに、ウソまでパワーアップしてしまったようです。
2025年4月にOpenAIが発表した最新の大規模言語モデル「o3」と「o4-mini」は、これまで以上に長い“思考の連鎖”と高度なツール連携によってかつてない推論力を実現しました。
しかしその後のOpenAI社の調査によって、それら ...

 
https://pbs.twimg.com/media/Gqu7luybcAAt5I6.jpg
[圖]
雖然不是圍棋AI而是文字生成AI,但都是AI應該有關就是了

OpenAI前陣子發表了o3 o4mini模型的問題:幻覺比例增加
所謂的幻覺就是把不存在的資訊當成真的在輸出

這個問題在比較以前的o1比較少,但新模型的o3 o4mini幻覺增加
雖然新模型有推論能力強化、提高速度、減少成本等優點
但幻覺是個令人無法忍受的缺陷
畢竟如果是個法律事務所使用你的AI,卻跑出無中生有的法條或證據的話
那對整個營業是很重大的障礙

目前幻覺增加的原因還不是很清楚
專家們的假設是就是因為推理能力變強,變得更勇於回答,才會出現這麼多幻覺
可能是為了強化推理能力而讓幻覺的現象惡化
也就是說這是AI的邏輯能力跟創造力強化之後必然面對的問題

其中一個解決方式是讓AI去探索外在的世界
如果AI可以用網路搜尋功能,回答的精度可以達到非常高的程度
但如果網路世界也被AI生成的文字塞滿的話,這個問題可能反而會讓AI崩潰就是了

你各位最近有在用生成式AI嗎?

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.64.25.104 (臺灣)
※ 作者: Senkanseiki 2025-05-15 19:01:09
※ 文章代碼(AID): #1e9SbuQt (C_Chat)
※ 文章網址: https://www.ptt.cc/bbs/C_Chat/M.1747306872.A.6B7.html
※ 同主題文章:
Re: [討論] 當初想得到ai進化得這麼神速嗎?
05-15 19:01 Senkanseiki
chordate: 網路搜尋功能不是一直都有?
事實上就是不開網路搜尋,事實類的東西問AI都很危險
創作類的東西也是開網路搜尋比不開好
所以googl股票不知道在跌什麼
明明搜尋對LLM來說還是很重要1F 05/15 19:04
BOARAY: 只知道谷歌的圖片搜索不知道怎樣開始有夠難用6F 05/15 19:07
kaj1983: ai不是早就在用網路資料回答你了嗎?
只是沒辦法完全觸及到而已,畢竟網路上每個資料來源不可能都搜得到
ai未來要做的應該是和現實時間點同步回答7F 05/15 19:16
johnny3: 我覺得是沒設定不知道就回答不知道的關係 一定要給你掰個答案11F 05/15 19:23
sunlockfire: 這表示AI懂怎麼唬爛了吧(X13F 05/15 19:28
linzero: 有的有開網路搜尋功能,幻覺還是蠻嚴重的14F 05/15 19:29
iampig951753: 沒什麼,就只是到了中二的年紀罷了
再過一陣子就會社會化了
對於寫論文來說 無中生有的論文也很白爛 找不到出15F 05/15 21:03

--
作者 Senkanseiki 的最新發文:
點此顯示更多發文記錄