作者: isoBlue (Blue as ice) 2024年在 PTT 的推文記錄
2024年在PC_Shopping板第3篇~第1篇
作者:
Cloudivory (象)
61.230.12.241 (台灣)
2024-11-28 12:35:22 → isoBlue: 你是要跑Pre-Trained LLM還是要fine tune不管怎麼樣這張顯卡都不行
如果是要跑現成的LLM,建議先看你要跑
幾個Billion Parameter的模型跟要不要
Quantize下去挑喔 31F 220.135.152.215 (台灣) 11-28 23:34
… 共有 7 則推文,點此顯示
作者:
s78513221 (月亮兔)
42.79.153.191 (台灣)
2024-11-01 23:03:03 推 isoBlue: 根本不用copilot還塞ai給我,我都訂gpt plus了要這個幹嘛,要不是家人習慣office我寧願用google suite 94F 220.135.152.215 (台灣) 11-02 08:17
作者:
EBVirus (洨洨積極哥)
36.239.1.34 (台灣)
2024-11-02 05:47:57 推 isoBlue: 記憶體可以說能替代但是如果VRAM不夠用,把VRAM塞爆然後offload到記憶體,如果只是實驗性玩玩看可以,如果要穩定用跟流暢的體驗VRAM一定要夠 28F 220.135.152.215 (台灣) 11-02 08:13
→ isoBlue: VRAM offload到記憶體我個人是覺得很慢 37F 220.135.152.215 (台灣) 11-02 08:18
… 共有 7 則推文,點此顯示
點此顯示2023年的記錄