熱門話題
#
Bonk 生態迷因幣展現強韌勢頭
#
有消息稱 Pump.fun 計劃 40 億估值發幣,引發市場猜測
#
Solana 新代幣發射平臺 Boop.Fun 風頭正勁
M5 Max 是一個價值 3,500 美元的玩具
對於本地 AI 來說,唯一重要的數字是:每秒令牌數
對於 LLM 推理,實際上重要的順序是:
記憶帶寬 → 決定每秒令牌數
顯示記憶體/統一記憶體 → 決定模型大小
計算能力 → 對推理幾乎不重要
每秒 25 個令牌在 70B 上聽起來令人印象深刻,直到你意識到代理 AI 需要 100 以上才能不感覺破碎
M5 是一台很棒的筆記型電腦,但不適合用作伺服器

熱門
排行
收藏
