Chip Insight 資料庫
#Memory Wall
找到 2 篇文章
AI 晶片真正的瓶頸不是算力？新論文指出：記憶體正在成為整台電腦的核心
一篇最新 arXiv 綜述重新整理了 GPU、TPU、Trainium、Groq、Cerebras、FPGA、PIM、神經形態運算與光子運算等 AI 加速器架構。作者指出，大型語言模型真正的限制正在從純算力轉向記憶體頻寬、KV Cache 容量與資料搬運能耗。未來 AI 硬體不太可能由單一架構取代 GPU，而更可能走向以記憶體為中心的異質運算系統。
晶片觀測站·1 個月前
9 min
AMD 收購 AI 推論晶片新創 Taalas，將 AI 模型直接「燒錄進矽晶片」，瞄準新一代高效推論市場
AMD 宣布已簽署最終協議收購 AI 晶片新創 Taalas。這項收購發生在 AMD 與 Cerebras 合作推出 Helios AI 系統僅數週後，顯示 AMD 正積極布局 AI 推論（Inference）市場。Taalas 的核心技術並非提升 GPU 算力，而是將 AI 模型直接固化於晶片電路中，藉此大幅降低記憶體存取延遲，突破長期困擾 AI 推論的 Memory Wall（記憶體瓶頸）。
晶片觀測站·1 個月前
5 min