深度分析
記憶體內運算突破蒙特卡羅樹搜尋,IMC-MCTS 以 60mW 功耗實現 9×9 圍棋對弈
蒙特卡羅樹搜尋因高功耗難以邊緣部署。研究者提出階段轉基本運算分解法,將搜尋各階段對應至 CAM、RRAM 陣列等記憶體內運算單元。在 22 奈米製程下,IMC-MCTS 以 60 毫瓦功耗執行 9×9 圍棋,能源效率較 CPU 提升 96 倍,較 H100 GPU 提升最高 2,059 倍。
深度分析
蒙特卡羅樹搜尋因高功耗難以邊緣部署。研究者提出階段轉基本運算分解法,將搜尋各階段對應至 CAM、RRAM 陣列等記憶體內運算單元。在 22 奈米製程下,IMC-MCTS 以 60 毫瓦功耗執行 9×9 圍棋,能源效率較 CPU 提升 96 倍,較 H100 GPU 提升最高 2,059 倍。
深度分析
隨著小型語言模型在邊緣裝置的需求上升,傳統加速器在自回歸解碼階段受限於記憶體帶寬。EdgeCIM 以65nm記憶體內運算宏核搭配平鋪映射策略,平衡流水線以提升平行度並降低DRAM負擔。實驗顯示其在多模型測試中達到顯著的吞吐量與能源效率提升,成為邊緣即時推論的可行方案。