深度分析
RISC-V 單核心 float16 軟硬體協同設計:AIfES 框架突破邊緣裝置訓練限制
本論文提出一套基於 RISC-V 標準擴充(Zfh 與 Zvfh)的開源框架,使資源受限的 RISC-V 單核心裝置能夠執行完整的深度神經網路訓練(on-device training)。與 float32 相比,float16 的記憶體佔用降低約 50%,且模型效能僅微幅下降。
深度分析
本論文提出一套基於 RISC-V 標準擴充(Zfh 與 Zvfh)的開源框架,使資源受限的 RISC-V 單核心裝置能夠執行完整的深度神經網路訓練(on-device training)。與 float32 相比,float16 的記憶體佔用降低約 50%,且模型效能僅微幅下降。
深度分析
隨著大型語言模型推論頻繁存取短期記憶,傳統CPU到GPU到DRAM的往返成為結構性瓶頸。XCENA以MX1把運算推向DRAM附近,透過CXL在記憶體模組內處理預處理、KV快取及資料編排,宣稱能把過去需多台伺服器承擔的工作合併並顯著降低AI基礎建設成本。
RISC-V
晶片設計新星 SiFive 完成 4 億美元融資,估值達 36.5 億美元,且有 Nvidia 參與投資。SiFive 憑藉開源的 RISC-V 架構,正從嵌入式設備跨足 AI 資料中心 CPU 市場,並將與 Nvidia 的 CUDA 與 NVLink 深度整合,挑戰 x86 與 ARM 的長期壟斷地位。
LinuxPDF
繼成功將 Doom 遊戲移植到 PDF 後,一名高中生開發者再次挑戰極限,將精簡版 Linux 作業系統成功運行在 PDF 文件中。透過將 TinyEMU 模擬器轉換為 JavaScript 並嵌入 PDF,該專案展示了文件格式的計算能力,同時也提醒使用者注意 PDF 內嵌腳本的安全風險。