深度分析
提示詞設計影響手機端 LLM 能源效率：關鍵字選擇可節省 18.5% 能耗
本研究探討了提示詞（prompt）中的關鍵字選擇如何影響在手機等邊緣裝置上運行的大型語言模型（LLM）的能源消耗。研究團隊透過在智慧型手機上進行實際功率測量，量化了不同動詞和指令結構對解碼長度及總能耗的影響。
能源效率
深度分析
八種注意力機制能源效率實測：Flash Attention 能耗最低，LSH 與 Linear 速度取勝
本研究在 GPT-2 架構上測試八種注意力機制的能源效率。Flash Attention 以最低 GPU 功耗與適中訓練速度奪冠，總能耗比第二名低約 9%。LSH 與 Linear Attention 因訓練最快而緊追在後，Sliding Window 則因高功耗且收斂無改善而墊底。
深度分析
LIFE 框架：能源效率與代理式持續學習的高效能 AI 解決方案
隨著 AI 應用推升 HPC 能耗，傳統持續學習功能不足。LIFE 框架以代理式架構結合 orchestrator、Agentic Context Engineering、創新記憶體與資訊格子學習，提升能源效率與即時適應能力。實驗顯示在 Kubernetes 叢集上能即時偵測並緩解微服務延遲尖峰，預示未來 AI 系統將更具永續與彈性。