深度分析
Adam-Aware In-Run Data Shapley:線性化鬼影近似實現高忠實度資料歸因
資料歸因是提升模型可靠性與效率的關鍵。本研究發現 SGD 代理方法與 Adam 真實貢獻相關性極低(R≈0.11),因此提出 Adam-Aware In-Run Data Shapley,透過線性化鬼影近似實現高效計算,忠實度達 R>0.99,吞吐量維持標準訓練的 95%。
深度分析
資料歸因是提升模型可靠性與效率的關鍵。本研究發現 SGD 代理方法與 Adam 真實貢獻相關性極低(R≈0.11),因此提出 Adam-Aware In-Run Data Shapley,透過線性化鬼影近似實現高效計算,忠實度達 R>0.99,吞吐量維持標準訓練的 95%。
深度分析
本文揭示分散式訓練中資料歸因(data attribution)可能被單一參與者策略性操縱的脆弱面向。研究提出一種「潛在向量優化」攻擊:攻擊者在本機訓練中注入少量由預訓練解碼器產生的合成樣本,並在每輪優化低維潛在向量,使上傳更新在邊際貢獻評估器(如 Federated Shapley、LOO)上獲得較高分數。