深度分析
Decoupled Search Grounding (DSG):降低 LLM 搜尋成本、提升可控性與效能
隨著大型語言模型在生產環境中大量使用即時搜尋,搜尋與推理緊耦合造成成本與輸出控制困難。研究提出供應商中立的Decoupled Search Grounding(DSG)架構,將搜尋抽離模型,透過MCP閘道提供者路由、快取與深度調整等可控參數。實驗顯示DSG在保留近似準確度的同時,將搜尋成本降低超過90%,並解決了搜尋誘發的冗長問題。
深度分析
隨著大型語言模型在生產環境中大量使用即時搜尋,搜尋與推理緊耦合造成成本與輸出控制困難。研究提出供應商中立的Decoupled Search Grounding(DSG)架構,將搜尋抽離模型,透過MCP閘道提供者路由、快取與深度調整等可控參數。實驗顯示DSG在保留近似準確度的同時,將搜尋成本降低超過90%,並解決了搜尋誘發的冗長問題。
深度分析
隨著大型語言模型後訓練資料的重要性日增,研究者提出多代理人框架自動重建資料血緣圖,揭示垂直細化與水平聚合等結構模式,並發現結構冗餘與基準汙染問題。利用血緣圖產生血緣感知的多樣性資料集,降低同質化,提高語料多樣性,顯示此技術對資料治理具潛在影響。