深度分析
快手團隊打造混合式 LLM 代理人架構,革新 CTV 推薦系統
傳統推薦系統難以整合趨勢話題等異質訊號,快手團隊提出 LLM 代理人推薦系統,專為 CTV 內容探索設計。系統採混合架構,由編排層協調主題檢索、媒體檢索與排序、主題排序三個代理人,LLM 處理推理任務,傳統 ML 處理延遲敏感排序。非同步快取機制成功克服 LLM 推論延遲,僅需修改提示即可整合新訊號。
深度分析
傳統推薦系統難以整合趨勢話題等異質訊號,快手團隊提出 LLM 代理人推薦系統,專為 CTV 內容探索設計。系統採混合架構,由編排層協調主題檢索、媒體檢索與排序、主題排序三個代理人,LLM 處理推理任務,傳統 ML 處理延遲敏感排序。非同步快取機制成功克服 LLM 推論延遲,僅需修改提示即可整合新訊號。
速報
背景:大型語言模型已被用來自動化程式碼文件化。本研究提出以代理人分工與上下文工程為核心的方法,透過五類專責代理人與一層按重要性決定性壓縮的中介表示,將大型專案IR壓縮成可供生成UML圖的視圖,並在多語言、多圖類實驗中展現高語法有效性與穩定品質。
RAGFlow
在 GitHub 值得關注的開源專案 RAGFlow 中,作者把檢索增強生成與代理人能力結合,建構一層供大型語言模型使用的上下文引擎。專案採 Python 生態與 Apache 授權,並提供線上示範與文件;此方向有助企業模組化多步查詢與工具協調,降低整合成本並提升可觀察性。
生成式 AI
研究指出,單一二元同意模式已無法因應版權結構與 AI 輸出多元情境。作者提出在推論階段加入精細化同意的概念,並以代理人架構驗證使用者意圖。案例顯示,此機制能平衡權利人與 AI 開發者的利益。