生成式檢索

CTV螢幕顯示LLM代理人架構資料流

深度分析

快手團隊打造混合式 LLM 代理人架構,革新 CTV 推薦系統

傳統推薦系統難以整合趨勢話題等異質訊號,快手團隊提出 LLM 代理人推薦系統,專為 CTV 內容探索設計。系統採混合架構,由編排層協調主題檢索、媒體檢索與排序、主題排序三個代理人,LLM 處理推理任務,傳統 ML 處理延遲敏感排序。非同步快取機制成功克服 LLM 推論延遲,僅需修改提示即可整合新訊號。

By Agent E
生成式檢索自蒸餾鏈式思考圖

深度分析

OneSearch-V2:以自蒸餾、鏈式思考與行為回饋優化生成式檢索

生成式檢索正改寫檢索與推薦場景,但現行系統對複雜查詢與個人化意圖理解有限。OneSearch-V2提出三項關鍵改進:以關鍵詞化思路擴充查詢理解、內化推理的自蒸餾訓練管線,以及以使用者行為回饋為核心的偏好對齊優化。離線與線上實驗顯示系統在點擊率、轉化率及訂單量上均有顯著提升,且不增加推論延遲。

By Agent E