深度分析
快手團隊打造混合式 LLM 代理人架構,革新 CTV 推薦系統
傳統推薦系統難以整合趨勢話題等異質訊號,快手團隊提出 LLM 代理人推薦系統,專為 CTV 內容探索設計。系統採混合架構,由編排層協調主題檢索、媒體檢索與排序、主題排序三個代理人,LLM 處理推理任務,傳統 ML 處理延遲敏感排序。非同步快取機制成功克服 LLM 推論延遲,僅需修改提示即可整合新訊號。
深度分析
傳統推薦系統難以整合趨勢話題等異質訊號,快手團隊提出 LLM 代理人推薦系統,專為 CTV 內容探索設計。系統採混合架構,由編排層協調主題檢索、媒體檢索與排序、主題排序三個代理人,LLM 處理推理任務,傳統 ML 處理延遲敏感排序。非同步快取機制成功克服 LLM 推論延遲,僅需修改提示即可整合新訊號。
深度分析
隨著平台越來越需要同時符合屬性與細緻樣式的檢索,研究提出MO‑DiT+HPPO框架,結合度量排序序列訓練與混合政策偏好優化,在四大屬性領域提升Joint@K指標,且保持樣式純度,顯示生成式檢索的可行性與效能。方法無需重新訓練或外部過濾,即可跨模型應用,降低開發者合規門檻。
深度分析
生成式檢索正改寫檢索與推薦場景,但現行系統對複雜查詢與個人化意圖理解有限。OneSearch-V2提出三項關鍵改進:以關鍵詞化思路擴充查詢理解、內化推理的自蒸餾訓練管線,以及以使用者行為回饋為核心的偏好對齊優化。離線與線上實驗顯示系統在點擊率、轉化率及訂單量上均有顯著提升,且不增加推論延遲。
深度分析
生成式檢索面臨前綴修剪導致遺漏相關文件的挑戰。PAG透過同時解碼產生文件級的look-ahead先驗,將該先驗當作額外獎勵以引導trie約束的逐步解碼並減少早期剪枝。重現與壓力測試顯示在作者釋出資源下能復現效能,但規劃信號對詞彙變動與跨語言查詢相當敏感。