大型語言模型安全

深度分析

「TRAP 基準」：同時衡量任務完成與主動隱私抽取的私密欄位隔離新方案

隨著大型語言模型代理人逐步介入文件密集的工作流程，隱私資訊的使用與保護形成衝突。研究提出TRAP基準，結合任務查詢與主動抽取測試，同時評量完成度與資訊洩漏。實驗顯示所有模型在高正確率下仍會洩漏，而結構化私密欄位隔離可在保留任務表現的前提下將洩漏降至最低。