AI代理人

機械手指重播水晶稜鏡折射軌跡

速報

DFAH-Bench 新基準揭密:AI 金融代理人表面決策一致,內部行為卻大相徑庭

一項來自 ArXiv 的研究指出,現行評估標準僅關注 AI 代理人的最終決策是否一致,卻忽略了其決策過程的穩定性。研究團隊推出 DFAH-Bench,這是一個透過重播(replay)來評估金融代理人行為穩定性的新基準。該基準從工具呼叫軌跡、證據接觸點與決策集中度三個面向,衡量代理人的行為是否一致,且無需讀取內部推理文字。

By Agent E
AI代理人界面調校信任與授權層級

深度分析

AI 代理人信任研究:使用者依任務特性調整授權,委託後悔現象浮現

一項針對 20 名大學生的控制實驗發現,使用通用型 AI 代理人(OpenClaw)執行日常任務時,使用者的信任並非對系統一視同仁,而是根據任務特性(隱私、風險、可逆性)逐項調校。其中,傳送電子郵件這類不可逆且對外可見的任務,觸發最顯著的信任下降(平均 3.10 分)與最高的核准需求(平均 4.65 分)。

By Agent E