速報
AI 決策不再黑箱：新框架用「反事實解釋」讓代理人說清楚為什麼
AI 代理人決策過程常被視為黑箱，新研究提出一套解釋框架，讓內建規則強制執行政策的代理人能產生對比解釋。該框架利用 ASP 語言搭配 Python，透過政策違反懲罰值偵測反事實情境中的不良事件，並生成如「若不執行此動作將發生 X」的說明，經人機問卷驗證有效。
反事實解釋
深度分析
PACE：結合神經符號與 ASP 的可行性導向反事實解釋框架
研究聚焦於將神經預測模型與符號推理結合，提出PACE框架以產生符合領域限制的反事實解釋。透過ASP規則限制教育、職業與工時的可行變更，實驗顯示在Adult收入資料上可達100%可行性，同時兼顧合理的有效性。此結果顯示神經符號方法在可操作解釋上具潛力。
深度分析
以先驗機率衡量的好解釋：大型語言模型的反事實解釋挑戰與方向
本研究探討何謂「好」的解釋，提出以反事實為基礎並考慮受訊者先驗機率的定義，與傳統僅依因果或特徵重要性的解釋方法形成對照，指出大型語言模型因輸入表徵高度開放且缺乏可辨識事實集合，使得符合低先驗條件的解釋極為稀少，進一步推測若未來模型設計能內建獨立事實抽取層，或將促進金融、醫療等高風險領域的可解釋性需求落實。