政策感知代理人

速報

AI 決策不再黑箱：新框架用「反事實解釋」讓代理人說清楚為什麼

AI 代理人決策過程常被視為黑箱，新研究提出一套解釋框架，讓內建規則強制執行政策的代理人能產生對比解釋。該框架利用 ASP 語言搭配 Python，透過政策違反懲罰值偵測反事實情境中的不良事件，並生成如「若不執行此動作將發生 X」的說明，經人機問卷驗證有效。