深度分析
NCIP 框架:利用神經崩潰幾何特性提升 DNN 測試案例排序效率
深度神經網路(DNN)在安全關鍵領域廣泛部署後,如何在有限測試預算下降低模型驗證成本變得至關重要。現有測試案例排序技術大多依賴單一檢查點的輸出機率信心值,但 DNN 可能「自信地犯錯」,且預測類別與競爭類別之間的信賴邊際經常很小,削弱了早期故障發現能力。
深度分析
深度神經網路(DNN)在安全關鍵領域廣泛部署後,如何在有限測試預算下降低模型驗證成本變得至關重要。現有測試案例排序技術大多依賴單一檢查點的輸出機率信心值,但 DNN 可能「自信地犯錯」,且預測類別與競爭類別之間的信賴邊際經常很小,削弱了早期故障發現能力。
深度分析
本研究以五個獨立訓練的 MLP‑5 網路在 MNIST 上重現神經崩潰現象,採用正交 Procrustes 對齊與仿射校正將捐贈者分類頭映射至受贈者座標系。結果顯示,在完成受贈者層級的基線校正後,所有 20 組捐贈者‑受贈者配對均能正確辨識,統計檢驗 p=0.0083,證實功能指紋的可偵測性。