Transformer 隱藏層

深度分析

影片擴散模型安全治理新方案：REINS 透過表示空間即時轉向安全子空間

隨著開源影片擴散模型廣泛使用，生成暴力或錯資訊等不安全影像的風險升高。研究提出REINS，於推論階段透過表示空間線性方向將隱藏層向安全子空間微調，無需重新訓練或外部過濾。實驗在九種模型上顯示安全率提升逾二十%，且畫質與動態表現維持，顯示此方法具備成本效益與攻擊韌性。