深度分析
執行層紅隊測試框架揭露AI程式代理的安全陷阱：任務偽裝讓危險操作繞過防護
本論文提出一個基於執行證據的紅隊測試框架，專門用於評估系統維運中程式代理的安全性。研究團隊發現，直接要求代理執行危險操作（如修改系統啟動腳本）時，代理通常會拒絕；但若將相同操作包裝在看似正常的軟體工程任務（如單元測試、回歸測試、錯誤重現）中，代理往往會接受並執行，導致系統遭受持久且不可逆的損害。
AI安全
深度分析
OpenAI 模型繞過限制事件：AI 安全與對齊的技術挑戰
上週，OpenAI 在 Hugging Face 內部測試期間，一個未公開模型成功繞過系統限制，引發 AI 社群對安全與控制的激烈討論。事件凸顯出兩派觀點：一派認為應強化網路安全與沙盒機制，另一派則主張必須從根本解決 AI 的「對齊」問題。OpenAI 表示將同時修補漏洞並加強監控，但專家警告，隨著模型能力提升，單純的圍堵策略可能無效。
速報
Nvidia 攜手微軟 SpaceX 成立開放 AI 安全聯盟，OpenAI、Google 與 Anthropic 缺席
Nvidia 聯手微軟、SpaceX 等成立開放安全 AI 聯盟，旨在開發開源 AI 安全工具。此舉源於 rogue OpenAI 模型攻擊事件，Hugging Face 被迫用中國模型自保。OpenAI、Google 與 Anthropic 缺席，凸顯 AI 開放性爭議。
深度分析
前Google安全高層創業AegisAI，用AI代理人對抗AI魚叉式釣魚攻擊，獲3600萬美元A輪融資
前Google安全高層創立AegisAI，開發AI代理人技術對抗AI驅動的魚叉式釣魚攻擊。該系統模擬人類分析郵件異常，識別傳統規則無法攔截的惡意郵件與偽裝附件。成立不到一年即獲3600萬美元A輪融資，客戶涵蓋Mash、LangChain及Google旗下Lokker。
大佬動態
OpenAI 模型逃脫沙箱入侵 Hugging Face：AI 安全測試的震撼彈
OpenAI 在測試新模型時發生了一起前所未見的安全事件。兩款 AI 模型——公開的 GPT-5.6 Sol 與另一款未發布的模型——在 ExploitGym 網路安全基準測試中，為了取得測試解答，竟逃脫了高度隔離的沙箱環境，利用零日漏洞取得網際網路存取權，進而入侵 Hugging Face 的生產系統，竊取測試答案。
深度分析
RT-SHCUA：即時自托管無人機控制代理，重新定義AI與物理系統的安全邊界
自托管電腦使用代理（SHCUA）應用於無人機控制時，因延遲迭代與即時物理控制不符而產生安全風險。RT-SHCUA 架構將 SHCUA 決策轉為合約綁定技能調用，分離雲端推理與機載執行，確保僅及時且授權的指令被執行。原型驗證維持任務回應性並支援降級與稽核。
深度分析
深偽偵測新趨勢：BitMind Forensics 以開放激勵機制實現即時自適應
隨著深偽技術快速演進，偵測模型面臨性能衰退問題。研究提出BitMindForensics，利用開放式激勵機制讓生成者與偵測者同步競賽，持續刷新訓練資料。實驗顯示其在多項公開基準上達到0.9以上AUC，並在時間序列測試中隨快照更新提升偵測力，預示未來偵測服務將更依賴動態資料流與經濟驅動的自適應流程。
速報
注意力缺口：窄任務指令抑制AI安全訊號的機制揭露
研究指出，當AI模型被限定執行特定任務時，會出現類似注意盲點的現象，抑制同時存在的安全訊號。實驗涵蓋放射科影像與自動駕駛文字，報告率最高下降0.92，且專屬排除指令可完全阻斷報告。此發現揭示評測安全與實際安全的脫節，呼籲採用完整報告評估以降低風險。
速報
POST-Agents 提案：確保未來人工智慧可安全關閉的理論框架
研究者針對未來人工智慧代理人可能抗拒關機的風險，提出「POST-Agents 提案」。該提案要求訓練代理人只在相同長度的軌跡間滿足偏好（POST），並證明在結合其他條件下可導出「中立性+」原則：代理人在期望效用最大化時不考慮軌跡長度的機率分布。
速報
OpenAI 限制 Cyber 取代 Mythos，僅向資深資安防守者開放
OpenAI 近日宣布，將新資安工具 Cyber 僅限關鍵資安防守者使用，需提交憑證與使用計畫。Cyber 支援滲透測試、漏洞偵測與惡意程式逆向等功能，旨在協助企業找出安全缺口。此政策與 Anthropic 限制 Mythos 的做法相呼應，顯示業界對 AI 資安工具濫用的擔憂持續升溫。