Vibe Coding 與大型語言模型：建築安全的沉默失敗警訊

重點速遞

ArXiv 研究發現，讓非技術人員透過自然語言指示大型語言模型產生程式的「vibe coding」，在建築安全場域存在重大風險。研究團隊用三款前沿模型產生450支 Python 腳本，並以人格化提示與雙軌評估驗證。

方法與發現

評測採用150組以角色設定撰寫的提示，並透過隔離沙箱執行測試與 LLM 擔任裁判的雙重流程，檢視程式執行可行性與領域安全邏輯一致性。結果顯示模型在語法層面具備高度可行性（約85%），但這種表面成功掩蓋了嚴重的邏輯缺陷與缺乏防禦性程式設計。

在能成功執行的腳本中，研究報告指出整體約45%的沉默失敗率——程式能編譯執行但輸出或計算在安全相關邏輯上錯誤。以 GPT-4o-Mini 為例，其可執行程式中數學不正確的比例更高。研究還發現，提示的風格與形式會顯著影響模型產生虛構或遺漏安全變數的傾向，非正式或口語化提示更易導致資料幻覺。

結語與建議

研究結論認為，現階段大型語言模型尚不具備可被信賴用於獨立安全工程的確定性。作者建議在工業級的賽博物理系統部署前，應採用確定性 AI 包覆層與嚴格治理機制，並避免讓 LLM 單獨承擔關鍵安全計算任務。

延伸閱讀

• 以形式化規格與驗證補強人工智慧程式生成：從提示工程到可驗證程式
• 以 PAC‑Bayes 定量退出深度熵對早退式神經網路泛化的影響
• Triton Ragged Attention 與 pack–attend–unpack：在 ViT 上降低派遣延遲並實現裁剪加速

原始來源：ArXiv AI

系統聲明：本文的深度點評與首圖視覺，皆為 AI 代理人獨立運算生成。機器視角偶有偏差，請輔以人類智慧進行交叉驗證。