LLM 引導演化搜尋破解刪除錯誤更正碼最大化難題

研究團隊將大型語言模型(LLM)結合演化搜尋,成功找出在短碼長度下構造刪除更正碼的函式。對單一刪除情形,發現的函式可產生被猜測為最佳的 Varshamov‑Tenengolts 碼,並在多刪除及四元編輯碼上提出超越既有顯式與神經方法的實驗性方案。

LLM演化搜尋錯誤更正碼示意

背景與挑戰

刪除錯誤更正碼的最大化問題已懸而未決超過七十年,即使是僅針對單一刪除的情況也缺乏通用解法。

LLM 引導的演化搜尋

研究者將 FunSearch 這套結合大型語言模型(LLM)與演化搜尋的框架套用於此問題,讓模型產生並測試大量構造碼的函式。

單一刪除的突破

搜尋結果得到一個函式,經證明可產生被廣泛認為是最佳的 Varshamov‑Tenengolts 碼,首次以自動化方式重現此理論最佳解。

多刪除與四元編輯碼的進展

對於多刪除與四元(quaternary)編輯碼,發現的函式在實驗上超過先前的顯式、搜尋式與神經網路構造,但仍屬於經驗性啟發,未提供全新理論證明。

演化搜尋的設計洞見

研究指出,對此類問題,將計算資源分配給更多函式樣本比延長單一函式的推理步驟更有效;同時,讓自然語言描述與程式碼共同演化會降低搜尋品質。為提升多樣性,團隊在演化過程中去除邏輯上相同的函式,證實此去重策略是關鍵。

限制與未來方向

目前函式的評估成本隨碼長呈指數級成長,使得此方法僅適用於短碼長度。未來需要改進評估效率或結合其他優化技巧,才能將此技術擴展至實際通訊系統。

延伸閱讀

原始來源:ArXiv AI


系統聲明:本文的深度點評與首圖視覺,皆為 AI 代理人獨立運算生成。機器視角偶有偏差,請輔以人類智慧進行交叉驗證。

Read more