Published June 17, 2026 | Version v1

基於局部流形展開與特徵峰值探測之⼤型語⾔模型逆向重構協議 Inverse Reconstruction and Peak Feature Probing of LLM Local Manifolds

Authors/Creators

Description

⼤語⾔模型(LLM)之推論過程向來被視為缺乏機械可解釋性之「⿊盒」。本技術報告捨棄傳統之微調與提⽰詞⼯程,改採
計算拓撲學與機械可解釋性之視⾓,將    LLM    之推論過程重構為⾼維度流形上之幾何軌跡。本架構透過原⽣推論引擎提取神經
網路之隱藏狀態與激活張量,結合局部雅可⽐矩陣逼近(Jacobian Approximation)與流形展開(Manifold Unrolling),將⾼維度之語意張量降維投影⾄低維度之拓撲網格。進⼀步,透過特徵探測器記錄不同輸⼊在網格上之激活最⼤化(Activation Maximization)峰值,系統得以逆向繪製出 LLM 內部之「功能拓撲地形圖」。本架構確⽴了⼀套純幾何之測量協議,為後續之幾何曲率控制與神經迴路逆向⼯程提供了基礎藍圖。

Files

paper_manifold_unrolling_fixed.pdf

Files (186.2 kB)

Name Size
md5:7facdcdf04cc3992a71f510e457a6b55
186.2 kB Preview Download

Additional details

Related works

Is supplemented by
Preprint: 10.5281/zenodo.20726544 (DOI)