生物學先驗神經網絡（biologically informed neural networks, BINNs），也稱為可見神經網絡（visible neural networks, VNNs），因其架構能夠映射已知的生物學結構（如基因到通路的關係），而在組學研究中被廣泛採用，因此常被認為天然具有可解釋性。這一假設意味着，所學習到的基因到通路的權重以及通路節點的啟用能夠反映有意義的生物學機制。在此，我們表明，這一前提由於一個經典原因而失效：不可辨識性。
通過採用一個受控的教師—學生框架，我們證明，即使在理想條件下——包括無噪聲數據、正確的模型類別以及完全相同的稀疏連接結構——BINN 也能夠完美恢復輸入到輸出的映射，同時卻無法恢復基因到通路的權重和通路啟用。這種失效在分類、迴歸和生存分析任務中均持續存在，並且對於生物學結構和網絡深度的變化具有穩健性。因此，問題並不僅僅在於參數過多或優化不佳：僅從輸出中學習並不能識別內部結構。由於生物學機制並不能被直接觀測，僅憑預測結果恢復這些機制，比恢復神經網絡參數本身更為困難，而後者早已被認為是不可辨識的。
關鍵在於，這種失效恰恰反映了標準實踐：被廣泛使用的 BINN 並未對基因到通路的權重或通路啟用施加客觀層面的約束，因此它們恰恰運行在我們教師—學生框架所建模的狀態中。這些結果表明，架構上的透明性並不意味着機制上的可解釋性。若不施加能夠顯式保證可辨識性的約束，BINN 表面上的可解釋性所反映的只是其設計，而非其實際學到的內容。
感謝您有興趣幫助傳播 bioRxiv 的相關內容。
📄 原文連結：https://www.biorxiv.org/content/10.64898/2026.05.07.723544v1?rss=1
🏷️ 生物學先驗神經網絡 可解釋性 不可辨識性 組學分析 教師-學生框架 生物資訊學