无码欧精品亚洲日韩一区夜夜_麻豆网站视频免费在线观看_亚洲不卡免费精品_草莓影院成人黄色_av丝袜国产在线播放_中文字幕亚洲天堂三级片_国产大鸡巴视频_欧美视频一二三区_91免费国产高清观看_中文有码vs无码人妻

計算復雜度的概念在計算機科學中已經確立，算法根據時間和內存需求如何隨問題規模擴展而被分析。類似的框架可以應用于物理硬件，特別是處理光等波的系統。對于光學器件，實現非平凡的數學運算需要足夠的物理空間，因為任何位置的輸出都必須依賴于一定范圍位置的輸入。這個基本要求源于波物理學，決定了器件功能所需的最小厚度或體積。

圖1：在自由空間光學和光子芯片中降低空間復雜度的核心概念。部分a-c顯示了不同核矩陣結構如何影響自由空間光學系統的厚度擴展規律，而部分d-f演示了塊對角化如何減少光子芯片中所需的馬赫-曾德爾干涉儀數量。

研究人員建立在 D. A. B. Miller 的基礎工作之上，Miller 確立了光學系統的尺寸要求與稱為"重疊非局域性"的概念相關。這個概念衡量有多少獨立的通信通道必須穿過器件內的任何橫向切面。當多個輸出需要來自重疊輸入集合的信息時，光學系統需要足夠的厚度來同時容納所有這些交叉通道。關鍵的洞察是，正在執行的運算的特定數學形式直接決定了這種重疊非局域性，從而決定了最小器件尺寸。

要理解為什么某些光學設計需要更多空間，需要檢查光如何在器件內的輸入和輸出位置之間耦合。光學系統中的每個輸出位置從一組輸入位置接收貢獻，這些耦合模式可以用數學方法表示為核矩陣。特定輸出的通信錐包含對其有貢獻的所有輸入位置，由兩個參數表征：錐中心相對于輸出位置的水平偏移，以及錐范圍的寬度。

圖2：標準光學非局域性和重疊非局域性，顯示了通信錐如何在一維和二維光學系統中與橫向孔徑相交，并引入了光學耦合的面內距離概念。

確定器件厚度的關鍵量是必須穿過系統內任何橫向孔徑的通信錐的最大數量。當這種重疊非局域性很大時，器件需要許多并行通道來橫向傳輸信息，需要更大的物理厚度。重疊非局域性與所需厚度之間的關系可以使用衍射理論精確計算，考慮工作波長和器件材料中可用的最大折射率。

研究團隊系統地分析了核矩陣上的不同結構約束如何影響重疊非局域性隨運算維度的擴展。研究人員考慮了三種情況：具有平凡隨機稀疏性的矩陣、選擇性地刪除行的矩陣(行稀疏矩陣)，以及表現出局部稀疏性的矩陣，其中耦合僅發生在附近的輸入-輸出對之間。

圖3：三種不同類型核矩陣的最大重疊非局域性作為運算維度函數的擴展規律：平凡稀疏、行稀疏和局部稀疏配置，證明了局部稀疏矩陣如何實現優越的次線性擴展。

分析揭示了令人驚訝的結果。通過隨機刪除耦合來簡單地增加稀疏性沒有任何好處，除非矩陣變得如此稀疏以至于失去編碼有用運算的能力。同樣，刪除整行只能將擴展減少一個常數因子，但保持對運算維度的線性依賴。然而，通過將耦合限制在附近的輸入-輸出對來強制局部性實現了突破：重疊非局域性僅按運算維度的平方根擴展，而不是線性擴展。這種次線性擴展代表了根本性的改進，意味著遵循這種局部稀疏模式的更大光學系統可以保持相對緊湊。

雖然理論分析確定了哪些數學運算可以緊湊地實現，但一個實際問題仍然存在：當限制在這些空間高效形式時，是否仍然可以完成有用的計算任務?研究人員通過利用光神經網絡來解決這個問題，光神經網絡提供了在尊重物理約束的同時學習特定任務運算的靈活性。

對于自由空間光學實現，研究人員使用受大腦啟發的模塊化訓練方法開發了局部稀疏光神經網絡。這種方法結合了一個專門的損失函數，該函數懲罰非局部連接，鼓勵網絡發展穿越小面內距離的耦合模式。此外，該方法戰略性地交換跨層的神經元位置以進一步增強局部性。訓練后，權重剪枝去除了幅度較小的連接，產生自然表現出所需局部稀疏結構的網絡。

圖4：比較在 Fashion-MNIST 數據集上執行分類的傳統、行稀疏和局部稀疏光神經網絡，展示了自由空間光學的空間高效計算，顯示了通過不同剪枝策略在三個層間區域實現的厚度-精度權衡。

在基準圖像分類數據集上測試這些網絡揭示了顯著的結果。與傳統設計相比，局部稀疏網絡將各個層間區域的厚度減少了3倍到近60倍，精度下降極小。例如，在 Fashion-MNIST 數據集上，局部稀疏網絡僅實現了幾個百分點的精度降低，同時需要的物理空間大大減少。這證明了收益遞減的原理：超過一定水平的光學復雜度，額外的空間資源只會帶來邊際的性能改進。

對于基于馬赫-曾德爾干涉儀網格的片上光子實現，研究人員開發了一種以塊對角化為中心的不同策略。實現任意線性變換的標準架構需要隨運算維度增長而呈二次擴展的干涉儀數量。然而，如果核矩陣可以被約束為塊對角形式——本質上是將一個大變換分解為許多小的獨立變換——所需組件的數量會下降到準線性擴展。

圖5：通過塊對角神經網絡說明了光子芯片上的空間高效計算，顯示了六種不同配置的模型精度與塊對角化程度之間的權衡，以及權重矩陣的可視化和所需馬赫-曾德爾干涉儀的相關減少。

研究團隊為創建塊對角網絡開發了一種兩階段剪枝方法。首先，訓練傳統網絡，添加一個額外的損失項來懲罰非塊對角權重，逐漸鼓勵塊對角結構。然后，將這些權重加載到專門結構的層中，其中只有對角塊包含可學習參數，并繼續訓練以完全適應這種約束。這種方法被證明非常有效：最大塊大小僅為10×10的網絡在分類任務上實現了可觀的精度，同時所需的馬赫-曾德爾干涉儀比未剪枝的實現少約98%。

這項工作為思考光計算設計建立了一個新框架，將焦點從純粹最大化性能轉移到優化空間資源與計算精度之間的平衡。通過空間復雜度分析確定的基于物理學的結構約束直接轉化為實用的剪枝策略，產生緊湊、高效的光學系統。

研究結果表明，光神經形態計算可以在算法和硬件之間實現良好的協同作用。與電子處理器不同，稀疏神經網絡通常由于不規則的內存訪問模式而難以充分利用并行架構，光學實現自然支持從基于物理的剪枝中出現的稀疏、局部化連接模式。波物理學所青睞的數學結構與通過神經網絡訓練學習的壓縮表示之間的這種對齊，為混合光-電子系統開辟了路徑，可以戰略性地將不同運算分配給最合適的硬件平臺。