考量生命週期可靠性的非揮發性記憶體神經形態運算

目錄

1. 緒論

採用非揮發性記憶體（NVM）的神經形態運算代表了機器學習硬體的典範轉移，為基於脈衝的計算提供了顯著的效能和能源效率提升。然而，操作如相變記憶體（PCM）等NVM所需的高電壓會加速CMOS神經元電路的老化，威脅神經形態硬體的長期可靠性。

本工作針對神經形態系統中生命週期可靠性的關鍵挑戰，聚焦於負偏壓溫度不穩定性（NBTI）和時間依賴介電質崩潰（TDDB）等失效機制。我們展示了系統層級的設計決策，特別是週期性弛豫技術，如何在最先進的機器學習應用中創造重要的可靠性-效能權衡。

2. 交叉陣列可靠性建模

2.1 神經形態運算中的NBTI問題

負偏壓溫度不穩定性（NBTI）發生在神經元電路中CMOS元件閘極下方的氧化物-半導體邊界處捕獲正電荷時。此現象表現為汲極電流和跨導降低，以及關閉電流和臨界電壓增加。

由於NBTI導致的CMOS元件生命週期使用平均失效時間（MTTF）量化：

$MTTF_{NBTI} = A \cdot V^{\gamma} \cdot e^{\frac{E_a}{KT}}$

其中$A$和$\gamma$是材料相關常數，$E_a$是活化能，$K$是波茲曼常數，$T$是溫度，$V$是過驅動閘極電壓。

2.2 TDDB失效機制

時間依賴介電質崩潰（TDDB）是另一個關鍵可靠性問題，其中閘極氧化物因電應力隨時間推移而崩潰。在神經形態交叉陣列中，NVM操作所需的高電場加速了TDDB。

TDDB生命週期模型如下：

$MTTF_{TDDB} = \tau_0 \cdot e^{\frac{G}{E_{ox}}}$

其中$\tau_0$是材料常數，$G$是場加速參數，$E_{ox}$是穿過氧化物的電場。

2.3 綜合可靠性模型

神經形態硬體的整體可靠性考量了NBTI和TDDB兩種失效機制。綜合失效率如下：

$\lambda_{total} = \lambda_{NBTI} + \lambda_{TDDB} = \frac{1}{MTTF_{NBTI}} + \frac{1}{MTTF_{TDDB}}$

3. 實驗方法論

我們的實驗框架使用改良的DYNAP-SE神經形態架構與基於PCM的突觸交叉陣列來評估生命週期可靠性。我們實作了多個機器學習基準測試，包括MNIST數字分類和語音數字識別，以評估實際工作負載下的可靠性影響。

實驗設置包括：

• 神經元電路採用28nm CMOS技術節點
• 讀取電壓為1.8V的PCM突觸元件
• 溫度監控範圍從25°C到85°C
• 可變工作週期的應力-恢復循環

4. 結果與分析

4.1 可靠性-效能權衡

我們的結果展示了系統可靠性與計算效能之間的基本權衡。高電壓下的連續操作提供了最大吞吐量，但嚴重損害了生命週期可靠性。引入週期性弛豫期間可顯著改善MTTF，同時維持可接受的效能水準。

4.2 週期性弛豫的影響

實施工作週期為30%的停走計算方法，與連續操作相比，MTTF提高了3.2倍，而MNIST任務的分類準確度僅降低15%。這種方法有效地平衡了可靠性問題與計算需求。

5. 技術實作

5.1 數學公式

可靠性感知排程演算法優化了計算吞吐量與電路老化之間的權衡。最佳化問題可表述為：

$\max_{D} \quad \alpha \cdot Throughput(D) + \beta \cdot MTTF(D)$

$subject \ to: \quad D \in [0,1]$

其中$D$是工作週期，$\alpha$和$\beta$是效能和可靠性目標的加權因子。

5.2 程式碼實作

以下是可靠性感知排程器的簡化虛擬碼實作：

class ReliabilityAwareScheduler:
    def __init__(self, max_voltage=1.8, min_voltage=1.2):
        self.max_v = max_voltage
        self.min_v = min_voltage
        self.stress_time = 0
        
    def schedule_operation(self, computation_task, reliability_target):
        """在可靠性限制下排程計算"""
        
        # 根據可靠性目標計算最佳工作週期
        duty_cycle = self.calculate_optimal_duty_cycle(reliability_target)
        
        # 執行停走計算
        while computation_task.has_work():
            # 高電壓計算階段
            self.apply_voltage(self.max_v)
            computation_time = duty_cycle * self.time_quantum
            self.execute_computation(computation_task, computation_time)
            self.stress_time += computation_time
            
            # 低電壓恢復階段
            self.apply_voltage(self.min_v)
            recovery_time = (1 - duty_cycle) * self.time_quantum
            time.sleep(recovery_time)
            
    def calculate_optimal_duty_cycle(self, reliability_target):
        """計算工作週期以滿足可靠性要求"""
        # 考量NBTI和TDDB模型的最佳化演算法實作
        return optimized_duty_cycle

6. 未來應用與方向

可靠性感知神經形態運算方法對邊緣AI系統、自動駕駛車輛和物聯網裝置具有重要意義，這些應用中長期操作可靠性至關重要。未來研究方向包括：

• 自適應可靠性管理： 基於即時老化監控動態調整操作參數
• 多尺度建模： 整合元件級可靠性模型與系統級效能最佳化
• 新興NVM技術： 探索如ReRAM和MRAM等新型記憶體技術的可靠性特性
• 機器學習用於可靠性： 使用AI技術預測和減緩老化效應

隨著神經形態運算在安全關鍵應用中邁向更廣泛的採用，可靠性感知設計方法論將變得日益重要。將這些技術與新興計算典範（如記憶體內計算和近似計算）整合，為未來研究提供了令人振奮的機會。

7. 參考文獻

1. M. Davies等人，「Loihi：具片上學習功能的神經形態多核心處理器」，IEEE Micro，2018
2. P. A. Merolla等人，「具可擴展通訊網路和介面的百萬脈衝神經元積體電路」，Science，2014
3. S. K. Esser等人，「用於快速、節能神經形態運算的卷積網路」，PNAS，2016
4. G. W. Burr等人，「使用非揮發性記憶體的神經形態運算」，Advances in Physics: X，2017
5. J. Zhu等人，「神經形態運算系統的可靠性評估與建模」，IEEE Transactions on Computers，2020
6. 國際半導體技術路線圖（ITRS），「新興研究裝置」，2015
7. Y. LeCun、Y. Bengio和G. Hinton，「深度學習」，Nature，2015