NVM ile Ömür Güvenilirliği Farkındalıklı Nöromorfik Hesaplama

İçindekiler

1. Giriş

Uçucu olmayan bellek (NVM) ile nöromorfik hesaplama, spike tabanlı hesaplamalar için performans ve enerji verimliliğinde önemli iyileştirmeler sunarak, makine öğrenimi donanımında bir paradigma değişimi temsil etmektedir. Ancak, faz değişimli bellek (PCM) gibi NVM'leri çalıştırmak için gereken yüksek gerilimler, CMOS nöron devrelerinde yaşlanmayı hızlandırarak nöromorfik donanımın uzun vadeli güvenilirliğini tehdit etmektedir.

Bu çalışma, nöromorfik sistemlerde ömür güvenilirliğinin kritik zorluğunu ele almakta ve negatif bias sıcaklık kararsızlığı (NBTI) ve zamana bağlı dielektrik bozulması (TDDB) gibi hata mekanizmalarına odaklanmaktadır. Sistem seviyesindeki tasarım kararlarının, özellikle periyodik gevşeme tekniklerinin, en son teknoloji makine öğrenimi uygulamalarında nasıl önemli güvenilirlik-performans dengeleri oluşturabileceğini göstermekteyiz.

2. Crossbar Güvenilirliğinin Modellenmesi

2.1 Nöromorfik Hesaplamada NBTI Sorunları

Negatif Bias Sıcaklık Kararsızlığı (NBTI), nöron devrelerindeki CMOS cihazlarının kapısının altındaki oksit-yarıiletken sınırında pozitif yüklerin hapsolması durumunda meydana gelir. Bu fenomen, drenaj akımı ve transkonduktansta azalma ile birlikte kapalı durum akımı ve eşik geriliminde artış olarak kendini gösterir.

NBTI nedeniyle bir CMOS cihazının ömrü, Ortalama Arıza Zamanı (MTTF) kullanılarak ölçülür:

$MTTF_{NBTI} = A \cdot V^{\gamma} \cdot e^{\frac{E_a}{KT}}$

Burada $A$ ve $\gamma$ malzeme ile ilgili sabitler, $E_a$ aktivasyon enerjisi, $K$ Boltzmann sabiti, $T$ sıcaklık ve $V$ aşırı sürme kapı gerilimidir.

2.2 TDDB Hata Mekanizmaları

Zamana Bağlı Dielektrik Bozulması (TDDB), kapı oksidinin elektriksel stres nedeniyle zamanla bozulduğu başka bir kritik güvenilirlik endişesini temsil eder. Nöromorfik crossbar'larda, TDDB, NVM operasyonu için gereken yüksek elektrik alanlar tarafından hızlandırılır.

TDDB ömür modeli şunu takip eder:

$MTTF_{TDDB} = \tau_0 \cdot e^{\frac{G}{E_{ox}}}$

Burada $\tau_0$ bir malzeme sabiti, $G$ alan ivmelendirme parametresi ve $E_{ox}$ oksit üzerindeki elektrik alandır.

2.3 Birleşik Güvenilirlik Modeli

Nöromorfik donanımın genel güvenilirliği, hem NBTI hem de TDDB hata mekanizmalarını dikkate alır. Birleşik hata oranı şunu takip eder:

$\lambda_{total} = \lambda_{NBTI} + \lambda_{TDDB} = \frac{1}{MTTF_{NBTI}} + \frac{1}{MTTF_{TDDB}}$

3. Deneysel Metodoloji

Deneysel çerçevemiz, PCM tabanlı sinaptik crossbar'lara sahip modifiye edilmiş bir DYNAP-SE nöromorfik mimarisi kullanarak ömür güvenilirliğini değerlendirir. Gerçekçi iş yükleri altında güvenilirlik etkilerini değerlendirmek için MNIST rakam sınıflandırması ve konuşulan rakam tanıma dahil olmak üzere çeşitli makine öğrenimi kıyaslamaları uyguladık.

Deneysel kurulum şunları içerir:

• Nöron devreleri için 28nm CMOS teknoloji düğümü
• 1.8V okuma gerilimine sahip PCM sinaptik cihazlar
• 25°C'den 85°C'ye sıcaklık izleme
• Değişken görev döngüleri ile stres-toplama döngüsü

4. Sonuçlar ve Analiz

4.1 Güvenilirlik-Performans Dengesi

Sonuçlarımız, sistem güvenilirliği ve hesaplama performansı arasında temel bir denge olduğunu göstermektedir. Yüksek gerilimlerde sürekli operasyon maksimum verim sağlar ancak ömür güvenilirliğini ciddi şekilde tehlikeye atar. Periyodik gevşeme periyotlarının tanıtılması, kabul edilebilir performans seviyelerini korurken MTTF'yi önemli ölçüde iyileştirir.

4.2 Periyodik Gevşeme Etkisi

%30 görev döngüsü ile dur ve devam et hesaplama yaklaşımının uygulanması, sürekli operasyona kıyasla MTTF'de 3.2 kat iyileşme gösterdi ve MNIST görevleri için sınıflandırma doğruluğunda sadece %15 azalma oldu. Bu yaklaşım, güvenilirlik endişelerini hesaplama gereksinimleri ile etkili bir şekilde dengeler.

5. Teknik Uygulama

5.1 Matematiksel Formülasyonlar

Güvenilirlik farkındalıklı çizelgeleme algoritması, hesaplama verimi ve devre yaşlanması arasındaki dengeyi optimize eder. Optimizasyon problemi şu şekilde formüle edilebilir:

$\max_{D} \quad \alpha \cdot Verim(D) + \beta \cdot MTTF(D)$

$kısıtlar: \quad D \in [0,1]$

Burada $D$ görev döngüsü, $\alpha$ ve $\beta$ performans ve güvenilirlik hedefleri için ağırlık faktörleridir.

5.2 Kod Uygulaması

Aşağıda güvenilirlik farkındalıklı çizelgeleyicinin basitleştirilmiş bir sözde kod uygulaması bulunmaktadır:

class ReliabilityAwareScheduler:
    def __init__(self, max_voltage=1.8, min_voltage=1.2):
        self.max_v = max_voltage
        self.min_v = min_voltage
        self.stress_time = 0
        
    def schedule_operation(self, computation_task, reliability_target):
        """Güvenilirlik kısıtlamaları ile hesaplama çizelgeleme"""
        
        # Güvenilirlik hedefine dayalı optimal görev döngüsünü hesapla
        duty_cycle = self.calculate_optimal_duty_cycle(reliability_target)
        
        # Dur ve devam et hesaplamasını yürüt
        while computation_task.has_work():
            # Yüksek gerilim hesaplama fazı
            self.apply_voltage(self.max_v)
            computation_time = duty_cycle * self.time_quantum
            self.execute_computation(computation_task, computation_time)
            self.stress_time += computation_time
            
            # Düşük gerilim toparlanma fazı
            self.apply_voltage(self.min_v)
            recovery_time = (1 - duty_cycle) * self.time_quantum
            time.sleep(recovery_time)
            
    def calculate_optimal_duty_cycle(self, reliability_target):
        """Güvenilirlik gereksinimlerini karşılamak için görev döngüsünü hesapla"""
        # NBTI ve TDDB modellerini dikkate alan optimizasyon algoritması uygulaması
        return optimized_duty_cycle

6. Gelecek Uygulamalar ve Yönelimler

Güvenilirlik farkındalıklı nöromorfik hesaplama yaklaşımı, uzun vadeli operasyonel güvenilirliğin kritik olduğu kenar AI sistemleri, otonom araçlar ve IoT cihazları için önemli çıkarımlara sahiptir. Gelecek araştırma yönelimleri şunları içerir:

• Uyarlanabilir Güvenilirlik Yönetimi: Gerçek zamanlı yaşlanma izlemeye dayalı operasyonel parametrelerin dinamik ayarlanması
• Çok Ölçekli Modelleme: Cihaz seviyesi güvenilirlik modellerinin sistem seviyesi performans optimizasyonu ile entegrasyonu
• Yeni NVM Teknolojileri: ReRAM ve MRAM gibi yeni bellek teknolojilerindeki güvenilirlik karakteristiklerinin keşfi
• Güvenilirlik için Makine Öğrenimi: Yaşlanma etkilerini tahmin etmek ve azaltmak için AI tekniklerinin kullanımı

Nöromorfik hesaplama, güvenlik-kritik uygulamalarda daha geniş benimsemeye doğru ilerledikçe, güvenilirlik farkındalıklı tasarım metodolojileri giderek daha gerekli hale gelecektir. Bu tekniklerin, bellek içi hesaplama ve yaklaşık hesaplama gibi yeni hesaplama paradigmaları ile entegrasyonu, gelecek araştırmalar için heyecan verici fırsatlar sunmaktadır.

7. Referanslar

1. M. Davies vd., "Loihi: A Neuromorphic Manycore Processor with On-Chip Learning," IEEE Micro, 2018
2. P. A. Merolla vd., "A million spiking-neuron integrated circuit with a scalable communication network and interface," Science, 2014
3. S. K. Esser vd., "Convolutional networks for fast, energy-efficient neuromorphic computing," PNAS, 2016
4. G. W. Burr vd., "Neuromorphic computing using non-volatile memory," Advances in Physics: X, 2017
5. J. Zhu vd., "Reliability Evaluation and Modeling of Neuromorphic Computing Systems," IEEE Transactions on Computers, 2020
6. International Technology Roadmap for Semiconductors (ITRS), "Emerging Research Devices," 2015
7. Y. LeCun, Y. Bengio, and G. Hinton, "Deep learning," Nature, 2015