【發布日期】: 2024年4月20日

重大突破！清華電機張孟凡教授團隊研發處理器助邊緣AI突破記憶壁榮登《Science》期刊

由清華大學電機系特聘教授張孟凡率領的清華電機記憶體電路設計實驗室(Memory Design Lab)團隊，與台積電合作，率先發現並提出高運算精度、高能源效率、低計算延遲的非揮發性記憶體內運算處理器。此處理器的能源效率達到了目前全球最高水準，同時也驗證了電阻式記憶體（RRAM）在人工智慧處理器中的潛力。這一研究成果為邊緣人工智慧運算處理器的發展奠定了基礎，在影像辨識、關鍵字語音辨識、手勢辨識等應用領域上取得了重大突破。本論文於2024年4月19日發表在《Science》科學期刊上，凸顯了其重要性。

團隊成員清華電機系博士生温戴豪同學表示，傳統人工智慧計算處理器採用馮紐曼(Von Neumann)架構，導致神經網絡參數在處理核心和存儲器之間的頻繁移動，這造成能源效率和計算延遲方面的限制，即所謂的記憶壁 (memory wall)。記憶體內運算(Compute-in-Memory, CIM)架構，將運算功能整合進記憶體中以突破記憶壁的限制。團隊在研究中提出高運算精度、高能源效率、低計算延遲的非揮發性記憶體內運算處理器，達到了目前非揮發性處理器世界最高的能源效率，並證明了電阻式記憶體(RRAM)於人工智慧處理器的潛力，為邊緣人工智慧運算處理器的發展奠定了基礎。

温戴豪也表示，本研究的獨特之處在於提出了融合記憶體內運算架構，結合了靜態隨機存取記憶體內運算(SRAM-CIM)的高運算精度特性以及非揮發性電阻式記憶體內運算(RRAM-CIM)的高能源效率特性，以同時實現卓越的能源效率和運算精度。此外，該處理器支持了自適應本地訓練功能，使得AI運算能夠適應個人化特徵和使用者環境。

本研究的發現具有廣泛的應用前景，特別是在邊緣人工智慧應用，包含影像辨識、關鍵字語音辨識、手勢辨識等。通過解決傳統人工智慧處理器的能源效率和計算延遲限制，本研究有助於推進邊緣人工智慧應用的普及，並提升其效能和應用性。

詳細研究成果已發表於Science（Science 2024， Vol 384, Issue 6693

pp. 325-332  DOI: 10.1126/science.adf5538）之全文，標題：Fusion of Memristor and Digital Compute-in-Memory Processing for Energy-Efficient Edge Computing

https://www.science.org/doi/10.1126/science.adf5538