比利時微電子研究中心（IMEC），日前與半導體代工廠格羅方德（GF)公開展示了全新AI晶片硬體。IMEC類比記憶體式運算（AiMC）架構及格羅方德22FDX製程為基礎的前提下，這款全新晶片經過最佳化，並於類比環境中的記憶體式運算硬體進行深度神經網路運算。在達到高達2,900TOPS/W的創紀錄高能源效率後，加速器被視為低功率裝置進行邊緣運算推論的關鍵推手。這項新技術在隱私保護、安全性以及延遲性等各種優勢，將為智慧喇叭、自駕車諸多邊緣設備的AI應用程式帶來衝擊性的影響。

/news/2020/07/17/1124280780S.jpg

自數位電腦年代起，處理器早與記憶體分道揚鑣。使用大量數據的作業時，需要從記憶體取回一樣數量的數據元素。此一限制又稱「范紐曼瓶頸」（von Neumann bottleneck），會拖慢實際的運算速度，特別是在神經網路這種大量依賴向量矩陣乘法的運算中。這些運算除了仰賴數位電腦的精準度外，還需要大量的能源。然而，若以準確度較低的類比技術執行向量矩陣乘法，神經網路一樣可以獲得精確的結果。

為了因應這個挑戰，IMEC透過旗下的產業聯合機器學習計畫，與格羅方德等產業夥伴開發了一套新架構：在靜態隨機存取記憶體單元（SRAM cells）中執行類比運算，藉此消除「范紐曼瓶頸」的限制。以此開發的類比推論加速器（AnIA），則以格羅方德的22FDX製程半導體平台為基礎，具有出色的能源效率。特徵測試顯示，其能源效率高達2,900 TOPS/W。微型感應器及低功率邊緣設備中的圖形識別，一般得仰賴數據中心的機器學習，如今可透過此一高效能加速器在地執行。

IMEC機器學習計畫主持人Diederik Verkest表示：「AnIA成功的設計定案，代表我們已朝類比記憶體式運算的驗證邁進重要一步。此一參考實作（reference implementation）不僅說明了類比記憶體式運算的可行性，也代表它們的能源效率要比數位加速器好上10到100倍。在IMEC的機器學習計畫中，我們會針對類比記憶體式運算，調整現有及新興的記憶體裝置並予以最佳化。這些前景看好的結果鼓舞我們進一步發展這項技術，目標是讓效率進化至10,000 TOPS/W。」

格羅方德運算暨有線基礎架構的產品管理副總裁Hiren Majmudar也指出：「格羅方德利用自家的低能源、高性能22FDX製程技術平台，與IMEC密切合作，並推出全新的AnIA 晶片。這款測試晶片能更進一步地向業界展示22FDX 製程技術如何大幅降低能源密集型AI及機器學習應用的功率耗損。」

放眼未來，格羅方德將把可在22FDX平台上執行的AiMC作為亮點，在AI市場上推出一套差異化解決方案。格羅方德的22FDX 採用了22nm FD-SOI 技術，可在極低能源的條件下有出色的表現，且足以在0.5伏特極低能源及每微米1微微安培的極低待機漏電流下運作。搭載全新AiMC 功能的22FDX，目前已進入開發階段，由格羅方德具備最先進300mm生產線的德國德勒斯登Fab 1晶圓廠負責。