Arm為無處不在的AI奠定技術基礎

作為人工智能(AI)的創新基礎，眾多企業都在使用通用且應用廣泛的Arm計算平臺。迄今為止，合作伙伴基於Arm架構的芯片出貨量已超過2900億顆。如今，Arm已為各類技術領域的AI應用提供支持，這也是為何AI的技術先行者們能夠基於Arm平臺快速創新的關鍵原因。

無論是現在還是未來，Arm平臺都是AI運行的基石。若要滿足對AI技術和應用的旺盛需求，則必須在計算領域的方方面面實現無處不在的AI功能。從使用無數處理器訓練大語言模型(LLM)的大型數據中心，到全球數字消費者每天接觸邊緣AI的電子設備，計算領域的方方面面都有AI的身影。

高效的AI計算

若要滿足AI對高算力的需求，則少不了對高效計算性能的投入。生成式AI的發展推動了對AI算力和資源的需求空前增長。一名荷蘭研究人員指出，如果一年內每次使用Google進行搜索都運用到AI，其所需的電力相當於愛爾蘭全國一年的用電量。長遠來看，考慮到地球上資源有限，這種方法是難以為繼的。

Arm提供了計算性能和能效的卓越組合，推動了智能手機領域的技術革新，而同樣的趨勢也正發生在AI革新中。

數據中心中的AI

頭部超大規模服務運營商正採用定製芯片戰略，來進行數據中心轉型，以迎接AI時代。

軟銀公司正在與NVIDIA合作，建設全球首座採用基於Arm架構的Grace Hopper超級芯片的5GAI 數據中心。這一突破性的AI加速CPU專為超大規模AI和高性能計算應用而設計。Grace Hopper 基於72顆Arm Neoverse V2 核心打造，在AI的高負荷任務中實現了10倍的性能飛躍，同時大幅提高了每瓦性能。微軟則在此前發佈了其首款專為雲計算打造的定製芯片Azure Cobalt 100 處理器，該處理器基於Arm Neoverse CSS N2打造。此外，基於Arm Neoverse平臺的AWS Graviton3可以使AI推理（使用訓練后的模型對新的真實數據進行預測的過程）的成本節約50%。

在數據中心中約有85%的AI工作負載用於運行推理，其驅動了各種用例、行業和設備的AI應用，因此企業有巨大的動力來降低相關的能源消耗和成本。

邊緣AI

除了數據中心和雲服務，許多AI工作負載還需要在設備上進行處理，以便更有效地分佈AI工作負載。

在設備上處理AI工作負載已經成為現實，無論是智能手機、智能家居設備還是智能汽車，這一趨勢將繼續增長，特別是隨着大語言模型(LLM)變得更加高效，並針對特定任務、用例或設備而專門打造。直接在採集數據的設備上處理AI計算，可以帶來更快、更安全的用户體驗並減少延迟，這對於工業和汽車應用等對安全性要求很高的用例來説至關重要。

開發者正在編寫更精簡的AI模型，以在小型微處理器甚至更小的微控制器上運行，從而節省能源、時間和成本。例如，Plumerai提供的軟件解決方案可在基於Arm Cortex-A和Cortex-M的系統級芯片(SoC)上加速神經網絡，並在基於Arm架構的微控制器上運行略高於1MB的AI代碼，其可執行面部檢測和識別等功能。

基於處理器技術的AI

無論是由CPU處理全部AI工作負載，還是由GPU或NPU等協處理器提供支持，AI處理始於CPU。

過去十年間，Arm的CPU和GPU的AI處理能力每兩年就實現翻番，目前70%的第三方應用中的AI都基於Arm CPU 運行，在關鍵技術市場中推動了邊緣AI的顯著發展。

基於Armv9 CPU和GPU技術打造的高性能AI手機現已問世，其中包括搭載MediaTek天璣9300的vivo X100和X100 Pro智能手機，以及Google Pixel 8，這是首款專為Google的AI模型Gemini Nano進行工程研發的智能手機，可在邊緣執行一系列AI的任務。與此同時，超過200億個基於Arm架構的SoC能夠運行各種物聯網設備上廣泛的ML工作負載，包括基於Cortex-M處理器、Arm Ethos-U NPU 和Cortex-A CPU打造的設備。而在汽車領域，如今的車用芯片可實現基本的AI功能，如障礙物檢測、3D視圖和簡單的傳感器融合，這些功能都在Arm CPU上運行。下一代基於AI的汽車功能，如先進駕駛輔助系統(ADAS)和自動駕駛功能，也基於Arm CPU而構建。

全球最大的開發者社區

Arm持續的軟件投入正建立起全球最大的AI開發者社區。

Arm致力於以最常見的方式讓開發者能夠更簡單、更快速、更安全地進行編碼，攜手實現無處不在的AI。如今，超過一億用户可以使用Arm NN軟件開發工具包，在Arm CPU和GPU上優化ML工作負載。對於全球1500萬Arm架構設備開發者來説，這使他們能夠運行復雜的AI和ML工作負載，確保將應用更快地推向市場。

Arm在其業界領先的生態系統中開展了一系列合作，以使其對開發者的AI承諾付諸實踐。此外，Arm還通過開源框架和庫，為基於Arm架構的硬件提供強大的ML功能，為開發者提供全方位支持，包括TensorFlow、PyTorch、Caffe2、OpenVINO和TVM，從而為開源社區打造AI創新基礎。

寫在最后

AI為下一個技術創新奠定了基礎，引領社會進入一個潛力非凡的新時代。而實現這一切的前提正是讓AI無處不在。這不僅意味着要在雲端、數據中心和超級計算機中實現AI，還要確保複雜的AI工作負載能夠在更小、更受限的邊緣技術和設備上運行。能效與性能對於推動邊緣AI的發展同等重要。

Arm正在促成這一目標。Arm提供了應用廣泛的通用計算平臺，賦能邊緣設備和其他領域的各種可能性。無論是CPU、GPU、ISP還是NPU，Arm在每一代產品中都增加了更多AI性能、效率功能及安全特性，同時還為合作伙伴提供了多樣的靈活性，使它們能夠集成和開發自己的創新解決方案。而在軟件、工具和生態系統方面，IP與開源軟件和工具乃至廣泛的行業領先生態系統相結合，讓全球上千萬開發者都可以使用Arm計算平臺作為AI創新的基礎。從傳感器、智能手機，到工業級物聯網、汽車和數據中心，基於Arm平臺的AI無處不在。

(8992449)