Arm亮出AI軟硬件全家桶，賦能終端側AI快(kuài)速落地
在智能科技的(de)浪潮中，近兩年快(kuài)速崛起的(de)生成式AI，已成爲推動手機、PC等智能設備行業發展的(de)關鍵力量。但生成式AI對(duì)硬件快(kuài)速賦能的(de)背後，也(yě)對(duì)算(suàn)力、存儲等方面提出了(le)新的(de)需求，因此這(zhè)對(duì)芯片廠商、終端廠商、應用(yòng)開發者等都提出了(le)新的(de)挑戰。
因而，作爲移動計算(suàn)“根基”提供者Arm，也(yě)在積極拓展自身業務邊界，爲行業提供更高(gāo)效、強大(dà)的(de)算(suàn)力支撐。近幾年，Arm已經從IP提供商轉型爲一家計算(suàn)平台公司，在緻力于IP授權業務的(de)同時(shí)，也(yě)專注于爲智能産業提供完整且全面的(de)計算(suàn)解決方案。
爲了(le)迎合當下(xià)生成式AI的(de)發展勢頭，Arm在今年的(de)新品發布上，也(yě)将AI作爲了(le)關鍵的(de)發力點。近日，面向終端領域，Arm推出了(le)終端計算(suàn)子系統 (CSS)，囊括最新的(de)Armv9.2 CPU、Arm Immortalis GPU、基于三納米工藝生産就緒的(de)CPU和(hé)GPU物(wù)理(lǐ)實現，以及最新的(de)CoreLink系統互連和(hé)系統内存管理(lǐ)單元 (SMMU)。此外，Arm也(yě)同步推出了(le)Arm Kleidi軟件庫，助力軟件開發者無縫取得(de)Arm CPU上的(de)最佳性能，其中包含面向AI工作負載的(de)KleidiAI和(hé)面向計算(suàn)機視覺應用(yòng)的(de)KleidiCV。
可(kě)以說，在生成式AI引領的(de)智能設備發展的(de)新浪潮下(xià)，Arm爲了(le)加速讓生成式AI融入到智能産品之中，通(tōng)過發布一系列先進的(de)硬件、軟件和(hé)工具，從而幫助芯片、終端廠商們探索更适合端側AI的(de)技術路線，把生成式AI智能設備，所帶來(lái)的(de)體驗構想變成現實，讓AI普惠用(yòng)戶。
端側AI背後，到底要比拼什(shén)麽？
當下(xià)，“端側AI”路線無疑是智能設備領域的(de)确定性趨勢。但想要讓端側AI被大(dà)衆廣泛接受，真正普及化(huà)，充足性能的(de)硬件架構、算(suàn)力和(hé)強勁的(de)軟件算(suàn)法才是關鍵。
一方面，AI技術的(de)不斷發展，對(duì)手機、PC等智能設備芯片的(de)功耗、速度等都提出更高(gāo)要求，并且具有極強的(de)科技前瞻性，同時(shí)也(yě)能給産品帶來(lái)更多(duō)全新的(de)創新點。
這(zhè)也(yě)是爲什(shén)麽，芯片、終端廠商最近一直在新品上強調AI特性的(de)原因。
另一方面，行業從“硬件定義産品”躍遷到“AI定義産品”，AI愈發彰顯出中樞價值，發揮的(de)作用(yòng)越來(lái)越重要。
值得(de)注意是，端側AI的(de)部署的(de)關鍵不僅在芯片，更重要的(de)是芯片底層架構、IP設計等。
這(zhè)也(yě)意味著(zhe)芯片領域“底層設計”的(de)更新，才是将行業AI漣漪變爲浪潮的(de)關鍵。換言之，隻有像Arm這(zhè)樣的(de)行業巨頭，它的(de)舉動，才将深刻影(yǐng)響行業的(de)走向。
之所以這(zhè)麽說，是因爲龍頭企業有其特殊性，它的(de)一舉一動代表不僅是行業此刻的(de)動向，更是行業的(de)将來(lái)時(shí)、發展的(de)“風向标”。
Arm全面賦能端側AI生态發展
Arm其實很早之前就注意到AI對(duì)于智能設備行業的(de)影(yǐng)響，在2021年就推出了(le)專爲性能和(hé) AI 而設計的(de) Armv9 架構，并且對(duì)其計算(suàn)能力、安全性、穩健性等方面不斷優化(huà)，也(yě)正是其提早布局，讓它在生成式AI爆發的(de)關鍵節點，推出了(le)可(kě)面向 AI 智能手機和(hé) PC等廣泛終端領域的(de)Arm終端 CSS。
據悉，Arm終端CSS得(de)益于Armv9.2的(de)能效優勢與 3nm制程的(de)CPU和(hé)GPU物(wù)理(lǐ)實現，以及持續的(de)軟件優化(huà)，讓它在性能方面有了(le)很大(dà)的(de)飛(fēi)躍。作爲Arm最快(kuài)的(de)安卓平台，在一些更接近現實用(yòng)例的(de)測試場(chǎng)景中，Arm終端CSS的(de)頭部流行應用(yòng)平均啓動時(shí)間比去年的(de)全面計算(suàn)解決方案(TCS23)加快(kuài)了(le)33%，網頁浏覽速度加快(kuài)了(le)60%。而在包含了(le)光(guāng)追和(hé)可(kě)變速率著(zhe)色的(de)七項圖形基準測試當中，其峰值圖形性能平均增長(cháng)也(yě)達到了(le)30%。
在CPU方面，Arm Cortex-X925 CPU的(de)主頻(pín)可(kě)以達到3.8GHz，配合微架構的(de)改進，其單線程性能提高(gāo)了(le)36%，是Cortex-X推出以來(lái)取得(de)最高(gāo)IPC同比增幅的(de)CPU；而在最爲重要的(de)AI方面，3nm的(de)Cortex-X925的(de)token首次響應時(shí)間提高(gāo)了(le)41%。AI 性能的(de)提升得(de)益于微架構的(de)顯著演進，利用(yòng)了(le)迄今爲止最寬的(de)解碼和(hé)矢量設計所帶來(lái)的(de)巨幅提升，實現了(le)50% TOPS的(de)增長(cháng)。
而在GPU方面的(de)提升，也(yě)是Arm此次重點發力的(de)方向。全新的(de) Immortalis-G925 GPU 是 Arm 至今最強大(dà)的(de) GPU，其專爲旗艦移動設備設計，在各種圖形應用(yòng)中的(de)性能提升達 37%，在 AI 和(hé) ML 網絡上的(de)性能提升達 34%。而包括 Arm Mali-G725 和(hé) Mali-G625 GPU 在内的(de)全新GPU 系列具有高(gāo)度可(kě)擴展性，适用(yòng)于從高(gāo)端手機到智能手表和(hé) XR 可(kě)穿戴設備的(de)廣泛市場(chǎng)。
值得(de)一提的(de)是，硬件上的(de)高(gāo)算(suàn)力、高(gāo)能效一直以來(lái)都是Arm的(de)“絕活”，因而終端CSS能有這(zhè)樣的(de)表現其實并不讓人(rén)意外。但作爲移動設備端AI變革的(de)關鍵變量，Arm顯然意識到了(le)它需要爲這(zhè)個(gè)生态的(de)建設提供更多(duō)的(de)便利，尤其是對(duì)于開發者群體，需要讓他(tā)們能夠更加高(gāo)效、便捷地開發、部署，才能加速構建涵蓋全場(chǎng)景的(de)端側AI生态。因而，Arm爲所有開發者提供了(le)一把可(kě)以加速打開這(zhè)個(gè)市場(chǎng)的(de)“鑰匙”。
Kleidi就是這(zhè)把“鑰匙”，它不僅包含面向AI工作負載的(de)KleidiAI，還(hái)有著(zhe)面向計算(suàn)機視覺應用(yòng)的(de)KleidiCV。但究其根本，Arm做(zuò)Kleidi最核心的(de)目的(de)，就是要确保開發者能夠快(kuài)速獲得(de)開發生成式AI應用(yòng)所需的(de)性能、工具和(hé)軟件庫。簡單理(lǐ)解，KleidiAI是一套面向AI框架開發者的(de)計算(suàn)内核，像PyTorch、Tensorflow、MediaPipe這(zhè)樣的(de)熱(rè)門AI框架都已經集成到KleidiAI中了(le)，這(zhè)對(duì)于加速主流AI大(dà)模型是十分(fēn)重要的(de)。
并且，在Arm看來(lái)，CPU是唯一可(kě)以确保運行未來(lái)網絡的(de)計算(suàn)引擎，因此對(duì)于可(kě)以解鎖 Arm CPU 最高(gāo)性能的(de)Kleidi，無疑是開發人(rén)員(yuán)解鎖AI應用(yòng)的(de)最佳利器。
在生成式AI加速革新移動生态的(de)大(dà)背景下(xià)，Arm不僅給予了(le)硬件更強的(de)性能表現，還(hái)爲開發者提供了(le)完善、高(gāo)效的(de)解決方案，表現出Arm對(duì)整個(gè)端側AI生态的(de)重視和(hé)擁抱，Arm對(duì)于引領移動生态抓住生成式AI機遇、構建新應用(yòng)生态并爲用(yòng)戶創造新價值的(de)決心顯而易見。
寫在最後：如今Arm終端CSS出色的(de)架構升級、性能和(hé)能效的(de)大(dà)幅提升爲功能更豐富、性能更強、更智能的(de)終端設備鋪路，擴展了(le)移動設備的(de)可(kě)能性和(hé)能力。同時(shí)Arm在軟件層面的(de)開發工具和(hé)平台則讓開發者可(kě)以快(kuài)速地将這(zhè)些Arm的(de)技術優勢落地到應用(yòng)和(hé)産品中，可(kě)以說Arm通(tōng)過全面的(de)布局，賦能終端側AI快(kuài)速落地。
