7月28日消息（艾斯）“到2030年，全球邊緣計算市場將達到4450億美元。邊緣的發(fā)展將會成為下個十年的一個巨大機遇，也是我們可利用的重要機遇?！庇⑻貭柟靖呒壐笨偛眉婢W絡與邊緣事業(yè)部總經理Sachin Katti在本周于南京舉行的2023英特爾網絡與邊緣產業(yè)高層峰會上發(fā)表演講時說到。

來自中移智庫的最新研究報告顯示，行業(yè)多樣化需求正在牽引新形態(tài)云快速成長，其中，邊緣云正成為新的增長極。車聯(lián)網、工業(yè)互聯(lián)網等產生大量低時延存算需求，引發(fā)邊緣云需求快速增長。據德勤報告預計，我國邊緣云市場規(guī)模將從2022年的622億元增長到2025年的1988億元，復合增長率達47.5%。與此同時，智能云快速普及推廣。國內外領先云服務企業(yè)正積極推動云智融合發(fā)展，普遍基于云提供AI平臺、模型、應用等端到端產品服務。

Sachin Katti在接受C114等媒體采訪時指出，“AI正在快速遷移到云端，在這當中，邊緣會發(fā)揮更加重要的作用來推動AI部署。邊緣已經是現(xiàn)在AI最大的部署所在?！泵鎸吘堿I市場的巨大機會，英特爾采取了硬件結合的整體策略，一方面該公司提供大量具備一流性能的硬件選擇，包括CPU、GPU、加速器等，另一方面，英特爾希望通過其軟件解決方案幫助客戶的運營降低復雜性、更加精簡。更重要的是，英特爾正在攜手廣泛的合作伙伴一起為行業(yè)提供創(chuàng)新的定制化整體解決方案。

邊緣已不再邊緣

毫無疑問，如今所有行業(yè)活動都繞不開的一個話題就是AI大模型?，F(xiàn)在大模型基本上都是在云端進行訓練（中心化的訓練），與此同時，這些在云端的訓練有很多處于探索過程當中，不少行業(yè)正在對模型的成熟進行等待與觀望。在Sachin Katti看來，隨著大模型在云端訓練的成熟，計算需求會快速向邊緣進行轉移。他分析稱，當行業(yè)真正要去使用比較穩(wěn)定的大模型時，就會考慮到數(shù)據的安全性，也就是隱私的問題，這對其來說是非常重要的。對很多企業(yè)來說，他們并不希望數(shù)據在云端進行完全開放，因此，將私有數(shù)據放在邊緣進行計算和應用無疑簡成為一種必然選擇。

據調研機構預測，到2025年，75%由企業(yè)生成的數(shù)據將在傳統(tǒng)數(shù)據中心或云之外進行創(chuàng)建和處理；到2026年，50%的邊緣部署將涉及機器學習；86%的邊緣開發(fā)人員將瞄準基于AI的應用程序；邊緣的AI推理將是數(shù)據中心的3倍。正如英特爾公司副總裁兼網絡與邊緣事業(yè)部中國區(qū)總經理陳偉博士所言，“邊緣不在邊緣，邊緣將成為主場。”Sachin Katti亦表示，“現(xiàn)在邊緣的時代還處在早期階段，英特爾及整個生態(tài)系統(tǒng)的合作伙伴都在攜手努力去進行相應探索，在邊緣計算方面會有巨大的增長。這個十年可以說是邊緣的時代?！?/p>

不過，目前大多數(shù)的邊緣AI項目無法成功落地。一是因為基礎設施問題，大部分工廠環(huán)境中的設備比較陳舊，如何把AI大模型部署到這些陳舊設備上，將需要非常大的計算足跡；二是因為數(shù)據問題，因為每個行業(yè)（企業(yè)）的數(shù)據都是獨特的，如何打破數(shù)據孤島并非易事。英特爾中國區(qū)網絡與邊緣事業(yè)部首席技術官、英特爾高級首席AI工程師張宇博士就談到，邊緣AI的發(fā)展可以分為三個階段：第一個階段是邊緣推理，第二個階段是邊緣訓練，第三個階段是邊緣自主機器學習，而邊緣AI目前絕大部分的應用還處于邊緣推理階段。

張宇認為，邊緣重要性還體現(xiàn)在可持續(xù)發(fā)展上。由于超過75%的數(shù)據將放在邊緣進行處理，而處理這些數(shù)據必將需要能耗，如何實現(xiàn)節(jié)能減排，尤其是在邊緣實現(xiàn)節(jié)能減排有特殊的意義。英特爾在這方面做了大量的工作，包括對處理器架構進行更新以及增加各種專用加速引擎，如其第四代至強可擴展處理器當中所包含的vRAN Boost，就能夠提升在無線接入側系統(tǒng)的效率。據悉，集成vRAN Boost的第四代英特爾至強可擴展處理器，與上一代相比，能夠在不增加功耗的情況下提供兩倍容量，并額外節(jié)省高達20%的能耗，從而滿足關鍵的性能、擴展和能效要求。

軟硬結合實力拿捏

在采訪中Sachin Katti強調，英特爾的價值定位是要把軟件和硬件綜合起來作為一個整體解決方案組合來提供給客戶?！耙驗閷τ谶吘墎碚f，客戶僅僅靠自己通過硬件去獲得邊緣價值是非常困難的。所以我們在給客戶提供硬件的同時，相應也會交付客戶所需要的軟件。目的是希望通過可以讓客戶更加容易地部署和管理好硬件。在AI方面，我們希望通過軟件可以讓客戶更加容易并且能夠最好地去獲得所訓練的模型當中可得到的AI性能?！贝送?，他表示，英特爾也在專注于開放的網絡連接技術，將大量的GPU和加速器連接起來，從而讓大模型的訓練更加方便。

本月上旬，英特爾在中國市場正式發(fā)布了第二代Gaudi深度學習加速器——Habana Gaudi 2。Gaudi2深度學習加速器的架構旨在高效擴展，以滿足大規(guī)模語言模型及生成式AI模型的需求。其每張芯片集成了21個專用于內部互聯(lián)的100Gbps(RoCEv2 RDMA)以太網接口，從而實現(xiàn)低延遲服務器內擴展。Gaudi2加速器的出色性能在6月公布的MLCommons MLPerf 基準測試中得到了充分認證，其在GPT-3模型、計算機視覺模型ResNet-50(使用8個加速器)、Unet3D(使用8個加速器)，以及自然語言處理模型BERT(使用8個和64個加速器)上均取得了優(yōu)異的訓練結果。

另外，在此次峰會上，英特爾還發(fā)布了第二代英特爾 NetSec加速器參考設計。這款全新加速卡基于英特爾至強D系列處理器而打造，創(chuàng)新性地將一臺x86服務器設計成智能網卡形態(tài)，可大幅減少系統(tǒng)的空間占用和功耗?；谟⑻貭?NetSec 加速卡參考設計實現(xiàn)的首款產品將由合作伙伴量產上市，在最大程度滿足軟件定義、自動化和彈性擴展的同時，讓客戶享受到更安全、更可靠、更靈活及更高效的智能計算體驗。

在軟件層面，英特爾近期發(fā)布了 OpenVINO 2023.0版本，可以從更大程度上幫助AI開發(fā)者簡化工作流程，在企業(yè)中更高效地部署高質量的計算機視覺AI解決方案，以推動創(chuàng)新和自動化發(fā)展。據介紹，OpenVINO可以把在云端進行的大模型訓練成果在邊緣進行壓縮和優(yōu)化，從而可以使大模型得到更加廣泛的使用。同時，通過用于數(shù)據上傳、標注、模型訓練和再訓練的單一接口，英特爾Geti商用軟件平臺能夠幫助開發(fā)團隊減少模型開發(fā)所需時間，并降低AI開發(fā)技術門檻及開發(fā)成本。

張宇指出，算力和網絡能力是整個大模型平臺整體性能的兩個關鍵要素。他介紹到，作為英特爾剛成立不久的一個新事業(yè)部門，英特爾網絡與邊緣事業(yè)部所提供的的產品之一為IPU（Infrastructure Processing Unit），該產品能夠為用戶提供一個可靠的數(shù)據的傳輸，來滿足大模型訓練里頭對網絡可靠性、丟包率的嚴格要求，同時它能夠達到100G、200G甚至更高的線速，可以滿足大模型訓練對網絡速度的要求?！霸诖竽Ｐ头矫?，英特爾的產品實際上涵蓋了計算、通訊等各個領域，我們可以給客戶提供一個相對來說比較全面的方案?！彼硎尽?

生成海報

免責聲明：本網站內容主要來自原創(chuàng)、合作伙伴供稿和第三方自媒體作者投稿，凡在本網站出現(xiàn)的信息，均僅供參考。本網站將盡力確保所提供信息的準確性及可靠性，但不保證有關資料的準確性及可靠性，讀者在使用前請進一步核實，并對任何自主決定的行為負責。本網站對有關資料所引致的錯誤、不確或遺漏，概不負任何法律責任。任何單位或個人認為本網站中的網頁或鏈接內容可能涉嫌侵犯其知識產權或存在不實內容時，應及時向本網站提出書面權利通知或不實情況說明，并提供身份證明、權屬證明及詳細侵權或不實情況證明。本網站在收到上述法律文件后，將會依法盡快聯(lián)系相關文章源頭核實，溝通刪除相關內容或斷開相關鏈接。