邊緣，一個相對遠離“中心”的概念。邊緣計算往往是部署在數據中心之外，接近于現場應用端提供的計算，面對的市場更為分散。工業、零售、智慧城市都是邊緣計算中典型的場景。很多數據來不及或者不能夠集中上傳到云端，就需要在邊緣終端側完成計算和推理。

在英特爾發布Q2財報的前一天，2023英特爾網絡與邊緣產業高層論壇上探討了未來邊緣計算的機遇。英特爾公司高級副總裁兼網絡與邊緣事業部總經理Sachin Katti提到，2030年全球邊緣市場將達到4450 億美元的規模，企業需求的推動將會轉化為經濟發展的動能，因此，他認為邊緣的發展將成為下一個 10 年的巨大發展機遇，“邊緣已經是現在人工智能最大的部署所在”。

這半年圍繞人工智能最熱的話題是大模型，在本次會議上也不例外，大家的共識是大模型的落地要和行業結合起來，并且針對性地去解決行業問題。

(資料圖片)

大模型的應用有著不同的實施方法：可以在云端完成訓練，再在云端完成推理返回結果到前端的邊緣側，但這就意味著可能通信的時間較長；也可以在云端完成訓練，然后在邊緣側完成微調后再推理并給出結果。

“我們要檢測貓，現在可以做到什么程度呢？可以直接對著手機說一聲‘如果貓跑到沙發上，你就告訴我’。通過大模型對語音的理解、對畫面的分析，當貓跑到沙發上的時候，系統就可以向手機推送報警信息。”山東中維世紀科技股份有限公司高級副總裁王正彬分享了公司在智能家居產品有趣的案例應用。

從依靠人工盯著視頻一幀幀分析，再到利用深度學習的發展通過重復檢測、人形檢測進行風險提示，大模型的發展讓視頻檢測和分析更為便捷。“早期人工智能模型是定向的，找到專業數據集定向訓練識別，現在大模型最大的特點是它有點通識的能力，有一些內容好像沒有訓練就可以識別出來了，這是現在大模型和早期模型的區別。”他這樣向第一財經解釋以前的AI模型和現在大模型的區別。

“現在更多的需求是需要對關鍵事件進行檢測，比如說一個人摔倒，我只檢測倒地的人形，不檢測正常的人形，通過大模型就可以很方便實現了，只有倒地的人檢測到才進行報警，這樣能大大減少誤報和干擾。”王正彬說。

據他介紹，從視頻接入、存儲、解碼、顯示以及智能分析，這些工作就是在邊緣進行處理的。但要想在邊緣側完成這種對大模型的部署和使用，還有一些限制。

“我們知道邊緣設備的算力、功耗、成本往往都是有限的，不像數據中心可以無限增加設備。那么如何可以在資源受限的情況下去部署大模型，完成推理工作，這當中有很多問題需要解決。如果你把大模型原封不動的放在邊緣側，對算力要求太高，很多設備是無法承受的，就需要根據特定行業的特定要求去做特定的優化，使得簡化之后的模型既滿足特定行業對準確度、功能的要求，同時它的算力又能夠被一般的或者是專用的邊緣設備所承載。” 英特爾中國區網絡與邊緣事業部首席技術官、英特爾高級首席 AI 工程師張宇說。

現實中仍有不少困難。在現場參與案例展示的工作人員告訴第一財經，數字化轉型進程事實的推進速度不一，會造成新的技術無法落地應用。“有一些工廠的設備、網絡能力都是比較陳舊的，那我們只能先推薦他們更換設備，我們作為軟件方案商還不會直接提供硬件。”

擁抱新技術有時更像是強者的游戲，讓跑得更快的人繼續在行業中領跑。這些應用場景有些本就是在原來技術應用上的升級體驗，而不是簡單地實現一個新功能的從無到有。這為比較人工智能發展階段的不同方案如何體現進步帶來了一定難度，因為有時難以用數字量化，體現的是管理流程和性能體驗的優越性。

“在我們的經驗當中看到人工智能部署超過一半都是失敗的。”Sachin Katti認為這主要有幾個原因，基礎設施的問題過于陳舊，難以把人工智能的大型模型部署到陳舊的設備上；第二個是數據，要去學會如何抓取孤立的數據，利用這些數據進行部署，他直言“這都是非常大的挑戰，很多人都因為這些挑戰而止步不前”。

“對于客戶來說，僅僅靠自己通過硬件去獲得邊緣價值是非常困難的。所以我們在交付給客戶硬件的時候，相應地也會給客戶交付所需的軟件。我們的目的是希望通過這樣一套基礎設施，可以讓客戶更加容易部署我們的硬件，并管理好硬件。” Sachin Katti說。

他提到，英特爾為了抓住邊緣計算的機會繼續在三個方向上發力：在硬件上，英特爾在中國剛剛發布了專門面向大模型訓練的加速器Gaudi 2，還有其他的通用CPU處理器以及專用的獨立顯卡加速器；在軟件上，通過OpenVINO可以對在云端訓練之后的大模型進行優化和壓縮，在最新的OpenVINO的版本中，已經增加了對大模型Stable Diffusion的支持；此外，就是繼續發展生態合作伙伴。

“把人工智能部署到工廠產線的時間成本和人力成本還是偏高。如果在大模型上有更創新的想法，我們會和技術團隊、產品團隊共同配合，共同琢磨提煉，我們希望更快速把英特爾的技術方案帶進去。”英特爾市場營銷集團副總裁兼中國區總經理王稚聰認為，業務的合作伙伴要捕捉中國經濟在恢復過程中出現的新動能，新的產業崛起以及把技術代入到下一個發展階段。

然而，通向機遇的道路并非坦途。

2023年英特爾Q2財報顯示，第二季度營收為129.48億美元，與去年同期的153.21億美元相比下降15%；但實現了扭虧為盈，凈利潤為14.73億美元，去年同期的凈虧損為4.54億美元。從細分領域來看，盡管在過去一年里，網絡和邊緣業務曾是一直穩定保持著同比增長，但這塊業務今年連續兩個季度下滑，本季度收入為14億美元，同比下降了38%，是分列的幾項中同比下降最快的。

“不光是對英特爾，你可以看一下整個半導體行業過去兩年大家的利潤都有20%-30%左右的下調。但是在近一段時間，我們看到經濟正在逐漸復蘇，而且也有大量的需求，無論是云端還是隨著AI技術進一步的部署和使用，尤其是AI的需求，它不僅是對GPU和網絡的需求，包括對CPU的需求都是在不斷增加的在邊緣也會有一些需求。對英特爾來說，我們所做的就是要適應市場的情況和變化。” Sachin Katti回應第一財經在內的媒體采訪時說。

標簽：