懂AI PC的人 要先擁抱新世界了

紙引未來網(wǎng)訊2024年第一個四分之一還沒過完，PC市場的最熱關(guān)鍵詞，已是非「AI」莫屬。

最新消息，繼聯(lián)想、榮耀之后，微軟的首款AI PC馬上也要來了。

據(jù)Windows Central爆料，微軟將于3月21日發(fā)布新款Surface Pro和Surface Laptop。

兩款新品圍繞人工智能打造：

硬件方面，Intel版本搭載號稱“AI CPU”的全新Intel Core Ultra，arm版本則用上了能把130億參數(shù)大模型塞進PC的高通驍龍X Elite。

軟件方面，兩款新品均將首批支持Windows 11的“下一代”AI體驗，包括一個內(nèi)部名為“AI Explorer”的全新AI功能。

消息人士稱，AI Explorer將會“使AI PC與非AI PC完全區(qū)分開來”，依靠自然語言交互，用戶就能在PC上完成一切。

（賈維斯內(nèi)味兒，這不就來了嗎doge）

這還不算完，各種老牌PC玩家也都坐不住了，紛紛放出自家首款A(yù)I PC的消息。

由大模型技術(shù)風(fēng)暴掀起的「模力時代」中，我們?nèi)粘Ｊ褂玫纳a(chǎn)工具正在加速變革。

這樣的趨勢，現(xiàn)在越發(fā)明朗。而終端產(chǎn)品的變革，也意味著，對于人們的日常工作生活而言，新一代的辦公、學(xué)習(xí)姿勢已經(jīng)在醞釀之中。

那么，問題來了——

對于普通打工人而言，產(chǎn)品概念花里胡哨，但究竟怎樣的PC，才算是真正的AI PC？

PC可以怎樣AI？

終端側(cè)AI趨勢開始后，終端、芯片、應(yīng)用廠商正在用一個個面向生成式AI的芯片逐步補全關(guān)于AI PC的定義。

最先勾勒出想象的是微軟。

去年9月，Colpilot正式進入Windows 11，成為電腦系統(tǒng)的AI助手。

這徹底掀開PC上自然語言交互的序幕，更改設(shè)置、整理桌面、打開軟件都能通過聊天的方式實現(xiàn)。

聯(lián)想緊隨其后，推出首款A(yù)I PC，展示了大模型運行在本地后，給用戶帶來更加專屬化的體驗。

基于用戶個性化信息創(chuàng)建本地知識庫，量身定制完成一系列新任務(wù)。

比如基于電腦上的家庭照片和視頻，創(chuàng)作一段“智能剪輯”。

再或者是成為更本地化的工作助手，幫助寫文檔、總結(jié)知識點、提升生產(chǎn)力。

與此同時，最關(guān)鍵的底層芯片也重大更新。

高通發(fā)布驍龍X Elite，就從底層角度給出了關(guān)于AI PC的一系列思考。

這塊4nm制程的CPU支持130億參數(shù)大模型的本地運行，70億參數(shù)模型可每秒生成30個token。

AI引擎算力可達75TOPS，AI處理速度可達競品的4.5倍。

CPU、GPU性能均是競品的2倍，相同峰值性能功耗比競品低68%。

除此之外，剛落幕不久的MWC 2024上，高通還展示了多模態(tài)大模型在PC本地運行的示例。

它能理解音頻并進行推理，可實現(xiàn)語音輸入的多輪對話。

這意味著，AI PC趨勢和多模態(tài)趨勢正在交匯融合，傳統(tǒng)PC的交互方式將發(fā)生更加徹底的變革。

透過廠商們的實際動作，一些關(guān)于AI PC的初步共識已逐漸清晰。

即AI PC應(yīng)該成為一個用戶專屬的個人助理，它具備強大的AI能力和底層計算能力，將人類從日常生活中常規(guī)的、重復(fù)性的、看似瑣碎的工作中解放出來，轉(zhuǎn)而從事更加具有創(chuàng)造性、求變的工作。

但問題是，現(xiàn)在的傳統(tǒng)PC如何才能走到這一步？哪些地方已經(jīng)悄然發(fā)生改變？

技術(shù)趨勢給出了一定答案。

AI如何重塑PC？

面向生成式AI，PC要經(jīng)歷的是一場全新計算架構(gòu)的變革。從底層硬件到上層應(yīng)用，都正在發(fā)生變化。

因為生成式AI浮現(xiàn)出的典型場景，給計算連接等都提出新要求。

高通最新公布的《通過NPU和異構(gòu)計算開啟終端側(cè)生成式AI》白皮書中總結(jié)，生成式AI用例可分為三類：

按需型：由用戶出發(fā)，需要立即響應(yīng)。比如在PC上生成會議摘要、開車時用語音查詢最近的加油站。

持續(xù)型：運行時間較長。比如用手機進行實時對話翻譯，PC上玩游戲時逐幀運行超級分辨率。

泛在型：在后天持續(xù)運行。比如始終開啟的預(yù)測性AI助手。

這些情況都面臨兩大關(guān)鍵挑戰(zhàn)。

第一，考慮到終端的功耗和散熱問題，通用CPU和GPU難以滿足這些AI任務(wù)的計算需求。

第二，生成式AI應(yīng)用還在不斷豐富，不能在功能完全固定的硬件上進行部署。

硬件方面，NPU和異構(gòu)計算成為應(yīng)對挑戰(zhàn)的關(guān)鍵。

在終端側(cè)AI趨勢興起后，原本更常出現(xiàn)在手機芯片上的NPU，也開始在電腦芯片上發(fā)揮更加重要的作用。

NPU（Neural Processing Unit）專門為加速神經(jīng)網(wǎng)絡(luò)和AI任務(wù)而生，可以快速處理AI推理任務(wù)。它不易于編程，但能實現(xiàn)更高的峰值性能、能效和面積效率，從而運行機器學(xué)習(xí)所需的標(biāo)量、向量和張量數(shù)學(xué)運算。

隨著AI趨勢演變，NPU的設(shè)計也發(fā)生了一系列變化。比如2015年時，NPU主要面向音頻和語音AI設(shè)計，用于簡單CNN并主要需要標(biāo)量和向量數(shù)學(xué)運算。

后面隨著AI在拍照和視頻中的使用增多，以及Transformer、RNN、LSTM和高維度CNN等模型相繼出現(xiàn)，NPU又增加了張量加速器和卷積加速，可以降低內(nèi)存帶寬占用和能耗。

發(fā)展到大模型時期，低時延、續(xù)航、內(nèi)存、等因素共同要求下，NPU往往比GPU表現(xiàn)出更好的能效和性能，也使得NPU成為生成式AI終端上不可或缺的部分。

舉例來看，驍龍X Elite上集成的Hexagon NPU算力達到45TOPS。

在不損失太多精度的情況下，F(xiàn)ast Stable Diffusion能夠在0.6秒內(nèi)生成一張512 x 512分辨率的圖像。

但隨著生成式AI終端逐漸發(fā)展，端側(cè)運行的模型可能規(guī)模還將繼續(xù)擴大，多模態(tài)趨勢已經(jīng)顯現(xiàn)，還有可能會搭載多個大模型。

僅靠NPU來支撐生成式AI任務(wù)，可能還不是最佳方案。

目前廠商們已經(jīng)開始通過異構(gòu)計算，讓不同處理器分別處理擅長的任務(wù)，也就是讓全部處理器都來支持生成式AI任務(wù)。這一直是高通堅持且擅長的賽道。

GPU不僅用于處理圖像任務(wù)，也能用于以高精度格式進行AI并行處理，支持FP32、FP16、INT8運算。

CPU則能用于計算量低、要求低時延的AI任務(wù)上，如高通Oryon CPU性能達競品的2倍，功耗還降低了三分之二。

處理器之間的相互配合，可以進一步釋放AI引擎性能，超越單NPU效果。

與此同時，軟件層面也受到AI影響發(fā)生改變。

一方面，生成式AI終端需要軟硬結(jié)合才能更充分釋放性能；另一方面，開發(fā)者也需要適宜當(dāng)下的工具，能夠更快速將大模型加入到應(yīng)用中。

在MWC 2024上，高通宣布推出的AI Hub正是這樣一個平臺。

它是一個全面的模型優(yōu)化庫，為開發(fā)者提供超過75個主流模型，如Stable Diffusion、ControlNet、Baichuan-7B等。這些模型全部經(jīng)過優(yōu)化，可以充分利用高通AI引擎內(nèi)所有核心的硬件加速能力，實現(xiàn)4倍推理速度提升。開發(fā)者能快速將大模型無縫集成到應(yīng)用程序中，縮短產(chǎn)品面市時間。

同時這些優(yōu)化后的模型也同步上線到GitHub、Hugging Face。開發(fā)者可在搭載高通和驍龍平臺的云托管終端上自行運行模型。

更早推出的高通AI Stack可全棧支持主流AI框架（如TensorFlow、PyTorch、ONNX和Keras）和runtime。集成高通神經(jīng)網(wǎng)絡(luò)SDK，面向Android、Linux和Windows不同版本。

此外還提供一系列量化、壓縮開發(fā)工具，能夠在盡量不降低模型精確度同時壓縮模型。一些生成式AI模型由此可以量化至INT4。

總之，從底層硬件到上層軟件，都在以生成式AI為中心進行快速變革。

巨頭們腳步一致，紛紛加速All in AI，也讓生成式AI帶來的變革更加迷人。

AI變革究竟會如何影響每一個人的生活？

AI PC展現(xiàn)出的演進過程，已經(jīng)給大家做了一些小劇透。

AI PC通往何處？

細(xì)數(shù)起來，AI PC從概念興起到初步產(chǎn)品落地，剛剛過去半年的時間。

高通產(chǎn)品管理高級副總裁兼AI負(fù)責(zé)人Ziad Asghar將其類比為“人們剛剛能夠?qū)崿F(xiàn)手機上網(wǎng)”的階段：數(shù)十億人都能夠通過手機連接到網(wǎng)絡(luò)，奠定了此后移動互聯(lián)網(wǎng)應(yīng)用大爆發(fā)的格局。

我想如果我們能夠在終端側(cè)實現(xiàn)AI的發(fā)展，就可以把生成式AI的能力和優(yōu)勢充分發(fā)揮出來，打破所有的界限，利用生成式AI的能力讓我們在生活、工作、娛樂、醫(yī)療等各個方面都獲得更好的體驗。

換言之，AI重構(gòu)PC，現(xiàn)在正是打地基的階段。

從上述各大廠商的動作之中，可以梳理出幾個關(guān)鍵的環(huán)節(jié)：

云端大模型能力向終端側(cè)的遷移

為生成式AI打造的芯片+AI開發(fā)平臺

基于AI+5G技術(shù)的設(shè)備互聯(lián)

前兩者不再做過多贅述，設(shè)備互聯(lián)，則關(guān)系到生成式AI的發(fā)展從第一階段走向第二階段的實質(zhì)：

數(shù)據(jù)在哪里，AI推理就在哪里進行。

短期來看，終端生成式AI基礎(chǔ)能力的構(gòu)建，能在手機、PC這樣的生產(chǎn)力終端上率先帶來應(yīng)用的爆發(fā)，提高生產(chǎn)效率、帶來新的創(chuàng)新機會——

對于普通用戶，人機交互方式徹底變革，自然語言操作一切，帶來的是更高的終端使用效率。

對于開發(fā)者而言，新一輪的AI原生應(yīng)用爆發(fā)機遇，已經(jīng)是現(xiàn)在進行時。AI搜索應(yīng)用Perplexity，剛剛被曝估值將破10億美元，躋身獨角獸行列。

而對于終端廠商而言，從底層芯片到操作系統(tǒng)的變革，也將帶來重塑市場格局的機會。

從更長期來看，更重大的影響則是，AI PC、AI手機的背后，真正的私人AI助理將會出現(xiàn)：用戶能夠在本地打造專屬的Agent，而通過終端設(shè)備互聯(lián)，AI Agent將可以滲透到生活的方方面面。

工業(yè)革命的核心，是生產(chǎn)力的突破和生產(chǎn)方式的變革。AI掀起的技術(shù)風(fēng)暴，概莫能外。

而就像從紙質(zhì)辦公到網(wǎng)絡(luò)辦公，處在當(dāng)下的我們還無法窺見未來的全貌，但可以預(yù)見的是，以人為中心，AI將自然流轉(zhuǎn)于手機、PC、智能車、AR/VR，乃至全新的AI硬件之上，構(gòu)建起真正的萬物互聯(lián)。

身處這樣的時代，對于直面風(fēng)暴的技術(shù)廠商們而言，如何跟上趨勢，已有高通這樣的先行者給出參考。

而對于我們每一個普通而言，更重要的是，認(rèn)真思考如何擁抱新變革的時間點，已經(jīng)到來。

畢竟先擁抱新趨勢的人，先享受世界。

紙引未來網(wǎng)是一個造紙印刷包裝的大數(shù)據(jù)服務(wù)平臺，為您提供包裝紙價格指數(shù)、文化用紙價格指數(shù)、生活用紙價格指數(shù)、特種紙價格指數(shù)、廢紙價格指數(shù)、紙漿價格指數(shù)，采購訂單，廣告推廣，免費找貨等服務(wù)。官網(wǎng)網(wǎng)址：http://www.opensourcehelpwanted.com