作者?|??香草,編輯?|??漠影
英特爾史上最大CPU技術變革,酷睿Ultra已落地100+本土應用。
AI PC在商用領域,能帶來什么樣的新質生產力?芯東西4月2日報道,近日,英特爾重磅推出全新商用客戶端AI PC產品,將基于英特爾酷睿Ultra處理器的AI特性擴展至商用領域,在AI PC規(guī)模應用元年,踏出行業(yè)落地的關鍵一步。
酷睿Ultra處理器是英特爾40年來最大的架構變革,其首次引入兩顆低功耗內核、首次集成獨立顯卡架構,并集成了NPU(神經元處理器),通過三大AI引擎架構革新,可本地運行200億參數大模型,無需聯(lián)網即可秒級生成高質量多模態(tài)數據。
本次發(fā)布將酷睿Ultra的能力從個人延伸至行業(yè),在視頻會議、多媒體處理等商用場景中,相比上一代產品處理器功耗下降最高36%,生產力提升最高47%,視頻編輯的AI性能提升2.2倍。
發(fā)布會現(xiàn)場,英特爾與超35家ISV(獨立軟件開發(fā)商)及10家OEM(原廠設備制造商)合作伙伴分享了酷睿Ultra在商用AI PC中的應用爆發(fā),全方位瞄準AI Chatbot、AI PC助理、AI Office助手、AI本地知識庫、AI圖像視頻處理、AI PC管理六大AI場景,在經濟、物理、數據保密三大AI PC法則的指導下推動各行業(yè)數字化轉型。
那么,英特爾此次升級的產品點具體有哪些?六大AI場景中,具體有哪些創(chuàng)新應用?為什么說本地生成式AI是必然的趨勢?芯東西通過現(xiàn)場調研,尋找這些問題的答案。
01.低功耗、獨立顯卡、NPU三大AI引擎架構更新,本地跑200億參數大模型
英特爾酷睿Ultra處理器專為AI PC打造,其采用全新英特爾4制程工藝,基于3D性能混合架構,將兩個內核微架構組合至同一個處理器芯片上,并可提供內置英特爾銳炫GPU。
據英特爾客戶端事業(yè)部副總裁、細分市場部總經理馮大為介紹,面向企業(yè)用戶,酷睿Ultra處理器在CPU+GPU+NPU三大AI引擎上做了重大架構更新,能夠支持200億參數大模型在本地運行,無需聯(lián)網即可秒級生成高質量圖片或視頻。
一是CPU上的低功耗管理??犷ltra首次引入兩顆低功耗內核,其專為多線程可擴展性能和分載后臺任務而設計,更優(yōu)的性能核和能效核帶來更高數據吞吐量,辦公場景性能提升最高可達47%。
二是GPU首次集成了獨立顯卡架構,英特爾銳炫GPU帶來最高2.2倍的性能及性能功耗比提升,讓視頻剪輯速度更快,視頻體積更小。
三是采用NPU進行AI推理,在視頻會議等場景中功耗最高下降36%,基于Intel 4制程工藝和3D高性能混合架構的設計,大幅提升續(xù)航能力,讓AI體驗更省電。此外,此次酷睿Ultra內置的ARC顯卡已達到移動工作站的性能需求,在3D渲染評分上最高達到上一代產品12倍的性能。
02.從聊天機器人到AI Agent六大AI場景應用爆發(fā)
工業(yè)和信息化部賽迪研究院數據顯示,到2035年,生成式AI有望為全球貢獻近90萬億元的經濟價值,其中中國將突破30萬億元。AI市場蘊含著巨大的潛能,其中豐富的創(chuàng)新AI應用成為商用AI PC產業(yè)發(fā)力的重點。英特爾中國區(qū)技術部總經理高宇描繪了英特爾錨定的六大AI場景應用圖,以AI Chatbot、AI PC助理、AI Office助手、AI本地知識庫、AI圖像視頻處理、AI PC管理為橫坐標,醫(yī)療、教育、法務等各行業(yè)為縱坐標,形成一張巨大的應用場景藍圖。
英特爾發(fā)布會現(xiàn)場,有35+家本土ISV合作伙伴向我們展示了商用AI PC在六大AI場景+AI行業(yè)應用等垂直領域的潛能。1、AI Chatbot:直擊行業(yè)應用痛點,提供專業(yè)領域問答操作系統(tǒng)技術提供商中科創(chuàng)達人工智能中心副總裁楊新輝,演示了魔方智能法務助手,其基于基礎語言大模型,結合百萬條法律大數據訓練得到70億參數規(guī)模的AI PC端側大模型,提供案件分析、文書撰寫等法律相關功能。
中科創(chuàng)達大模型產品負責人邱瑞翔告訴芯東西,法律卷宗等數據隱私性很高,需要進行嚴格的數據監(jiān)管。同時律師群體出差頻率高,常遇到在飛機上辦公等無網絡的場景。AI PC將大模型搬到了終端上,杜絕了信息泄露和斷網的影響。
2、AI PC助理:AI智能控制,簡化各種PC操作
智譜AI基于酷睿Ultra打造了AI PC智能助手,提供AI智能控制、PC使用問答、文檔內容提煉等功能。其COO張帆展示了該應用的智能操作功能,輸入一句包含靜音、切換性能、打開文件3個操作的指令,PC便按順序完成了3個操作。
值得注意的是,在打開文件的指令中用戶無需給出完整準確的文件名,只需采用“上次打開的”“昨天沒看完的”等模糊描述,大模型就可以根據使用記錄或用戶習慣,找到需要的文件。
3、AI Office助手:玩轉“辦公三件套”,提高辦公效率
專注Office“辦公三件套”擴展工具開發(fā)的ExtendOffice的CEO林潔演示了基于本地AI的全新插件Kutools AI。表格工具Excel中有許多復雜的公式,造成了一定的學習成本,同時企業(yè)客戶的大量數據具有高度隱私性,上傳到云端會有泄露風險,這使得本地化的離線數據處理極為重要。Kutools AI以側邊欄形式呈現(xiàn)在應用中,用戶可使用自然語言輸入指令。如用戶想將“金額”一欄的數值按匯率換算成人民幣,只需輸入“美元轉人民幣”指令,Kutools AI便會彈出對應聊天框,再輸入相應的匯率即可自動完成換算。
4、AI本地知識庫:深挖企業(yè)私域數據,快速文檔處理和知識檢索
星環(huán)科技副總裁楊一帆介紹了RAG(檢索增強生成)產品無涯-問知,基于AI PC能力,它能快速將本地文件資料轉換成知識,支持多種格式和模態(tài)、不限長度文件自動入庫。
該產品契合AI PC全部三條法則。首先數據在本地處理,避免了云服務費用,從而降低了AI服務成本;其次避免了數據傳輸中的瓶頸,滿足物理法則;最后數據全部保存在本地設備上,保障了安全性和隱私性。
5、AI圖像視頻處理:隨時隨地后期,開辟全新媒體制作方式
在多媒體處理賽道,視頻等大文件的傳輸十分考驗網絡速率。當虹科技CTO黃進展示了基于AI PC打造的視頻慢動作解決方案,用大模型生成更多的視頻幀,實現(xiàn)3倍慢動作視頻生成。
一方面,本地化的視頻處理降低了數據傳輸和云服務成本。另一方面,在酷睿Ultra加持下原本只能在專業(yè)服務器和大型工作站才能實現(xiàn)的能力,現(xiàn)在也可以普惠到企業(yè)用戶。
6、AI PC管理:借助NPU處理能力,增強設備資產安全性
在商用領域,資產安全性極為重要。火絨安全、貝銳向日葵、VMware等廠商基于NPU強大的處理能力,將AI運用到威脅檢測、安全風險管控、遠程操作等應用中,解放了CPU算力,提升了商用PC管理效率。
這六大應用場景,延伸到具體的垂直行業(yè)領域中,又能帶來不一樣的想象力。在醫(yī)療行業(yè),AI制藥頭部企業(yè)英矽智能通過在AI PC部署大模型,推出AI生物學軟件PandaOmics,基于超過20種預測模型和生成生物學模型,實現(xiàn)專業(yè)的靶點篩選、排序和分析,提升了藥物研發(fā)效率。
在應用展區(qū),英矽智能BD吳劍宇向芯東西演示了PandaOmics的知識圖譜和問答功能,通過來自公開文獻、科研基金、臨床試驗的文本數據,該軟件能自動生成知識圖譜,用戶可在左側交互窗口進一步追問。據其介紹,醫(yī)院內部數據具有高度隱私性,本地化的大模型和算力可在滿足數據安全的前提下,提升醫(yī)生和科研人員在藥物研發(fā)階段的效率。在數字人領域,英麒智能利用酷睿Ultra處理器和OpenVINO深度學習套件,打造了低成本、高質量的數字人解決方案,實現(xiàn)快速精準的數字人智能問答。據英麒智能介紹,用戶只需錄制約2分鐘的視頻,通過10分鐘左右的云端計算,即可生成專屬數字人模型,之后便可結合本地大語言模型離線使用。高宇展示了他在會前錄制的數字人模型,其口型同步、手部動作等十分生動,幾乎達到“以假亂真”的程度。
總的來說,在經濟法則中,AI數據在本地處理可降低云服務成本,優(yōu)化經濟性;在物理法則中,AI服務的及時性和準確性要求提升云與端之間的傳輸速度,解決瓶頸;在數據保密法則中,需要保證用戶數據的安全和隱私,防止濫用和泄露。AI PC三大法則為AI應用指明了方向,生成式AI本地化成為必然趨勢。
03.結語:英特爾商用AI PC打通行業(yè)落地最后一公里
通過三大AI引擎架構升級,英特爾為AI PC應用打通了落地最后一公里,基于經濟、物理、數據保密三大法則,提供了AI本地化的底層基礎。去年10月,英特爾開啟“AI PC加速計劃”,5個月以來已累計2120個報名團隊,孕育出1083個高質量的創(chuàng)新AI應用。值得一提的是,報名團隊中超30%都來自高校大學生。為了激勵更多開發(fā)者加入,英特爾宣布“AI PC加速計劃”再添兩項新舉措,新增“AI PC開發(fā)者計劃”,并吸納獨立硬件供應商加入,以加速在2025年前為超過1億臺基于英特爾平臺的PC帶來AI特性。相信未來,我們會看到更多本地化AI應用,為商用場景帶來更多新質生產力。