芯耀
472
剛剛，英偉達(dá)在GTC上發(fā)布了NVIDIA Jetson AGX Orin。官方宣稱，這臺AI超級計算機(jī)在體積、功能、能效方面都達(dá)到業(yè)內(nèi)之最，尺寸只有手掌大小，但是可與內(nèi)置GPU的服務(wù)器相媲美，可用于機(jī)器人、自主機(jī)器、醫(yī)療器械和其他形式的邊緣嵌入式計算。
Jetson AGX Orin基于英偉達(dá)Ampere架構(gòu)和Arm Cortex-A78AE CPU，以及新一代深度學(xué)習(xí)和視覺加速器。并且，具備高速接口、更快的存儲帶寬和對多模態(tài)傳感器的支持，為多個并行AI應(yīng)用流水線輸送數(shù)據(jù)。與前代機(jī)型Jetson AGX Xavier保持相同外形尺寸和引腳兼容的情況下，Jetson AGX Orin處理能力提升了6倍，每秒可進(jìn)行200萬億次運(yùn)算（TOPS）。
?
通過這一全新的Jetson計算機(jī)，可以加速整個NVIDIA AI軟件棧，使得開發(fā)者能夠部署更大、更復(fù)雜的模型，從而解決自然語言理解、3D感知、多傳感器融合等領(lǐng)域的邊緣AI和機(jī)器人技術(shù)挑戰(zhàn)。
NVIDIA副總裁兼嵌入式和邊緣計算總經(jīng)理Deepu Talla表示：“隨著機(jī)器人技術(shù)和嵌入式計算正在改變制造業(yè)、醫(yī)療 、零售業(yè)、交通、智慧城市和其他重要的經(jīng)濟(jì)部門，處理需求持續(xù)激增。Jetson AGX Orin專為滿足這些需求而推出?！?/p>
從2014年第一代Jetson TK1推出以來，Jetson系列基本以每年一次迭代的速度在升級。迄今為止，約有85萬名Jetson開發(fā)者和6000多家公司，基于Jetson系列進(jìn)行自主機(jī)器和邊緣AI應(yīng)用開發(fā)和部署。
為何打造智慧機(jī)器人需要端到端的加速平臺？
機(jī)器人產(chǎn)業(yè)正在以驚人的規(guī)模發(fā)展。黃仁勛剛才在Keynote中指出：“邊緣應(yīng)用本質(zhì)上就是機(jī)器人應(yīng)用（它們在與自動駕駛汽車類似的要求下進(jìn)行），邊緣計算的統(tǒng)一概念是需要處理一系列任務(wù)的組合，包括：傳感器、高速I/O、數(shù)據(jù)處理、信號和物理處理、AI推理和計算機(jī)圖形等，而所謂‘機(jī)器人管道’，必須得到實時地處理，只有足夠及時完成處理，才能轉(zhuǎn)化為安全性、成本、容量以及最終的可用性。”
?
他相信各種傳感器、計算和邊緣AI的組合，將激發(fā)一波新創(chuàng)意，而這勢必需要端到端的平臺支持。除了新推出的Jetson AGX Orin，英偉達(dá)還提供綜合全面的軟件和生態(tài)系統(tǒng)支持，例如NVIDIA CUDA-X加速計算棧、NVIDIA JetPack SDK和最新的NVIDIA工具進(jìn)行應(yīng)用開發(fā)和優(yōu)化，包括云原生開發(fā)工作流程等。并且，NVIDIA NGC目錄的預(yù)訓(xùn)練模型已經(jīng)過優(yōu)化并且可以使用NVIDIA TAO工具套件和客戶數(shù)據(jù)集進(jìn)行微調(diào)，可以減少生產(chǎn)級AI的部署時間和成本，云原生技術(shù)則實現(xiàn)了產(chǎn)品整個生命周期內(nèi)的無縫更新。
據(jù)了解，Jetson 嵌入式計算合作伙伴生態(tài)系統(tǒng)包含廣泛的服務(wù)和產(chǎn)品，包括攝像頭和其他多模傳感器、載體板、硬件設(shè)計服務(wù)、AI和系統(tǒng)軟件、開發(fā)工具和定制軟件開發(fā)。
其中，針對特定用例的軟件框架包括用于機(jī)器人技術(shù)的NVIDIA Isaac Sim on Omniverse，NVIDIA DRIVE 用于自動駕駛，NVIDIA Metropolis用于智慧城市。 值得一提的是，最新的 Isaac 版本包括了對機(jī)器人操作系統(tǒng) (ROS) 開發(fā)人員社區(qū)的重要支持。 NVIDIA 還發(fā)布了用于合成數(shù)據(jù)生成和 Isaac GEM 的全新 Omniverse Replicator，這些硬件加速軟件包使ROS開發(fā)者更容易在Jetson平臺上構(gòu)建高性能AI機(jī)器人。
TIRIAS Research首席分析師Jim McGregor表示：“在AI技術(shù)進(jìn)步的推動下，機(jī)器人市場正在呈指數(shù)級增長。英偉達(dá)正在通過強(qiáng)大的生態(tài)系統(tǒng)和完整的端到端解決方案（包括一系列運(yùn)用通用工具和神經(jīng)網(wǎng)絡(luò)模型的硬件平臺）來推動機(jī)器人技術(shù)的發(fā)展，全新Jetson平臺帶來了NVIDIA Ampere架構(gòu)的性能和多功能性，使應(yīng)用于從農(nóng)業(yè)和制造業(yè)到醫(yī)療和智慧城市等諸多領(lǐng)域的自主移動機(jī)器人取得了更大的進(jìn)步?！?/p>
實時傳感器計算平臺賦能醫(yī)療行業(yè)
此外，Jetson AGX Orin也可為NVIDIA Clara Holoscan提供支持，這是醫(yī)療行業(yè)的一個新計算平臺，允許開發(fā)者構(gòu)建軟件定義的醫(yī)療設(shè)備，在邊緣運(yùn)行低延遲流媒體應(yīng)用程序。
黃仁勛指出，CT掃描儀和重癥監(jiān)護(hù)病房攝像頭等設(shè)備需要這樣的處理能力，才能將數(shù)據(jù)從傳感器傳輸?shù)綌?shù)據(jù)管道，從而實現(xiàn)AI決策支持。這樣，開發(fā)人員就可以創(chuàng)建AI微服務(wù)，在設(shè)備上運(yùn)行低延遲流式應(yīng)用程序，同時將更復(fù)雜的任務(wù)傳遞給數(shù)據(jù)中心。
“隨著設(shè)備銷售逐漸被醫(yī)療設(shè)備‘軟件即服務(wù)’的解決方案所取代，這個行業(yè)需要軟件定義的影響平臺來構(gòu)建未來，而這些新動態(tài)對于患者、醫(yī)院以及這個價值2000億美元的行業(yè)的儀器制造商來說，都是好消息”，黃仁勛指出。
當(dāng)然，這對于這個仰賴于儀器的傳統(tǒng)行業(yè)來說，從商業(yè)模式上也將是巨大的顛覆。
NVIDIA DRIVE Orin打造交通新紀(jì)元
DRIVE AGX Orin 同樣由 Jetson AGX Orin 等 NVIDIA Ampere 架構(gòu)提供支持，主要針對運(yùn)輸行業(yè)。它是新發(fā)布的 NVIDIA DRIVE Concierge 和 DRIVE Chauffeur 背后的先進(jìn)處理器，這兩個 AI 平臺致力于通過 AI 助手重新定義車內(nèi)乘客體驗，并分別為安全的自動駕駛提供動力。
“移動萬物終將自主，無論是完全自主還是大部分自主。到2024年，絕大多數(shù)新電動汽車將具備強(qiáng)大的自動駕駛能力”，黃仁勛表示，“NVIDIA Drive是一個全棧式的開放自動駕駛平臺，數(shù)十家全球汽車和卡車制造商、新能源汽車初創(chuàng)公司和機(jī)器人出租車公司正在將其高性能 AI 計算用于其下一代智能、軟件定義的移動解決方案?！?br /> ?
