芯耀
828
Oracle 和 NVIDIA 宣布，NVIDIA 加速計(jì)算和推理軟件與 Oracle 的 AI 基礎(chǔ)設(shè)施以及生成式 AI 服務(wù)首次實(shí)現(xiàn)集成，以幫助全球企業(yè)組織加速創(chuàng)建代理式 AI 應(yīng)用。
此次 Oracle Cloud Infrastructure (OCI) 與 NVIDIA AI Enterprise 軟件平臺(tái)之間的集成，將使 160 多個(gè) AI 工具和 100 多個(gè) NVIDIA NIM? 微服務(wù)通過(guò) OCI 控制臺(tái)以原生方式提供。此外，Oracle 和 NVIDIA 正在合作無(wú)代碼部署 Oracle 和 NVIDIA AI Blueprint，并使用 NVIDIA cuVS 庫(kù)加速 Oracle Database 23ai 中的 AI 向量搜索。
Oracle 首席執(zhí)行官 Safra Catz 表示：“Oracle 已成為 AI 訓(xùn)練和推理的首選平臺(tái)，這種合作關(guān)系提高了我們幫助客戶實(shí)現(xiàn)更大創(chuàng)新和業(yè)務(wù)成果的能力。NVIDIA 的產(chǎn)品與 OCI 的靈活性、可擴(kuò)展性、性能和安全性相結(jié)合，將加速 AI 的采用，并幫助客戶從數(shù)據(jù)中獲得更多價(jià)值。”
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“Oracle 和 NVIDIA 是推理時(shí)代的理想合作伙伴，是一家 AI 和加速計(jì)算公司與處理全球大部分企業(yè)數(shù)據(jù)的關(guān)鍵公司的合作。我們將攜手幫助企業(yè)利用代理式 AI 進(jìn)行創(chuàng)新，為客戶和合作伙伴提供出色的服務(wù)?！?/p>
滿足企業(yè) AI 需求的專用解決方案
NVIDIA AI Enterprise 將通過(guò) OCI 控制臺(tái)以原生方式提供，從而減少部署推理模型所需的時(shí)間，使客戶能夠輕松快速地訪問包括 NVIDIA NIM? 在內(nèi)的 AI 工具。NVIDIA NIM? 包含 100 多個(gè)經(jīng)過(guò)優(yōu)化的云原生推理微服務(wù)，適用于領(lǐng)先的 AI 模型，包括用于高級(jí) AI 推理的全新 NVIDIA Llama Nemotron 模型系列。
NVIDIA AI Enterprise 將作為使用 OCI Kubernetes Engine 的 OCI 裸金屬實(shí)例和 Kubernetes 集群的部署鏡像提供。OCI 控制臺(tái)客戶可通過(guò) Oracle 獲得直接計(jì)費(fèi)和客戶支持。
借助 NVIDIA 加速計(jì)算和 NVIDIA AI Enterprise 軟件平臺(tái)，企業(yè)組織可以在數(shù)據(jù)中心、公有云或邊緣部署 OCI 的 150 余項(xiàng) AI 和云服務(wù)。此產(chǎn)品提供集成式 AI 堆棧，幫助滿足數(shù)據(jù)隱私和低延遲要求。
生物技術(shù)公司 Soley Therapeutics 正在部署 OCI AI 基礎(chǔ)設(shè)施、NVIDIA AI Enterprise 和 NVIDIA Blackwell GPU，以構(gòu)建其 AI 藥物研發(fā)平臺(tái)，通過(guò)捕捉、解碼和解釋細(xì)胞語(yǔ)言來(lái)預(yù)測(cè)細(xì)胞命運(yùn)，從而解鎖復(fù)雜疾病的潛在治療方法。
“我們相信 AI 在開發(fā)解決方案方面的潛力，這些解決方案可以幫助提供治療癌癥和其他復(fù)雜疾病的方法?！?Soley Therapeutics 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Yerem Yeghiazarians 表示，“OCI 與 NVIDIA 的結(jié)合提供了一個(gè)全棧式 AI 解決方案，為我們提供了必要的存儲(chǔ)、計(jì)算、軟件工具以及支持，使我們能夠利用 PB 級(jí)數(shù)據(jù)更快地進(jìn)行創(chuàng)新，以開發(fā)我們的 AI 藥物研發(fā)平臺(tái)。”
借助定制的 Blueprint 進(jìn)行大規(guī)模 AI 部署
OCI AI Blueprint 提供無(wú)代碼部署方案，使客戶能夠快速運(yùn)行 AI 工作負(fù)載，而無(wú)需對(duì)軟件堆棧做出決策或手動(dòng)調(diào)配基礎(chǔ)設(shè)施。這些藍(lán)圖針對(duì) NVIDIA GPU、NIM 微服務(wù)和預(yù)封裝的觀察性工具提供了明確的硬件建議，幫助企業(yè)將其 AI 項(xiàng)目的耗時(shí)從幾周縮短到幾分鐘。
此外，NVIDIA Blueprint 在整個(gè) NVIDIA 堆棧中為開發(fā)者提供了一致的體驗(yàn)，為企業(yè) AI 用例提供了參考工作流。借助 NVIDIA Blueprint，企業(yè)組織可以使用 NVIDIA AI Enterprise 和 NVIDIA Omniverse? 軟件、應(yīng)用編程接口和微服務(wù)，構(gòu)建并運(yùn)行自定義 AI 應(yīng)用。例如，開發(fā)者可以從適用于客服 AI 助手的 NVIDIA AI Blueprint 開始，然后對(duì)其進(jìn)行定制方便自己使用。
為簡(jiǎn)化高級(jí)物理 AI 和仿真應(yīng)用及工作流的開發(fā)、部署和橫向擴(kuò)展，NVIDIA Omniverse 平臺(tái)、NVIDIA Isaac Sim? 開發(fā)工作站以及 Omniverse Kit App Streaming 預(yù)計(jì)將于今年晚些時(shí)候在 Oracle Cloud Infrastructure Marketplace 上推出，并預(yù)先配置了由 NVIDIA GPU 加速的計(jì)算裸金屬實(shí)例。
Pipefy 是用于業(yè)務(wù)流程管理的 AI 自動(dòng)化平臺(tái)，通過(guò)使用推理藍(lán)圖來(lái)進(jìn)行文檔預(yù)處理和圖像處理。
“我們采用了 OCI AI Blueprint 來(lái)快速啟動(dòng) NVIDIA GPU 節(jié)點(diǎn)，并快速部署了用于文檔和圖像處理用例的多模態(tài)大語(yǔ)言模型?！?Pipefy 首席軟件工程師 Gabriel Custodio 表示，“借助這些預(yù)封裝且經(jīng)過(guò)驗(yàn)證的藍(lán)圖，我們部署在 OCI 上的 AI 模型現(xiàn)在已完全自動(dòng)化，并且速度顯著加快?！?/p>
在 OCI 數(shù)據(jù)科學(xué)中使用 NVIDIA NIM 進(jìn)行實(shí)時(shí) AI 推理
為了進(jìn)一步加速企業(yè) AI 的采用，并助力以最少的設(shè)置實(shí)現(xiàn)快速的 AI 部署，數(shù)據(jù)科學(xué)家可以直接在 OCI 數(shù)據(jù)科學(xué) (OCI Data Science) 中訪問預(yù)優(yōu)化的 NVIDIA NIM 微服務(wù)。其支持實(shí)時(shí) AI 推理用例，無(wú)需復(fù)雜的基礎(chǔ)設(shè)施管理。
為了幫助維護(hù)數(shù)據(jù)的安全性和合規(guī)性，這些模型在客戶的 OCI 租戶中運(yùn)行?？蛻艨梢酝ㄟ^(guò)靈活的即用即付、按時(shí)定價(jià)模式購(gòu)買這些模型，也可以申請(qǐng) Oracle 通用儲(chǔ)值。
企業(yè)組織可以使用此集成在幾分鐘內(nèi)通過(guò)預(yù)配置、優(yōu)化的 NIM 推理引擎部署推理端點(diǎn)，從而加速 AI 助手、實(shí)時(shí)推薦引擎和 copilot 等用例的價(jià)值實(shí)現(xiàn)。此外，還允許客戶開始將集成用于較小的工作負(fù)載，并無(wú)縫擴(kuò)展到整個(gè)企業(yè)的部署。
NVIDIA 加速計(jì)算平臺(tái)加速 Oracle Database 23ai 中的 AI 向量搜索
Oracle 和 NVIDIA 正在合作，使用 NVIDIA GPU 和 NVIDIA cuVS 加速創(chuàng)建向量嵌入和向量索引（Oracle Database 23ai 中 AI 向量搜索工作負(fù)載的計(jì)算密集型部分）。
企業(yè)機(jī)構(gòu)可以通過(guò)對(duì)文本、圖像和視頻等大量輸入數(shù)據(jù)進(jìn)行批量矢量化，以及快速創(chuàng)建和維護(hù)向量索引，實(shí)現(xiàn)向量嵌入。借助 NVIDIA 加速的 AI 向量搜索，Oracle 數(shù)據(jù)庫(kù)客戶可以顯著提高其 AI 工作管線的性能，以此支持大量 AI 向量工作負(fù)載。
DeweyVision 提供先進(jìn)的計(jì)算機(jī)視覺和 AI 能力，將媒體信息轉(zhuǎn)化為數(shù)據(jù)，使其可訪問、可搜索、可發(fā)現(xiàn)、可檢索且可操作。DeweyVision 在 Oracle Autonomous Database 上使用 Oracle Database 23ai 來(lái)開發(fā)其無(wú)代碼 AI 倉(cāng)儲(chǔ)工具。通過(guò)在幾分鐘內(nèi)對(duì)視頻片段進(jìn)行分類并提供直觀的搜索功能，這些工具可讓專業(yè)制作人員連接其工作流并快速編輯視頻片段。
DeweyVision 首席執(zhí)行官 Majid Bemanian 表示：“支持 AI 向量搜索的 Oracle Database 23ai 可以顯著提高 Dewey 的搜索能力，同時(shí)提高 DeweyVision 平臺(tái)的可擴(kuò)展性。使用 NVIDIA GPU 創(chuàng)建我們加載到 Oracle 數(shù)據(jù)庫(kù)中的向量嵌入，加速了平臺(tái)的數(shù)據(jù)攝入。隨著我們不斷發(fā)展以及開辟新的機(jī)會(huì)，Autonomous Database 和 Oracle Database 23ai 的融合功能將有助于降低我們的運(yùn)營(yíng)成本。我們相信，在 OCI 中運(yùn)行的 DeweyVision、Oracle Database 23ai 和 NVIDIA GPU 的結(jié)合將幫助我們實(shí)現(xiàn)成為好萊塢數(shù)據(jù)倉(cāng)庫(kù)的目標(biāo)?！?/p>
OCI 上的 NVIDIA Blackwell 支持隨時(shí)隨地使用 AI
Oracle 和 NVIDIA 持續(xù)在 OCI 的公共區(qū)域、政府云、OCI Dedicated Region、Oracle Alloy、OCI Compute Cloud@Customer 和 OCI Roving Edge Device 中使用新的 NVIDIA GPU 來(lái)發(fā)展 AI 基礎(chǔ)設(shè)施。
其中包括 NVIDIA Quantum-2 InfiniBand 集群網(wǎng)絡(luò)環(huán)境、NVIDIA Spectrum? 以太網(wǎng)交換機(jī)，以及適用于市場(chǎng)上一些大型 AI 超級(jí)集群的優(yōu)化 NVIDIA NVLink? 和 NVLink Switch 功能。
SoundHound 是對(duì)話式智能領(lǐng)域的全球領(lǐng)導(dǎo)者，提供語(yǔ)音和對(duì)話式 AI 解決方案，為全球品牌的數(shù)百萬(wàn)產(chǎn)品提供與語(yǔ)音相關(guān)的體驗(yàn)。其語(yǔ)音 AI 平臺(tái)在 OCI 上運(yùn)行，每年處理數(shù)十億的查詢請(qǐng)求，并使用 NVIDIA GPU 為客戶提供快速準(zhǔn)確的語(yǔ)音服務(wù)。
SoundHound AI 首席產(chǎn)品官 James Hom 表示：“SoundHound 與 OCI 建立了長(zhǎng)期合作關(guān)系，相信我們的持續(xù)合作將在支持未來(lái)發(fā)展方面發(fā)揮關(guān)鍵作用。NVIDIA GPU 將極大加快下一代語(yǔ)音 AI 的訓(xùn)練速度?！?/p>
