650
Oracle 和 NVIDIA 宣布，NVIDIA 加速計算和推理軟件與 Oracle 的 AI 基礎(chǔ)設(shè)施以及生成式 AI 服務(wù)首次實現(xiàn)集成，以幫助全球企業(yè)組織加速創(chuàng)建代理式 AI 應(yīng)用。
此次 Oracle Cloud Infrastructure (OCI) 與 NVIDIA AI Enterprise 軟件平臺之間的集成，將使 160 多個 AI 工具和 100 多個 NVIDIA NIM? 微服務(wù)通過 OCI 控制臺以原生方式提供。此外，Oracle 和 NVIDIA 正在合作無代碼部署 Oracle 和 NVIDIA AI Blueprint，并使用 NVIDIA cuVS 庫加速 Oracle Database 23ai 中的 AI 向量搜索。
Oracle 首席執(zhí)行官 Safra Catz 表示：“Oracle 已成為 AI 訓(xùn)練和推理的首選平臺，這種合作關(guān)系提高了我們幫助客戶實現(xiàn)更大創(chuàng)新和業(yè)務(wù)成果的能力。NVIDIA 的產(chǎn)品與 OCI 的靈活性、可擴展性、性能和安全性相結(jié)合，將加速 AI 的采用，并幫助客戶從數(shù)據(jù)中獲得更多價值?！?/p>
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“Oracle 和 NVIDIA 是推理時代的理想合作伙伴，是一家 AI 和加速計算公司與處理全球大部分企業(yè)數(shù)據(jù)的關(guān)鍵公司的合作。我們將攜手幫助企業(yè)利用代理式 AI 進行創(chuàng)新，為客戶和合作伙伴提供出色的服務(wù)?！?/p>
滿足企業(yè) AI 需求的專用解決方案
NVIDIA AI Enterprise 將通過 OCI 控制臺以原生方式提供，從而減少部署推理模型所需的時間，使客戶能夠輕松快速地訪問包括 NVIDIA NIM? 在內(nèi)的 AI 工具。NVIDIA NIM? 包含 100 多個經(jīng)過優(yōu)化的云原生推理微服務(wù)，適用于領(lǐng)先的 AI 模型，包括用于高級 AI 推理的全新 NVIDIA Llama Nemotron 模型系列。
NVIDIA AI Enterprise 將作為使用 OCI Kubernetes Engine 的 OCI 裸金屬實例和 Kubernetes 集群的部署鏡像提供。OCI 控制臺客戶可通過 Oracle 獲得直接計費和客戶支持。
借助 NVIDIA 加速計算和 NVIDIA AI Enterprise 軟件平臺，企業(yè)組織可以在數(shù)據(jù)中心、公有云或邊緣部署 OCI 的 150 余項 AI 和云服務(wù)。此產(chǎn)品提供集成式 AI 堆棧，幫助滿足數(shù)據(jù)隱私和低延遲要求。
生物技術(shù)公司 Soley Therapeutics 正在部署 OCI AI 基礎(chǔ)設(shè)施、NVIDIA AI Enterprise 和 NVIDIA Blackwell GPU，以構(gòu)建其 AI 藥物研發(fā)平臺，通過捕捉、解碼和解釋細胞語言來預(yù)測細胞命運，從而解鎖復(fù)雜疾病的潛在治療方法。
“我們相信 AI 在開發(fā)解決方案方面的潛力，這些解決方案可以幫助提供治療癌癥和其他復(fù)雜疾病的方法?！?Soley Therapeutics 的聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Yerem Yeghiazarians 表示，“OCI 與 NVIDIA 的結(jié)合提供了一個全棧式 AI 解決方案，為我們提供了必要的存儲、計算、軟件工具以及支持，使我們能夠利用 PB 級數(shù)據(jù)更快地進行創(chuàng)新，以開發(fā)我們的 AI 藥物研發(fā)平臺?！?/p>
借助定制的 Blueprint 進行大規(guī)模 AI 部署
OCI AI Blueprint 提供無代碼部署方案，使客戶能夠快速運行 AI 工作負載，而無需對軟件堆棧做出決策或手動調(diào)配基礎(chǔ)設(shè)施。這些藍圖針對 NVIDIA GPU、NIM 微服務(wù)和預(yù)封裝的觀察性工具提供了明確的硬件建議，幫助企業(yè)將其 AI 項目的耗時從幾周縮短到幾分鐘。
此外，NVIDIA Blueprint 在整個 NVIDIA 堆棧中為開發(fā)者提供了一致的體驗，為企業(yè) AI 用例提供了參考工作流。借助 NVIDIA Blueprint，企業(yè)組織可以使用 NVIDIA AI Enterprise 和 NVIDIA Omniverse? 軟件、應(yīng)用編程接口和微服務(wù)，構(gòu)建并運行自定義 AI 應(yīng)用。例如，開發(fā)者可以從適用于客服 AI 助手的 NVIDIA AI Blueprint 開始，然后對其進行定制方便自己使用。
為簡化高級物理 AI 和仿真應(yīng)用及工作流的開發(fā)、部署和橫向擴展，NVIDIA Omniverse 平臺、NVIDIA Isaac Sim? 開發(fā)工作站以及 Omniverse Kit App Streaming 預(yù)計將于今年晚些時候在 Oracle Cloud Infrastructure Marketplace 上推出，并預(yù)先配置了由 NVIDIA GPU 加速的計算裸金屬實例。
Pipefy 是用于業(yè)務(wù)流程管理的 AI 自動化平臺，通過使用推理藍圖來進行文檔預(yù)處理和圖像處理。
“我們采用了 OCI AI Blueprint 來快速啟動 NVIDIA GPU 節(jié)點，并快速部署了用于文檔和圖像處理用例的多模態(tài)大語言模型?！?Pipefy 首席軟件工程師 Gabriel Custodio 表示，“借助這些預(yù)封裝且經(jīng)過驗證的藍圖，我們部署在 OCI 上的 AI 模型現(xiàn)在已完全自動化，并且速度顯著加快?！?/p>
在 OCI 數(shù)據(jù)科學(xué)中使用 NVIDIA NIM 進行實時 AI 推理
為了進一步加速企業(yè) AI 的采用，并助力以最少的設(shè)置實現(xiàn)快速的 AI 部署，數(shù)據(jù)科學(xué)家可以直接在 OCI 數(shù)據(jù)科學(xué) (OCI Data Science) 中訪問預(yù)優(yōu)化的 NVIDIA NIM 微服務(wù)。其支持實時 AI 推理用例，無需復(fù)雜的基礎(chǔ)設(shè)施管理。
為了幫助維護數(shù)據(jù)的安全性和合規(guī)性，這些模型在客戶的 OCI 租戶中運行?？蛻艨梢酝ㄟ^靈活的即用即付、按時定價模式購買這些模型，也可以申請 Oracle 通用儲值。
企業(yè)組織可以使用此集成在幾分鐘內(nèi)通過預(yù)配置、優(yōu)化的 NIM 推理引擎部署推理端點，從而加速 AI 助手、實時推薦引擎和 copilot 等用例的價值實現(xiàn)。此外，還允許客戶開始將集成用于較小的工作負載，并無縫擴展到整個企業(yè)的部署。
NVIDIA 加速計算平臺加速 Oracle Database 23ai 中的 AI 向量搜索
Oracle 和 NVIDIA 正在合作，使用 NVIDIA GPU 和 NVIDIA cuVS 加速創(chuàng)建向量嵌入和向量索引（Oracle Database 23ai 中 AI 向量搜索工作負載的計算密集型部分）。
企業(yè)機構(gòu)可以通過對文本、圖像和視頻等大量輸入數(shù)據(jù)進行批量矢量化，以及快速創(chuàng)建和維護向量索引，實現(xiàn)向量嵌入。借助 NVIDIA 加速的 AI 向量搜索，Oracle 數(shù)據(jù)庫客戶可以顯著提高其 AI 工作管線的性能，以此支持大量 AI 向量工作負載。
DeweyVision 提供先進的計算機視覺和 AI 能力，將媒體信息轉(zhuǎn)化為數(shù)據(jù)，使其可訪問、可搜索、可發(fā)現(xiàn)、可檢索且可操作。DeweyVision 在 Oracle Autonomous Database 上使用 Oracle Database 23ai 來開發(fā)其無代碼 AI 倉儲工具。通過在幾分鐘內(nèi)對視頻片段進行分類并提供直觀的搜索功能，這些工具可讓專業(yè)制作人員連接其工作流并快速編輯視頻片段。
DeweyVision 首席執(zhí)行官 Majid Bemanian 表示：“支持 AI 向量搜索的 Oracle Database 23ai 可以顯著提高 Dewey 的搜索能力，同時提高 DeweyVision 平臺的可擴展性。使用 NVIDIA GPU 創(chuàng)建我們加載到 Oracle 數(shù)據(jù)庫中的向量嵌入，加速了平臺的數(shù)據(jù)攝入。隨著我們不斷發(fā)展以及開辟新的機會，Autonomous Database 和 Oracle Database 23ai 的融合功能將有助于降低我們的運營成本。我們相信，在 OCI 中運行的 DeweyVision、Oracle Database 23ai 和 NVIDIA GPU 的結(jié)合將幫助我們實現(xiàn)成為好萊塢數(shù)據(jù)倉庫的目標?！?/p>
OCI 上的 NVIDIA Blackwell 支持隨時隨地使用 AI
Oracle 和 NVIDIA 持續(xù)在 OCI 的公共區(qū)域、政府云、OCI Dedicated Region、Oracle Alloy、OCI Compute Cloud@Customer 和 OCI Roving Edge Device 中使用新的 NVIDIA GPU 來發(fā)展 AI 基礎(chǔ)設(shè)施。
其中包括 NVIDIA Quantum-2 InfiniBand 集群網(wǎng)絡(luò)環(huán)境、NVIDIA Spectrum? 以太網(wǎng)交換機，以及適用于市場上一些大型 AI 超級集群的優(yōu)化 NVIDIA NVLink? 和 NVLink Switch 功能。
SoundHound 是對話式智能領(lǐng)域的全球領(lǐng)導(dǎo)者，提供語音和對話式 AI 解決方案，為全球品牌的數(shù)百萬產(chǎn)品提供與語音相關(guān)的體驗。其語音 AI 平臺在 OCI 上運行，每年處理數(shù)十億的查詢請求，并使用 NVIDIA GPU 為客戶提供快速準確的語音服務(wù)。
SoundHound AI 首席產(chǎn)品官 James Hom 表示：“SoundHound 與 OCI 建立了長期合作關(guān)系，相信我們的持續(xù)合作將在支持未來發(fā)展方面發(fā)揮關(guān)鍵作用。NVIDIA GPU 將極大加快下一代語音 AI 的訓(xùn)練速度?！?/p>
