億玖資訊
Enine information- 億玖動(dòng)態(tài)
- 行業(yè)資訊
NVIDIA與Oracle合作,加速AI和大規(guī)模數(shù)據(jù)處理
發(fā)布時(shí)間:2024-09-18
在AI技術(shù)不斷滲透各行各業(yè)的今天,企業(yè)對(duì)強(qiáng)大的計(jì)算資源的需求愈發(fā)迫切。NVIDIA與Oracle攜手,推出了一系列創(chuàng)新技術(shù)解決方案,以滿足市場(chǎng)對(duì)高效AI運(yùn)算的迫切需求,同時(shí)促進(jìn)數(shù)據(jù)處理速度和提高經(jīng)濟(jì)效益。
OCI Zettascale超級(jí)集群的創(chuàng)新
在Oracle CloudWorld大會(huì)上,Oracle展示了其最新力作——Zettascale OCI超級(jí)集群,由NVIDIA Blackwell平臺(tái)驅(qū)動(dòng),配備超過十萬個(gè)NVIDIA最新一代GPU,為企業(yè)AI工作負(fù)載和數(shù)據(jù)處理提供強(qiáng)大動(dòng)力。該超級(jí)集群支持靈活部署,無論是本地、公有云還是主權(quán)云環(huán)境,都能輕松應(yīng)對(duì)。

技術(shù)規(guī)格與擴(kuò)展性
OCI超級(jí)集群在規(guī)模和性能上均超越了現(xiàn)有的超級(jí)計(jì)算機(jī),其GPU數(shù)量是Frontier超級(jí)計(jì)算機(jī)的三倍以上,可擴(kuò)展至131,072個(gè)Blackwell GPU,提供2.4 Zettaflops的驚人AI計(jì)算能力。這一成就得益于NVIDIA ConnectX-7 NIC和Quantum-2 InfiniBand網(wǎng)絡(luò)的先進(jìn)性能。預(yù)計(jì)到2025年上半年,基于Blackwell的系統(tǒng)將全面上市。
NVIDIA GB200 NVL72液冷裸機(jī)實(shí)例的突破
Oracle展示了NVIDIA GB200 NVL72液冷裸機(jī)實(shí)例,這是為生成式AI應(yīng)用量身定制的解決方案。這些實(shí)例通過72-GPU NVIDIA NVLink域,實(shí)現(xiàn)單個(gè)巨型GPU的效能,支持大規(guī)模AI訓(xùn)練和實(shí)時(shí)推理。同時(shí),OCI也宣布將推出NVIDIA HGX H200 Tensor Core GPU,進(jìn)一步加速AI推理和訓(xùn)練。

NVIDIA L40S GPU加速實(shí)例的推出
Oracle針對(duì)中端AI工作負(fù)載推出了NVIDIA L40S GPU加速實(shí)例,并通過Roving Edge Device v2提供邊緣解決方案,支持多達(dá)三個(gè)NVIDIA L4 Tensor Core GPU,確保即使在遠(yuǎn)程或離線環(huán)境中也能實(shí)現(xiàn)AI部署。

企業(yè)應(yīng)用案例
AI新創(chuàng)公司Reka利用OCI超級(jí)集群開發(fā)多模態(tài)AI模型,這些模型能夠處理復(fù)雜的企業(yè)代理任務(wù),如聽、說、讀、看。Reka的模型展示了NVIDIA GPU加速基礎(chǔ)設(shè)施的強(qiáng)大能力,能夠高效地處理和擴(kuò)展大規(guī)模模型訓(xùn)練。
GPU加速功能的展示
Oracle和NVIDIA展示了新的集成方案,旨在加速Oracle自治數(shù)據(jù)庫上的生成AI工作負(fù)載。這些集成展示了NVIDIA GPU在增強(qiáng)Oracle數(shù)據(jù)庫AI功能方面的潛力,包括加速向量嵌入、優(yōu)化矢量圖索引生成,以及通過NVIDIA NIM推理微服務(wù)提升文本生成和翻譯能力。
NVIDIA與Oracle的合作不僅推動(dòng)了AI訓(xùn)練和推理的效率,還為企業(yè)提供了一系列靈活的部署選項(xiàng),從邊緣到云端,全面覆蓋。這種合作模式正在幫助全球企業(yè)和政府實(shí)現(xiàn)AI應(yīng)用的突破,滿足數(shù)據(jù)主權(quán)需求,加強(qiáng)經(jīng)濟(jì)韌性,并推動(dòng)AI技術(shù)的持續(xù)創(chuàng)新和發(fā)展。通過這種合作,NVIDIA與Oracle正在引領(lǐng)AI和高性能計(jì)算的新紀(jì)元,為企業(yè)和政府的數(shù)字化轉(zhuǎn)型提供強(qiáng)大支持。