英偉達(dá)當(dāng)?shù)貢r(shí)間周二在洛杉磯舉行的SIGGRAPH大會(huì)上宣布了一項(xiàng)人工智能芯片的新配置,英偉達(dá)創(chuàng)始人CEO黃仁勛表示,新的芯片能加速生成式人工智能應(yīng)用程序,并降低大模型的運(yùn)行成本,讓數(shù)據(jù)中心規(guī)?;?/p>
(資料圖片)
這款最新發(fā)布的人工智能芯片GH200使用與英偉達(dá)當(dāng)前最高端的AI芯片H100相同的GPU,但配備141GB的內(nèi)存以及72核的ARM芯片,H100的內(nèi)存為80GB。
“這款芯片是為全球數(shù)據(jù)中心的橫向擴(kuò)展而設(shè)計(jì)的。”黃仁勛在發(fā)布會(huì)上表示。
黃仁勛還表示,新的芯片將于明年第二季度起通過(guò)英偉達(dá)的經(jīng)銷商供貨,并在今年年底前提供樣品。但目前這款芯片的價(jià)格仍未公布。
英偉達(dá)副總裁Ian Buck在一場(chǎng)媒體發(fā)布會(huì)上表示,新版本的芯片增加了高帶寬內(nèi)存的數(shù)量,這種設(shè)計(jì)能夠驅(qū)動(dòng)更大的AI模型運(yùn)行。GH200經(jīng)過(guò)優(yōu)化,可以執(zhí)行AI推理功能,從而有效地為類似ChatGPT等生成式AI應(yīng)用程序提供支持。
英偉達(dá)發(fā)布新型芯片的背景是人工智能大模型的規(guī)模正在不斷擴(kuò)大。“隨著模型參數(shù)的增加,它們需要更大的內(nèi)存才能在不相互連接的單獨(dú)芯片系統(tǒng)上運(yùn)行,額外的內(nèi)存提高了GPU的性能。”Buck說(shuō)道。
目前英偉達(dá)在人工智能芯片市場(chǎng)占據(jù)主導(dǎo)地位,據(jù)估計(jì)市場(chǎng)份額超過(guò)80%。例如支持谷歌的Bard和OpenAI的ChatGPT運(yùn)行的都是英偉達(dá)的GPU。而隨著全球的科技巨頭、云服務(wù)提供商和初創(chuàng)公司都在搶奪GPU資源來(lái)開(kāi)發(fā)自己的人工智能模型,英偉達(dá)的芯片供不應(yīng)求。
通常,使用人工智能模型的過(guò)程至少分為兩個(gè)部分:訓(xùn)練和推理。首先,使用大量數(shù)據(jù)訓(xùn)練模型,這個(gè)過(guò)程可能需要數(shù)月時(shí)間,有時(shí)需要數(shù)千個(gè)GPU;然后,模型在軟件中使用推理來(lái)進(jìn)行預(yù)測(cè)或生成內(nèi)容。與訓(xùn)練一樣,推理的計(jì)算成本很高,并且每次軟件運(yùn)行時(shí)都需要大量處理能力。且與訓(xùn)練不同的是,推理幾乎持續(xù)進(jìn)行,而訓(xùn)練只有當(dāng)模型需要更新時(shí)才需要重新進(jìn)行。
“你幾乎可以在GH200上運(yùn)行任何你想要的大型語(yǔ)言模型,它會(huì)瘋狂地進(jìn)行推理。”黃仁勛說(shuō),“大型語(yǔ)言模型的推理成本將大幅下降。”
英偉達(dá)還發(fā)布了一個(gè)系統(tǒng),將兩個(gè)GH200芯片組合成一臺(tái)計(jì)算機(jī),適用于更大的模型。黃仁勛稱之為“全球最大的單體GPU”。
在人工智能芯片供不應(yīng)求之際,上周英偉達(dá)的主要競(jìng)爭(zhēng)對(duì)手AMD發(fā)布了一款A(yù)I芯片MI300X,該芯片可支持192GB內(nèi)存,并具有AI推理能力。谷歌和亞馬遜等公司也在設(shè)計(jì)自己的定制人工智能推理芯片。
英偉達(dá)發(fā)布會(huì)的另一個(gè)亮點(diǎn)為OpenUSD的相關(guān)進(jìn)展。OpenUSD近期由美國(guó)3D內(nèi)容行業(yè)的5家主要公司:蘋(píng)果、英偉達(dá)、皮克斯、Adobe和Autodesk聯(lián)合成立,目標(biāo)是有一天可能成為“元宇宙”的3D圖形標(biāo)準(zhǔn)。該組織正通過(guò)促進(jìn)3D工具和數(shù)據(jù)更大的互操作性,使開(kāi)發(fā)者和內(nèi)容創(chuàng)作者能夠描述、編寫(xiě)和模擬大型3D項(xiàng)目,并構(gòu)建范圍不斷擴(kuò)大的3D產(chǎn)品和服務(wù)。
今年的SIGGRAPH上,IBM高級(jí)副總裁Darío Gil的主題演講涉及量子計(jì)算的未來(lái)以及它如何幫助解決實(shí)際問(wèn)題。索尼首席技術(shù)官Hiroaki Kitano也在SIGGRAPH上主持一個(gè)關(guān)于電影創(chuàng)意產(chǎn)業(yè)的論壇。
SIGGRAPH也一直是展示在混合虛擬現(xiàn)實(shí)(XR)研究前沿的場(chǎng)所,今年也不例外。Meta展示了兩款VR和MR頭戴設(shè)備,其中一款是Butterscotch Varifocal,它將變焦技術(shù)與視網(wǎng)膜分辨率VR顯示相結(jié)合;另一個(gè)是Flamera,這是一款計(jì)算相機(jī),使用光場(chǎng)技術(shù)。Butterscotch Varifocal和Flamera均仍處于Meta的研發(fā)階段,但這些技術(shù)可能會(huì)在未來(lái)激發(fā)電子消費(fèi)產(chǎn)品的靈感。
最新資訊
關(guān)于我們| 聯(lián)系方式| 版權(quán)聲明| 供稿服務(wù)| 友情鏈接
咕嚕網(wǎng) 93dn.com 版權(quán)所有,未經(jīng)書(shū)面授權(quán)禁止使用
Copyright©2008-2023 By All Rights Reserved 皖I(lǐng)CP備2022009963號(hào)-10
聯(lián)系我們: 39 60 29 14 2@qq.com