NVIDIA推出小型AI計(jì)算機(jī):帶寬增50%,推理性能提升70%
白貓 / 2024-12-18 13:1263029目前在AI領(lǐng)域,最成功的公司應(yīng)該就是NVIDIA,其推出的顯卡以及Tesla計(jì)算卡憑借其強(qiáng)大的實(shí)力獲得了消費(fèi)者以及大中型企業(yè)的一致認(rèn)可,大家紛紛采用NVIDIA的產(chǎn)品終端實(shí)現(xiàn)AI訓(xùn)練以及推理,導(dǎo)致NVIDIA的產(chǎn)品供不應(yīng)求,處于嚴(yán)重?cái)嘭浀臓顟B(tài),并且這些AI設(shè)備的價(jià)格也十分地高昂,從而讓普通用戶很難感受AI帶來(lái)的出色魅力,因此NVIDIA如今也推出了面向入門級(jí)用戶打造的AI開(kāi)發(fā)者套件,希望借助這些套件能夠讓更多的人接觸到AI,享受AI創(chuàng)作的魅力。

NVIDIA這一次推出的AI套件名為Jetson Orin Nano Super,它擁有67TOPS的INT8算力,與上一代相比,AI推理性能是上一代的1.7倍,除此之外為了應(yīng)對(duì)AI推理所需的超大帶寬,這款A(yù)I超算套件的內(nèi)存帶寬也提升了50%,達(dá)到了恐怖的102GB/s,NVIDIA還表示這顆迷你超算可以應(yīng)對(duì)包括LLM、視覺(jué)AI等各種AI應(yīng)用,從7W到25W的功耗應(yīng)有盡有。

當(dāng)然這個(gè)AI套件主要面向AI開(kāi)發(fā)者使用,并且也算是入門級(jí)的開(kāi)發(fā)套件,價(jià)格則為249美元,比過(guò)去要便宜不少。估計(jì)NVIDIA是希望用戶能夠以一個(gè)低廉的價(jià)格先體驗(yàn)到AI帶來(lái)的出色魅力,未來(lái)等到深入研究AI,那就購(gòu)買更加高昂的NVIDIA顯卡或者計(jì)算卡,對(duì)于普通用戶來(lái)說(shuō),想要嘗試AI,基本上一款RTX 3060顯卡就足夠了。
NVIDIA推出小型AI計(jì)算機(jī):帶寬增50%,推理性能提升70%














滬公網(wǎng)安備 31010702005758號(hào)
發(fā)表評(píng)論注冊(cè)|登錄