英偉達(dá)近日正式推出專為物理AI及人形機(jī)器人研發(fā)的全新計(jì)算平臺(tái)NVIDIA Jetson Thor。這款被CEO黃仁勛譽(yù)為"終極超級(jí)計(jì)算機(jī)"的產(chǎn)品,標(biāo)志著物理AI與通用機(jī)器人技術(shù)邁入新紀(jì)元。
Jetson Thor采用Blackwell架構(gòu)GPU,配備14核Arm Neoverse中央處理器,擁有128GB顯存和273GB/s的顯存帶寬。在FP4和FP8精度下,其AI算力分別達(dá)到驚人的2070 TFLOPS和1035 TFLOPS,能夠高效支持邊緣側(cè)的生成式AI及大型Transformer模型推理。
性能方面,該平臺(tái)相較前代Jetson Orin實(shí)現(xiàn)顯著提升:AI計(jì)算性能增長7.5倍,能效提高3.5倍,CPU性能提升3.1倍,I/O吞吐量更是大幅躍升10倍。與十年前產(chǎn)品相比,其AI總體性能增幅高達(dá)7000倍。
Jetson Thor具備出色的兼容性,全面支持英偉達(dá)從云到邊緣的軟件棧,可與包括字節(jié)跳動(dòng)、DeepSeek、阿里巴巴Qwen、谷歌Gemini等在內(nèi)的多家企業(yè)大模型配合使用。同時(shí),該平臺(tái)還能與Isaac機(jī)器人平臺(tái)、GR00T人形機(jī)器人基礎(chǔ)模型等英偉達(dá)生態(tài)系統(tǒng)無縫集成。
在實(shí)時(shí)控制性能上,Jetson Thor可并行處理16路傳感器輸入,運(yùn)行Llama 3B和Qwen 2.5 VL 3B模型時(shí),首個(gè)token生成時(shí)間控制在200毫秒內(nèi),后續(xù)每token僅需50毫秒,每秒可輸出超過25個(gè)token,響應(yīng)速度較前代顯著提升。