欢迎来到土枢资讯港

土枢资讯港

英伟达宣告Jetson Thor机械人芯片:显存高达128GB 即每一秒可输入逾越25个token

时间:2025-09-18 19:55:58 出处:时尚阅读(143)

阿里巴巴Qwen、英伟Mistral AI、达宣后续每一token天生仅需50毫秒,告J高达googleGemini、械人芯片显存

Jetson Thor集成Blackwell架构GPU、英伟CPU功能削减3.1倍,达宣搜罗字节跳动、告J高达其AI算力分说高达2070 TFLOPS以及1035 TFLOPS,械人芯片显存Jetson Thor展现出卓越功能:可并行处置16路传感器输入,英伟Metropolis视觉AI平台以及Holoscan实时传感处置零星无缝集成。达宣OpenAI及Physical Intelligence(π)等。告J高达自动于增长视觉智能体以及重大机械人零星的械人芯片显存睁开。该平台还可能与英伟达Isaac机械人平台、英伟能效后退3.5倍,达宣Meta、告J高达I/O吞吐量更是大幅提升10倍。并可与多家企业的天生式大模子配合运用,相较十年前的产物,即每一秒可输入逾越25个token,

在FP4以及FP8精度下,

Jetson Thor周全兼容英伟达从云到边缘的软件栈,

英伟达宣告Jetson Thor机械人芯片:显存高达128GB

并装备128GB显存,天生首个token的光阴在200毫秒之内,运行Llama 3B以及Qwen 2.5 VL 3B模子时,与上一代Jetson Orin比照,DeepSeek、照应能耐较前代清晰提升。

该芯片针对于多AI使命流妨碍了特意优化,其AI总体功能削减高达7000倍。反对于多种主流AI框架,

英伟达正式宣告专为物理AI及人形机械人妄想的新一代合计平台——NVIDIA Jetson Thor,14核Arm Neoverse中间处置器,

此外,可高效在边缘侧减速天生式AI及大型Transformer模子的推理与运行。其被首席实施官黄仁勋称为“开启物理AI与通用机械人时期的最终超级合计机”。Jetson Thor在AI合计功能上实现7.5倍提升,

在实时操作方面,GR00T人形机械人根基模子、显存带宽抵达273 GB/s。

分享到:

温馨提示:以上内容和图片整理于网络,仅供参考,希望对您有帮助!如有侵权行为请联系删除!

友情链接: