77财富智囊-市场分析工具 英伟达推出仅249好意思元的AI超等电脑 生成式AI性能提高达1.7倍
你的位置:77财富智囊 > 风险评估 > 市场分析工具 英伟达推出仅249好意思元的AI超等电脑 生成式AI性能提高达1.7倍
市场分析工具 英伟达推出仅249好意思元的AI超等电脑 生成式AI性能提高达1.7倍
发布日期:2024-12-18 08:19    点击次数:178

市场分析工具 英伟达推出仅249好意思元的AI超等电脑 生成式AI性能提高达1.7倍

作家:赵雨荷

来源:硬AI

英伟达周二推出了一款名为Jetson Orin Nano Super的生成式AI超等狡计机。英伟达CEO黄仁勋暗示,这款斥地者套件通过软件升级竣事了更高性能和更廉价钱,仅售249好意思元,尺寸工整,可放在手掌中,可将生成式AI性能提高高达1.7倍。

该公司暗示,这款家具妥贴贸易AI斥地者、爱好者和学生,与其前代家具比拟,其生成式AI推感性能普及了1.7倍,性能提高了70%,每秒不错实践高达67万亿次的INT8运算(67 INT8 TOPS),内存带宽也普及了50%,达到了102GB/s。

黄仁勋还荒谬为这款家具录制了一段视频,如同2021年发布Hopper H100时雷同,展现英伟达对这款家具的深爱。在视频中,黄仁勋暗示,从Xavier运转,英伟达就创造了一种新的处理器,也即是机器东谈主处理器,其时没东谈主知谈他们在作念什么。

新的Jetson Orin Nano Super领有快要70兆次的运算智力,功率25瓦,价钱249好意思元,不错实践HGX的扫数功能,以至是实践大谈话模子。

他暗示,不管是创建基于检索增强生成(Retrieval-Augmented Generation, RAG)的大型谈话模子(LLM)聊天机器东谈主,构建视觉AI代理,已经部署基于AI的机器东谈主,Jetson Orin Nano Super皆是理念念的采用,这款套件皆能以更低的资本提供广泛的运算遵循,主要由于家具赈济低功耗瞎想,能以7瓦到25瓦的功耗运行,妥贴多样边际建造云算场景,不管是智能城市、智能农业已经机器东谈主斥地。

捏续普及的性能和体验

通过软件更新,Jetson Orin Nano Super也将为已有Jetson Orin Nano斥地者套件的用户普及生成式AI性能。

黄仁勋暗示,Jetson Orin Nano Super相称妥贴那些但愿在生成式AI、机器东谈主手艺或狡计机视觉边界发展手段的东谈主士。在AI边界从任务专用模子向基础模子飘摇的趋势下,它也为斥地者提供了一个将创意变为执行的易用平台。

为生成式AI提供强盛性能

Jetson Orin Nano Super性能增强,为扫数流行的生成式AI模子,举例Meta的LLaMA、阿里巴巴的通义千问以及谷歌的Gemma。这款套件基于Transformer的狡计机视觉模子带来了权臣普及,进一步普及遵循推崇。

该公司暗示,斥地者套件包括一个Jetson Orin Nano 8GB 系统模块(SoM)和一个参考载板,为边际建造AI利用的原型瞎想提供了理念念平台。

系统模块袭取NVIDIA Ampere架构GPU,配备张量狡计中枢(Tensor Cores)和6核 Arm CPU,大致处理多个并行AI利用管谈,并提供高性能推贤慧力。此外,它还赈济最多四个录像头,诀别率和帧率均高于前代版块。

英伟达强调,跟着AI手艺迟缓从云表走向末端,实体AI将是下一波发展要点,Jetson Orin Nano Super不仅不错用于斥地聊天机器东谈主,也妥贴简历视觉AI代理或部署AI机器东谈主等利用。

庸俗的生成式AI软件生态系统与社区

此外,英伟达Jetson AI实验室提供对最新开源社区模子的赈济,以及易于使用的教程。斥地者还不错从更庸俗的Jetson社区取得赈济,并从其他斥地者的技俩中取得灵感。

Jetson赈济英伟达的AI软件,包括用于机器东谈主手艺的NVIDIA Isaac、用于视觉AI的NVIDIA Metropolis和用于传感器处理的NVIDIA Holoscan。通过NVIDIA Omniverse Replicator生成合成数据,以及使用NVIDIA TAO器具包微调来自NGC目次的预检修AI模子,斥地时辰不错大幅裁汰。

Jetson生态系统相助伙伴提供特殊的AI和系统软件、斥地器具以及定制软件斥地管事。他们还提供与录像头过甚他传感器有关的赈济,以及载板和家具治理决策的瞎想管事。

为扫数Jetson Orin用户解锁性能普及:Super相貌

英伟达也告示将为Jetson Orin NX和Nano系列的系统模块提供软件更新,让它们也能享受到Super相貌的性能普及,最高可达70%。这些更新将通过Jetpack SDK经管器发布在英伟达网站和GitHub上。

Jetson Orin Nano Super Developer Kit预测很快就和会过大家经销商运转供货。关于念念要初学AI斥地的学生、工程师或创客来说,这款斥地套件提供了一个经济实惠且功能广泛的平台采用。

英伟达将Jetson Orin Nano Super Developer Kit定位为股东生成式AI手艺普及化的枢纽家具,但愿在智能交通、零卖经管以及物联网(IoT)利用中大放异彩。

本文来自微信公众号“硬AI”,眷注更多AI前沿资讯请移步这里

风险辅导及免责条目 阛阓有风险,投资需严慎。本文不组成个东谈主投资提议,也未沟通到个别用户特殊的投资目标、财务情状或需要。用户应试虑本文中的任何见识、不雅点或论断是否妥贴其特定情状。据此投资,连累本心。