长勺智库长勺智库
话题文章任务
登录
NNVIDIA GenerativNVIDIA Generativ发布于 3 天前
SWE-Serve:暴露本地测试与真实推理服务之间的差距

SWE-Serve 用 53 个任务评估 AI 编码补丁在真实推理服务路径中的表现,关注补丁通过本地测试却在上线服务中失败的问题。

320
AI生成式AI推理算力
320
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 3 天前
AI 负载上线前,先验证 GPU 集群是否真正就绪

GPU 集群通过健康检查并不等于能稳定运行大规模 AI 训练。慢 GPU、链路负载退化或路由配置问题,都可能在任务运行数小时后才暴露。

340
AI生成式AI推理算力
340
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 4 天前
TensorRT 多 GPU 推理能力已在 Dynamo-Triton 中集成

生成式 AI 的算力与显存需求正超出单 GPU 能力。TensorRT 11.0 起支持多设备推理,可让单个网络跨多块 GPU 执行。

190
AI生成式AI推理算力
190
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 4 天前
NVIDIA 机密计算用于私密高性能 AI 推理

随着大模型推理处理更多敏感信息,NVIDIA 提出通过机密虚拟机与机密 GPU,在可信环境中运行生产级 AI 推理工作负载。

180
AI生成式AI推理算力
180
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 10 天前
TensorRT Edge-LLM 在 Jetson AGX Thor 上加速边缘智能体推理

NVIDIA 称 TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic Benchmark,速度提升至 6.4 倍。

650
AI生成式AI推理算力
650
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 11 天前
Dense 与 MoE 模型:活跃参数、吞吐量与选择场景

MoE 模型可在每个 token 上只激活部分参数,例如 30B 模型每次仅用约 3B 参数,从而在容量与计算成本之间取得不同权衡。

660
AI生成式AI推理算力
660
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 26 天前
NVIDIA将蛋白质结构预测能力引入AI科研助手

智能体AI正在改变科研流程。通过集成NVIDIA BioNeMo NIM微服务,AI科研助手可以调用蛋白质结构预测模型,辅助研究人员分析数据、提出假设并优化实验方向。

790
AI生成式AI推理算力
790
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-28 05:01
Qwen3.8-Flash-Next 在 NVIDIA GB300 NVL72 上探索智能体编程

阿里巴巴开放 Qwen3.8-Flash-Next 模型权重,作为下一代 Qwen4 架构的预览。该模型采用多模态 MoE 架构,原生支持 262,144 Token 上下文,并被用于探索智能体编程场景。

1020
AI生成式AI推理算力
1020
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-25 05:02
Groq 3 LPX 加入 Vera Rubin,瞄准长上下文超低延迟推理

NVIDIA Groq 3 LPX 是面向 Vera Rubin 平台的交互式 AI 推理加速器。它可与 Vera Rubin NVL72 配合,进一步强化平台在长上下文场景中的高速交互能力,并覆盖从小型到大型、开放与闭源模型等多类 AI 工作负载。

1110
AI生成式AI推理算力
1110
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-25 05:01
NVIDIA Vera CPU 如何应对智能体 AI 集群挑战

智能体 AI 工作负载具有高度波动和不可预测性。NVIDIA 认为,除了负责模型计算的 GPU,CPU 在任务编排、工具执行和沙箱计算中同样关键,并以 Vera CPU 面向这类 AI 基础设施需求。

1060
AI生成式AI推理算力
1060
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-25 05:01
智能体 AI 推高推理负载,英伟达强调 Vera Rubin 与 Blackwell 能效

随着 AI 智能体从单轮问答转向推理、工具调用、多智能体协作等多步工作流,推理计算需求持续增长。英伟达称,Vera Rubin 与 Blackwell 平台正面向这一趋势提升单位功耗下的智能体 AI 性能。

1120
AI生成式AI推理算力
1120
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-21 05:02
用 CLI、Skills 与 AI 编程智能体开发 NVIDIA Holoscan 应用

NVIDIA 探索如何让通用 AI 编程智能体利用 Holoscan 的示例、文档和开发工具进行应用开发,并结合 HoloHub 参考应用与组件,验证智能体辅助边缘实时 AI 开发的可行性。

1070
AI生成式AI推理算力
1070
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-21 05:01
生成式推荐正在重塑大规模推荐系统

大语言模型推动推荐系统从传统的嵌入相似度范式转向生成式建模:根据用户历史行为序列,直接预测下一步动作或目录中的下一个物品,为大规模推荐系统提供新的建模思路。

1050
AI生成式AI推理算力
1050
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-20 05:02
NVIDIA SkillEvaluator:如何评估 AI Agent 的技能效果

NVIDIA 介绍 SkillEvaluator,用于衡量技能包能否真正提升 AI Agent 的任务表现。技能通过封装指令、示例和工具使用指南,帮助 Agent 减少无效探索与 Token 消耗,更快完成专业任务。

1060
AI生成式AI推理算力
1060
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-20 05:02
NVIDIA 推出 Cosmos 3 Edge,面向机器人端侧控制

NVIDIA 推出 Cosmos 3 Edge,一款面向机器人端侧运行的 4B 全模态模型,其中包含基于 Nemotron 的 2B 推理模块,旨在降低世界模型部署到机器人板载计算硬件的难度。

1020
AI生成式AI推理算力
1020
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-20 05:02
用 NVIDIA FLARE 构建联邦多模态 AI 工作流

视觉语言模型需要跨机构数据进行适配,但原始数据往往无法集中。联邦学习可让数据保留在本地,同时协调多方训练,为多模态 AI 提供一种兼顾协作与数据本地化的方案。

1080
AI生成式AI推理算力
1080
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-19 05:02
AI 编程智能体如何降低材料原子模拟门槛

原子级材料模拟不仅需要科学知识,还依赖高效计算实现和易用的软件接口。NVIDIA ALCHEMI Toolkit 试图降低后两方面的门槛,并探索让 AI 编程智能体参与材料模拟工作流。

1000
AI生成式AI推理算力
1000
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-13 05:01
Qwen3.8-Max:2.4T 参数开源权重模型可在 GB300 NVL72 上部署

阿里巴巴发布 Qwen3.8-2.4T-A95B 开源权重。该 MoE 模型总参数 2.4T、每 token 激活 95B,并支持可配置推理部署。

1260
AI生成式AI推理算力
1260
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-12 05:01
NVIDIA Nemotron 3.5 Lightning 面向长时运行智能体的执行层优化

NVIDIA 推出 Nemotron 3.5 Lightning:一款开放的 30B MoE 模型,面向长时运行 AI 智能体中的高频执行任务,强调降低成本与延迟。

1160
AI生成式AI推理算力
1160
AI生成式AI推理算力
NNVIDIA GenerativNVIDIA Generativ发布于 2026-08-12 05:01
NVIDIA JetPack 7.2.1 增加智能体视频能力与 T3000 仿真

JetPack 7.2.1 面向 Jetson 视频应用新增智能体视频能力与 T3000 仿真,覆盖机器人、智能视频分析、工业自动化等场景。

1140
AI生成式AI推理算力
1140
AI生成式AI推理算力
每日签到未签到

每天签到一次,持续获得积分。

@2024-2027长勺智库浙ICP备2024134526号浙公网安备33011002017958
?
未登录用户

登录后查看个人信息与任务进度。

去登录