在 Amazon EKS 和 SageMaker HyperPod EKS 上,用 NVIDIA Nemotron 模型加速智能体 AI 开发
NVIDIA Nemotron 3.5 Super VL 加入了 AWS 上已有的 Nemotron 3 Nano、Nano Omni、Super、Ultra 和 Nemotron 3.5 Lightning 行列。这是一个 120B 参数的混合专家模型(MoE),每个 token 激活 12B 参数。它把推理和工具调用与文本、图像、文档、视频理解结合起来,一个模型就能同时处理文本和视觉任务。本文先介绍它的架构和适用场景,再演示如何在 Amazon Elastic Kubernetes Service(Amazon EKS)、Amazon EKS Auto Mode 和 Amazon Sage