Nvidia Agentic AI应用开发三层式架构

瞄准企业Agentic AI应用需求，Nvidia在今年CES大会中提出了Agentic AI应用开发三层式架构软件堆栈，协助企业快速实现应用落地，壮大Agentic AI生态系。

Nvidia的Agentic AI架构是以区块为基础，最底层是模型预训练的AI微服务NIM。NIM将GenAI运行所需的模型和软件进行优化与封装，并部署于任一环境中。这些微服务涵盖多种AI模型，例如视觉模型、语言理解模型、语音模型（用于动画）、数位生物学模型，以及最新的物理AI模型等。

再上一层是NeMo框架，类似数位员工养成的Pipeline，让Agentic AI能够担任多种工作角色，例如创作者、客制化者、评价者、守护者，以及RAG 检索者，实现多样化的应用场景。。

为了让Agentic AI具备特定领域的专业技能与知识，Nvidia采用类似员工培训的方式，对Agentic AI数位劳动力进行优化。经过培训的Agentic AI能代理多种工作角色，包括辅助研究助手、虚拟实验室AI、软件安全专家、影像分析师、AI销售代表、客服人员、金融分析师、员工支持以及工厂运维管理者等，满足各行业的多元需求。

举例来说，AI Agent可以扮演一位研究助手，可以帮你阅读pdf等格式文件，例如讲稿、期刊、财务报告，并产生一个交互的podcast，并进一步生成交互式Podcast，让用户能以更直观的方式学习与阅读。

软件安全专家AI Agent可为开发者提供安全防护支持，通过漏洞扫描、自动发送警示以及提供防护建议，强化整体软件安全性。虚拟实验室 AI Agent 成为研究人员的重要帮手，能够快速设计并筛选数十亿种化合物，大幅缩短寻找候选药物的时间。

影像分析AI代理则是基于Nvidia Metropolis蓝图 ，集成Nvidia Cosmos、Nemotron视觉语言模型、Llama Nemotron LLM和MeMo Retriever 等，能快速分析摄影机的数据，每天生成高达10万TB的视频内容。Metropolis代理可以应用到不同场景，例如在工业场域中，可以用来监测作业流程并提供改善建议，同时从数据中侦测异常情况，调整工作者或机器的路线，协助避免意外事件的发生，提升生产效率与安全性。

Nvidia提出Agentic AI最后一层是数位AI代理人蓝图，Nvidia提供多种开放源码蓝图，开发者可直接修改与扩展，用于建构特定领域的AI代理应用。在该蓝图中提供开发人员各种代理AI构建模块，包括CrewAI、Daily、LangChain、LlamaIndex 和 Weights & Biases等，协助其创建下一代Agentic AI应用。

除了合作伙伴蓝图之外，Nvidia还推出了自己的全新AI蓝图，用于将PDF转换为Podcast，以及另一个用于创建视频搜索和摘要的 AI 代理程序。另外还有四款Omniverse蓝图，让开发人员可以容易创建可用于模拟的数位孪生应用。

Nvidia发布了一系列基于LLaMA微调的Nvidia LLaMA neotron语言基础模型家族 ，并提供Nano、 Super 、Ultra三种不同模型 ，对应到不同任务，例如兼具成本效益和更快反应速度读Nano模型可以用于PC或边缘设备，  Super模型兼具更好得准确度和运算效率，以及Ultra模型，可用来运行数据中心规模应用。

黄仁勋表示，企业AI代理将成为AI工厂的核心驱动力，这些工厂将通过生成Token，为各行各业带来前所未有的智能化与生产力提升。

企业IT部门将转型为类似Agentic AI的HR部门

黄仁勋特别看好Agentic AI在软件行业的应用，并认为下一个人工智能服务的重要时刻将聚焦于软件，这是所有开发者都需要的基础。他甚至预测，Agentic AI有潜力成为下一个机器人产业的关键应用，创造兆亿美元的商机。

不仅仅是应用在软件行业，随着AI Agent应用逐渐成熟，也将影响企业内部IT的运作模式。黄仁勋表示：「企业IT部门将转型为类似Agentic AI的HR部门。」他进一步解释，过去 IT 部门主要负责管理和维护大量来自IT行业的软件，而未来的重点将转向维护、培养和优化数位代理，并将它们应用于企业内部，提升运营效率。

更进一步，黄仁勋指出，Agentic AI的下一步是迈向物理AI（physical AI），他介绍了Nvidia的全新平台Cosmos，这是一个专为物理AI开发而设计的平台，利用一系列世界基础模型（World Foundational Models, WFM）来进行模拟和预测物理交互。

黄仁勋表示，这些模型不仅让人工智能能够处理感官数据，还能做出行动决策，帮助开发者打造下一代机器人和自动驾驶汽车，加速推动物理AI的应用发展。