／Nvidia

企业客户可以将其在AI Foundry客制的模型，连同优化的引擎及标准API输出为Nvidia NIM推论微服务，运行在其属意的加速基础架构上。而推论方案如Nvidia TensorRT-LLM，可加速Llama 3.1模型运行，降低延迟性和扩大传输吞吐量，可让企业更快产生字符，减少从提示输入的成本。此外Nvidia AI Enterprise软件套件则提供安全性及管理、优化组件等底层支持。

客户可以使用Nvidia合作伙伴提供的AIOps和MLOps平台开发AI Foundry模型，包括Cleanlab、DataDog、Dataiku、Dataloop、New Relic、Scale等。AI Foundry全球服务技术伙伴包括Accenture、Deloitte、Infosys和Wipro等。

首先使用AI Foundry的客户包括SAP、Capital One、KT、现代汽车、Snowflake、图库业者Getty Images等。

最新服务是Nvidia从单纯基础架构业者迈向更全面的云端平台的最新发展。Nvidia与Meta首席执行官黄仁勋和Mark Zuckerberg预定7月29日将在一场活动中对谈，说明生成式AI和开源软件如何帮助开发者及创作者，以及生成式AI在元宇宙中的角色。