对于NVIDIA来说，这是忙碌的一周，但他们的工作还没有结束。NVIDIA 正在 Microsoft Azure 上推出 AI 代工服务，对于深入定制生成 AI 的企业来说，这是一个强大的新工具。
以下是 NVIDIA 的 AI 代工服务带来的成果：
NVIDIA AI 基础模型：这些是您的 AI 构建块。
NVIDIA NeMo 框架和工具：用于微调 AI 的工具包。
NVIDIA DGX Cloud AI 超级计算服务：将您的 AI 梦想变为现实的强大动力。
这些元素让企业能够针对智能搜索和内容创建等任务打造自己的 AI 模型，所有这些均由 NVIDIA AI Enterprise 软件提供支持。
生成人工智能驱动的应用程序的定制模型
NVIDIA 的 AI 代工服务可以为跨行业(包括企业软件、电信和媒体)的生成式 AI 应用程序定制模型。当定制模型准备好部署时，企业可以使用一种称为检索增强生成(RAG)的技术将其模型与企业数据连接起来并获取新的见解。
NVIDIA 的服务不仅仅是为了展示;而是为了展示。这很实用。行业领导者 SAP SE、Amdocs 和 Getty Images 已经使用此服务创建自定义模型。从软件到电信等行业现在可以制作满足其需求的人工智能应用程序。SAP 正在将其用于 AI 副驾驶 Joule，Amdocs 正在增强其电信 AI 解决方案的 amAIz 框架。
NVIDIA 首席执行官黄仁勋强调了该服务利用公司独特数据定制 AI 的能力。Microsoft 首席执行官 Satya Nadella 致力于在 NVIDIA 的帮助下推动 Azure 上的 AI 创新。
Nemotron-3 8B
NVIDIA 提供各种 AI Foundation 模型，包括多功能 Nemotron-3 8B 系列，可在 Azure AI 和 NVIDIA NGC 目录中找到。这些模型可供多语言使用和各种应用程序使用。Meta 的 Llama 2 模型等社区模型针对 NVIDIA 进行了优化以加速计算，也可在 NVIDIA NGC 上使用，并且很快就会进入 Azure AI 模型目录。
NVIDIA DGX 云登陆 Azure 市场
NVIDIA DGX Cloud AI 超级计算现已登陆 Azure Marketplace。租用您需要的东西，轻松扩展并享受 NVIDIA AI Enterprise 软件以进行快速 LLM 定制。它具有客户可以租用的实例，可扩展到数千个 NVIDIA Tensor Core GPU，并附带 NVIDIA AI Enterprise 软件(包括 NeMo)以加速 LLM 定制。
通过将 NVIDIA AI Enterprise 集成到 Azure 机器学习中，用户可以获得稳定、安全的 AI 平台。它还出现在 Azure Marketplace 上，提供一系列人工智能开发和部署的可能性。
NVIDIA 在 Azure 上的 AI 代工服务不仅仅是一个更新;这是一种定制人工智能开发的创新方法。
NVIDIA 和 Microsoft 通过高级 AI 功能增强 Azure
微软正在加强其在 Azure 上的人工智能游戏，推出基于 H100 的新虚拟机，并计划未来添加 H200 Tensor Core GPU。在 Ignite 大会上宣布，全新 NC H100 v5 VM 系列是云计算领域的首创，采用 NVIDIA H100 NVL GPU。这些虚拟机配备了两个通过 NVIDIA NVLink 连接的基于 PCIe 的 H100 GPU，可提供近 4 petaflops 的 AI 计算能力和 188GB 的高速 HBM3 内存。H100 NVL GPU 功能强大，与之前的型号相比，在 GPT-3 175B 上提供的性能高达 12 倍，非常适合推理和主流训练工作负载。
将 NVIDIA H200 Tensor Core GPU 集成到 Azure 中
微软计划明年将 NVIDIA H200 Tensor Core GPU 集成到 Azure 中。此升级旨在处理更大的模型推理，而不增加延迟，这对于法学硕士和生成人工智能模型来说是理想的选择。H200 凭借 141GB HBM3e 内存和 4.8 TB/s 峰值内存带宽脱颖而出，显着优于 H100。
