3d雷霆赛车-英伟达推出AI代工业务 为客户定制摆设“超级模型”
时间:2024-09-20 13:48:00 出处:资讯阅读(143)
IT之家今日(7月24日),超级模型英伟达公司昨日(7 月 23 日)发布新闻稿,英伟达推I代定制正式推出“NVIDIA AI Foundry”代工办事和“NVIDIA NIM”推理微办事d雷霆赛车
“NVIDIA AI Foundry”代工办事
英伟达暗示客户可以使用 Meta 的工业 Llama 3.1 AI 模型,以及英伟达的客户软件、计算和专业知识,摆设为特定领域定制构建“超级模型”。超级模型
客户可以利用专有数据、英伟由 Llama 3.1 405B 和英伟达 Nemotron Reward 模型生成的达推I代定制合成数据来训练这些“超级模型”。
工业NVIDIA AI Foundry 由 NVIDIA DGX™ Cloud AI 平台提供支持d雷霆赛车该平台与世界领先的客户公共云共同设计,为企业提供大量计算资源,摆设并可按照AI 需求的超级模型变化轻松扩展。
NVIDIA AI Foundry 包罗 Nemotron 和 Edify 等英伟达创建的英伟 AI 模型、流行的达推I代定制开放式基础模型、用于定制模型的 NVIDIA NeMo™ 软件,以及 NVIDIA DGX™ Cloud 上的专用容量(由 NVIDIA AI 专家构建并提供支持)。
输出结果由 NVIDIA NIM(一个推理微办事,其中包罗定制模型、优化引擎和标准 API)负责,可以摆设到任何地方。
NVIDIA NIM 推理微办事
NVIDIA NIM 是一套加速推理微办事,允许企业在云计算、数据中心、工作站和 PC 等任何地方的 NVIDIA GPU 上运行AI模型。
通过使用行业标准的 API,开发人员只需几行代码就能利用 NIM 摆设人工智能模型。NIM 容器无缝集成 Kubernetes(K8s)生态系统,可以高效地协调和办理容器化人工智能应用。