说米网

为满足对企业级生成式AI日益增长的需求，JFrog Platform 集成了NVIDIA NIM，以供给 GPU 优化的AI模型服务
2024年9月18日 ——流式软件公司、JFrog软件供应链渠道的缔造者JFrog（纳斯达克股票代码：FROG），现已通过收购 Qwak AI将事务扩展至包含一致 MLOps 渠道，近期宣布与NVIDIA NIM 微服务（NVIDIA AI Enterprise 软件渠道的一部分）进行新的产品集成。将JFrog Artifactory模型注册和NVIDIA NIM集成至JFrog Platform，有望完成在端到端软件供应链工作流中将GPU优化、预获批的AI模型与会集式DevSecOps流程相结合，使企业能够以极快的速度将安全的机器学习（ML）模型和大语言模型（LLM）投入生产，并进步透明度、可追溯性和信任度。
JFrog战略执行副总裁Gal Marder表明：“ 跟着企业快速采用AI技术，执行确保功率和安全性的实践，并以负责任的方法采用AI至关重要。通过NVIDIA NIM微服务，将DevOps、安全和MLOps流程集成至端到端软件供应链工作流中，客户将能够高效地将安全模型投入生产，同时在整个流水线中坚持高度的可视性、可追溯性和可控性。”
微典互联.跟着AI在软件运用中的鼓起和市场需求的快速增长，数据科学家和ML工程师在企业环境中扩展ML模型布置时面临着多样化的应战。碎片化的财物办理、安全缝隙、合规性问题和功能瓶颈，再加上将AI工作流与现有软件开发流程集成的复杂性，以及在各种环境中灵敏、安全布置的运用需求，使问题变得愈加复杂。这种复杂性的叠加可能导致布置周期绵长且本钱昂扬，乃至许多情况下会导致AI运用计划的失败。
NVIDIA 企业战略合作伙伴副总裁Pat Lee表明：“跟着企业扩大生成式AI的布置规划，中央存储库能够协助他们快速选择和布置已获准开发的模型。将NVIDIA NIM微服务集成到JFrog Platform，能够协助开发人员快速取得彻底合规、功能优化的模型，并敏捷投入生产。”
JFrog Artifactory供给了一种单一解决方案，该方案适用于存储和办理整个软件供应链中运用的一切制品、二进制文件、软件包、文件、容器和组件。JFrog Platform与NVIDIA NIM的集成有望将容器化AI模型作为软件包归入现有的软件开发工作流。通过将NVIDIANGC（一个GPU优化深度学习、ML和HPC模型的中心）与JFrog Platform和JFrog Artifactory模型注册中心相结合，企业将能够为一切软件包和AI模型保护单一事实来历，同时利用企业DevSecOps最佳实践来取得对全体软件供应链的可视性、办理和操控。
JFrog Platform与NVIDIA NIM的集成有望带来多项优势，包含
● 一致办理：在 JFrog Artifactory（作为模型注册表）中，对一切财物（包含专有制品和开源软件依靠项）以及 NIM 微服务容器进行会集拜访操控和办理，完成与现有 DevSecOps 工作流的无缝集成。
● 全面的安全性和完整性：在开发的每个环节（包含容器和依靠项）进行持续扫描，通过 JFrog 审计和运用情况统计来供给对NIM 微服务的上下文洞悉，从而促进合规性。
● 杰出的模型功能和可扩展性：利用NVIDIA加速核算基础设施来优化AI运用功能，供给低延迟和高吞吐量，以便在大规划生产环境中完成具有可扩展性的LLM布置。
● 灵敏布置：通过 JFrog Artifactory 供给灵敏的布置选项，包含自托管、多云和离线布置选项。