JFrog與NVIDIA合作，利用NVIDIA NIM提供安全的AI模型

中關村在線消息，JFrog現已通過收購Qwak AI將業務擴展至涵蓋統一MLOps平臺，近期宣佈與NVIDIA NIM微服務（NVIDIA AI Enterprise軟件平臺的一部分）進行新的產品集成。將JFrog Artifactory模型註冊和NVIDIA NIM集成至JFrog Platform，有望實現在端到端軟件供應鏈工作流中將GPU優化、預獲批的AI模型與集中式DevSecOps流程相結合，使企業能夠以極快的速度將安全的機器學習（ML）模型和大語言模型（LLM）投入生產，並提高透明度、可追溯性和信任度。

JFrog戰略執行副總裁Gal Marder表示：「隨着企業快速採用AI技術，落實確保效率和安全性的實踐，並以負責任的方式採用AI至關重要。通過NVIDIANIM微服務，將DevOps、安全和MLOps流程集成至端到端軟件供應鏈工作流中，客户將能夠高效地將安全模型投入生產，同時在整個流水線中保持高度的可視性、可追溯性和可控性。」

隨着AI在軟件應用中的興起和市場需求的快速增長，數據科學家和ML工程師在企業環境中擴展ML模型部署時面臨着多樣化的挑戰。碎片化的資產管理、安全漏洞、合規性問題和性能瓶頸，再加上將AI工作流與現有軟件開發流程集成的複雜性，以及在各種環境中靈活、安全部署的應用需求，使問題變得更加複雜。這種複雜性的疊加可能導致部署周期漫長且成本高昂，甚至許多情況下會導致AI應用計劃的失敗。

NVIDIA企業戰略合作伙伴副總裁Pat Lee表示：「隨着企業擴大生成式AI的部署規模，中央存儲庫可以幫助他們快速選擇和部署已獲准開發的模型。將NVIDIA NIM微服務集成到JFrog Platform，可以幫助開發人員快速獲得完全合規、性能優化的模型，並迅速投入生產。」

JFrog Artifactory提供了一種單一解決方案，該方案適用於存儲和管理整個軟件供應鏈中使用的所有制品、二進制文件、軟件包、文件、容器和組件。JFrog Platform與NVIDIA NIM的集成有望將容器化AI模型作為軟件包納入現有的軟件開發工作流。通過將NVIDIA NGC（一個GPU優化深度學習、ML和HPC模型的中心）與JFrog Platform和JFrog Artifactory模型註冊中心相結合，企業將能夠為所有軟件包和AI模型維護單一事實來源，同時利用企業DevSecOps最佳實踐來獲得對整體軟件供應鏈的可視性、管理和控制。

JFrog Platform與NVIDIA NIM的集成有望帶來多項優勢，包括

-統一管理：在JFrog Artifactory（作為模型註冊表）中，對所有資產（包括專有製品和開源軟件依賴項）以及 NIM 微服務容器進行集中訪問控制和管理，實現與現有DevSecOps工作流的無縫集成。

-全面的安全性和完整性：在開發的每個環節（包括容器和依賴項）進行持續掃描，通過JFrog審計和使用情況統計來提供對NIM微服務的上下文洞察，從而促進合規性。

-卓越的模型性能和可擴展性：利用NVIDIA加速計算基礎設施來優化AI應用性能，提供低延迟和高吞吐量，以便在大規模生產環境中實現具有可擴展性的LLM部署。

-靈活部署：通過JFrog Artifactory提供靈活的部署選項，包括自託管、多雲和離線部署選項。

(9011618)