端到端加速企業GenAI創新，英偉達NIM微服務成為軟體企業看中的亮點！

軟體開發公司Cloudera最近宣布了一項策略合作，計劃與NVIDIA合作加速生成式AI應用的部署。這項合作將涉及將NVIDIA的AI微服務整合到Cloudera資料平台（CDP）中，旨在幫助企業更快地建構和擴展基於其資料的自訂大型語言模型（LLMs）。這項舉措將為企業提供更強大的工具和技術，以便更好地利用其數據資源，並加速AI應用的開發和部署流程。這項合作將為企業帶來更多機會，幫助它們實現更有效率的數據驅動決策，並推動業務發展。 Cloudera和NVIDIA的合作將為企業提供更多選擇和靈活性，並有望推動AI技術在各行業的廣泛應用。

在這次合作中，Cloudera計畫充分利用NVIDIA AI Enterprise技術，其中包括NVIDIA Inference Manager（NIM）微服務，以揭示CDP中超過25E位元組的資料所蘊藏的見解。這些寶貴的企業資訊將被導入Cloudera的機器學習平台中，這個平台是公司提供的端到端AI工作流程服務，旨在推動新一輪生成式AI創新。

Cloudera的AI/ML產品副總裁Priyank Patel指出，企業資料結合為大型語言模型優化的全端平台對於將組織的生成式AI應用從試點推向生產至關重要。 Cloudera目前正在整合NVIDIA NIM和CUDA-X微服務，以推動其機器學習平台，協助客戶將AI的潛力轉化為商業現實。

這次合作突顯了Cloudera和NVIDIA在技術創新方面的實力，也顯示了市場對生成式AI應用的快速成長需求。透過整合雙方的資源和技術優勢，共同推動AI在企業中的實際應用，為企業提供更有效率、更智慧的解決方案。

此外，透過利用CDP中的大量數據，結合Cloudera機器學習平台的強大功能，企業能夠更深入地挖掘數據的價值，實現更精準的決策和更有效率的業務運營。這項合作將為企業帶來更智慧、自動化的未來，推動整個產業的發展與進步。

1.連結模型與資料 

#在連結模型與資料之間，企業AI面臨一個關鍵挑戰，即如何將基礎模型與相關的業務數據連接起來，以產生準確、符合上下文的輸出。 NVIDIA的NIM和NeMo Retriever微服務旨在透過使開發者能夠將LLMs（大型語言模型）與從文字文件到圖像和視覺化等結構化和非結構化企業資料連接起來，從而彌合這一差距。

具體來說，Cloudera Machine Learning將提供整合的NIM模型服務功能，以增強推理效能，並在混合和多雲環境中實現容錯、低延遲和自動擴展。而NeMo Retriever的加入將簡化檢索增強生成（RAG）應用程式的開發，這種應用程式透過即時檢索相關數據來提高生成式AI的準確性。

#

其中，NVIDIA NeMo Retriever是NVIDIA NeMo框架和工具系列的一項全新服務。 NeMo是一個用於建置、自訂和部署生成式AI模型的框架和工具系列。作為語意檢索微服務，NeMo Retriever借助經NVIDIA優化的演算法，幫助生成式AI應用做出更準確的回答。使用此微服務的開發者可以將其AI應用與位於各個雲端和資料中心的業務資料連結。這種連結不僅增強了AI應用的準確性，也使得開發者能夠更靈活地處理和利用企業資料。

概括來說，NVIDIA的NIM和NeMo Retriever等微服務為企業提供了一種有效的方式，將AI模型與業務數據緊密地結合在一起，從而生成更加準確和有用的輸出。這為企業提供了強大的工具，可以進一步推動AI在各個領域的應用和發展。

2.資料到生成式AI部署，大幅縮短時間

NVIDIA與Cloudera的合作正在為企業打開一扇全新的大門，引領他們更有效率地利用大量資料來建立客製化的協同助手和生產力工具。 NVIDIA企業產品副總裁Justin Boitano表示：「NVIDIA NIM微服務與Cloudera資料平台的集成，為開發者提供了一種更加靈活和簡便的方式來部署大型語言模型，從而推動企業的業務轉型。」

透過簡化從資料到生成式AI部署的路徑，Cloudera和NVIDIA旨在加速企業對諸如編碼助理、聊天機器人、文件摘要工具和語義搜尋工具等變革性應用的採納。這項合作建立在兩家公司之前透過將NVIDIA RAPIDS整合到CDP中利用GPU加速的基礎上。

Patel強調了擴大合作帶來的業務好處，他指出：「除了為客戶提供強大的生成式AI能力和性能外，此次整合的結果還將使企業能夠做出更準確、更及時的決策，同時減少預測中的不準確性、幻覺和錯誤——這些都是在當今數據環境中導航的關鍵因素。」

Cloudera將在3月18日至21日於加州聖荷西舉行的NVIDIA GTC上展示其新的生成式AI能力。隨著領先企業探索基礎模型改變其營運的潛力，Cloudera和NVIDIA堅信他們的合作將使客戶站在企業AI新興時代的前沿。

#

以上是端到端加速企業GenAI創新，英偉達NIM微服務成為軟體企業看中的亮點！的詳細內容。更多資訊請關注PHP中文網其他相關文章！