在VMware服務器虛擬化軟件vSphere上執行Nvidia人工智慧企業軟件,透過虛擬化GPU資源,支援各種規模的人工智慧模型訓練和預測工作負載
Nvidia和VMware兩家公司合作,讓用戶能夠更簡單地在混合云環境中,開發和部署各種人工智慧工作負載,透過結合Nvidia人工智慧企業(AI Enterprise)軟件套件,和VMware服務器虛擬化軟件vSphere,擴展CUDA應用程式、人工智慧框架、模型和SDK到多節點中,提高效能和相容性?! ?/span>
Nvidia人工智慧企業軟件套件是一套人工智慧工具和框架,業者標榜能最佳化業務流程,提高制造、物流、金融服務、零售和醫療保健各行業的效率,該軟件套件讓機器學習研究人員,可以簡單地取用人工智慧工具,以進行進階診斷、智慧工廠、詐騙偵測等人工智慧開發。這個工具減少了部署單個人工智慧應用程式的復雜性,也解決手動配置或是基礎設施不相容等潛在問題?! ?/span>
而透過在vSphere上執行Nvidia人工智慧企業軟件套件,用戶可以避免難管理又難保護的人工智慧專用系統孤島。Nvidia人工智慧企業軟件套件支援虛擬化工作負載,可在vSphere上以接近裸機的效能運作,人工智慧工作負載可以跨多個節點擴展,甚至在VMware Cloud Foundation上執行超大規模的深度學習訓練模型?! ?/span>
官方提到,各種規模的人工智慧工作負載,像是即時交通系統、線上購物推薦系統或是語音助理等,都有各種的資料需求,而訓練這些人工智慧模型需要非常大量的資料,并需要獲取多個節點中多個GPU的運算效能,但是反之經部署的模型,執行推理運算通常只需要較少的運算資源,甚至不需要一個GPU完整的運算能力。而vSphere采用Nvidia的多執行個體GPU技術,可將A100 GPU運算資源從硬件層級,劃分給多達7個執行個體,最大程度支援各種規模的工作負載?! ?/span>
現在經Nvidia認證的系統上,開始提供AI Enterprise for vSphere的支援,包括Dell、HPE、Lenovo和Supermicro等服務器,可讓最先進的人工智慧應用程式如同傳統工作負載般地運作在通用基礎設施上,并使用資料中心管理工具進行管理。IT可以管理其可用性、最佳化資源分配,并且保護在混合云環境,或是企業就地部署中的資料。
Nvidia提到,這樣的合作是業界首創,讓人工智慧研究人員、資料科學家和開發人員,都得以使用需要的人工智慧專案軟件,而IT人員也可以使用熟悉的管理工具管理資料中心,以支援人工智慧技術的發展。