HOME > 最新消息> 品牌新訊

數位無限AI-Stack領先推出一鍵分割/還原NVIDIA MIG

2021/06/15

最新的NVIDIA GPU伺服器NVIDIA DGX A100與GPU工作站NVIDIA DGX Station A100、以及NVIDIA GPU A100與NVIDIA GPU A30有一項特別的功能【NVIDIA多執行個體GPU】,也就是俗稱的「MIG」 (Multi-Instance GPU),NVIDIA Ampere架構中的MIG模式可以在A100 GPU上同時並行七個作業,也就是說可以讓每個A100 GPU最多能分隔成七個執行個體。在MIG模式下,A100可以同時運行多達七個不同大小的AI或HPC工作負載。這個功能對於AI推論作業特別有用,因為推論作業通常不需要用到現代GPU提供的所有性能。

然而,MIG模式只能在CUDA 11 / R450的Linux系統使用,基本上還是要透過寫指令,才能作分割及還原設定,這是有一連串的邏輯與步驟需要執行的。普遍而言,NVIDIA官方提供的分割MIG設定過程對使用者來說還是需要花不少時間,也是有其複雜度存在。數位無限AI計算管理平台「AI-Stack」領先推出一鍵分割/還原NVIDIA A100 MIG,支援管理者MIG設定(1g.5gb)與MIG還原自動化的功能。簡單來講,就是針對A100的節點提供分割與還原的功能,讓管理者在Web-based使用者介面上,輕鬆按下「一鍵按鈕」,就能自動完成繁複的A100 MIG分割或還原過程。

AI-Stack是GPU使用率最佳化的軟體,讓你使用NVIDIA DGX Station A100得心應手,買NVIDIA DGX A100/DGX Station A100/A100/A30不能或缺AI-Stack,只要3小時就可完成安裝立即上線,讓你隨時榨滿GPU使用率。有了MIG可以加快AI模型的開發和部署,加上AI-Stack可以執行Batch Job深度學習服務訓練模式,將訓練任務打包為shell script並於平台輸入執行命令,平台將自動建立容器並執行batch job內容,且於訓練結束時自動刪除容器,節省容器建立等待時間,並省下連進容器手動執行任務與手動刪除容器的步驟與時間。

數位無限AI-Stack是由最佳IT代理商零壹科技所代理的少數國內軟體品牌,產品推出至今已被多家國內頂尖大學採用,包含政治大學、成功大學、交通大學、台北科技大學、雲林科技大學等校皆為數位無限產品用戶。同時,數位無限也受到公部門與公營事業的青睞,中央氣象局、金門縣政府、屏東縣政府、台灣電力公司也陸續成為AI-Stack產品用戶,協助客戶進行AI模型的開發、訓練、部署與測試。此外,諸多在做AI-on-the-Chip的半導體設計公司亦發現AI-Stack可讓他們輕鬆的將AI模型部署到晶片中,加速產品的設計與研發過程,接連採用AI-Stack來協助AI晶片的研發,終端用戶包含奇景光電、瑞昱半導體、矽統科技、視芯智能等公司。AI-Stack是目前台灣市場上最受歡迎的AI PaaS-GPU管理平台,也是客戶選擇提升NVIDIA GPU卡使用效率的最佳首選軟體。