AI MAX-概述

AI Max 是 AMAX一款基于 Kubernetes+Docker+GPU 架構,定位于機器學習的上層應用,免去客戶編寫代碼的麻煩,快速開始深度學習任務的平臺。軟件基于容器基礎,內置多種深度學習框架,兼具細粒度的權限管控,完善的數據與鏡像的存儲、隔離,提供多種交互式開發及 API 接口,可滿足多用戶、多場景的需求。

架構介紹

基礎層

基礎設施以硬件服務器為載體,支持主流 X86 服務器,配置 NVIDIA GPU 實現高性能加速計算,采用主流分布式存儲設備(如:XP-42305ST ),支持 TCP/IP,InfiniBand 高速網絡互聯。

AI Max 平臺層

平臺層是整個系統的核心,包含操作系統、GPU 驅動、CUDA、CuDNN、機器學習框架、資源調度和完整的機器學習所需的處理流程,實現資源操作自動化,并向用戶提供應用交付服務。

AI MAX-特點與優勢
架構介紹
表盤式工作界面,從首頁可以看到,AI Max 集群里所有的資源,已分配的資源,所有的計算節點信息、任務信息等。菜單界面平滑直觀,所有功能一目了然。用戶界面下,UI界面平滑直觀,所有項目一目了然,菜單選項簡潔明了,功能化繁為簡。
管理員界面下,針對用戶組或用戶進行便捷的操作管理,靈活支配計算機資源;完整記錄用戶詳細適用信息。
用戶權限管理
管理員可通過用戶管理對用戶進行細粒度管理,對用戶或用戶組進行增刪改查等操作。亦可根據不用的場景、應用需求設置不同的用戶權限,以達到最細致的安全控制。
鏡像管理
系統預置種類豐富的任務鏡像,支持各種機器學習框架,如:Caffe、TensorFlow、MxNET、Pytorch等。
用戶可通過基礎鏡像與 Docker exec console 制作鏡像保存到鏡像倉庫,公共鏡像和私人鏡像相互隔離,啟動快速且不干擾。
用戶使用時只需自定義資源配額( CPU、內存、GPU 等),選擇訓練框架并根據需求做出相應調整。
鏡像制作允許用戶自定義 python package,可支持本地環境 pull 和 push 鏡像。
數據存儲
基于 Gluster 的分布式存儲架構,存儲容量大、容易橫向擴展,各用戶自動創建指定配額的存儲用于存放訓練數據集、測試數據集、訓練結果等。支持創建私有數據,支持把私有數據共享給組和用戶,支持取消共享。
分布式存儲網絡支持 IB 和 RDMA,保證大規模網絡訓練時的網絡帶寬,提高訓練的效率。分布式、冗余及數據條帶化,滿足不同用戶對數據的安全和性能要求。豐富的數據管理、分享功能極大方便了用戶的使用。
模型訓練
基于 Kubernetes 的容器調度引擎,支持離線訓練,成熟穩定;支持 TensorFlow 框架的多機多卡分布式訓練,可通過 key-value 對的形式設置超參數;任務訓練時,支持可視化及顯示 loss 和 accuracy 變化曲線,可實時查看任務訓練過程中的 log 輸出;可動態調度任務到最優的節點上,保證資源使用的效率;同時支持 Jupyter,JupyterLab,PyCharm,Terminal 等多種交互式開發方式和調試。
模型訓練、超參數調節、模型可視化、日志查看等一系列環節和工具,使用戶可以聚焦在核心的算法設計上面,極大提高了工作效率。通過資源配額、任務調度和容錯,使模型訓練任務高效可靠;分布式任務使大規模網絡模型的訓練性能大大提高。
集群管理
集群節點添加、刪除,可支持節點資源使用監控、節點遠程開關機、節點健康狀態監控,同時具備節點遠程控制臺;用戶可通過遠程控制臺監控機器健康狀態和資源使用情況;使用直方圖顯示節點和分區CPU、GPU、Mem、網絡IO、運行容器數量的實時統計;可顯示任務GPU顯存使用率。
總結
人工智能現已成為最火熱的話題,眾多院校紛紛開啟人工智能專業課程,各企業也紛紛涉獵人工智能領域。深度學習是實現人工智能中最重要的一環,但深度學習環境的部署極其復雜,眾多的深度學習框架、神經網絡模型、GPU 卡片類型等的選擇都具有一定難度。
AI Max 深度學習平臺,可解決圖像處理、語音識別、自然語言處理等深度學習場景下,不同算法模型、深度學習框架的 GPU 計算資源和存儲資源的統一調度和管理,合理分配不同用戶使用。AI Max 深度學習平臺支持多種深度學習框架,利用容器技術將大量的底層操作進行封裝,極大的簡化了深度學習的操作流程,大大降低了深度學習從業人員的技術門檻,讓用戶更聚焦業務本身,是 AI 業務能快速開發和上線。
同時 AI Max 在設計中整合了計算、存儲和網絡資源,把負責提供計算能力的硬件自身包含的存儲能力最大化挖掘并應用起來,免去傳統集群環境下存儲的規劃、連接、配置等復雜的管理操作,無需再配置 Raid 組、LUN、卷等??蛻艨赏ㄟ^ AI Max 可以靈活高效地實現節點拓展,來增加資源以滿足業務的增長。
云南十一选五开奖走势图