新聞資訊
了解金山云最新資訊
2025-06-03 15:20:00
近日，金山云星流訓(xùn)推平臺(tái)正式發(fā)布。平臺(tái)旨在為用戶提供一站式訓(xùn)推任務(wù)管理平臺(tái)，保障訓(xùn)推任務(wù)穩(wěn)定高效運(yùn)行，提升算力使用效率，能為機(jī)器學(xué)習(xí)場(chǎng)景開發(fā)者與運(yùn)維人員提供云原生AI算力與全流程管理能力支持。
平臺(tái)由基礎(chǔ)資源管理、算力管理工具、訓(xùn)推任務(wù)管理、資產(chǎn)與權(quán)限管理等模塊構(gòu)成，包括任務(wù)編排調(diào)度、任務(wù)可觀測(cè)性等6大核心特性，適用于模型開發(fā)與訓(xùn)練、高并發(fā)模型在線服務(wù)等場(chǎng)景。
6大核心優(yōu)勢(shì)：
? 一站式全流程管理能力：提供從模型開發(fā)、訓(xùn)練到推理的完整生命周期管理，能打通基礎(chǔ)資源調(diào)度、算力優(yōu)化、任務(wù)編排、權(quán)限管控全鏈路，通過降低多模塊協(xié)同復(fù)雜度，實(shí)現(xiàn)“開箱即用”的AI開發(fā)體驗(yàn)；
? 異構(gòu)資源高效調(diào)度：通過動(dòng)態(tài)任務(wù)編排算法與算力管理工具，平臺(tái)能智能匹配異構(gòu)算力資源與任務(wù)需求，保障GPU資源利用率，顯著降低算力閑置成本；
? 高性能存儲(chǔ)與網(wǎng)絡(luò)加速：采用集成分布式存儲(chǔ)系統(tǒng)與高速RDMA網(wǎng)絡(luò)架構(gòu)，可實(shí)現(xiàn)訓(xùn)練數(shù)據(jù)高速提取、模型參數(shù)高吞吐傳輸，支撐大規(guī)模分布式訓(xùn)練任務(wù)并行效率提升；
? 任務(wù)全生命周期可觀測(cè)：任務(wù)級(jí)可觀測(cè)能力覆蓋開發(fā)、訓(xùn)練、推理全流程，結(jié)合監(jiān)控、日志、事件信息及硬件維度監(jiān)控指標(biāo)，快速定位異常點(diǎn)，縮短排障時(shí)間；
? 智能運(yùn)維保障穩(wěn)定性：GPU故障自愈技術(shù)結(jié)合任務(wù)可觀測(cè)性設(shè)計(jì)，實(shí)時(shí)監(jiān)控硬件健康狀態(tài)與任務(wù)進(jìn)程，自動(dòng)觸發(fā)故障遷移與任務(wù)重調(diào)度，降低算力中斷風(fēng)險(xiǎn)，保障長(zhǎng)周期訓(xùn)練任務(wù)穩(wěn)定運(yùn)行；
? 企業(yè)級(jí)安全管控體系：深度整合資產(chǎn)權(quán)限管理與訪問控制體系，提供細(xì)粒度角色權(quán)限控制、任務(wù)隔離及資產(chǎn)隔離功能，滿足多用戶權(quán)限控制場(chǎng)景的合規(guī)性要求。
2大應(yīng)用場(chǎng)景 ：
? 模型開發(fā)與訓(xùn)練：通過KPFS高性能文件存儲(chǔ)、RDMA網(wǎng)絡(luò)拓?fù)湔{(diào)度和動(dòng)態(tài)資源編排，解決海量數(shù)據(jù)數(shù)據(jù)加載、跨節(jié)點(diǎn)通信及異構(gòu)算力調(diào)度難題，保障分布式訓(xùn)練效率與連續(xù)性；
? 高并發(fā)模型在線服務(wù)：基于預(yù)置/自定義模型跨機(jī)部署、多副本彈性擴(kuò)縮容與冗余設(shè)計(jì)，突破單機(jī)算力瓶頸，實(shí)現(xiàn)高并發(fā)低延遲響應(yīng)與高可用服務(wù)保障。