繼上月發(fā)布"虛擬顯存"技術(shù)引發(fā)行業(yè)對(duì)GPU資源靈活分配的關(guān)注后，范式智能近日再次發(fā)布GPU動(dòng)態(tài)調(diào)度新進(jìn)展——基于Kubernetes動(dòng)態(tài)資源分配(DRA)的GPU動(dòng)態(tài)調(diào)度能力，實(shí)現(xiàn)對(duì)GPU算力與顯存的一體化精細(xì)調(diào)度。該技術(shù)不僅是對(duì)用戶關(guān)于"算力能否像顯存一樣動(dòng)態(tài)切分"疑問(wèn)的深入回應(yīng)，更標(biāo)志著GPU資源管理從容量擴(kuò)展邁向多維資源協(xié)同調(diào)度的新階段。

隨著Kubernetes v1.34的正式發(fā)布，其核心特性——?jiǎng)討B(tài)資源分配(DRA)已穩(wěn)定啟用，標(biāo)志著云原生資源調(diào)度進(jìn)入更智能、更靈活的時(shí)代。

在這一背景下，范式智能基于長(zhǎng)期在AI基礎(chǔ)設(shè)施領(lǐng)域的積累，率先完成了HAMi-Core與DRA的深度適配，并推出GPU動(dòng)態(tài)資源驅(qū)動(dòng)(DRA Driver)，讓GPU像CPU一樣被靈活共享與調(diào)度，推動(dòng)云原生算力管理體系不斷完善與升級(jí)，為人工智能算力管理帶來(lái)新的可能。

讓GPU更靈活 讓算力更高效

在AI任務(wù)中，GPU是模型訓(xùn)練和推理的"引擎"，但長(zhǎng)期以來(lái)，傳統(tǒng)使用方式常導(dǎo)致GPU資源浪費(fèi)：要么"使用不滿"，要么"獨(dú)占浪費(fèi)"。

HAMi-Core結(jié)合DRA能力，實(shí)現(xiàn)了GPU的動(dòng)態(tài)切分與多任務(wù)并行。簡(jiǎn)單來(lái)說(shuō)，不同的任務(wù)可以同時(shí)使用同一塊GPU，各自占用合適的算力與顯存，就像多個(gè)應(yīng)用共享CPU一樣高效。

這帶來(lái)了兩大改變：

1.任務(wù)分發(fā)調(diào)度：同一個(gè)GPU節(jié)點(diǎn)上，由原來(lái)的串行分配變?yōu)椴⑿姓{(diào)度，顯著提升整體效率

如果用發(fā)牌來(lái)比喻這一變化，就是從"一人發(fā)完再發(fā)下一人"到"同時(shí)發(fā)牌給所有玩家"

過(guò)去：GPU節(jié)點(diǎn)上的任務(wù)必須串行執(zhí)行，就像發(fā)牌員一張一張發(fā)，前一個(gè)任務(wù)不結(jié)束，后一個(gè)只能等待

現(xiàn)在：GPU可同時(shí)為多個(gè)任務(wù)"發(fā)牌"，實(shí)現(xiàn)真正的并行調(diào)度，任務(wù)等待時(shí)間大幅縮短，集群吞吐效率顯著提升

2.任務(wù)申請(qǐng)資源：可以根據(jù)需求選擇不同配置的GPU，更精細(xì)、更靈活

還是用打牌來(lái)理解這個(gè)變化，就是選牌方式從"固定套餐"到"自由組合"

過(guò)去：申請(qǐng)GPU像點(diǎn)套餐，只能選固定規(guī)格，比如申請(qǐng)三張數(shù)值相同的"10"牌，不管任務(wù)需要多強(qiáng)的算力，都只能用這一檔配置

現(xiàn)在：用戶可以"自選組合"，根據(jù)任務(wù)需求自由搭配不同性能等級(jí)的GPU，就像同時(shí)選擇"5、9、A"等不同數(shù)字的牌——量體裁衣，既精準(zhǔn)匹配計(jì)算需求，又避免資源浪費(fèi)

這種能力的提升，讓GPU的調(diào)度更智能、利用更充分。在大規(guī)模集群場(chǎng)景下，系統(tǒng)復(fù)雜度明顯降低，性能提升體現(xiàn)在調(diào)度效率和任務(wù)處理速度上，為企業(yè)帶來(lái)更流暢的算力體驗(yàn)和更高的運(yùn)維效率。

推動(dòng)云原生AI基礎(chǔ)設(shè)施的進(jìn)化

HAMi-Core 作為由范式智能主導(dǎo)貢獻(xiàn)的開(kāi)源項(xiàng)目，致力于提升GPU在容器化和云原生環(huán)境下的利用率。此次適配工作讓HAMi-Core與Kubernetes的動(dòng)態(tài)資源調(diào)度能力實(shí)現(xiàn)了結(jié)合，讓算力資源的申請(qǐng)、分配和釋放都能通過(guò)標(biāo)準(zhǔn)化方式自動(dòng)完成，大幅降低了使用門(mén)檻。

這一成果不僅體現(xiàn)了范式智能在AI基礎(chǔ)設(shè)施層面的技術(shù)深耕，也展示了其對(duì)開(kāi)源生態(tài)的持續(xù)投入。

開(kāi)源共建 釋放更大的創(chuàng)新力

目前范式智能已將該演示項(xiàng)目開(kāi)源至GitHub(Project-HAMi/k8s-dra-driver)，并將與HAMi社區(qū)持續(xù)推進(jìn)相關(guān)特性和生態(tài)建設(shè)，歡迎更多開(kāi)發(fā)者和企業(yè)參與共建，共同推動(dòng) GPU 調(diào)度技術(shù)走向更智能、更開(kāi)放的未來(lái)。

本文來(lái)自和訊財(cái)經(jīng)，更多精彩資訊請(qǐng)下載“和訊財(cái)經(jīng)”APP