DoNews2月12日消息,2月11日,智譜正式發(fā)布新一代大模型GLM-5。摩爾線程基于SGLang推理框架,在旗艦級AI訓推一體全功能GPU MTT S5000上,Day-0完成了全流程適配與驗證。

憑借MUSA架構廣泛的算子覆蓋與強大的生態(tài)兼容能力,摩爾線程成功打通了模型推理全鏈路,并深度釋放MTT S5000的原生FP8加速能力,在確保模型精度的同時顯著降低了顯存占用,實現了GLM-5的高性能推理。
GLM-5與MTT S5000的國產雙強聯合,將為開發(fā)者帶來可對標國際頂尖模型的極致編程體驗。無論是在函數補全、漏洞檢測還是Debug場景中,該組合均表現卓越,以顯著增強的邏輯規(guī)劃能力,從容應對各類復雜的長程任務挑戰(zhàn)。
MTT S5000是專為大模型訓練、推理及高性能計算而設計的全功能GPU智算卡,基于第四代MUSA架構“平湖”打造。其單卡AI算力最高可達1000 TFLOPS,配備80GB顯存,顯存帶寬達到1.6TB/s,卡間互聯帶寬為784GB/s,完整支持從FP8到FP64的全精度計算。
依托MUSA全棧平臺,MTT S5000原生適配PyTorch、Megatron-LM、vLLM及SGLang等主流框架,助力用戶實現“零成本”代碼遷移。無論是構建萬卡級大規(guī)模訓練集群,還是部署高并發(fā)、低延遲的在線推理服務,MTT S5000均展現出對標國際主流旗艦產品的卓越性能與穩(wěn)定性,旨在為行業(yè)筑牢堅實、易用的國產算力底座。