國(guó)產(chǎn)開(kāi)源大模型DeepSeek近期引發(fā)了廣泛關(guān)注,其憑借卓越的推理能力和創(chuàng)新的訓(xùn)練流程,在眾多大型模型中迅速嶄露頭角,贏得了廣泛的應(yīng)用認(rèn)可。然而,隨著用戶數(shù)量的急劇增加,線上請(qǐng)求量飆升,導(dǎo)致DeepSeek在實(shí)際應(yīng)用中出現(xiàn)了服務(wù)響應(yīng)延遲等問(wèn)題。嘗試將DeepSeek本地化部署也面臨巨大挑戰(zhàn),不僅因?yàn)槟P蛥?shù)龐大對(duì)用戶的IT設(shè)施提出了極高的硬件要求,而且模型配置和代碼開(kāi)發(fā)的技術(shù)門(mén)檻也讓不少用戶望而卻步。因此,利用云服務(wù)進(jìn)行一站式部署成為了解決這一難題的有效途徑。
中國(guó)移動(dòng)旗下的移動(dòng)云,作為“算龍頭”,近年來(lái)不斷推進(jìn)計(jì)算底座、平臺(tái)能力和產(chǎn)品應(yīng)用的智能化升級(jí),旨在最大化發(fā)揮AI的技術(shù)潛力和經(jīng)濟(jì)效益。為了應(yīng)對(duì)AI大模型的研發(fā)、部署和應(yīng)用全流程需求,移動(dòng)云推出了大云震澤智算平臺(tái),該平臺(tái)集成了算力、數(shù)據(jù)、模型、工具等全方位能力。在DeepSeek問(wèn)世后,移動(dòng)云迅速完成了與其的全面接入,并針對(duì)DeepSeek-R1模型設(shè)計(jì)了專(zhuān)屬的算力解決方案,旨在滿足用戶多樣化的部署和應(yīng)用需求。
移動(dòng)云憑借強(qiáng)大的算力資源,為大型模型的訓(xùn)練和推理提供了有力支持。其智算中心不僅能夠提供高達(dá)28.6EFlops的算力,還通過(guò)自研加速套件顯著提升了算效。為了滿足DeepSeek等通用大模型的實(shí)際應(yīng)用需求,移動(dòng)云對(duì)智算平臺(tái)進(jìn)行了全面升級(jí),深度集成了這些大模型。在性能方面,移動(dòng)云通過(guò)集成國(guó)產(chǎn)主流智算芯片,能夠根據(jù)用戶需求提供最優(yōu)算力方案,并通過(guò)AI原生存儲(chǔ)產(chǎn)品實(shí)現(xiàn)千億參數(shù)模型的秒級(jí)加載,大大提升了實(shí)時(shí)推理的速度。在成本方面,移動(dòng)云自研了震澤推理引擎,通過(guò)多項(xiàng)先進(jìn)技術(shù)提升了推理效能,并對(duì)DeepSeek-R1在國(guó)產(chǎn)芯片上的推理成本進(jìn)行了深度優(yōu)化,成本降幅超過(guò)13%,從而為用戶提供了高性價(jià)比的算力與開(kāi)發(fā)環(huán)境。
除了強(qiáng)大的算力支持,移動(dòng)云智算平臺(tái)還提供了一系列豐富的工具,幫助用戶打通AI應(yīng)用落地的各個(gè)環(huán)節(jié)。隨著AI技術(shù)的不斷發(fā)展,大模型在內(nèi)容生成、數(shù)據(jù)分析、智能決策等方面的應(yīng)用越來(lái)越廣泛,但傳統(tǒng)行業(yè)用戶在模型部署、應(yīng)用開(kāi)發(fā)等方面仍面臨技術(shù)難題。移動(dòng)云智算平臺(tái)通過(guò)提供數(shù)據(jù)處理、模型開(kāi)發(fā)、模型訓(xùn)練和模型推理等一站式服務(wù),幫助用戶解決了這些問(wèn)題。同時(shí),移動(dòng)云還與DeepSeek進(jìn)行了深度融合,對(duì)其進(jìn)行了精細(xì)微調(diào),并保持迭代跟進(jìn),從而具備了卓越的DeepSeek深度優(yōu)化與服務(wù)能力。
目前,移動(dòng)云智算平臺(tái)已經(jīng)接入了包括DeepSeek在內(nèi)的多款通用大模型,用戶可以直接調(diào)用并在線體驗(yàn),或者通過(guò)平臺(tái)提供的智能體編排工具進(jìn)行智能體開(kāi)發(fā)。用戶還可以將DeepSeek部署到智算平臺(tái)上進(jìn)行推理使用,或?qū)Σ糠终麴s模型進(jìn)行微調(diào)。通過(guò)復(fù)現(xiàn)DeepSeek-R1模型的推理能力,智算平臺(tái)中的代碼大模型服務(wù)還具備了深度思考和邏輯分析能力,能夠自動(dòng)化完成代碼編寫(xiě)、項(xiàng)目測(cè)試等工作,大大降低了用戶AI應(yīng)用開(kāi)發(fā)的難度,加速了AI應(yīng)用的落地進(jìn)程。
在政務(wù)、金融、教育、醫(yī)療等行業(yè)領(lǐng)域,對(duì)大模型服務(wù)的需求日益增長(zhǎng),各類(lèi)業(yè)務(wù)場(chǎng)景對(duì)IT基礎(chǔ)設(shè)施的部署方式也提出了多元化要求。移動(dòng)云智算平臺(tái)支持公有云、私有云、專(zhuān)屬云、邊緣云等多種交付方式,能夠深度對(duì)接用戶的實(shí)際業(yè)務(wù)場(chǎng)景。以移動(dòng)云智算一體機(jī)服務(wù)為例,該服務(wù)采用本地化部署方式,為用戶提供獨(dú)享的計(jì)算、存儲(chǔ)、網(wǎng)絡(luò)資源以及DeepSeek等大模型、智能體和豐富工具,充分滿足了用戶AI應(yīng)用部署、推理以及數(shù)據(jù)安全合規(guī)等多重需求。此前,移動(dòng)云曾為某985高校提供智算一體機(jī)服務(wù),實(shí)現(xiàn)了DeepSeek的私有化部署,在確保校內(nèi)數(shù)據(jù)安全的同時(shí),為該校的教學(xué)和學(xué)習(xí)提供了有力支持。同時(shí),針對(duì)該校的科研需求,移動(dòng)云還通過(guò)公有云和配套服務(wù)幫助其搭建了私有大模型訓(xùn)推環(huán)境,提供了靈活高效的算力支持。