Alaya NeW智算操作系統(以下簡(jiǎn)稱(chēng)：Alaya NeW)，由九章云JDataCanvas 自主研發(fā)，可有效管理、調度各種算力資源，提供智算服務(wù)，落地各類(lèi)智算應用。作為智算中心的“中樞神經(jīng)”，Alaya NeW突破異構算力適配、異構算力調度等關(guān)鍵技術(shù)，實(shí)現了包括算力統籌與智能調度的底層硬件異構性兼容；簡(jiǎn)單易用且以集群為優(yōu)先的策略，原生適合AIG性能計算，原生支持AI大模型+小模型的低門(mén)檻構建、訓練和推理；并支持與通用大模型、行業(yè)大模型及各類(lèi)大模型應用組合疊加，實(shí)現一體化、開(kāi)放化、標準化的AI模型服務(wù)。

隨著(zhù)人工智能技術(shù)的G速發(fā)展，智能化正以前所未有的速度重塑各行各業(yè)。以AIGC為代表的人工智能應用、大模型訓練等新應用、新需求快速崛起都對算力提出更G要求。經(jīng)中國信息通信研究院測算，預計到2025年計算設備算力總規模將超過(guò)3 ZFlops，至2030年將超過(guò)20 ZFlops。

算力作為新質(zhì)生產(chǎn)力，已成為挖掘數據要素價(jià)值，推動(dòng)數字經(jīng)濟發(fā)展的重要驅動(dòng)力，智算中心的戰略性地位愈發(fā)凸顯。同時(shí)，智算中心在運營(yíng)和管理過(guò)程中面臨的異構算力資源納管困難、算力調度能力不足、利用率低等難題，將嚴重制約智算中心的應用與發(fā)展。因此，一個(gè)能夠多面服務(wù)于智算中心的中樞神經(jīng)——智算操作系統，將是直擊這些難題的佳方案。

1、異構算力資源納管困難

智算中心逐漸引入多種不同品牌的加速硬件，往往存在異構算力不兼容、模型框架與底層芯片適配不充分等情況，導致算力調度困難、難以有效形成規�；�算力。

2、算力調度能力不足、利用率低

在大規模數據處理和大模型訓練等任務(wù)中，算力調度能力不足，使得算力分配不均衡，導致算力資源浪費和利用率下降，不能充分滿(mǎn)足不同類(lèi)型AI任務(wù)的調度需求，影響AIDC服務(wù)的整體性能。

3、AI加速優(yōu)化能力不足

一般針對AI大模型數據加載、訓練、微調、推理環(huán)節，并沒(méi)有實(shí)施優(yōu)化或者只做了局部加速優(yōu)化。因此經(jīng)常受到存儲訪(fǎng)問(wèn)慢，算力利用率、內存利用率、通信效率低的困擾，影響AI任務(wù)的完成。

4、AI大模型訓練微調門(mén)檻G

數據科學(xué)家往往不能掌握使用智算硬件基礎設施的技能，而企業(yè)內IT人員缺乏對訓練大模型所需的集群管理能力，缺乏一個(gè)彈性易用的集群環(huán)境以及在其之上的AI大模型訓練微調工具鏈。

主要能力

1、告別“裸金屬”

通過(guò)構建多層次、全方位的算力需求滿(mǎn)足機制，包含超級智算集群、彈性容器集群、GPU云服務(wù)器、AI容器實(shí)例等系列產(chǎn)品，為準確匹配和G效滿(mǎn)足多樣化規模及復雜度的算力求提供保障。

2、為AI而生

專(zhuān)注于人工智能核心任務(wù)，包括大模型的訓練、微調、部署和推理等服務(wù)。提供集“算力、數據、算法、調度”為一體的融合服務(wù)，旨在推動(dòng)人工智能產(chǎn)業(yè)化的創(chuàng )新發(fā)展。

3、全局加速優(yōu)化

采用通信加速、內存優(yōu)化、算法加速、數據三級緩存、內核優(yōu)化、編譯優(yōu)化、并行加速、模型壓縮等方案，釋放硬件效能。集群訓練效率提升100%，單卡利用率提升50%；模型推理速度提G4倍，Token吞吐量增加5倍。

4、異構算力納管與調度

提供包含國內外多種算力資源的適配、納管、調度和優(yōu)化。通過(guò)實(shí)時(shí)監控和管理各智算中心的智算設備，以及創(chuàng )新的調度算法，成功實(shí)現跨智算中心的海量算力智能調度，大幅提升算力資源的利用率。

5、1度算力

Alaya NeW首次提出了統一的算力服務(wù)計量單位“度”（DCU），并用其實(shí)現標準化的算力計量計費，旨在為用戶(hù)實(shí)現“買(mǎi)到即用到”的算力服務(wù)，為未來(lái)算力資源互聯(lián)互通打下良性商業(yè)基礎。

應用落地情況

該產(chǎn)品無(wú)論在產(chǎn)品理念還是功能設計上都處于同行業(yè)L先水平。在未來(lái)一定周期內，將引L“智算操作系統”發(fā)展趨勢，該產(chǎn)品提供的智算基礎服務(wù)，將成為智算中心提供服務(wù)的標準范本之一。截止目前，該產(chǎn)品已經(jīng)在九章云JDataCanvas參與共建的國內多個(gè)智算中心進(jìn)行部署。

Alaya New 智算操作系統在智算中心產(chǎn)業(yè)生態(tài)中處于中間位置，在底層硬件芯片和上層大模型之間建立了G效的鏈接，通過(guò)AI基礎軟件的創(chuàng )新，實(shí)現算力資源的大化利用。也首次提出了統一的算力服務(wù)計量單位“度”(DCU)，以推進(jìn)標準化的算力計量計費，為未來(lái)算力資源實(shí)現互聯(lián)互通打下良性商業(yè)基礎。九章云JDataCanvas 攜手智算產(chǎn)業(yè)核心生態(tài)伙伴，服務(wù)政府和企業(yè)共建智算中心，為行業(yè)提供G質(zhì)量新質(zhì)生產(chǎn)力以及全方位的AI Foundation Service，共同推動(dòng)我國人工智能產(chǎn)業(yè)快速發(fā)展。