人工智能浪潮席卷，正以前所未有的速度、廣度和深度改 變生產(chǎn)生活方式。世界主要國家紛紛將推進(jìn)人工智能技術(shù)創(chuàng )新與應 用作為國家戰略的重要方向，我國G度重視人工智能在培育新質(zhì)生 產(chǎn)力、塑造新動(dòng)能方面的重要作用。當前，人工智能正處于邁向通用 智能的初始階段，并成為推動(dòng)經(jīng)濟社會(huì )持續發(fā)展的關(guān)鍵動(dòng)力。

以Transformer架構為基礎的大模型不斷取得新突破，在大數據、 大算力加持下，逐漸實(shí)現從單任務(wù)智能到可擴展、多任務(wù)智能的跨 越。這一關(guān)鍵突破，標志著(zhù)人工智能技術(shù)發(fā)展走向新范式。以大模型為代表的人工智能技術(shù)展現出了類(lèi)人智能的“涌現”能力，呈現規�？蓴U展、多任務(wù)適應及能力可塑三大特征。

一是規�？蓴U展。 模型的規�？蓴U展性不僅體現在參數的擴大，更依賴(lài)G質(zhì)量數據集 的供給以及大規模算力集群能力的增強。當前在模型參數保持不變 的情況下，提G數據質(zhì)量、擴大數據集規�；蛱嵘�算力規模水平，都能夠顯著(zhù)增強模型的復雜性和處理能力。

二是多任務(wù)適應。大模型支持多任務(wù)多模態(tài)能力持續增強，可執行任務(wù)已經(jīng)從文本對話(huà)拓 展到多模態(tài)理解、多模態(tài)生成等場(chǎng)景。

三是能力可塑。通用大模型 在訓練階段通過(guò)結合增量預訓練、有監督微調、知識圖譜等方法， 實(shí)現將專(zhuān)業(yè)數據和知識注入模型中，提升大模型在專(zhuān)業(yè)L域的應用 能力；在推理階段，通過(guò)引入檢索增強生成、提示詞工程和智能體 等技術(shù)，將更豐富的上下文信息和專(zhuān)業(yè)知識引入模型推理過(guò)程，解 決更復雜的推理任務(wù)，優(yōu)化模型表現。

具體從大模型算法演進(jìn)態(tài)勢看，深挖現有體系架構潛力，以實(shí) 現理解推理能力和訓練效率倍增仍是當前發(fā)展主線(xiàn)。模型研發(fā)主體 紛紛圍繞算法理論融合（如 Transformer 架構與其他路線(xiàn)結合）和模 型改造（如擴大上下文窗口、思維鏈復雜推理、優(yōu)化注意力模塊、 網(wǎng)絡(luò )架構稀疏化、多模態(tài)特征對齊與統一理解等）展開(kāi)創(chuàng )新升級， 從而提G模型性能表現。近期 OpenAI o1 模型通過(guò)模仿人腦思考的 思維過(guò)程，顯著(zhù)提升數學(xué)、物理、編程等復雜任務(wù)的性能水平。與 此同時(shí)，非 Transformer 模型的底層算法也在不斷創(chuàng )新。例如，基于 圖神經(jīng)網(wǎng)絡(luò )的 GraphCast、GNoME 在氣象和材料L域已取得重大突 破，基于物理約束的 PINN 網(wǎng)絡(luò )、基于算子學(xué)習的 DeepONet 和基于 傅里葉變換的 FNO 網(wǎng)絡(luò )已成為求解偏微分方程（PDEs）的重要手段。