政務(wù)大模型是專(zhuān)注在政務(wù)領(lǐng)域的行業(yè)大模型，政務(wù)大模型在通用大模型基礎上，通過(guò)檢索增強生成或者模型微調等技術(shù)手段，使模型更加貼合政務(wù)的特點(diǎn)和需求。
基于政務(wù)大模型的應用，為政府決策、公共服務(wù)、帶來(lái)了全新的變革。政務(wù)大模型應用也伴隨著(zhù)各種潛在的風(fēng)險。政務(wù)大模型安全風(fēng)險主要包括七個(gè)主要類(lèi)型，即數據安全風(fēng)險、訓練語(yǔ)料安全風(fēng)險、模型安全風(fēng)險、應用安全風(fēng)險、軟件供應鏈安全風(fēng)險、生成內容風(fēng)險、大模型自身風(fēng)險。
政務(wù)大模型的安全治理框架是保障其安全、合規運行的基礎。全面的安全治理框架，需要滿(mǎn)足合規要求、建立完善安全機制、提供安全技術(shù)保障。其中，合規是安全治理首要原則，涉及多項法律法規、規章制度的遵循。安全技術(shù)保障是政務(wù)大模型安全治理框架的核心，涵蓋從基礎安全措施、數據安全、大模型開(kāi)發(fā)安全到運行安全等方面。
政務(wù)大模型的安全治理上，需要政府、企業(yè)、研究機構、監管機構等各方協(xié)作，形成良性互動(dòng)生態(tài)體系，構建安全、可靠、有序的環(huán)境，充分發(fā)揮政務(wù)大模型在提升政府服務(wù)效能、推動(dòng)社會(huì )進(jìn)步方面的積極作用。
附件：政務(wù)大模型安全治理框架：安全風(fēng)險主要包括七個(gè)主要類(lèi)型,大模型開(kāi)發(fā)安全到運行安全等方面
某公司開(kāi)發(fā)的“駕培平臺”未履行數據安全保護義務(wù)依法處以警告并處罰款人民幣5萬(wàn)元的行政處罰;未建立完善的絡(luò )數據安全管理制度被罰款10萬(wàn)元
涉及數據安全的事件27起、涉及個(gè)人信息安全事件14起、一案雙查事件 18起，涉及個(gè)人及黑產(chǎn)團伙犯罪事件10起，涉及內鬼作案或內部人員違規事件 5起
大模型有潛力成為安全防護的核心,從而改變安全的工作模式,從依賴(lài)安全人員調度和使用安全工具，轉變?yōu)橐源竽Ｐ蜑楹诵恼{度并智能化使用安全工具
圍繞組織架構的搭建,管理制度的完善,技術(shù)保障體系的建立以及運營(yíng)流程的規劃等方面設計了一套全方位,立體的網(wǎng)絡(luò )安全保障方案,為用戶(hù)在重大活動(dòng)網(wǎng)絡(luò )安全保障時(shí)提供全面有效的實(shí)戰型指導
利用最頻繁且對企業(yè)危害較高的漏洞，包含了詳細的漏洞基礎信息、檢測規則和修復方案，企業(yè)可根據自身資產(chǎn)信息進(jìn)行針對性的排查、配置封堵策略和漏洞修復相關(guān)工作
從人工智能隱私保護的內涵出發(fā),從人工智能全生命周期系統梳理人工智能通用隱私風(fēng)險和生成式人工智能隱私風(fēng)險,分析了人工智能隱私保護技術(shù)和平臺
安全平行切面的核心思想是將編程語(yǔ)言環(huán)境下的Aspect-oriented Programming推廣應用到安全架構建設中，構建與業(yè)務(wù)正交融合的安全橫切面
通過(guò)梳理銀行業(yè)數字化轉型下面臨的業(yè)務(wù)安全核心問(wèn)題,幫助銀行業(yè)機構深入了解當前行業(yè)的業(yè)務(wù)安全挑戰和趨勢,加強安全管理和風(fēng)險防范能力,保護業(yè)務(wù)的安全平穩運行
企業(yè)可以從API的上線(xiàn)運行階段入手,基于IPDRR安全模型實(shí)現API安全閉環(huán)管理,結合自身的業(yè)務(wù)情況有序開(kāi)展API安全實(shí)踐,全面保護API的安全性和可靠性
針對復雜多樣的企業(yè)網(wǎng)絡(luò )環(huán)境,對典型零信任架構的關(guān)鍵技術(shù)能力進(jìn)行分析,重點(diǎn)討論了每種架構的技術(shù)特點(diǎn)和應用場(chǎng)景,為全面建設零信任的實(shí)施方案提供參考
以云原生安全管理的變革為主線(xiàn)對中國云原生安全市場(chǎng)現狀進(jìn)行了年度洞察,以期為中國云原生安全的發(fā)展和企業(yè)云原生安全建設提供借鑒和參考
以路特斯機器人的信息安全保護實(shí)踐作為藍本進(jìn)行介紹，拋磚引玉，希望將路特斯機器 人在智能駕駛方面的信息安全建設的思考和實(shí)踐經(jīng)驗分享給行業(yè)各位
