《人工智能安全標準化白皮書(shū)（2023版）》由中國電子技術(shù)標準化研究院等20家單位共同編寫(xiě)，梳理了人工智能技術(shù)與應用發(fā)展現狀，分析了人工智能面臨的新的安全風(fēng)險，結合國內外人工智能安全政策與標準現狀，指出了人工智能安全標準需求，提出了下一步開(kāi)展人工智能安全標準化工作的建議，為規范引導人工智能安全標準化工作提供參考。

（一）人工智能安全屬性定義和度量指標

隨著(zhù)人工智能安全工作開(kāi)展，安全屬性定義逐步形成一些共識，國 際標準以及相關(guān)技術(shù)文件也給出了部分安全屬性的定義描述，但不同文件 之間仍有差異�？煽啃�、可解釋性、公平性等重要安全屬性定義的標準統 一，以及其度量指標的規范化，將對人工智能的發(fā)展有著(zhù)重要促進(jìn)意義。

（二）用戶(hù)輸入數據安全保護相關(guān)規范

在人工智能通常收集用戶(hù)輸入數據用于訓練的背景下，如何保障用戶(hù) 輸入數據的安全亟需技術(shù)標準。根據操作場(chǎng)景的不同，用戶(hù)輸入的數據可 能包含人臉、身份證號、家庭住址等個(gè)人信息，可能包括個(gè)人健康情況、 情感狀況等個(gè)人隱私，可能包括企業(yè)技術(shù)和經(jīng)營(yíng)活動(dòng)有關(guān)的商業(yè)秘密，甚 至可能包括國家秘密等。

（三）人工智能服務(wù)網(wǎng)絡(luò )安全防護相關(guān)指南

圍繞人工智能服務(wù)過(guò)程中，可能會(huì )面臨的對抗樣本攻擊、爬山攻擊、 模型竊取、供應鏈攻擊等新型攻擊威脅，需要研究在數據集防護、算法模 型保護、抗逆向攻擊等方面的安全技術(shù)措施指南，幫助人工智能服務(wù)提供 者保護業(yè)務(wù)數據以及人工智能模型參數等的機密性和完整性。

附件：人工智能安全標準白皮書(shū)(2023年版)