3月27日，《工業(yè)和信息化領(lǐng)域人工智能安全治理標(biāo)準(zhǔn)體系建設(shè)指南（2025）（征求意見稿）》（以下簡稱《指南》），面向社會公開征求意見。該《指南》提出針對AI技術(shù)廣泛應(yīng)用帶來的數(shù)據(jù)安全、網(wǎng)絡(luò)安全、倫理風(fēng)險等挑戰(zhàn)，構(gòu)建AI安全治理標(biāo)準(zhǔn)體系框架。
短期急用先行，快速突破
長期全面保障，產(chǎn)業(yè)落地
《指南》提出兩階段建設(shè)目標(biāo)。
短期來看，未來1至2年內(nèi)，秉持急用先行，快速突破的策略，初步構(gòu)建工業(yè)和信息化領(lǐng)域人工智能安全標(biāo)準(zhǔn)體系框架，明確標(biāo)準(zhǔn)體系的總體架構(gòu)、分類和關(guān)鍵標(biāo)準(zhǔn)領(lǐng)域。制定一批急需急用的標(biāo)準(zhǔn)，為行業(yè)提供基本的安全規(guī)范和技術(shù)指導(dǎo)。推動相關(guān)標(biāo)準(zhǔn)的試點應(yīng)用，在部分重點企業(yè)和項目中開展標(biāo)準(zhǔn)實施的驗證和反饋工作，及時發(fā)現(xiàn)和解決標(biāo)準(zhǔn)在應(yīng)用過程中存在的問題，為標(biāo)準(zhǔn)的完善和推廣奠定基礎(chǔ)。
長期來看，未來3至5年，為AI技術(shù)的產(chǎn)業(yè)化落地提供全面保障。完善工業(yè)和信息化領(lǐng)域人工智能安全標(biāo)準(zhǔn)體系，補充和細(xì)化各領(lǐng)域的安全標(biāo)準(zhǔn)，涵蓋人工智能系統(tǒng)的設(shè)計、開發(fā)、部署、運行、維護等全生命周期，覆蓋工業(yè)和信息化領(lǐng)域人工智能應(yīng)用的各個方面，并促進與國際標(biāo)準(zhǔn)的對接協(xié)調(diào)。同時，加強標(biāo)準(zhǔn)的推廣應(yīng)用，規(guī)范工業(yè)和信息化產(chǎn)業(yè)主體人工智能應(yīng)用，提高行業(yè)整體的安全水平，為傳統(tǒng)產(chǎn)業(yè)的高端化升級和前沿技術(shù)的產(chǎn)業(yè)化落地提供有力保障。
搭建AI安全治理標(biāo)準(zhǔn)體系框架
從7方面著手AI安全治理
《指南》提出的人工智能安全領(lǐng)域標(biāo)準(zhǔn)體系框架主要由治理能力、基礎(chǔ)設(shè)施安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、算法模型安全、應(yīng)用安全、賦能安全等7個部分組成。
其中，人工智能治理能力標(biāo)準(zhǔn)主要規(guī)范人工智能支撐能力和管理能力，包括監(jiān)測、防護等安全支撐技術(shù)，透明性、可解釋性、隱私保護等治理支撐技術(shù)，以及風(fēng)險分類分級、管理影響評估、應(yīng)急響應(yīng)等相關(guān)標(biāo)準(zhǔn)，為實現(xiàn)人工智能安全治理夯實基礎(chǔ)底座。人工智能基礎(chǔ)設(shè)施安全標(biāo)準(zhǔn)主要規(guī)范硬件平臺、軟件平臺和智算中心等方面安全，確保人工智能基礎(chǔ)設(shè)施安全穩(wěn)定。人工智能網(wǎng)絡(luò)安全標(biāo)準(zhǔn)主要規(guī)范網(wǎng)絡(luò)安全的防護、監(jiān)測、管理，以及供應(yīng)鏈安全、網(wǎng)絡(luò)安全風(fēng)險評估，確保網(wǎng)絡(luò)安全可靠運營。數(shù)據(jù)安全標(biāo)準(zhǔn)主要規(guī)范基礎(chǔ)數(shù)據(jù)服務(wù)、訓(xùn)練數(shù)據(jù)、業(yè)務(wù)數(shù)據(jù)等方面安全，明確人工智能數(shù)據(jù)安全要求。人工智能算法模型安全標(biāo)準(zhǔn)主要規(guī)范算法、模型等方面安全，保障人工智能技術(shù)創(chuàng)新安全可控。人工智能應(yīng)用安全結(jié)合新型工業(yè)化、智能網(wǎng)聯(lián)汽車、生成式人工智能、生物特征識別、智能體等典型應(yīng)用，提出新型工業(yè)化應(yīng)用安全、行業(yè)應(yīng)用安全、智能產(chǎn)品應(yīng)用安全、智能服務(wù)應(yīng)用安全，以及智能體安全等新產(chǎn)品形態(tài)安全的要求和評估方法，為推動產(chǎn)業(yè)智能化發(fā)展提供安全保障。人工智能賦能安全標(biāo)準(zhǔn)主要包括人工智能賦能網(wǎng)絡(luò)、數(shù)據(jù)、信息、業(yè)務(wù)和其他安全等方面的要求。
日前發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》，明確AI生成合成內(nèi)容需添加顯式和隱式標(biāo)識，細(xì)化了生成服務(wù)提供者、傳播平臺、用戶的標(biāo)識義務(wù)。《指南》也特別強調(diào)規(guī)范深度合成、生成式人工智能等在應(yīng)用過程中的內(nèi)容安全等方面的要求，制定安全規(guī)范和評估方法。規(guī)范利用深度合成和生成式人工智能技術(shù)生成內(nèi)容、算法審核及評估、合成鑒偽檢測技術(shù)等內(nèi)容管理的安全要求，包括生成內(nèi)容的模型引導(dǎo)、模板制作、內(nèi)容審核等方面的技術(shù)規(guī)范要求，算法審核及評估的算法機制機理審核、信息發(fā)布審核、涉生成違法違規(guī)內(nèi)容審查等能力評估，合成鑒偽檢測技術(shù)的測評要求、評測方法和工具箱、指標(biāo)體系等評價標(biāo)準(zhǔn)。
已發(fā)布55項AI安全治理標(biāo)準(zhǔn)
未來三年內(nèi)還將發(fā)70項標(biāo)準(zhǔn)
據(jù)《指南》統(tǒng)計，截至2025 年2 月，在人工智能安全治理領(lǐng)域，全國信息技術(shù)標(biāo)準(zhǔn)化技術(shù)委員會、全國網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會、中國通信標(biāo)準(zhǔn)化協(xié)會等技術(shù)委員會或工作組，共計發(fā)布55 項國家標(biāo)準(zhǔn)與行業(yè)標(biāo)準(zhǔn)，涵蓋AI治理能力、數(shù)據(jù)安全、算法模型等領(lǐng)域。其中，AI治理能力方面的國家標(biāo)準(zhǔn)《人工智能 管理體系》，AI數(shù)據(jù)安全方面的國家標(biāo)準(zhǔn)《人工智能 面向機器學(xué)習(xí)的數(shù)據(jù)標(biāo)注規(guī)程》，AI算法模型方面的國家標(biāo)準(zhǔn)《信息安全技術(shù)機器學(xué)習(xí)算法安全評估規(guī)范》《人工智能 深度學(xué)習(xí)算法評估》，涉及自動駕駛、人臉識別、生物特征識別等AI應(yīng)用安全的多個國家標(biāo)準(zhǔn)，如《智能網(wǎng)聯(lián)汽車運行安全測試技術(shù)要求》《信息安全技術(shù)人臉識別數(shù)據(jù)安全要求》等已正式施行。此外，還有《智能網(wǎng)聯(lián)汽車運行安全測試項目和方法》《網(wǎng)絡(luò)安全技術(shù)人工智能生成合成內(nèi)容標(biāo)識方法》兩項國家標(biāo)準(zhǔn)將分別于今年5月和9月落地實施。另有《網(wǎng)絡(luò)安全技術(shù)數(shù)字水印技術(shù)實現(xiàn)指南》《人工智能安全治理 生成式人工智能圖像檢測服務(wù)系統(tǒng)能力要求》等針對生成式AI內(nèi)容治理的國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)正在審查、研究階段。
《指南》指出，當(dāng)前我國在人工智能安全治理標(biāo)準(zhǔn)制定方面具備一定基礎(chǔ)，但標(biāo)準(zhǔn)主要呈現(xiàn)點狀化、分散性、交叉性等特點，部分人工智能關(guān)鍵技術(shù)環(huán)節(jié)和新興應(yīng)用場景標(biāo)準(zhǔn)缺失，尚無法滿足快速發(fā)展的技術(shù)需求。因此在未來三年內(nèi)，針對AI治理能力、AI數(shù)據(jù)安全、AI算法模型、AI應(yīng)用安全等多個方面，還計劃發(fā)布70個國家標(biāo)準(zhǔn)和行業(yè)標(biāo)準(zhǔn)，進一步完善AI安全治理標(biāo)準(zhǔn)體系。
出品：南都大數(shù)據(jù)研究院
采寫：陳袁
