2025年10月28日，修改后的《中華人民共和國(guó)網(wǎng)絡(luò)安全法》正式公布。其中，第二十條首次增設(shè)了人工智能條款，明確提出“完善人工智能倫理規(guī)范，加強(qiáng)風(fēng)險(xiǎn)監(jiān)測(cè)評(píng)估和安全監(jiān)管，促進(jìn)人工智能應(yīng)用和健康發(fā)展”。同時(shí)，修改后的《網(wǎng)絡(luò)安全法》加大了對(duì)AI安全問(wèn)題的監(jiān)管與處罰力度：關(guān)鍵信息基礎(chǔ)設(shè)施運(yùn)營(yíng)者若因 AI 安全事件導(dǎo)致喪失、造成嚴(yán)重后果，將面臨更為嚴(yán)厲的法律責(zé)任。修改后的法律擬于2026年1月1日正式施行。對(duì)于所有AI技術(shù)的研發(fā)者、提供者和使用者，這一階段不僅是理解法規(guī)、完善內(nèi)部管理體系的窗口期，更是主動(dòng)構(gòu)建安全防線、實(shí)現(xiàn)合規(guī)落地的重要時(shí)期。
AI時(shí)代的新型安全挑戰(zhàn)日益凸顯
隨著大語(yǔ)言模型的飛速發(fā)展，人工智能技術(shù)與應(yīng)用已深入教育、金融、醫(yī)療、政務(wù)等關(guān)鍵領(lǐng)域。然而，AI系統(tǒng)的“數(shù)據(jù)黑箱”特性和復(fù)雜的算法機(jī)制，導(dǎo)致其安全問(wèn)題難以像傳統(tǒng)軟件一樣通過(guò)“打補(bǔ)丁”的簡(jiǎn)單方式被修復(fù)，而是需要從數(shù)據(jù)、網(wǎng)絡(luò)、應(yīng)用及供應(yīng)鏈等多個(gè)層面進(jìn)行系統(tǒng)性排查與治理。
在應(yīng)用層，AI系統(tǒng)與其他應(yīng)用系統(tǒng)一樣，面臨安全漏洞方面的威脅，基礎(chǔ)設(shè)施易成為攻擊目標(biāo)；在數(shù)據(jù)層，模型訓(xùn)練數(shù)據(jù)可能被污染或?yàn)E用，誘發(fā)“數(shù)據(jù)投毒”和隱私泄露問(wèn)題；在網(wǎng)絡(luò)層，開(kāi)放的API易成為暴力破解和未授權(quán)訪問(wèn)的入口，威脅服務(wù)可用性；在供應(yīng)鏈層，開(kāi)源組件的安全隱患也不容忽視，一旦第三方依賴組件被植入后門(mén)，風(fēng)險(xiǎn)甚至?xí)U(kuò)散至整個(gè)產(chǎn)業(yè)生態(tài)。
這些風(fēng)險(xiǎn)交織疊加，使得AI系統(tǒng)的安全性、可靠性和可控性面臨嚴(yán)峻考驗(yàn)。如何系統(tǒng)性地開(kāi)展安全測(cè)試評(píng)估，識(shí)別并修復(fù)安全隱患，已成為AI從業(yè)者必須面對(duì)的核心問(wèn)題。
永信至誠(chéng)「數(shù)字風(fēng)洞」構(gòu)建AI產(chǎn)業(yè)的“數(shù)字健康管理體系”
面向復(fù)雜的AI安全治理場(chǎng)景，永信至誠(chéng)創(chuàng)新提出“原生安全”理念，將AI系統(tǒng)視為一個(gè)“有機(jī)體”，以“數(shù)字健康”的理念進(jìn)行全生命周期管理，從AI系統(tǒng)的內(nèi)在架構(gòu)、數(shù)據(jù)處理、算法訓(xùn)練及工作流程等源頭構(gòu)建安全能力，使安全成為系統(tǒng)原生屬性。
基于這一理念，永信至誠(chéng)依托「數(shù)字風(fēng)洞」產(chǎn)品體系，構(gòu)建覆蓋AI系統(tǒng)全生命周期的數(shù)字健康管理方案，系統(tǒng)開(kāi)展風(fēng)險(xiǎn)測(cè)評(píng)與安全驗(yàn)證，助力企業(yè)實(shí)現(xiàn)AI系統(tǒng)的原生安全。
圍繞AI系統(tǒng)及應(yīng)用在不同生命周期的安全需求場(chǎng)景，永信至誠(chéng)「數(shù)字風(fēng)洞」數(shù)字健康管理方案提供以下核心能力：
1.建立AI系統(tǒng)資產(chǎn)臺(tái)賬
相比其他數(shù)字系統(tǒng)，AI系統(tǒng)的數(shù)字資產(chǎn)更加復(fù)雜，且隨著系統(tǒng)的不斷迭代，數(shù)字資產(chǎn)的規(guī)模還在不斷增加，因此在AI大模型整個(gè)生命周期內(nèi)，需要通過(guò)“上帝視角”對(duì)AI大模型的相關(guān)資產(chǎn)進(jìn)行系統(tǒng)管理。
建立資產(chǎn)臺(tái)賬：通過(guò)「數(shù)字風(fēng)洞」系統(tǒng)建立AI大模型構(gòu)建的數(shù)字系統(tǒng)相關(guān)資產(chǎn)臺(tái)賬，如數(shù)據(jù)、接口、中間件、云資源等，梳理訪問(wèn)權(quán)限、落實(shí)責(zé)任人等；
動(dòng)態(tài)管理資產(chǎn)臺(tái)賬：對(duì)迭代過(guò)程中新增的資產(chǎn)實(shí)施動(dòng)態(tài)建檔管理，為安全防護(hù)奠定基礎(chǔ)。
2、全場(chǎng)景安全測(cè)試評(píng)估
圍繞AI系統(tǒng)及應(yīng)用在不同場(chǎng)景面臨的數(shù)據(jù)安全、內(nèi)容安全、系統(tǒng)安全、供應(yīng)鏈安全等方面開(kāi)展多維測(cè)試評(píng)估與驗(yàn)證，確保AI系統(tǒng)可靠性。
網(wǎng)絡(luò)與系統(tǒng)安全測(cè)評(píng)：測(cè)試通信加密、訪問(wèn)控制、端口安全、抗DDoS防護(hù)等能力；檢查系統(tǒng)漏洞并強(qiáng)化身份認(rèn)證機(jī)制，防止越權(quán)操作；
數(shù)據(jù)安全測(cè)評(píng)：通過(guò)專(zhuān)屬測(cè)試載荷集，開(kāi)展漏洞發(fā)現(xiàn)、敏感數(shù)據(jù)檢測(cè)與權(quán)限評(píng)估，保障數(shù)據(jù)可靠性；提供數(shù)據(jù)風(fēng)險(xiǎn)識(shí)別與合規(guī)性保障，持續(xù)保護(hù)數(shù)據(jù)隱私與合規(guī)使用；
內(nèi)容安全測(cè)評(píng)：基于AI大模型測(cè)評(píng)「數(shù)字風(fēng)洞」ISAC24四維測(cè)評(píng)體系，依托超500萬(wàn)條安全檢測(cè)數(shù)據(jù)與2萬(wàn)余種攻擊模板，識(shí)別仇恨言論、違法誘導(dǎo)等內(nèi)容風(fēng)險(xiǎn)，防范越獄攻擊與注入攻擊；
供應(yīng)鏈安全測(cè)評(píng)：針對(duì)AI 系統(tǒng)開(kāi)源組件開(kāi)展成分分析；通過(guò)代碼審計(jì)識(shí)別漏洞與惡意代碼；對(duì)第三方插件進(jìn)行權(quán)限審查與惡意行為監(jiān)測(cè)；強(qiáng)化API安全測(cè)試與訪問(wèn)管理。
3、全生命周期風(fēng)險(xiǎn)閉環(huán)管理
依托「數(shù)字風(fēng)洞」風(fēng)洞時(shí)光機(jī)子系統(tǒng)，對(duì)AI模型構(gòu)建、部署、運(yùn)營(yíng)各階段進(jìn)行場(chǎng)景化風(fēng)險(xiǎn)測(cè)評(píng)與快照留存，支持歷史任務(wù)回溯與復(fù)測(cè)，實(shí)現(xiàn)風(fēng)險(xiǎn)閉環(huán)管理。
4、持續(xù)威脅監(jiān)測(cè)響應(yīng)
接入永信至誠(chéng)「家庭醫(yī)生」服務(wù)，依托永信至誠(chéng)一線專(zhuān)家團(tuán)隊(duì)，對(duì)AI大模型及相關(guān)系統(tǒng)資產(chǎn)進(jìn)行定期巡檢，同時(shí)構(gòu)建對(duì)新問(wèn)題應(yīng)急響應(yīng)與處置機(jī)制，保障業(yè)務(wù)安全與連續(xù)性。接入多源威脅情報(bào)，及時(shí)預(yù)警和處置，防范釣魚(yú)仿冒、供應(yīng)鏈攻擊、暗網(wǎng)泄露等風(fēng)險(xiǎn)。并基于「數(shù)字風(fēng)洞」構(gòu)建的資產(chǎn)臺(tái)賬持續(xù)監(jiān)測(cè)依賴項(xiàng)、社交賬號(hào)及其他資產(chǎn)潛在安全性。
5、構(gòu)建實(shí)時(shí)防護(hù)“安全圍欄”
基于AI大模型測(cè)評(píng)「數(shù)字風(fēng)洞」的智能化識(shí)別能力，為AI應(yīng)用提供內(nèi)容安全，部署于用戶與AI系統(tǒng)之間，實(shí)時(shí)過(guò)濾惡意指令、越獄嘗試與違規(guī)回復(fù)，對(duì)風(fēng)險(xiǎn)內(nèi)容進(jìn)行拒絕應(yīng)答或會(huì)話阻斷，提供可靠的實(shí)時(shí)防護(hù)，確保其交互過(guò)程的合規(guī)與安全。
在積極參與產(chǎn)業(yè)實(shí)踐的同時(shí)，永信至誠(chéng)也致力于推動(dòng)AI安全標(biāo)準(zhǔn)的制定與落地。永信至誠(chéng)深度參與了全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（SAC/TC260）牽頭的《政務(wù)大模型應(yīng)用安全規(guī)范》的編寫(xiě)工作，為政務(wù)大模型在數(shù)據(jù)安全、算法可靠、應(yīng)用合規(guī)等方面提供了關(guān)鍵技術(shù)依據(jù)和測(cè)評(píng)方法指引。
作為數(shù)字安全測(cè)試評(píng)估賽道領(lǐng)跑者，網(wǎng)絡(luò)靶場(chǎng)和人才建設(shè)領(lǐng)軍者，永信至誠(chéng)以“產(chǎn)品乘服務(wù)”創(chuàng)新理念，助力AI企業(yè)實(shí)現(xiàn)常態(tài)化安全測(cè)評(píng)與可持續(xù)性合規(guī)建設(shè)。通過(guò)為AI系統(tǒng)建立“數(shù)字健康檔案”，讓安全可監(jiān)測(cè)、可量化、可改進(jìn)，為AI大模型的持續(xù)發(fā)展與應(yīng)用提供有力支撐，保障AI數(shù)字健康，帶給世界安全感。
申請(qǐng)創(chuàng)業(yè)報(bào)道，分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處，共同探討創(chuàng)業(yè)新機(jī)遇！
