工業(yè)和信息化部電子第五研究所副所長(zhǎng)、聯(lián)合實(shí)驗(yàn)室專家王蘊(yùn)輝
開(kāi)篇語(yǔ)
生成式人工智能是引領(lǐng)新一代科技革命和產(chǎn)業(yè)革命的核心驅(qū)動(dòng)力,是加快培育和發(fā)展新質(zhì)生產(chǎn)力的重要引擎,為經(jīng)濟(jì)高質(zhì)量發(fā)展注入新動(dòng)能,與此同時(shí),各類難以預(yù)知的風(fēng)險(xiǎn)和挑戰(zhàn)也伴生而來(lái)。
安全是發(fā)展的基石,為進(jìn)一步創(chuàng)新筑牢根基。2025年9月15日,粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室揭牌成立。其將構(gòu)建“政產(chǎn)學(xué)研用”深度融合的創(chuàng)新生態(tài),致力服務(wù)企業(yè)發(fā)展、推動(dòng)產(chǎn)業(yè)落地、加強(qiáng)安全監(jiān)管,努力實(shí)現(xiàn)屬地企業(yè)安全合規(guī)成本全國(guó)最低、安全能力水平全國(guó)領(lǐng)先,助力粵港澳大灣區(qū)成為全國(guó)生成式人工智能安全發(fā)展服務(wù)最優(yōu)區(qū)域。
南方都市報(bào)、南都大數(shù)據(jù)研究院推出“灣區(qū)AI安全發(fā)展新引擎”系列報(bào)道,深度對(duì)話參與聯(lián)合實(shí)驗(yàn)室建設(shè)的專家,一同憧憬大灣區(qū)AI安全發(fā)展新未來(lái)。
“聯(lián)合實(shí)驗(yàn)室將帶動(dòng)大灣區(qū)形成完整的AI安全產(chǎn)業(yè)集群?!痹诠I(yè)和信息化部電子第五研究所副所長(zhǎng)、聯(lián)合實(shí)驗(yàn)室專家王蘊(yùn)輝看來(lái),粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室(簡(jiǎn)稱“聯(lián)合實(shí)驗(yàn)室”)將發(fā)揮“安全基石、協(xié)同紐帶、創(chuàng)新引擎”三重作用,實(shí)現(xiàn)“安全賦能發(fā)展”目標(biāo),助力生成式AI為大灣區(qū)高質(zhì)量發(fā)展注入新動(dòng)能。
談優(yōu)勢(shì)
三大優(yōu)勢(shì)助力灣區(qū)AI安全生態(tài)創(chuàng)新
南方都市報(bào)(以下簡(jiǎn)稱“南都”):如今,大灣區(qū)已是國(guó)內(nèi)乃至全球的人工智能創(chuàng)新引領(lǐng)地之一。聯(lián)合實(shí)驗(yàn)室將如何用好大灣區(qū)的區(qū)位優(yōu)勢(shì)?
王蘊(yùn)輝:對(duì)聯(lián)合實(shí)驗(yàn)室而言,大灣區(qū)有三大優(yōu)勢(shì)可加以利用。一是“一國(guó)兩制”下的制度創(chuàng)新優(yōu)勢(shì),聯(lián)合實(shí)驗(yàn)室將探索跨區(qū)域安全協(xié)同治理的“灣區(qū)方案”,例如建立“一地測(cè)試、三地互認(rèn)”的安全認(rèn)證機(jī)制,降低企業(yè)跨區(qū)域經(jīng)營(yíng)的合規(guī)成本。二是產(chǎn)業(yè)與技術(shù)深度融合的生態(tài)優(yōu)勢(shì),大灣區(qū)集聚了從芯片設(shè)計(jì)、模型訓(xùn)練到行業(yè)應(yīng)用的完整AI產(chǎn)業(yè)鏈,聯(lián)合實(shí)驗(yàn)室將直接對(duì)接企業(yè)一線需求,將技術(shù)研發(fā)與產(chǎn)業(yè)實(shí)踐無(wú)縫銜接,讓安全解決方案快速落地。三是國(guó)際化開(kāi)放優(yōu)勢(shì),香港、澳門(mén)作為大灣區(qū)的對(duì)外窗口,聯(lián)合實(shí)驗(yàn)室將通過(guò)港澳連接全球AI安全資源,參與國(guó)際規(guī)則制定,同時(shí)將大灣區(qū)的安全實(shí)踐轉(zhuǎn)化為國(guó)際標(biāo)準(zhǔn),提升全球話語(yǔ)權(quán)。
談產(chǎn)業(yè)
安全評(píng)測(cè)與產(chǎn)業(yè)發(fā)展良性互動(dòng)
南都:隨著千行百業(yè)與AI技術(shù)的深度融合,社會(huì)面臨的AI安全風(fēng)險(xiǎn)日益復(fù)雜。您認(rèn)為AI安全評(píng)測(cè)應(yīng)如何與產(chǎn)業(yè)發(fā)展相結(jié)合,應(yīng)對(duì)相關(guān)風(fēng)險(xiǎn)?
王蘊(yùn)輝:AI安全評(píng)測(cè)與產(chǎn)業(yè)發(fā)展應(yīng)當(dāng)形成“安全評(píng)測(cè)為風(fēng)險(xiǎn)處置提供依據(jù),處置經(jīng)驗(yàn)引導(dǎo)評(píng)測(cè)系統(tǒng)完善”的良性互動(dòng)。可以分三個(gè)方面推進(jìn)相關(guān)工作。
一是建立分行業(yè)的評(píng)測(cè)指標(biāo)體系,讓評(píng)測(cè)結(jié)果直接服務(wù)于實(shí)際場(chǎng)景。不同行業(yè)的AI安全風(fēng)險(xiǎn)特征差異顯著,例如金融領(lǐng)域應(yīng)重點(diǎn)關(guān)注算法公平性和交易安全性,醫(yī)療領(lǐng)域聚焦病人隱私和診斷可靠性,制造業(yè)則側(cè)重設(shè)備控制指令的安全性。聯(lián)合實(shí)驗(yàn)室可以聯(lián)合行業(yè)協(xié)會(huì)等社會(huì)團(tuán)體,制定不同行業(yè)的“生成式AI安全評(píng)測(cè)指南”,將監(jiān)管要求拆解為可量化的評(píng)測(cè)指標(biāo),避免“監(jiān)管真空”或“過(guò)度干預(yù)”。
二是構(gòu)建“評(píng)測(cè)-預(yù)警-處置”的監(jiān)管閉環(huán),實(shí)現(xiàn)風(fēng)險(xiǎn)的全生命周期管控。在事前環(huán)節(jié),要求生成式AI服務(wù)提供商定期開(kāi)展基礎(chǔ)安全評(píng)測(cè);在事中環(huán)節(jié),服務(wù)提供商、評(píng)測(cè)機(jī)構(gòu)、監(jiān)管部門(mén)三方實(shí)時(shí)共享評(píng)測(cè)數(shù)據(jù),以便對(duì)高風(fēng)險(xiǎn)行為快速介入處置;在事后環(huán)節(jié),對(duì)發(fā)生安全事件的企業(yè),要求其通過(guò)針對(duì)性的專項(xiàng)評(píng)測(cè),確保整改到位。
三是創(chuàng)新“柔性評(píng)測(cè)+彈性監(jiān)管”模式,平衡安全與發(fā)展。對(duì)于新興領(lǐng)域,先推出“沙盒評(píng)測(cè)”機(jī)制,允許企業(yè)在可控環(huán)境中測(cè)試創(chuàng)新應(yīng)用,評(píng)測(cè)結(jié)果僅作為風(fēng)險(xiǎn)提示;待技術(shù)成熟后,再將沙盒中的最佳實(shí)踐轉(zhuǎn)化為正式評(píng)測(cè)標(biāo)準(zhǔn)。同時(shí),針對(duì)中小企業(yè)資源有限的特點(diǎn),開(kāi)發(fā)輕量化評(píng)測(cè)工具包,降低合規(guī)成本,避免因評(píng)測(cè)門(mén)檻過(guò)高抑制創(chuàng)新。
南都:在您看來(lái),要實(shí)現(xiàn)以上目標(biāo),AI安全評(píng)測(cè)系統(tǒng)應(yīng)當(dāng)如何滿足大灣區(qū)多元產(chǎn)業(yè)結(jié)構(gòu)的需求?
王蘊(yùn)輝:建議AI安全評(píng)測(cè)系統(tǒng)圍繞“全生命周期、跨域協(xié)同、風(fēng)險(xiǎn)導(dǎo)向”三大原則構(gòu)建,具體涵蓋四方面:
一是基礎(chǔ)通用標(biāo)準(zhǔn),明確共性要求,包括生成式AI術(shù)語(yǔ)定義、安全能力成熟度模型、風(fēng)險(xiǎn)評(píng)估方法論等,為其他標(biāo)準(zhǔn)提供基礎(chǔ)框架,確保各方對(duì)安全要求的理解一致。
二是技術(shù)安全標(biāo)準(zhǔn),需要覆蓋基礎(chǔ)設(shè)施層、數(shù)據(jù)層、模型層、應(yīng)用層等技術(shù)鏈條各環(huán)節(jié)。
三是行業(yè)應(yīng)用標(biāo)準(zhǔn),針對(duì)不同產(chǎn)業(yè)特點(diǎn)定制要求,金融領(lǐng)域需包含智能投顧算法公平性、反欺詐模型可解釋性等內(nèi)容;醫(yī)療領(lǐng)域側(cè)重患者隱私保護(hù)、診斷模型準(zhǔn)確性驗(yàn)證;制造業(yè)關(guān)注工業(yè)機(jī)器人的指令安全、產(chǎn)線AI系統(tǒng)的抗干擾能力等。
四是區(qū)域協(xié)同標(biāo)準(zhǔn),解決跨境安全問(wèn)題,包括粵港澳三地安全評(píng)測(cè)互認(rèn)規(guī)則、跨境數(shù)據(jù)安全流動(dòng)技術(shù)要求,促進(jìn)要素跨區(qū)域流動(dòng)。
談期待
成為國(guó)家AI安全治理的“灣區(qū)示范”
南都:展望未來(lái),您對(duì)聯(lián)合實(shí)驗(yàn)室的建設(shè)運(yùn)行有哪些期待?
王蘊(yùn)輝:我對(duì)聯(lián)合實(shí)驗(yàn)室的核心期待包括三個(gè)方面:一是成為國(guó)家AI安全治理的“灣區(qū)示范”。期待聯(lián)合實(shí)驗(yàn)室在3-5年內(nèi)形成一套可復(fù)制的區(qū)域協(xié)同治理模式,例如“三地標(biāo)準(zhǔn)互認(rèn)機(jī)制”“跨境風(fēng)險(xiǎn)聯(lián)防聯(lián)控體系”等,為人工智能安全發(fā)展提供實(shí)踐經(jīng)驗(yàn)。二是成為全球AI安全合作的“中國(guó)窗口”。期待聯(lián)合實(shí)驗(yàn)室與國(guó)際組織、頂尖機(jī)構(gòu)建立深度合作,將大灣區(qū)的安全實(shí)踐轉(zhuǎn)化為國(guó)際規(guī)則建議,輸出中國(guó)的安全理念和解決方案,提升全球治理話語(yǔ)權(quán)。三是成為AI安全生態(tài)繁榮的“創(chuàng)新引擎”。期待聯(lián)合實(shí)驗(yàn)室?guī)?dòng)大灣區(qū)形成完整的AI安全產(chǎn)業(yè)集群,建立“產(chǎn)學(xué)研用”協(xié)同的人才培養(yǎng)體系,最終實(shí)現(xiàn)“安全賦能發(fā)展”的目標(biāo),讓生成式AI在安全可控的前提下,深度賦能制造業(yè)升級(jí)、智慧城市建設(shè)、民生服務(wù)優(yōu)化等領(lǐng)域,為大灣區(qū)高質(zhì)量發(fā)展注入新動(dòng)能。
聯(lián)合實(shí)驗(yàn)室的建設(shè)非一日之功,需要持續(xù)投入、協(xié)同攻堅(jiān)。作為專家委員會(huì)成員,我將與各方一道,為實(shí)現(xiàn)這些目標(biāo)貢獻(xiàn)專業(yè)力量,推動(dòng)聯(lián)合實(shí)驗(yàn)室真正成為守護(hù)AI產(chǎn)業(yè)健康發(fā)展的“安全屏障”和引領(lǐng)全球AI安全創(chuàng)新的“標(biāo)桿平臺(tái)”。
聚焦
聯(lián)合實(shí)驗(yàn)室能發(fā)揮哪些獨(dú)特作用
粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室可發(fā)揮“安全基石、協(xié)同紐帶、創(chuàng)新引擎”三重作用。作為安全基石,聯(lián)合實(shí)驗(yàn)室將通過(guò)建立全鏈條安全評(píng)測(cè)、風(fēng)險(xiǎn)預(yù)警和應(yīng)急響應(yīng)機(jī)制,為產(chǎn)業(yè)發(fā)展筑牢安全防線,解決企業(yè)“不敢用、不會(huì)防”的痛點(diǎn)。作為協(xié)同紐帶,將致力打破粵港澳三地在政策標(biāo)準(zhǔn)、技術(shù)體系、資源布局上的壁壘,推動(dòng)形成“研發(fā)-測(cè)試-認(rèn)證-應(yīng)用”的閉環(huán)生態(tài),讓創(chuàng)新要素在區(qū)域內(nèi)高效流動(dòng)。作為創(chuàng)新引擎,聯(lián)合實(shí)驗(yàn)室將聚焦生成式AI特有的安全難題開(kāi)展前瞻性研究,孵化一批關(guān)鍵技術(shù)和解決方案,帶動(dòng)安全產(chǎn)業(yè)集群發(fā)展,形成“AI發(fā)展帶動(dòng)安全需求、安全創(chuàng)新反哺AI升級(jí)”的良性循環(huán)。