華南理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院院長、歐洲科學(xué)院院士、聯(lián)合實(shí)驗(yàn)室專家陳俊龍

“大灣區(qū)生成式AI安全領(lǐng)域技術(shù)創(chuàng)新活躍！”在華南理工大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院院長、歐洲科學(xué)院院士、聯(lián)合實(shí)驗(yàn)室專家陳俊龍看來，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室(簡稱“聯(lián)合實(shí)驗(yàn)室”)承擔(dān)著大灣區(qū)AI產(chǎn)業(yè)生態(tài)黏合劑、試驗(yàn)田的雙重角色，“生成式人工智能將在大灣區(qū)各行業(yè)實(shí)現(xiàn)更深層次、更廣范圍的賦能”。

談優(yōu)勢(shì)

　　大灣區(qū)生成式AI安全技術(shù)創(chuàng)新活躍

南方都市報(bào)（以下簡稱“南都”）：對(duì)于當(dāng)前大灣區(qū)生成式人工智能安全領(lǐng)域技術(shù)創(chuàng)新與產(chǎn)業(yè)布局，在您看來是怎樣的？

陳俊龍：當(dāng)前大灣區(qū)在生成式AI安全領(lǐng)域的技術(shù)創(chuàng)新活躍。大灣區(qū)憑借其區(qū)位優(yōu)勢(shì)與創(chuàng)新氛圍，吸引了大量人才與資金投入，催生了一系列前沿技術(shù)成果，在模型的安全可信、量化評(píng)級(jí)方向取得了顯著進(jìn)展。

在產(chǎn)業(yè)布局，已經(jīng)初步形成涵蓋基礎(chǔ)研發(fā)、技術(shù)應(yīng)用、安全保障等在內(nèi)的較為完整的產(chǎn)業(yè)鏈條，不過“重應(yīng)用、輕安全”“強(qiáng)技術(shù)、弱標(biāo)準(zhǔn)”的情況還有待進(jìn)一步改善。

南都：為解決上述問題，聯(lián)合實(shí)驗(yàn)室提出“本地化安全評(píng)測(cè)系統(tǒng)”，您作為聯(lián)合實(shí)驗(yàn)室專家委員會(huì)成員，如何看待其意義？

陳俊龍：本地化安全評(píng)測(cè)系統(tǒng)能夠根據(jù)大灣區(qū)內(nèi)AI企業(yè)的實(shí)際業(yè)務(wù)場景、數(shù)據(jù)特點(diǎn)以及技術(shù)架構(gòu)，進(jìn)行有針對(duì)性的安全評(píng)測(cè)，及時(shí)發(fā)現(xiàn)潛在安全隱患，為企業(yè)提供精準(zhǔn)的安全改進(jìn)建議；此外，屬地安全標(biāo)準(zhǔn)，從宏觀層面為大灣區(qū)內(nèi)的AI產(chǎn)業(yè)發(fā)展制定統(tǒng)一規(guī)范，明確安全底線與發(fā)展方向，讓企業(yè)在合規(guī)軌道上進(jìn)行技術(shù)創(chuàng)新與業(yè)務(wù)拓展。

談產(chǎn)業(yè)

　　聚焦安全核心需求構(gòu)建協(xié)同體系

南都：我們知道，AI安全發(fā)展涉及政產(chǎn)學(xué)研用等多個(gè)方面，如何協(xié)調(diào)各方資源協(xié)同治理呢？

陳俊龍：在AI治理中，需立足各自定位、聚焦安全核心需求構(gòu)建協(xié)同體系。

比如，政府可依托深圳前海與河套的制度創(chuàng)新優(yōu)勢(shì)，通過明確AI安全底線要求與風(fēng)險(xiǎn)分級(jí)標(biāo)準(zhǔn)、開放監(jiān)管科技接口并開展沙箱試點(diǎn)。同時(shí)，設(shè)立負(fù)面清單制度與合規(guī)激勵(lì)政策，為關(guān)鍵技術(shù)在可控范圍內(nèi)加速驗(yàn)證提供制度保障。

企業(yè)作為產(chǎn)業(yè)實(shí)踐主體，應(yīng)將安全指標(biāo)前置到需求評(píng)審、數(shù)據(jù)治理及模型訓(xùn)練全流程，聯(lián)合專業(yè)機(jī)構(gòu)開展第三方持續(xù)評(píng)測(cè)，并主動(dòng)參與行業(yè)安全標(biāo)準(zhǔn)制定，推動(dòng)技術(shù)落地與安全規(guī)范同步推進(jìn)。

高校需聚焦AI安全基礎(chǔ)理論突破與關(guān)鍵技術(shù)攻關(guān)，加大科研投入力度，通過深化產(chǎn)學(xué)研合作，將前沿AI安全相關(guān)的研究成果轉(zhuǎn)化為實(shí)際生產(chǎn)力。

用戶則需提升自身AI安全使用意識(shí)，在體驗(yàn)過程中主動(dòng)反饋安全問題，形成治理閉環(huán)。

南都：AI安全治理是AI產(chǎn)業(yè)健康有序發(fā)展的重要基石。對(duì)聯(lián)合實(shí)驗(yàn)室在AI倫理治理、可信AI技術(shù)創(chuàng)新融合等方面，您有什么建議？

陳俊龍：在未來工作中，聯(lián)合實(shí)驗(yàn)室可從三個(gè)方面發(fā)力：一是推動(dòng)倫理治理與技術(shù)流程深度融合，不僅要制定原則性規(guī)范，更應(yīng)將公平性、可追責(zé)、隱私保護(hù)等要求嵌入模型設(shè)計(jì)、訓(xùn)練與部署全流程，提升可操作性；二是加快可信AI關(guān)鍵技術(shù)的研發(fā)與應(yīng)用，特別是在邊緣端等新型場景中，應(yīng)重點(diǎn)突破模型壓縮下的安全防護(hù)、端側(cè)內(nèi)容生成的合規(guī)控制等關(guān)鍵問題，實(shí)現(xiàn)本地生成、本地防控；三是面向國際合作，積極參與生成式AI倫理與治理規(guī)則的共建，提升我國在全球可信AI發(fā)展中的影響力與貢獻(xiàn)度。

南都：大灣區(qū)在數(shù)字經(jīng)濟(jì)創(chuàng)新發(fā)展上走在前列，也肩負(fù)構(gòu)建網(wǎng)絡(luò)安全新防線的使命。聯(lián)合實(shí)驗(yàn)室打造的協(xié)同治理體系價(jià)值在哪？

陳俊龍：區(qū)域協(xié)同治理的關(guān)鍵在于形成具有彈性的合作機(jī)制與信任紐帶，尊重三地制度差異的基礎(chǔ)上推動(dòng)資源整合與機(jī)制協(xié)同，求同存異、互信共治。通過聯(lián)合實(shí)驗(yàn)室平臺(tái)，各方可以聯(lián)合共建安全基礎(chǔ)設(shè)施、技術(shù)評(píng)測(cè)平臺(tái)和數(shù)據(jù)互通機(jī)制，推動(dòng)標(biāo)準(zhǔn)互認(rèn)與結(jié)果共享，減少重復(fù)評(píng)估，提高跨境數(shù)據(jù)流通的效率與可信度。

其次，網(wǎng)絡(luò)安全治理需要從“剛性約束”向“柔性協(xié)同”轉(zhuǎn)變，實(shí)現(xiàn)監(jiān)管與服務(wù)并重。雙向賦能強(qiáng)調(diào)監(jiān)管與企業(yè)間的良性互動(dòng)。另外，該模式的提出也反映出治理體系建設(shè)從單一主體主導(dǎo)轉(zhuǎn)向多元主體共治。

談期待

　　打造國際領(lǐng)先的AI安全研究與創(chuàng)新平臺(tái)

南都：展望未來，您對(duì)AI賦能大灣區(qū)各行業(yè)怎么看？

陳俊龍：在我看來，生成式人工智能將在大灣區(qū)各行業(yè)實(shí)現(xiàn)更深層次、更廣范圍的賦能。一方面，AI將逐步從輔助工具轉(zhuǎn)變?yōu)楹诵囊妫诮鹑?、醫(yī)療、教育、制造、城市治理等重點(diǎn)領(lǐng)域推動(dòng)業(yè)務(wù)流程重構(gòu)與新質(zhì)生產(chǎn)力形成；另一方面，AI系統(tǒng)將更注重安全可控、責(zé)任明確與價(jià)值對(duì)齊，全面融入行業(yè)數(shù)字底座，成為支撐產(chǎn)業(yè)升級(jí)的重要支柱。

南都：您對(duì)聯(lián)合實(shí)驗(yàn)室建設(shè)運(yùn)行有哪些新期待，聯(lián)合實(shí)驗(yàn)室工作如何與AI安全發(fā)展更好契合？

陳俊龍：期待聯(lián)合實(shí)驗(yàn)室能持續(xù)發(fā)揮匯聚各方資源的優(yōu)勢(shì)，打造成為國內(nèi)乃至國際領(lǐng)先的AI安全研究與創(chuàng)新平臺(tái)。為更好契合AI安全發(fā)展的戰(zhàn)略需求，也建議聯(lián)合實(shí)驗(yàn)室進(jìn)一步拓展關(guān)鍵支撐能力。一方面，強(qiáng)化安全技術(shù)的開源共享與生態(tài)孵化能力，帶動(dòng)區(qū)域中小企業(yè)整體安全能力提升，構(gòu)建共建共用、開放協(xié)同的技術(shù)生態(tài)；另一方面，系統(tǒng)布局生成式AI安全人才培養(yǎng)與國際合作機(jī)制，打造高水平、國際化的治理人才梯隊(duì)。同時(shí)，建議探索建設(shè)AI安全事件響應(yīng)與溯源中心，全面提升大灣區(qū)在突發(fā)AI風(fēng)險(xiǎn)應(yīng)對(duì)中的體系化與韌性能力。

聚焦

　　聯(lián)合實(shí)驗(yàn)室能發(fā)揮哪些獨(dú)特作用

粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室承擔(dān)著大灣區(qū)AI產(chǎn)業(yè)生態(tài)“黏合劑”“試驗(yàn)田”的雙重角色。

作為“黏合劑”，聯(lián)合實(shí)驗(yàn)室通過聯(lián)合多方力量，整合各方核心優(yōu)勢(shì)，促進(jìn)政產(chǎn)學(xué)研用深度融合，讓生成式AI安全技術(shù)從研發(fā)端的算法優(yōu)化，到監(jiān)測(cè)端的風(fēng)險(xiǎn)識(shí)別，再到應(yīng)用端的場景防護(hù)形成高效銜接，將構(gòu)建起技術(shù)迭代、風(fēng)險(xiǎn)可控、應(yīng)用有序的生態(tài)良性循環(huán)。同時(shí)作為產(chǎn)業(yè)生態(tài)的“試驗(yàn)田”，聯(lián)合實(shí)驗(yàn)室可以結(jié)合大灣區(qū)高密度應(yīng)用場景，開展全鏈條算法探索和應(yīng)用驗(yàn)證，為行業(yè)升級(jí)探索安全創(chuàng)新路徑。同時(shí)，借助粵港澳協(xié)同優(yōu)勢(shì)，將進(jìn)一步推進(jìn)生成式AI跨境金融安全測(cè)試、跨境醫(yī)療場景驗(yàn)證，以及國際標(biāo)準(zhǔn)對(duì)接與數(shù)據(jù)合規(guī)等方面探索，最終以點(diǎn)帶面推動(dòng)大灣區(qū)形成開放合作、安全可控的生成式AI創(chuàng)新生態(tài)。