中山大學(xué)軟件工程學(xué)院院長(zhǎng)、IEEE(電氣電子工程學(xué)會(huì))會(huì)士、國(guó)際計(jì)算機(jī)學(xué)會(huì)科學(xué)家、聯(lián)合實(shí)驗(yàn)室專家鄭子彬

“以多方協(xié)同機(jī)制實(shí)現(xiàn)監(jiān)管與發(fā)展的雙向平衡，構(gòu)建多場(chǎng)景全鏈條防護(hù)體系，創(chuàng)新AI監(jiān)管模式，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室，將為大灣區(qū)提供兼具國(guó)際視野與本地化適配的AI安全發(fā)展范式?！敝猩酱髮W(xué)軟件工程學(xué)院院長(zhǎng)、IEEE(電氣電子工程學(xué)會(huì))會(huì)士、國(guó)際計(jì)算機(jī)學(xué)會(huì)科學(xué)家、聯(lián)合實(shí)驗(yàn)室專家鄭子彬接受訪談時(shí)表示，將探索“AI評(píng)測(cè)AI”的工作思路，提升安全評(píng)測(cè)的效率和覆蓋范圍，應(yīng)對(duì)生成式AI快速迭代帶來的新型風(fēng)險(xiǎn)。

談優(yōu)勢(shì)

　　亟待增強(qiáng)大模型可信性

南方都市報(bào)（以下簡(jiǎn)稱“南都”）：應(yīng)對(duì)AI安全風(fēng)險(xiǎn)，大灣區(qū)最迫切需要解決的問題是什么？聯(lián)合實(shí)驗(yàn)室在解決這些問題上有哪些資源和優(yōu)勢(shì)？

鄭子彬：粵港澳大灣區(qū)在迎接生成式人工智能高速發(fā)展浪潮的同時(shí)，也首當(dāng)其沖地面臨新型安全風(fēng)險(xiǎn)。在這些風(fēng)險(xiǎn)中，最迫切的“牛鼻子”問題，就是如何科學(xué)、精準(zhǔn)、高效地評(píng)測(cè)并持續(xù)增強(qiáng)大模型輸出內(nèi)容的可信性。比如，要降低幻覺程度，防止大模型憑空捏造事實(shí)、誤導(dǎo)用戶；又如，要持續(xù)提升大模型輸出內(nèi)容合規(guī)水準(zhǔn)，確保輸出結(jié)果符合法律法規(guī)、社會(huì)倫理及行業(yè)監(jiān)管紅線。只有把“可信性”短板補(bǔ)齊，才能讓生成式AI在大灣區(qū)的金融、醫(yī)療、政務(wù)、教育等高敏感場(chǎng)景真正落地。聯(lián)合實(shí)驗(yàn)室在解決這些問題上的獨(dú)特的資源和優(yōu)勢(shì)在于其獨(dú)一無二的“資源拼圖”。既有政府主導(dǎo)，將頂層政策導(dǎo)向、監(jiān)管需求與一線研發(fā)絲滑銜接；也有騰訊等頭部企業(yè)提供實(shí)戰(zhàn)場(chǎng)景與算力支持；還有中山大學(xué)等高校提供安全可信與量化評(píng)級(jí)科研能力。各方資源在同一平臺(tái)上高頻碰撞、快速迭代，為破解大模型幻覺與合規(guī)等難題提供了別處無法復(fù)制的“大灣區(qū)方案”。

談產(chǎn)業(yè)

　　全面升級(jí)大模型可信能力評(píng)測(cè)

南都：科學(xué)精準(zhǔn)高效的人工智能安全評(píng)測(cè)是應(yīng)對(duì)AI安全風(fēng)險(xiǎn)的一條路徑，目前粵港澳大灣區(qū)在這方面已有哪些基礎(chǔ)？

鄭子彬：建立覆蓋各類安全風(fēng)險(xiǎn)的百萬級(jí)安全測(cè)試題庫，訓(xùn)練大模型安全智能評(píng)測(cè)引擎等工作，都將分階段開展。在此過程中，我們將探索一種“技術(shù)對(duì)抗技術(shù)”“AI評(píng)測(cè)AI”的工作思路，這一思路能顯著提升安全評(píng)測(cè)的效率和覆蓋范圍，尤其適用于應(yīng)對(duì)生成式AI快速迭代帶來的新型風(fēng)險(xiǎn)。

聯(lián)合實(shí)驗(yàn)室以《人工智能安全治理框架》中“包容審慎、確保安全，風(fēng)險(xiǎn)導(dǎo)向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對(duì)，開放合作、共治共享”的原則為核心，融合技術(shù)防護(hù)與治理規(guī)范雙重舉措，將研究制定對(duì)標(biāo)該框架的大模型安全可信及量化評(píng)級(jí)評(píng)測(cè)體系。該體系進(jìn)一步結(jié)合《生成式人工智能服務(wù)管理暫行辦法》《生成式人工智能服務(wù)安全基本要求》兩大法規(guī)標(biāo)準(zhǔn)，從價(jià)值對(duì)齊、安全可控、能力可靠三大核心方向切入，實(shí)現(xiàn)對(duì)大模型生成內(nèi)容及行為的全場(chǎng)景、多維度全面評(píng)估。

此外，聯(lián)合實(shí)驗(yàn)室還將發(fā)布“大模型可信能力評(píng)測(cè)排行榜2.0”，在前期評(píng)測(cè)框架的基礎(chǔ)上進(jìn)行了全面升級(jí)，從評(píng)測(cè)大類、細(xì)分維度、行業(yè)適配性等多個(gè)方面優(yōu)化，形成更科學(xué)、更動(dòng)態(tài)、更具實(shí)踐指導(dǎo)意義的評(píng)測(cè)體系。

南都：除了評(píng)測(cè)體系，標(biāo)準(zhǔn)的建立亦是聯(lián)合實(shí)驗(yàn)室的工作規(guī)劃之一。人工智能行業(yè)安全發(fā)展標(biāo)準(zhǔn)體系應(yīng)涵蓋哪些核心內(nèi)容？

鄭子彬：聯(lián)合實(shí)驗(yàn)室將制定行業(yè)安全發(fā)展標(biāo)準(zhǔn)，形成屬地化安全標(biāo)準(zhǔn)體系。一個(gè)健全的標(biāo)準(zhǔn)體系應(yīng)至少涵蓋數(shù)據(jù)安全與隱私、內(nèi)容安全可信與倫理合規(guī)、模型透明度與可解釋性以及安全應(yīng)急響應(yīng)等核心維度。

具體而言，可以對(duì)金融、醫(yī)療、自動(dòng)駕駛等高危領(lǐng)域執(zhí)行強(qiáng)制性標(biāo)準(zhǔn)；對(duì)大量創(chuàng)新應(yīng)用則提供安全的測(cè)試空間，允許其在可控環(huán)境中試錯(cuò)和迭代，實(shí)現(xiàn)發(fā)展與安全的動(dòng)態(tài)平衡。這符合大灣區(qū)多元、活躍的產(chǎn)業(yè)特點(diǎn)。

談趨勢(shì)

　　高校對(duì)人才培養(yǎng)模式做了系統(tǒng)性革新

南都：在AI治理過程中，協(xié)調(diào)各方資源形成合力是趨勢(shì)所在，您覺得各方角色如何定義？

鄭子彬：在AI治理過程中，政府部門應(yīng)發(fā)揮引導(dǎo)和監(jiān)管作用，比如出臺(tái)相關(guān)政策鼓勵(lì)A(yù)I安全技術(shù)研發(fā)，對(duì)不合規(guī)行為進(jìn)行監(jiān)督管理；高校和科研機(jī)構(gòu)負(fù)責(zé)理論研究和專業(yè)人才培育，為AI安全發(fā)展提供智力支撐；企業(yè)作為技術(shù)研發(fā)和應(yīng)用主體，需要將科研成果轉(zhuǎn)化為實(shí)際產(chǎn)品和服務(wù)，并在實(shí)踐中不斷反饋問題，以幫助科研優(yōu)化；行業(yè)協(xié)會(huì)等組織可以搭建交流平臺(tái)，組織各方進(jìn)行技術(shù)研討和經(jīng)驗(yàn)分享，促進(jìn)信息互通。建議各方定期開展合作會(huì)議，共同制定發(fā)展規(guī)劃和解決方案，以此來協(xié)調(diào)資源形成治理合力。而聯(lián)合實(shí)驗(yàn)室的成立對(duì)于協(xié)調(diào)各方資源形成治理合力能起到重要的作用。

南都：高校在課程設(shè)置、實(shí)踐教學(xué)等方面做了哪些調(diào)整和創(chuàng)新，以確保人才能夠滿足大灣區(qū)日益增長(zhǎng)的AI安全發(fā)展需求？

鄭子彬：在大灣區(qū)的AI產(chǎn)業(yè)浪潮中，高校對(duì)人才培養(yǎng)模式做了系統(tǒng)性革新。一方面，在課程體系中深度融入AI倫理、法律與治理模塊，開設(shè)《可信人工智能》等核心課程，讓學(xué)生既掌握技術(shù)又理解技術(shù)背后的社會(huì)責(zé)任。同時(shí)，高校積極組織學(xué)生參與全國(guó)性AI安全競(jìng)賽，通過以賽促學(xué)的方式，在對(duì)抗演練中提升實(shí)戰(zhàn)能力。另一方面，鼓勵(lì)高校與騰訊等企業(yè)建立聯(lián)合實(shí)訓(xùn)基地，讓學(xué)生直面產(chǎn)業(yè)一線的安全挑戰(zhàn)，使他們?cè)谛Ｆ陂g就能積累前沿的實(shí)戰(zhàn)經(jīng)驗(yàn)。

南都：展望未來，您對(duì)聯(lián)合實(shí)驗(yàn)室的建設(shè)運(yùn)行有哪些期待？

鄭子彬：一是希望聯(lián)合實(shí)驗(yàn)室能成為國(guó)家級(jí)AI安全評(píng)測(cè)標(biāo)桿平臺(tái)，推動(dòng)中國(guó)AI治理模式走向國(guó)際；二是希望構(gòu)建可持續(xù)演進(jìn)的可信生態(tài)，不僅評(píng)測(cè)模型，更推動(dòng)模型迭代與產(chǎn)業(yè)優(yōu)化；三是希望聯(lián)合實(shí)驗(yàn)室能輸出灣區(qū)經(jīng)驗(yàn)，為全球AI治理提供“大灣區(qū)方案”，真正實(shí)現(xiàn)“以人為本、向善而行”的AI發(fā)展愿景。

聚焦

　　聯(lián)合實(shí)驗(yàn)室能發(fā)揮哪些獨(dú)特作用

粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室具備頂層設(shè)計(jì)優(yōu)勢(shì)，整合企業(yè)、高校、科研機(jī)構(gòu)及媒體資源，形成“政產(chǎn)學(xué)研用”協(xié)同機(jī)制，實(shí)現(xiàn)監(jiān)管與發(fā)展的雙向平衡；另一方面，具有技術(shù)生態(tài)優(yōu)勢(shì)，依托騰訊等企業(yè)的產(chǎn)業(yè)引擎能力和中山大學(xué)等高校的科研積累，構(gòu)建多場(chǎng)景的全鏈條防護(hù)體系；此外，還有模式創(chuàng)新優(yōu)勢(shì)，通過建立安全標(biāo)準(zhǔn)等監(jiān)管新模式，為大灣區(qū)提供兼具國(guó)際視野與本地化適配的AI安全發(fā)展范式，強(qiáng)化跨境數(shù)據(jù)流動(dòng)治理與安全可控能力。