中山大學(xué)軟件工程學(xué)院院長、IEEE(電氣電子工程學(xué)會)會士、國際計算機(jī)學(xué)會科學(xué)家、聯(lián)合實驗室專家鄭子彬

“以多方協(xié)同機(jī)制實現(xiàn)監(jiān)管與發(fā)展的雙向平衡，構(gòu)建多場景全鏈條防護(hù)體系，創(chuàng)新AI監(jiān)管模式，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室，將為大灣區(qū)提供兼具國際視野與本地化適配的AI安全發(fā)展范式?！敝猩酱髮W(xué)軟件工程學(xué)院院長、IEEE(電氣電子工程學(xué)會)會士、國際計算機(jī)學(xué)會科學(xué)家、聯(lián)合實驗室專家鄭子彬接受訪談時表示，將探索“AI評測AI”的工作思路，提升安全評測的效率和覆蓋范圍，應(yīng)對生成式AI快速迭代帶來的新型風(fēng)險。

談優(yōu)勢

　　亟待增強(qiáng)大模型可信性

南方都市報（以下簡稱“南都”）：應(yīng)對AI安全風(fēng)險，大灣區(qū)最迫切需要解決的問題是什么？聯(lián)合實驗室在解決這些問題上有哪些資源和優(yōu)勢？

鄭子彬：粵港澳大灣區(qū)在迎接生成式人工智能高速發(fā)展浪潮的同時，也首當(dāng)其沖地面臨新型安全風(fēng)險。在這些風(fēng)險中，最迫切的“牛鼻子”問題，就是如何科學(xué)、精準(zhǔn)、高效地評測并持續(xù)增強(qiáng)大模型輸出內(nèi)容的可信性。比如，要降低幻覺程度，防止大模型憑空捏造事實、誤導(dǎo)用戶；又如，要持續(xù)提升大模型輸出內(nèi)容合規(guī)水準(zhǔn)，確保輸出結(jié)果符合法律法規(guī)、社會倫理及行業(yè)監(jiān)管紅線。只有把“可信性”短板補(bǔ)齊，才能讓生成式AI在大灣區(qū)的金融、醫(yī)療、政務(wù)、教育等高敏感場景真正落地。聯(lián)合實驗室在解決這些問題上的獨特的資源和優(yōu)勢在于其獨一無二的“資源拼圖”。既有政府主導(dǎo)，將頂層政策導(dǎo)向、監(jiān)管需求與一線研發(fā)絲滑銜接；也有騰訊等頭部企業(yè)提供實戰(zhàn)場景與算力支持；還有中山大學(xué)等高校提供安全可信與量化評級科研能力。各方資源在同一平臺上高頻碰撞、快速迭代，為破解大模型幻覺與合規(guī)等難題提供了別處無法復(fù)制的“大灣區(qū)方案”。

談產(chǎn)業(yè)

　　全面升級大模型可信能力評測

南都：科學(xué)精準(zhǔn)高效的人工智能安全評測是應(yīng)對AI安全風(fēng)險的一條路徑，目前粵港澳大灣區(qū)在這方面已有哪些基礎(chǔ)？

鄭子彬：建立覆蓋各類安全風(fēng)險的百萬級安全測試題庫，訓(xùn)練大模型安全智能評測引擎等工作，都將分階段開展。在此過程中，我們將探索一種“技術(shù)對抗技術(shù)”“AI評測AI”的工作思路，這一思路能顯著提升安全評測的效率和覆蓋范圍，尤其適用于應(yīng)對生成式AI快速迭代帶來的新型風(fēng)險。

聯(lián)合實驗室以《人工智能安全治理框架》中“包容審慎、確保安全，風(fēng)險導(dǎo)向、敏捷治理，技管結(jié)合、協(xié)同應(yīng)對，開放合作、共治共享”的原則為核心，融合技術(shù)防護(hù)與治理規(guī)范雙重舉措，將研究制定對標(biāo)該框架的大模型安全可信及量化評級評測體系。該體系進(jìn)一步結(jié)合《生成式人工智能服務(wù)管理暫行辦法》《生成式人工智能服務(wù)安全基本要求》兩大法規(guī)標(biāo)準(zhǔn)，從價值對齊、安全可控、能力可靠三大核心方向切入，實現(xiàn)對大模型生成內(nèi)容及行為的全場景、多維度全面評估。

此外，聯(lián)合實驗室還將發(fā)布“大模型可信能力評測排行榜2.0”，在前期評測框架的基礎(chǔ)上進(jìn)行了全面升級，從評測大類、細(xì)分維度、行業(yè)適配性等多個方面優(yōu)化，形成更科學(xué)、更動態(tài)、更具實踐指導(dǎo)意義的評測體系。

南都：除了評測體系，標(biāo)準(zhǔn)的建立亦是聯(lián)合實驗室的工作規(guī)劃之一。人工智能行業(yè)安全發(fā)展標(biāo)準(zhǔn)體系應(yīng)涵蓋哪些核心內(nèi)容？

鄭子彬：聯(lián)合實驗室將制定行業(yè)安全發(fā)展標(biāo)準(zhǔn)，形成屬地化安全標(biāo)準(zhǔn)體系。一個健全的標(biāo)準(zhǔn)體系應(yīng)至少涵蓋數(shù)據(jù)安全與隱私、內(nèi)容安全可信與倫理合規(guī)、模型透明度與可解釋性以及安全應(yīng)急響應(yīng)等核心維度。

具體而言，可以對金融、醫(yī)療、自動駕駛等高危領(lǐng)域執(zhí)行強(qiáng)制性標(biāo)準(zhǔn)；對大量創(chuàng)新應(yīng)用則提供安全的測試空間，允許其在可控環(huán)境中試錯和迭代，實現(xiàn)發(fā)展與安全的動態(tài)平衡。這符合大灣區(qū)多元、活躍的產(chǎn)業(yè)特點。

談趨勢

　　高校對人才培養(yǎng)模式做了系統(tǒng)性革新

南都：在AI治理過程中，協(xié)調(diào)各方資源形成合力是趨勢所在，您覺得各方角色如何定義？

鄭子彬：在AI治理過程中，政府部門應(yīng)發(fā)揮引導(dǎo)和監(jiān)管作用，比如出臺相關(guān)政策鼓勵A(yù)I安全技術(shù)研發(fā)，對不合規(guī)行為進(jìn)行監(jiān)督管理；高校和科研機(jī)構(gòu)負(fù)責(zé)理論研究和專業(yè)人才培育，為AI安全發(fā)展提供智力支撐；企業(yè)作為技術(shù)研發(fā)和應(yīng)用主體，需要將科研成果轉(zhuǎn)化為實際產(chǎn)品和服務(wù)，并在實踐中不斷反饋問題，以幫助科研優(yōu)化；行業(yè)協(xié)會等組織可以搭建交流平臺，組織各方進(jìn)行技術(shù)研討和經(jīng)驗分享，促進(jìn)信息互通。建議各方定期開展合作會議，共同制定發(fā)展規(guī)劃和解決方案，以此來協(xié)調(diào)資源形成治理合力。而聯(lián)合實驗室的成立對于協(xié)調(diào)各方資源形成治理合力能起到重要的作用。

南都：高校在課程設(shè)置、實踐教學(xué)等方面做了哪些調(diào)整和創(chuàng)新，以確保人才能夠滿足大灣區(qū)日益增長的AI安全發(fā)展需求？

鄭子彬：在大灣區(qū)的AI產(chǎn)業(yè)浪潮中，高校對人才培養(yǎng)模式做了系統(tǒng)性革新。一方面，在課程體系中深度融入AI倫理、法律與治理模塊，開設(shè)《可信人工智能》等核心課程，讓學(xué)生既掌握技術(shù)又理解技術(shù)背后的社會責(zé)任。同時，高校積極組織學(xué)生參與全國性AI安全競賽，通過以賽促學(xué)的方式，在對抗演練中提升實戰(zhàn)能力。另一方面，鼓勵高校與騰訊等企業(yè)建立聯(lián)合實訓(xùn)基地，讓學(xué)生直面產(chǎn)業(yè)一線的安全挑戰(zhàn)，使他們在校期間就能積累前沿的實戰(zhàn)經(jīng)驗。

南都：展望未來，您對聯(lián)合實驗室的建設(shè)運行有哪些期待？

鄭子彬：一是希望聯(lián)合實驗室能成為國家級AI安全評測標(biāo)桿平臺，推動中國AI治理模式走向國際；二是希望構(gòu)建可持續(xù)演進(jìn)的可信生態(tài)，不僅評測模型，更推動模型迭代與產(chǎn)業(yè)優(yōu)化；三是希望聯(lián)合實驗室能輸出灣區(qū)經(jīng)驗，為全球AI治理提供“大灣區(qū)方案”，真正實現(xiàn)“以人為本、向善而行”的AI發(fā)展愿景。

聚焦

　　聯(lián)合實驗室能發(fā)揮哪些獨特作用

粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室具備頂層設(shè)計優(yōu)勢，整合企業(yè)、高校、科研機(jī)構(gòu)及媒體資源，形成“政產(chǎn)學(xué)研用”協(xié)同機(jī)制，實現(xiàn)監(jiān)管與發(fā)展的雙向平衡；另一方面，具有技術(shù)生態(tài)優(yōu)勢，依托騰訊等企業(yè)的產(chǎn)業(yè)引擎能力和中山大學(xué)等高校的科研積累，構(gòu)建多場景的全鏈條防護(hù)體系；此外，還有模式創(chuàng)新優(yōu)勢，通過建立安全標(biāo)準(zhǔn)等監(jiān)管新模式，為大灣區(qū)提供兼具國際視野與本地化適配的AI安全發(fā)展范式，強(qiáng)化跨境數(shù)據(jù)流動治理與安全可控能力?！　?/p>