未來已來。在生成式人工智能迅猛發(fā)展并深刻重塑產(chǎn)業(yè)格局的當下，安全與治理已成為關(guān)乎經(jīng)濟高質(zhì)量發(fā)展、技術(shù)創(chuàng)新可持續(xù)性的核心議題。作為中國開放程度最高、經(jīng)濟活力最強的區(qū)域之一，粵港澳大灣區(qū)正率先探索系統(tǒng)性應(yīng)對之策。
9月15日，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室（以下簡稱“聯(lián)合實驗室”）在河套深港科技創(chuàng)新合作區(qū)正式揭牌。作為適應(yīng)人工智能時代敏捷、彈性、高效的創(chuàng)新治理聯(lián)合體，聯(lián)合實驗室將通過一系列安全服務(wù)舉措，為大灣區(qū)AI產(chǎn)業(yè)的高質(zhì)量發(fā)展注入新動能、提供新支撐。
9月15日，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室在河套深港科技創(chuàng)新合作區(qū)正式揭牌。
適應(yīng)AI時代打造創(chuàng)新治理聯(lián)合體
當前，人工智能已成為全球科技競爭與產(chǎn)業(yè)變革的焦點。作為國家經(jīng)濟發(fā)展與科技創(chuàng)新的重要引擎，粵港澳大灣區(qū)憑借多重優(yōu)勢，已發(fā)展成為國內(nèi)人工智能與機器人產(chǎn)業(yè)鏈最完整、生態(tài)最豐富、應(yīng)用場景最廣泛的集聚區(qū)。
在技術(shù)底座方面，廣東擁有鵬城實驗室、琶洲實驗室等一批高能級科研平臺，以及5家高水平人工智能與先進計算研究院、25個省級以上人工智能開放創(chuàng)新平臺。應(yīng)用場景方面，廣東已發(fā)布首批人工智能終端產(chǎn)品、行業(yè)大模型和應(yīng)用解決方案名單。截至今年9月，全省已完成92款生成式人工智能服務(wù)備案，其中近半為“場景化定制”，在教育、工業(yè)、政務(wù)、交通、農(nóng)業(yè)等領(lǐng)域?qū)崿F(xiàn)深度融合。
然而，生成式人工智能帶來生產(chǎn)力革新的同時，也伴生出新的治理挑戰(zhàn)，數(shù)據(jù)安全、倫理對齊、內(nèi)容治理等問題都有待創(chuàng)新應(yīng)對?！吨泄矎V東省委關(guān)于貫徹落實黨的二十屆三中全會精神進一步全面深化改革、在推進中國式現(xiàn)代化建設(shè)中走在前列的意見》《廣東省推動人工智能與機器人產(chǎn)業(yè)創(chuàng)新發(fā)展若干政策措施》，均明確“加快建設(shè)粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室”。
9月15日，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室正式成立。這是貫徹落實習近平總書記關(guān)于人工智能的重要論述的具體行動，是落實黨的二十屆三中全會精神的重要任務(wù)，是踐行國務(wù)院“人工智能+”行動意見的創(chuàng)新舉措，是省委十三屆五次全會作出的改革部署，更是大灣區(qū)立足“一點兩地”全新定位、以科技創(chuàng)新賦能“一國兩制”實踐的積極探索。
據(jù)聯(lián)合實驗室相關(guān)負責人介紹，其本質(zhì)上是一種為適應(yīng)人工智能時代而構(gòu)建的“動態(tài)敏捷、多元協(xié)同”的創(chuàng)新治理聯(lián)合體。期待能通過探索出一套有效適配粵港澳三地政策、法律與技術(shù)標準的創(chuàng)新機制，為全國乃至全球的跨區(qū)域AI治理提供“大灣區(qū)方案”；通過提升安全能力釋放產(chǎn)業(yè)動能，打造世界級AI產(chǎn)業(yè)集群，驅(qū)動產(chǎn)業(yè)應(yīng)用創(chuàng)新，助力產(chǎn)業(yè)集聚發(fā)展，成為產(chǎn)業(yè)發(fā)展的“安全引擎”和“創(chuàng)新催化劑”；通過構(gòu)建“政產(chǎn)學研用”深度融合、正向循環(huán)的創(chuàng)新生態(tài)，成為打通創(chuàng)新鏈、產(chǎn)業(yè)鏈、人才鏈的連接樞紐，形成一個能夠自我演進、持續(xù)創(chuàng)新的生命共同體；通過建立高效協(xié)同機制，打造共同受益的價值循環(huán)，培育出活躍的生態(tài)社區(qū)，促進大灣區(qū)人工智能產(chǎn)業(yè)健康發(fā)展、向善而行。
服務(wù)企業(yè)，推動產(chǎn)業(yè)加強安全監(jiān)管
目前，全省已布局建設(shè)11個省級人工智能產(chǎn)業(yè)園。廣州、深圳先后獲批國家級人工智能創(chuàng)新應(yīng)用先導區(qū)，廣東成為全國唯一擁有兩個先導區(qū)的省份。產(chǎn)業(yè)規(guī)模方面，廣東人工智能核心產(chǎn)業(yè)規(guī)模突破2200億元，穩(wěn)居全國第一方陣；人工智能核心企業(yè)超1500家，人工智能領(lǐng)域國家專精特新“小巨人”企業(yè)147家，數(shù)量全國第一。
粵港澳大灣區(qū)AI產(chǎn)業(yè)基礎(chǔ)良好、優(yōu)勢突出、前景廣闊，廣大企業(yè)、科研院所大顯身手正當其時。聯(lián)合實驗室將在大灣區(qū)AI產(chǎn)業(yè)生態(tài)構(gòu)建中扮演怎樣的角色？相關(guān)負責人透露，立足粵港澳大灣區(qū)科技創(chuàng)新高地，聯(lián)合實驗室將從三個方面發(fā)揮獨特優(yōu)勢：
一是服務(wù)企業(yè)發(fā)展。為屬地企業(yè)提供覆蓋生成式人工智能全生命周期的安全評估服務(wù)，實現(xiàn)高效精準的風險識別與防控，幫助企業(yè)建立安全管理機制，針對對抗攻擊、數(shù)據(jù)泄露等突出安全風險，提供定制化安全解決方案，助力企業(yè)增強自身安全能力。針對企業(yè)內(nèi)容安全短板，打造純凈基礎(chǔ)語料庫，增強企業(yè)大模型內(nèi)容基礎(chǔ)安全及運行安全。
二是推動產(chǎn)業(yè)落地。打造生成式人工智能賦能千行百業(yè)咨詢平臺，強化屬地大模型企業(yè)和各行業(yè)企業(yè)的鏈接對接，助力大模型企業(yè)精準定位市場，同時為培育新型需求的企業(yè)匹配優(yōu)質(zhì)產(chǎn)品。制定行業(yè)安全發(fā)展標準，形成屬地化安全標準體系，為企業(yè)提供合規(guī)指引，并同步探索與國際標準接軌的認證機制，助力屬地生成式人工智能產(chǎn)品“走出去”。
三是加強安全監(jiān)管。開發(fā)建設(shè)生成式人工智能安全評測系統(tǒng)，加強前瞻評估和監(jiān)測處置，防范模型的黑箱、幻覺、算法歧視等帶來的風險，協(xié)同建立健全人工智能技術(shù)監(jiān)測、風險預(yù)警、應(yīng)急響應(yīng)體系，為“包容審慎、分類分級”監(jiān)管提供有力的技術(shù)支撐，推進人工智能應(yīng)用合規(guī)、透明、可信賴。組織開展人工智能安全知識公益普及活動，提高公眾對人工智能安全的認識，推動形成社會共治格局。
“政產(chǎn)學研用”協(xié)同形成治理合力
據(jù)悉，聯(lián)合實驗室由國家互聯(lián)網(wǎng)應(yīng)急中心作為指導單位，廣東省委網(wǎng)信辦和國家互聯(lián)網(wǎng)應(yīng)急中心廣東分中心聯(lián)合牽頭，粵港澳有關(guān)部門、AI應(yīng)用龍頭企業(yè)和AI專精特新企業(yè)、高校、科研機構(gòu)和主流媒體共同參與建設(shè)，將構(gòu)建起“技術(shù)協(xié)同+敏捷治理+傳播服務(wù)”的全新治理模式。建設(shè)運行過程中，聯(lián)合實驗室將協(xié)調(diào)各方資源，形成治理合力。
聯(lián)合實驗室相關(guān)負責人介紹，聯(lián)合實驗室將以企業(yè)為主，多方共同參與運行，充分利用本土人才，構(gòu)建企業(yè)主導的產(chǎn)學研用協(xié)同創(chuàng)新體系，形成“政府引導+依托企業(yè)+產(chǎn)學協(xié)同”的建設(shè)模式，共同推動大灣區(qū)生成式人工智能安全健康有序發(fā)展。
聚焦企業(yè)面臨的實際困難和長期發(fā)展需要，將聯(lián)合開展科研攻關(guān)，統(tǒng)籌大灣區(qū)生成式人工智能領(lǐng)域資源，整合技術(shù)和人文，用好產(chǎn)業(yè)界、學術(shù)界技術(shù)力量，匯聚哲學、心理學、語言學等人文學科人才，探索建立跨學科、跨領(lǐng)域的聯(lián)合攻關(guān)模式，圍繞生成式人工智能安全發(fā)展基礎(chǔ)理論、前沿技術(shù)、治理管理開展科研攻關(guān)。充分發(fā)揮粵港澳大灣區(qū)獨特優(yōu)勢，用好港澳國際科研合作網(wǎng)絡(luò)，利用港澳國際化、市場化優(yōu)勢，調(diào)動、整合全球優(yōu)秀人才、先進技術(shù)助力大灣區(qū)生成式人工智能發(fā)展。
此外，聯(lián)合實驗室還將視情在香港、澳門、廣州、珠海、東莞等地設(shè)立地方服務(wù)站。地方服務(wù)站負責對接地方具體工作并面向社會提供政策咨詢、技術(shù)評測等安全相關(guān)服務(wù)，支持相關(guān)產(chǎn)業(yè)園區(qū)生成式人工智能領(lǐng)域企業(yè)發(fā)展、產(chǎn)業(yè)落地等工作。
回應(yīng)AI治理挑戰(zhàn)探索系統(tǒng)性解決方案
當下，AI安全風險正呈現(xiàn)跨領(lǐng)域、復合型、動態(tài)化特征。如在技術(shù)層面存在動態(tài)演化的黑盒風險，生成式AI的隨機性輸出導致傳統(tǒng)安全防護失效，傳統(tǒng)規(guī)則引擎無法覆蓋大模型深度偽造內(nèi)容、隱蔽性數(shù)據(jù)泄露等風險。在生態(tài)層面存在產(chǎn)業(yè)安全能力斷層，多數(shù)市場主體（尤其是中小微企業(yè)）的安全防御技術(shù)儲備不足。而在治理層面，面臨跨區(qū)域安全治理協(xié)同不足、多重合規(guī)壁壘等問題。
據(jù)了解，通過資源整合與機制創(chuàng)新，聯(lián)合實驗室將探索系統(tǒng)性解決方案。
聯(lián)合實驗室已初步研究出一套“安全可信+量化評級”的服務(wù)行業(yè)框架,以權(quán)威性、公平性、前瞻性為準則，將定期對國內(nèi)外主流的大模型進行六大方面36個維度的深入評測，發(fā)現(xiàn)內(nèi)在隱患、甄別存在不足、提出客觀建議，以幫助大模型企業(yè)及時修復不足、降低合規(guī)成本、健康有序發(fā)展。
在標準協(xié)同方面，聯(lián)合實驗室將整合粵港澳政府、高校、科研機構(gòu)及龍頭企業(yè)資源，積極推動國家相關(guān)標準與區(qū)域法規(guī)的適配轉(zhuǎn)化，構(gòu)建安全評估體系，為建立區(qū)域統(tǒng)一的安全標準提供實踐支撐。
在技術(shù)防御方面，聯(lián)合實驗室將依托騰訊等的算力支撐、中山大學等高校的科研力量、深信服等專業(yè)能力，推動安全防護技術(shù)的進步，向中小微企業(yè)輸出輕量化防御方案，降低技術(shù)應(yīng)用門檻。
構(gòu)建AI安全發(fā)展標準體系訓練大模型安全智能評測引擎
在傳統(tǒng)“事后監(jiān)管”模式難以應(yīng)對復雜挑戰(zhàn)的現(xiàn)今，構(gòu)建生成式人工智能安全評測體系與產(chǎn)業(yè)監(jiān)管的深度融合機制，也將成為保障社會經(jīng)濟穩(wěn)定運行的關(guān)鍵舉措。
據(jù)了解，聯(lián)合實驗室將構(gòu)建分級分類的標準體系，其中的AI安全評測體系將建立“基礎(chǔ)共性+行業(yè)特性”的雙層標準架構(gòu)，實現(xiàn)與產(chǎn)業(yè)監(jiān)管的精準對接，包括結(jié)合大灣區(qū)特點轉(zhuǎn)化形成區(qū)域統(tǒng)一的評測基準、針對不同產(chǎn)業(yè)特性制定差異化評測指標。
同時，將構(gòu)建多元參與的生態(tài)體系，形成從基礎(chǔ)研究到產(chǎn)業(yè)應(yīng)用的完整鏈條。此外，還將不斷提升技術(shù)迭代賦能監(jiān)管能力，建設(shè)本地化安全評測系統(tǒng)、訓練智能評測引擎等核心能力，形成覆蓋模型全生命周期的安全防護體系。
對于人工智能安全標準體系，聯(lián)合實驗室相關(guān)負責人介紹表示，其核心內(nèi)容將涵蓋從基礎(chǔ)理論到具體應(yīng)用的全生命周期安全要求，包括基礎(chǔ)共性標準、安全管理標準、關(guān)鍵技術(shù)標準、測試評估標準、產(chǎn)品與應(yīng)用標準、數(shù)據(jù)、算法和模型安全、安全管理與服務(wù)、安全測試與評估、安全治理與倫理等九大方面，旨在保障人工智能技術(shù)的安全、可靠和可控發(fā)展。
對于大模型安全智能評測引擎，該負責人表示，廣東備案大模型服務(wù)已近百款，目前還保持著快速上升態(tài)勢，依靠傳統(tǒng)以人工為主的測試評估方式難以與之適配。因此，聯(lián)合實驗室創(chuàng)新性提出“AI評測AI”的思路，以智能應(yīng)對智能，以技術(shù)管控技術(shù)，構(gòu)建能夠自動化、智能化評測大模型的安全智能評測引擎。
據(jù)了解，測試題集自動生成、測試結(jié)果自動研判是安全智能評測引擎的兩個重要組成部分，測試題集用來生成大模型服務(wù)的輸入內(nèi)容，特別是模擬具有不同價值體系和具有惡意攻擊目的的用戶提問，結(jié)果研判則是用來評判大模型回答是否符合社會主義核心價值觀和其它法律法規(guī)要求。測試題集自動生成、測試結(jié)果自動研判的組合正好覆蓋了大模型服務(wù)一進一出兩部分內(nèi)容，這將大大降低人力消耗，從而實現(xiàn)大模型全流程自動化、智能化的閉環(huán)評測效果。
“希望通過這個自研的智能評測引擎，能為人工智能在粵港澳大灣區(qū)海量應(yīng)用場景‘落地生根’中保駕護航，通過應(yīng)用的規(guī)?；铀偌夹g(shù)能力的迭代，形成‘越用越好用’”的正循環(huán)。”聯(lián)合實驗室負責人表示。
具有大灣區(qū)特色的人工智能治理新范式，正在旺盛展開。“政產(chǎn)學研用”深度融合，生成式人工智能產(chǎn)業(yè)向安全、高效、集群化發(fā)展的未來值得期待。
監(jiān)制：戎明昌 劉江濤
策劃：王衛(wèi)國 鄒瑩
統(tǒng)籌：凌慧珊 李偉鋒 陳實 付可 關(guān)健明
撰文：南都研究員 李偉鋒 孔令旖 唐靜怡 陳袁 謝小清
南都N視頻記者 熊潤淼 袁炯賢 伍曼娜 曾俊豪
視頻：陳杰豪 趙炎雄 冷鋒
視效：AI數(shù)據(jù)工作室 張許君 郭文哲 原毅
設(shè)計：林泳希 尹潔琳 蔡沐晗 嚴麗萍
實習生：朱愷熙 程佳麗
出品：南都大數(shù)據(jù)研究院>
