廣州大學網(wǎng)絡空間安全學院二級教授、粵語語料庫建設與大模型評測廣州市重點實驗室主任、聯(lián)合實驗室專家 齊佳音

“聯(lián)合實驗室將集中發(fā)力建設大灣區(qū)安全語料庫，形成全球粵語語料庫高地，利好人工智能發(fā)展。”廣州大學網(wǎng)絡空間安全學院二級教授、粵語語料庫建設與大模型評測廣州市重點實驗室主任、聯(lián)合實驗室專家齊佳音接受南都訪談時表示，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室(簡稱“聯(lián)合實驗室”)將在“政產(chǎn)學研用”融合攻關(guān)下，探索出一套高效、經(jīng)濟、一致的生成式AI安全發(fā)展的大灣區(qū)模式。

談優(yōu)勢

　　以灣區(qū)協(xié)同機制推動AI治理

南方都市報（以下簡稱“南都”）：在您看來，聯(lián)合實驗室在大灣區(qū)AI產(chǎn)業(yè)生態(tài)構(gòu)建中扮演怎樣的角色？

齊佳音：聯(lián)合實驗室成立意義重大。大灣區(qū)涉及廣東、香港、澳門三地，政府層面的資源調(diào)動機制將更加重要，有了政府層面的主導推動，資源整合的效率將大大提升。另一方面，AI治理涉及多個學科、多個領域，聯(lián)合實驗室則是一個能聚合粵港澳三地政產(chǎn)學研用優(yōu)勢資源來進行科研攻關(guān)的平臺，這不僅有利于攻克生成式AI安全發(fā)展中的普遍性問題，更有利于推動粵港澳三地之間的AI治理協(xié)同，探索出“一國兩制三法域”背景下的生成式AI安全發(fā)展的大灣區(qū)模式，為國際AI治理提供實踐經(jīng)驗。

談挑戰(zhàn)

　　需破解“治理碎片化”難題

南都：生成式AI帶來多維安全風險，粵港澳大灣區(qū)在應對這一安全風險方面面臨哪些特殊挑戰(zhàn)？最迫切需要解決的問題是什么？

齊佳音：生成式AI的安全風險具有多維度、多層次的特征，涉及風險來源、風險類型、風險性質(zhì)以及影響領域等多個方面，各類風險之間相互關(guān)聯(lián)、相互影響。

對于大灣區(qū)而言，涉及內(nèi)地與香港、澳門之間治理規(guī)則的跨境協(xié)同問題。如香港采用“應用為本”和“風險分級”的靈活監(jiān)管，內(nèi)地則有《生成式人工智能服務管理暫行辦法》等強制性規(guī)定。因此，大灣區(qū)的生成式AI安全發(fā)展迫切需要推動大灣區(qū)內(nèi)部在AI治理原則、風險分類分級、高風險應用認定等方面的互認與合作。

在這方面，聯(lián)合實驗室既可發(fā)揮溝通橋梁作用，更能發(fā)揮研發(fā)攻關(guān)作用，通過粵港澳三方的科研合作，逐步拿出可供政策層面實踐的AI治理協(xié)同方案。

南都：除了協(xié)同治理，制定行業(yè)安全發(fā)展標準，形成本地化安全標準體系也是聯(lián)合實驗室的重點任務之一。您認為標準體系應如何滿足大灣區(qū)多元產(chǎn)業(yè)結(jié)構(gòu)的需求？

齊佳音：從AI安全發(fā)展的角度，急需建立關(guān)于AI安全分類分級的實踐標準，可以根據(jù)大灣區(qū)產(chǎn)業(yè)特點，優(yōu)先考慮教育、醫(yī)療、金融等領域的AI安全分類分級灣區(qū)標準，也就是這些新設立的標準從制訂就應該充分考慮到在大灣區(qū)的一致性認定；考慮到大灣區(qū)也是智能制造高地，要特別關(guān)注具身智能發(fā)展中迫切需求的安全標準，特別是能夠移動且有可能危害到人類的工業(yè)機器人的相關(guān)產(chǎn)業(yè)安全標準；第三，考慮到大灣區(qū)的獨特背景以及多元化的產(chǎn)業(yè)結(jié)構(gòu)，在推動AI安全發(fā)展的灣區(qū)標準時，要兼顧剛性約束與柔性引導，可先從白皮書、行業(yè)指南、最佳實踐等探索，然后逐步考慮推薦標準，時機成熟后逐步提升約束力。

　　談意義

　　建設高質(zhì)量粵語語料庫

南都：聯(lián)合實驗室將加強生成式人工智能訓練數(shù)據(jù)安全工作，豐富且高質(zhì)量的語料庫對生成式AI在語言處理領域的發(fā)展有哪些重要意義？

齊佳音：生成式人工智能訓練需要大量訓練數(shù)據(jù)，訓練數(shù)據(jù)的質(zhì)量直接影響生成式人工智能的效果。做好訓練數(shù)據(jù)的安全監(jiān)管，就能從源頭上防范生成式人工智能的安全風險。通過聯(lián)合實驗室集中建設安全語料庫對于大灣區(qū)的生成式人工智能企業(yè)是一個重大利好。以前各個企業(yè)分散建設，不僅規(guī)模小，而且還要投入較高的成本；現(xiàn)在由聯(lián)合實驗室統(tǒng)一建設，不僅可以做大規(guī)模，還能極大降低了企業(yè)的安全合規(guī)成本，積極推動大灣區(qū)生成式人工智能發(fā)展。

南都：目前粵港澳大灣區(qū)在安全語料庫建設方面有何基礎？如何進一步優(yōu)化和擴充語料庫，以提升粵語相關(guān)AI應用的準確性和智能化水平？

齊佳音：此前，由廣州市社科聯(lián)、廣州大學牽頭，于2024年11月成立建設粵語語料庫建設與大模型評測廣州市哲學社會科學重點實驗室。經(jīng)過近10個月的建設，完成了通用粵語語料庫平臺的技術(shù)研發(fā)，即將發(fā)布，并向全球開放。同時完成圍繞粵語語料庫的AI開發(fā)生態(tài)構(gòu)建，發(fā)布了一批開放數(shù)據(jù)集，包含粵語大模型訓練問答對數(shù)據(jù)集等；構(gòu)建了圍繞該語料庫平臺的應用商店，上線包括粵語大模型內(nèi)容安全護欄等十余個App；開發(fā)了粵語多模態(tài)語料標注智能化平臺，還完成了嶺南文化精神標識體系的多模態(tài)語料標注規(guī)范，構(gòu)建了用于粵語多模態(tài)大模型安全合規(guī)評估的測試題庫。

目前，我們也參與到聯(lián)合實驗室的粵語語料庫的資源建設中，后續(xù)將在聯(lián)合實驗室的統(tǒng)一協(xié)調(diào)下，通過大灣區(qū)的資源支持，以及省級層面的統(tǒng)籌，加快形成與電視臺、出版社、博物館、媒體平臺等的資源共建共享機制，擴大粵語語料庫的資源容量和提升語料質(zhì)量；同時，要加大與產(chǎn)業(yè)界的語料需求進行對接，建立粵語語料供給與粵語語料需求之間的良性機制以促進粵語語料庫建設的可持續(xù)發(fā)展。通過產(chǎn)業(yè)需求帶動粵語語料庫建設，并在這一過程中，根據(jù)具體的場景業(yè)務，不斷提升粵語相關(guān)AI應用的準確性和智能化水平。

聚焦 聯(lián)合實驗室能發(fā)揮哪些獨特作用

粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實驗室通過構(gòu)建“政產(chǎn)學研用”深度融合的創(chuàng)新生態(tài)，圍繞生成式人工智能安全發(fā)展基礎理論、前沿技術(shù)、產(chǎn)業(yè)賦能、監(jiān)管治理開展科研攻關(guān)，目標是使大灣區(qū)成為企業(yè)生成式AI應用安全合規(guī)成本全國最低、安全能力水平全國領先的區(qū)域。而通過聯(lián)合實驗室集中建設安全語料庫對于大灣區(qū)的生成式人工智能企業(yè)是一個重大利好?！?/p>