廣州大學(xué)網(wǎng)絡(luò)空間安全學(xué)院二級(jí)教授、粵語(yǔ)語(yǔ)料庫(kù)建設(shè)與大模型評(píng)測(cè)廣州市重點(diǎn)實(shí)驗(yàn)室主任、聯(lián)合實(shí)驗(yàn)室專家 齊佳音

“聯(lián)合實(shí)驗(yàn)室將集中發(fā)力建設(shè)大灣區(qū)安全語(yǔ)料庫(kù)，形成全球粵語(yǔ)語(yǔ)料庫(kù)高地，利好人工智能發(fā)展?！睆V州大學(xué)網(wǎng)絡(luò)空間安全學(xué)院二級(jí)教授、粵語(yǔ)語(yǔ)料庫(kù)建設(shè)與大模型評(píng)測(cè)廣州市重點(diǎn)實(shí)驗(yàn)室主任、聯(lián)合實(shí)驗(yàn)室專家齊佳音接受南都訪談時(shí)表示，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室(簡(jiǎn)稱“聯(lián)合實(shí)驗(yàn)室”)將在“政產(chǎn)學(xué)研用”融合攻關(guān)下，探索出一套高效、經(jīng)濟(jì)、一致的生成式AI安全發(fā)展的大灣區(qū)模式。

談優(yōu)勢(shì)

　　以灣區(qū)協(xié)同機(jī)制推動(dòng)AI治理

南方都市報(bào)（以下簡(jiǎn)稱“南都”）：在您看來(lái)，聯(lián)合實(shí)驗(yàn)室在大灣區(qū)AI產(chǎn)業(yè)生態(tài)構(gòu)建中扮演怎樣的角色？

齊佳音：聯(lián)合實(shí)驗(yàn)室成立意義重大。大灣區(qū)涉及廣東、香港、澳門三地，政府層面的資源調(diào)動(dòng)機(jī)制將更加重要，有了政府層面的主導(dǎo)推動(dòng)，資源整合的效率將大大提升。另一方面，AI治理涉及多個(gè)學(xué)科、多個(gè)領(lǐng)域，聯(lián)合實(shí)驗(yàn)室則是一個(gè)能聚合粵港澳三地政產(chǎn)學(xué)研用優(yōu)勢(shì)資源來(lái)進(jìn)行科研攻關(guān)的平臺(tái)，這不僅有利于攻克生成式AI安全發(fā)展中的普遍性問(wèn)題，更有利于推動(dòng)粵港澳三地之間的AI治理協(xié)同，探索出“一國(guó)兩制三法域”背景下的生成式AI安全發(fā)展的大灣區(qū)模式，為國(guó)際AI治理提供實(shí)踐經(jīng)驗(yàn)。

談挑戰(zhàn)

　　需破解“治理碎片化”難題

南都：生成式AI帶來(lái)多維安全風(fēng)險(xiǎn)，粵港澳大灣區(qū)在應(yīng)對(duì)這一安全風(fēng)險(xiǎn)方面面臨哪些特殊挑戰(zhàn)？最迫切需要解決的問(wèn)題是什么？

齊佳音：生成式AI的安全風(fēng)險(xiǎn)具有多維度、多層次的特征，涉及風(fēng)險(xiǎn)來(lái)源、風(fēng)險(xiǎn)類型、風(fēng)險(xiǎn)性質(zhì)以及影響領(lǐng)域等多個(gè)方面，各類風(fēng)險(xiǎn)之間相互關(guān)聯(lián)、相互影響。

對(duì)于大灣區(qū)而言，涉及內(nèi)地與香港、澳門之間治理規(guī)則的跨境協(xié)同問(wèn)題。如香港采用“應(yīng)用為本”和“風(fēng)險(xiǎn)分級(jí)”的靈活監(jiān)管，內(nèi)地則有《生成式人工智能服務(wù)管理暫行辦法》等強(qiáng)制性規(guī)定。因此，大灣區(qū)的生成式AI安全發(fā)展迫切需要推動(dòng)大灣區(qū)內(nèi)部在AI治理原則、風(fēng)險(xiǎn)分類分級(jí)、高風(fēng)險(xiǎn)應(yīng)用認(rèn)定等方面的互認(rèn)與合作。

在這方面，聯(lián)合實(shí)驗(yàn)室既可發(fā)揮溝通橋梁作用，更能發(fā)揮研發(fā)攻關(guān)作用，通過(guò)粵港澳三方的科研合作，逐步拿出可供政策層面實(shí)踐的AI治理協(xié)同方案。

南都：除了協(xié)同治理，制定行業(yè)安全發(fā)展標(biāo)準(zhǔn)，形成本地化安全標(biāo)準(zhǔn)體系也是聯(lián)合實(shí)驗(yàn)室的重點(diǎn)任務(wù)之一。您認(rèn)為標(biāo)準(zhǔn)體系應(yīng)如何滿足大灣區(qū)多元產(chǎn)業(yè)結(jié)構(gòu)的需求？

齊佳音：從AI安全發(fā)展的角度，急需建立關(guān)于AI安全分類分級(jí)的實(shí)踐標(biāo)準(zhǔn)，可以根據(jù)大灣區(qū)產(chǎn)業(yè)特點(diǎn)，優(yōu)先考慮教育、醫(yī)療、金融等領(lǐng)域的AI安全分類分級(jí)灣區(qū)標(biāo)準(zhǔn)，也就是這些新設(shè)立的標(biāo)準(zhǔn)從制訂就應(yīng)該充分考慮到在大灣區(qū)的一致性認(rèn)定；考慮到大灣區(qū)也是智能制造高地，要特別關(guān)注具身智能發(fā)展中迫切需求的安全標(biāo)準(zhǔn)，特別是能夠移動(dòng)且有可能危害到人類的工業(yè)機(jī)器人的相關(guān)產(chǎn)業(yè)安全標(biāo)準(zhǔn)；第三，考慮到大灣區(qū)的獨(dú)特背景以及多元化的產(chǎn)業(yè)結(jié)構(gòu)，在推動(dòng)AI安全發(fā)展的灣區(qū)標(biāo)準(zhǔn)時(shí)，要兼顧剛性約束與柔性引導(dǎo)，可先從白皮書(shū)、行業(yè)指南、最佳實(shí)踐等探索，然后逐步考慮推薦標(biāo)準(zhǔn)，時(shí)機(jī)成熟后逐步提升約束力。

　　談意義

　　建設(shè)高質(zhì)量粵語(yǔ)語(yǔ)料庫(kù)

南都：聯(lián)合實(shí)驗(yàn)室將加強(qiáng)生成式人工智能訓(xùn)練數(shù)據(jù)安全工作，豐富且高質(zhì)量的語(yǔ)料庫(kù)對(duì)生成式AI在語(yǔ)言處理領(lǐng)域的發(fā)展有哪些重要意義？

齊佳音：生成式人工智能訓(xùn)練需要大量訓(xùn)練數(shù)據(jù)，訓(xùn)練數(shù)據(jù)的質(zhì)量直接影響生成式人工智能的效果。做好訓(xùn)練數(shù)據(jù)的安全監(jiān)管，就能從源頭上防范生成式人工智能的安全風(fēng)險(xiǎn)。通過(guò)聯(lián)合實(shí)驗(yàn)室集中建設(shè)安全語(yǔ)料庫(kù)對(duì)于大灣區(qū)的生成式人工智能企業(yè)是一個(gè)重大利好。以前各個(gè)企業(yè)分散建設(shè)，不僅規(guī)模小，而且還要投入較高的成本；現(xiàn)在由聯(lián)合實(shí)驗(yàn)室統(tǒng)一建設(shè)，不僅可以做大規(guī)模，還能極大降低了企業(yè)的安全合規(guī)成本，積極推動(dòng)大灣區(qū)生成式人工智能發(fā)展。

南都：目前粵港澳大灣區(qū)在安全語(yǔ)料庫(kù)建設(shè)方面有何基礎(chǔ)？如何進(jìn)一步優(yōu)化和擴(kuò)充語(yǔ)料庫(kù)，以提升粵語(yǔ)相關(guān)AI應(yīng)用的準(zhǔn)確性和智能化水平？

齊佳音：此前，由廣州市社科聯(lián)、廣州大學(xué)牽頭，于2024年11月成立建設(shè)粵語(yǔ)語(yǔ)料庫(kù)建設(shè)與大模型評(píng)測(cè)廣州市哲學(xué)社會(huì)科學(xué)重點(diǎn)實(shí)驗(yàn)室。經(jīng)過(guò)近10個(gè)月的建設(shè)，完成了通用粵語(yǔ)語(yǔ)料庫(kù)平臺(tái)的技術(shù)研發(fā)，即將發(fā)布，并向全球開(kāi)放。同時(shí)完成圍繞粵語(yǔ)語(yǔ)料庫(kù)的AI開(kāi)發(fā)生態(tài)構(gòu)建，發(fā)布了一批開(kāi)放數(shù)據(jù)集，包含粵語(yǔ)大模型訓(xùn)練問(wèn)答對(duì)數(shù)據(jù)集等；構(gòu)建了圍繞該語(yǔ)料庫(kù)平臺(tái)的應(yīng)用商店，上線包括粵語(yǔ)大模型內(nèi)容安全護(hù)欄等十余個(gè)App；開(kāi)發(fā)了粵語(yǔ)多模態(tài)語(yǔ)料標(biāo)注智能化平臺(tái)，還完成了嶺南文化精神標(biāo)識(shí)體系的多模態(tài)語(yǔ)料標(biāo)注規(guī)范，構(gòu)建了用于粵語(yǔ)多模態(tài)大模型安全合規(guī)評(píng)估的測(cè)試題庫(kù)。

目前，我們也參與到聯(lián)合實(shí)驗(yàn)室的粵語(yǔ)語(yǔ)料庫(kù)的資源建設(shè)中，后續(xù)將在聯(lián)合實(shí)驗(yàn)室的統(tǒng)一協(xié)調(diào)下，通過(guò)大灣區(qū)的資源支持，以及省級(jí)層面的統(tǒng)籌，加快形成與電視臺(tái)、出版社、博物館、媒體平臺(tái)等的資源共建共享機(jī)制，擴(kuò)大粵語(yǔ)語(yǔ)料庫(kù)的資源容量和提升語(yǔ)料質(zhì)量；同時(shí)，要加大與產(chǎn)業(yè)界的語(yǔ)料需求進(jìn)行對(duì)接，建立粵語(yǔ)語(yǔ)料供給與粵語(yǔ)語(yǔ)料需求之間的良性機(jī)制以促進(jìn)粵語(yǔ)語(yǔ)料庫(kù)建設(shè)的可持續(xù)發(fā)展。通過(guò)產(chǎn)業(yè)需求帶動(dòng)粵語(yǔ)語(yǔ)料庫(kù)建設(shè)，并在這一過(guò)程中，根據(jù)具體的場(chǎng)景業(yè)務(wù)，不斷提升粵語(yǔ)相關(guān)AI應(yīng)用的準(zhǔn)確性和智能化水平。

聚焦 聯(lián)合實(shí)驗(yàn)室能發(fā)揮哪些獨(dú)特作用

粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室通過(guò)構(gòu)建“政產(chǎn)學(xué)研用”深度融合的創(chuàng)新生態(tài)，圍繞生成式人工智能安全發(fā)展基礎(chǔ)理論、前沿技術(shù)、產(chǎn)業(yè)賦能、監(jiān)管治理開(kāi)展科研攻關(guān)，目標(biāo)是使大灣區(qū)成為企業(yè)生成式AI應(yīng)用安全合規(guī)成本全國(guó)最低、安全能力水平全國(guó)領(lǐng)先的區(qū)域。而通過(guò)聯(lián)合實(shí)驗(yàn)室集中建設(shè)安全語(yǔ)料庫(kù)對(duì)于大灣區(qū)的生成式人工智能企業(yè)是一個(gè)重大利好。