廣州大學(xué)網(wǎng)絡(luò)空間安全學(xué)院二級教授、粵語語料庫建設(shè)與大模型評測廣州市重點(diǎn)實(shí)驗(yàn)室主任、聯(lián)合實(shí)驗(yàn)室專家 齊佳音

“聯(lián)合實(shí)驗(yàn)室將集中發(fā)力建設(shè)大灣區(qū)安全語料庫，形成全球粵語語料庫高地，利好人工智能發(fā)展?！睆V州大學(xué)網(wǎng)絡(luò)空間安全學(xué)院二級教授、粵語語料庫建設(shè)與大模型評測廣州市重點(diǎn)實(shí)驗(yàn)室主任、聯(lián)合實(shí)驗(yàn)室專家齊佳音接受南都訪談時表示，粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室(簡稱“聯(lián)合實(shí)驗(yàn)室”)將在“政產(chǎn)學(xué)研用”融合攻關(guān)下，探索出一套高效、經(jīng)濟(jì)、一致的生成式AI安全發(fā)展的大灣區(qū)模式。

談優(yōu)勢

　　以灣區(qū)協(xié)同機(jī)制推動AI治理

南方都市報（以下簡稱“南都”）：在您看來，聯(lián)合實(shí)驗(yàn)室在大灣區(qū)AI產(chǎn)業(yè)生態(tài)構(gòu)建中扮演怎樣的角色？

齊佳音：聯(lián)合實(shí)驗(yàn)室成立意義重大。大灣區(qū)涉及廣東、香港、澳門三地，政府層面的資源調(diào)動機(jī)制將更加重要，有了政府層面的主導(dǎo)推動，資源整合的效率將大大提升。另一方面，AI治理涉及多個學(xué)科、多個領(lǐng)域，聯(lián)合實(shí)驗(yàn)室則是一個能聚合粵港澳三地政產(chǎn)學(xué)研用優(yōu)勢資源來進(jìn)行科研攻關(guān)的平臺，這不僅有利于攻克生成式AI安全發(fā)展中的普遍性問題，更有利于推動粵港澳三地之間的AI治理協(xié)同，探索出“一國兩制三法域”背景下的生成式AI安全發(fā)展的大灣區(qū)模式，為國際AI治理提供實(shí)踐經(jīng)驗(yàn)。

談挑戰(zhàn)

　　需破解“治理碎片化”難題

南都：生成式AI帶來多維安全風(fēng)險，粵港澳大灣區(qū)在應(yīng)對這一安全風(fēng)險方面面臨哪些特殊挑戰(zhàn)？最迫切需要解決的問題是什么？

齊佳音：生成式AI的安全風(fēng)險具有多維度、多層次的特征，涉及風(fēng)險來源、風(fēng)險類型、風(fēng)險性質(zhì)以及影響領(lǐng)域等多個方面，各類風(fēng)險之間相互關(guān)聯(lián)、相互影響。

對于大灣區(qū)而言，涉及內(nèi)地與香港、澳門之間治理規(guī)則的跨境協(xié)同問題。如香港采用“應(yīng)用為本”和“風(fēng)險分級”的靈活監(jiān)管，內(nèi)地則有《生成式人工智能服務(wù)管理暫行辦法》等強(qiáng)制性規(guī)定。因此，大灣區(qū)的生成式AI安全發(fā)展迫切需要推動大灣區(qū)內(nèi)部在AI治理原則、風(fēng)險分類分級、高風(fēng)險應(yīng)用認(rèn)定等方面的互認(rèn)與合作。

在這方面，聯(lián)合實(shí)驗(yàn)室既可發(fā)揮溝通橋梁作用，更能發(fā)揮研發(fā)攻關(guān)作用，通過粵港澳三方的科研合作，逐步拿出可供政策層面實(shí)踐的AI治理協(xié)同方案。

南都：除了協(xié)同治理，制定行業(yè)安全發(fā)展標(biāo)準(zhǔn)，形成本地化安全標(biāo)準(zhǔn)體系也是聯(lián)合實(shí)驗(yàn)室的重點(diǎn)任務(wù)之一。您認(rèn)為標(biāo)準(zhǔn)體系應(yīng)如何滿足大灣區(qū)多元產(chǎn)業(yè)結(jié)構(gòu)的需求？

齊佳音：從AI安全發(fā)展的角度，急需建立關(guān)于AI安全分類分級的實(shí)踐標(biāo)準(zhǔn)，可以根據(jù)大灣區(qū)產(chǎn)業(yè)特點(diǎn)，優(yōu)先考慮教育、醫(yī)療、金融等領(lǐng)域的AI安全分類分級灣區(qū)標(biāo)準(zhǔn)，也就是這些新設(shè)立的標(biāo)準(zhǔn)從制訂就應(yīng)該充分考慮到在大灣區(qū)的一致性認(rèn)定；考慮到大灣區(qū)也是智能制造高地，要特別關(guān)注具身智能發(fā)展中迫切需求的安全標(biāo)準(zhǔn)，特別是能夠移動且有可能危害到人類的工業(yè)機(jī)器人的相關(guān)產(chǎn)業(yè)安全標(biāo)準(zhǔn)；第三，考慮到大灣區(qū)的獨(dú)特背景以及多元化的產(chǎn)業(yè)結(jié)構(gòu)，在推動AI安全發(fā)展的灣區(qū)標(biāo)準(zhǔn)時，要兼顧剛性約束與柔性引導(dǎo)，可先從白皮書、行業(yè)指南、最佳實(shí)踐等探索，然后逐步考慮推薦標(biāo)準(zhǔn)，時機(jī)成熟后逐步提升約束力。

　　談意義

　　建設(shè)高質(zhì)量粵語語料庫

南都：聯(lián)合實(shí)驗(yàn)室將加強(qiáng)生成式人工智能訓(xùn)練數(shù)據(jù)安全工作，豐富且高質(zhì)量的語料庫對生成式AI在語言處理領(lǐng)域的發(fā)展有哪些重要意義？

齊佳音：生成式人工智能訓(xùn)練需要大量訓(xùn)練數(shù)據(jù)，訓(xùn)練數(shù)據(jù)的質(zhì)量直接影響生成式人工智能的效果。做好訓(xùn)練數(shù)據(jù)的安全監(jiān)管，就能從源頭上防范生成式人工智能的安全風(fēng)險。通過聯(lián)合實(shí)驗(yàn)室集中建設(shè)安全語料庫對于大灣區(qū)的生成式人工智能企業(yè)是一個重大利好。以前各個企業(yè)分散建設(shè)，不僅規(guī)模小，而且還要投入較高的成本；現(xiàn)在由聯(lián)合實(shí)驗(yàn)室統(tǒng)一建設(shè)，不僅可以做大規(guī)模，還能極大降低了企業(yè)的安全合規(guī)成本，積極推動大灣區(qū)生成式人工智能發(fā)展。

南都：目前粵港澳大灣區(qū)在安全語料庫建設(shè)方面有何基礎(chǔ)？如何進(jìn)一步優(yōu)化和擴(kuò)充語料庫，以提升粵語相關(guān)AI應(yīng)用的準(zhǔn)確性和智能化水平？

齊佳音：此前，由廣州市社科聯(lián)、廣州大學(xué)牽頭，于2024年11月成立建設(shè)粵語語料庫建設(shè)與大模型評測廣州市哲學(xué)社會科學(xué)重點(diǎn)實(shí)驗(yàn)室。經(jīng)過近10個月的建設(shè)，完成了通用粵語語料庫平臺的技術(shù)研發(fā)，即將發(fā)布，并向全球開放。同時完成圍繞粵語語料庫的AI開發(fā)生態(tài)構(gòu)建，發(fā)布了一批開放數(shù)據(jù)集，包含粵語大模型訓(xùn)練問答對數(shù)據(jù)集等；構(gòu)建了圍繞該語料庫平臺的應(yīng)用商店，上線包括粵語大模型內(nèi)容安全護(hù)欄等十余個App；開發(fā)了粵語多模態(tài)語料標(biāo)注智能化平臺，還完成了嶺南文化精神標(biāo)識體系的多模態(tài)語料標(biāo)注規(guī)范，構(gòu)建了用于粵語多模態(tài)大模型安全合規(guī)評估的測試題庫。

目前，我們也參與到聯(lián)合實(shí)驗(yàn)室的粵語語料庫的資源建設(shè)中，后續(xù)將在聯(lián)合實(shí)驗(yàn)室的統(tǒng)一協(xié)調(diào)下，通過大灣區(qū)的資源支持，以及省級層面的統(tǒng)籌，加快形成與電視臺、出版社、博物館、媒體平臺等的資源共建共享機(jī)制，擴(kuò)大粵語語料庫的資源容量和提升語料質(zhì)量；同時，要加大與產(chǎn)業(yè)界的語料需求進(jìn)行對接，建立粵語語料供給與粵語語料需求之間的良性機(jī)制以促進(jìn)粵語語料庫建設(shè)的可持續(xù)發(fā)展。通過產(chǎn)業(yè)需求帶動粵語語料庫建設(shè)，并在這一過程中，根據(jù)具體的場景業(yè)務(wù)，不斷提升粵語相關(guān)AI應(yīng)用的準(zhǔn)確性和智能化水平。

聚焦 聯(lián)合實(shí)驗(yàn)室能發(fā)揮哪些獨(dú)特作用

粵港澳大灣區(qū)生成式人工智能安全發(fā)展聯(lián)合實(shí)驗(yàn)室通過構(gòu)建“政產(chǎn)學(xué)研用”深度融合的創(chuàng)新生態(tài)，圍繞生成式人工智能安全發(fā)展基礎(chǔ)理論、前沿技術(shù)、產(chǎn)業(yè)賦能、監(jiān)管治理開展科研攻關(guān)，目標(biāo)是使大灣區(qū)成為企業(yè)生成式AI應(yīng)用安全合規(guī)成本全國最低、安全能力水平全國領(lǐng)先的區(qū)域。而通過聯(lián)合實(shí)驗(yàn)室集中建設(shè)安全語料庫對于大灣區(qū)的生成式人工智能企業(yè)是一個重大利好?！?/p>