發(fā)布時(shí)間:2025-09-16 來(lái)源:赤身露體網(wǎng)作者:酸奶12121
“將安全可控理念貫穿于AI智能體研發(fā)全生命周期”“政產(chǎn)學(xué)研用協(xié)同推進(jìn),加快建立AI智能體安全標(biāo)準(zhǔn)體系”……9月15日,在2025年廣州市網(wǎng)絡(luò)安全宣傳周啟動(dòng)儀式上,8家單位共同發(fā)出“AI智能體安全發(fā)展倡議”,呼吁筑牢技術(shù)研發(fā)安全底線(xiàn)、構(gòu)建標(biāo)準(zhǔn)規(guī)范引領(lǐng)體系、推動(dòng)產(chǎn)業(yè)生態(tài)安全共治、深化應(yīng)用治理協(xié)同聯(lián)動(dòng)、強(qiáng)化安全人才培育根基和促進(jìn)安全知識(shí)普惠普及。
當(dāng)前,國(guó)家“人工智能+”行動(dòng)正深入推進(jìn),AI技術(shù)與實(shí)體經(jīng)濟(jì)加速融合。隨著技術(shù)的不斷進(jìn)步,智能體的越權(quán)、過(guò)度代理等新型風(fēng)險(xiǎn)也逐漸顯現(xiàn)。推動(dòng)AI智能體安全、可靠、可控、可審計(jì)的發(fā)展,不僅是科技界的責(zé)任,更需要政府、企業(yè)、學(xué)界和公眾的共同參與,共筑防線(xiàn)。
在啟動(dòng)儀式上,廣州市網(wǎng)絡(luò)安全產(chǎn)業(yè)促進(jìn)會(huì)、廣州互聯(lián)網(wǎng)協(xié)會(huì),南都大數(shù)據(jù)研究院、中山大學(xué)網(wǎng)絡(luò)空間安全學(xué)院,琶洲實(shí)驗(yàn)室、暨南大學(xué)人工智能產(chǎn)業(yè)學(xué)院,以及廣州市動(dòng)悅信息技術(shù)有限公司、廣州小鵬汽車(chē)科技有限公司、廣東領(lǐng)信數(shù)科信息技術(shù)有限公司等產(chǎn)學(xué)研用代表,共同按下啟動(dòng)鍵,發(fā)出“AI智能體安全發(fā)展倡議”。
此次活動(dòng)由廣州市委宣傳部、市委網(wǎng)信辦、市教育局、市工業(yè)和信息化局、市公安局、市文化廣電旅游局、市國(guó)資委、市政務(wù)服務(wù)和數(shù)據(jù)管理局、市總工會(huì)、團(tuán)市委、市婦聯(lián)、中國(guó)人民銀行廣東省分行聯(lián)合主辦,南方都市報(bào)社、南都大數(shù)據(jù)研究院承辦,廣州市網(wǎng)絡(luò)安全產(chǎn)業(yè)促進(jìn)會(huì)、廣州互聯(lián)網(wǎng)協(xié)會(huì)支持。
多家單位代表共同發(fā)出“AI智能體安全發(fā)展倡議”。
“AI智能體安全發(fā)展倡議”內(nèi)容
一、筑牢技術(shù)研發(fā)安全底線(xiàn)。
我們倡議,將安全可控理念貫穿于AI智能體研發(fā)全生命周期。優(yōu)先采用“設(shè)計(jì)即安全”技術(shù),內(nèi)置主動(dòng)防御機(jī)制,推動(dòng)智能體行為透明、意圖清晰,從源頭遏制安全風(fēng)險(xiǎn),為技術(shù)創(chuàng)新保駕護(hù)航。
二、構(gòu)建標(biāo)準(zhǔn)規(guī)范引領(lǐng)體系。
我們倡議,“政產(chǎn)學(xué)研用”協(xié)同推進(jìn),加快建立AI智能體安全標(biāo)準(zhǔn)體系。支持廣州探索制定AI智能體安全發(fā)展標(biāo)準(zhǔn)規(guī)范,推動(dòng)標(biāo)準(zhǔn)國(guó)際化對(duì)接,在全球競(jìng)爭(zhēng)贏得安全話(huà)語(yǔ)權(quán)與規(guī)則制定權(quán)。
三、推動(dòng)產(chǎn)業(yè)生態(tài)安全共治。
我們倡議,產(chǎn)業(yè)鏈上下游企業(yè)攜手建立風(fēng)險(xiǎn)共擔(dān)、信息共享的安全聯(lián)盟。共建AI安全漏洞庫(kù)、威脅信息共享平臺(tái),建立應(yīng)急響應(yīng)協(xié)同機(jī)制,鼓勵(lì)頭部企業(yè)開(kāi)放安全工具鏈,賦能中小企業(yè),形成以大帶小、以點(diǎn)帶面的產(chǎn)業(yè)安全防線(xiàn)。
四、深化應(yīng)用治理協(xié)同聯(lián)動(dòng)。
我們倡議,建立健全敏捷、高效的風(fēng)險(xiǎn)監(jiān)管與治理框架。發(fā)展高風(fēng)險(xiǎn)應(yīng)用時(shí)嚴(yán)格實(shí)施安全影響與倫理評(píng)估,鼓勵(lì)采用創(chuàng)新模式平衡創(chuàng)新發(fā)展與安全可控,推動(dòng)建立跨部門(mén)、跨區(qū)域的協(xié)同監(jiān)管機(jī)制,助力AI智能體服務(wù)造福社會(huì)。
五、強(qiáng)化安全人才培育根基。
我們倡議,大力推動(dòng)AI安全學(xué)科建設(shè)與人才培養(yǎng)。支持校企共建實(shí)訓(xùn)基地,開(kāi)設(shè)專(zhuān)門(mén)課程,培育復(fù)合型人才,舉辦高水平安全競(jìng)賽與研討,打造產(chǎn)業(yè)人才高地,為廣州乃至大灣區(qū)的AI安全發(fā)展提供堅(jiān)實(shí)智力支撐。
六、促進(jìn)安全知識(shí)普惠普及。
我們倡議,積極開(kāi)展網(wǎng)絡(luò)安全素養(yǎng)提升行動(dòng),增強(qiáng)公眾對(duì)AI風(fēng)險(xiǎn)認(rèn)識(shí)與防范能力。鼓勵(lì)企業(yè)發(fā)布通俗易懂的安全白皮書(shū),提升產(chǎn)品透明度,營(yíng)造全社會(huì)懂AI、安全用AI的良好氛圍,筑牢人工智能發(fā)展的社會(huì)信任根基。
出品:南都大數(shù)據(jù)研究院
統(tǒng)籌:凌慧珊 袁炯賢
采寫(xiě):南都N視頻記者 袁炯賢 研究員 麥潔瑩 方曉林
攝影:鐘銳鈞 攝像:徐坤偉 劉暢