“我和家人說哪怕是視頻電話打過來要錢,無論畫面多么真、聲音多么像,都不要信,就問他我們約定好的問題,看對方怎么回答?!?60集團(tuán)創(chuàng)始人、ISC大會主席周鴻祎是人工智能的擁護(hù)者,但在網(wǎng)絡(luò)安全上還是選擇“留一手”。在ISC.AI 2025上海大模型安全論壇暨大模型安全衛(wèi)士產(chǎn)品發(fā)布會上,他分享了以約定問答作為身份識別的關(guān)鍵要素。
這是AI應(yīng)用普及帶來新型安全需求的縮影——人們在加速擁抱“人工智能+”,但AI本身的安全管控成為了必須應(yīng)對的核心挑戰(zhàn)。
大模型似乎“無所不能”,技術(shù)成熟卻也成了違法者用于詐騙的幫兇。此外,周鴻祎提到,大模型容易出現(xiàn)虛假錯(cuò)誤,深層敏感信息違規(guī)的風(fēng)險(xiǎn)以及由于大模型幻覺導(dǎo)致錯(cuò)誤判斷。此外,大模型被攻擊的可能性增加,容易成為攻擊載體和入口,威脅政府和企業(yè)數(shù)據(jù)資產(chǎn)的安全。
網(wǎng)絡(luò)安全公司要如何應(yīng)對?
360數(shù)字安全集團(tuán)副總裁余凱提到,要以自身大規(guī)模AI業(yè)務(wù)場景驗(yàn)證產(chǎn)品能力。360基于‘以模制模’理念推出四大智能體解決大模型生命周期中各環(huán)節(jié)的安全問題,并將大模型安全衛(wèi)士融入安全運(yùn)營體系,構(gòu)建“網(wǎng)數(shù)模一體化”安全運(yùn)營平臺。
山石網(wǎng)科(688030.SH)則希望從軟件硬件一體化層面來優(yōu)化解決方案,通過網(wǎng)絡(luò)安全ASIC芯片與AI相結(jié)合,指向“系統(tǒng)算力”與“流程效率”的優(yōu)化。山石網(wǎng)科董事長兼總經(jīng)理葉海強(qiáng)認(rèn)為,未來會從人機(jī)協(xié)同發(fā)展到人機(jī)共治,將涉及全域的智能安全,這意味著跨平臺的治理,以及未來AI 驅(qū)動(dòng)的零信任升級(即對所有用戶、流量和設(shè)備通過持續(xù)驗(yàn)證和最小權(quán)限原則來實(shí)現(xiàn)動(dòng)態(tài)防護(hù))。
一方面,企業(yè)需要對內(nèi)部AI應(yīng)用進(jìn)行集中管控,包括大模型的選擇、數(shù)據(jù)權(quán)限的劃分、風(fēng)險(xiǎn)的動(dòng)態(tài)評估;另一方面,需要為智能體構(gòu)建“身份-行為-責(zé)任”的閉環(huán)體系,確保AI行為可追溯、責(zé)任可界定。
“未來成千上萬個(gè)智能體協(xié)作時(shí),必須有類似二代身份證的數(shù)字身份,才能明確‘誰在做事、能做什么、做錯(cuò)了誰負(fù)責(zé)’?!比~海強(qiáng)提到,山石網(wǎng)科正在通過投資探索為每個(gè)AI智能體賦予唯一可驗(yàn)證的數(shù)字身份標(biāo)識,構(gòu)建“身份-行為-責(zé)任”的閉環(huán)體系。
Fortinet中國區(qū)總經(jīng)理李宏凱向第一財(cái)經(jīng)記者表示,未來十年,網(wǎng)絡(luò)安全最大的機(jī)會在于用AI打造“自學(xué)習(xí)、自修復(fù)、自進(jìn)化”的安全神經(jīng)中樞;最大的挑戰(zhàn)在于攻擊者也在用同樣的AI重構(gòu)APT(高級持續(xù)性威脅)和供應(yīng)鏈滲透?!爸挥邪蚜阈湃渭軜?gòu)、網(wǎng)絡(luò)安全融合理念與可解釋AI三位一體,才能把AI的確定性價(jià)值留給產(chǎn)業(yè),把不確定性風(fēng)險(xiǎn)關(guān)在籠子里。”