“我和家人說哪怕是視頻電話打過來要錢，無論畫面多么真、聲音多么像，都不要信，就問他我們約定好的問題，看對方怎么回答。”360集團創(chuàng)始人、ISC大會主席周鴻祎是人工智能的擁護者，但在網(wǎng)絡(luò)安全上還是選擇“留一手”。在ISC.AI 2025上海大模型安全論壇暨大模型安全衛(wèi)士產(chǎn)品發(fā)布會上，他分享了以約定問答作為身份識別的關(guān)鍵要素。

這是AI應(yīng)用普及帶來新型安全需求的縮影——人們在加速擁抱“人工智能+”，但AI本身的安全管控成為了必須應(yīng)對的核心挑戰(zhàn)。

大模型似乎“無所不能”，技術(shù)成熟卻也成了違法者用于詐騙的幫兇。此外，周鴻祎提到，大模型容易出現(xiàn)虛假錯誤，深層敏感信息違規(guī)的風(fēng)險以及由于大模型幻覺導(dǎo)致錯誤判斷。此外，大模型被攻擊的可能性增加，容易成為攻擊載體和入口，威脅政府和企業(yè)數(shù)據(jù)資產(chǎn)的安全。

網(wǎng)絡(luò)安全公司要如何應(yīng)對？

360數(shù)字安全集團副總裁余凱提到，要以自身大規(guī)模AI業(yè)務(wù)場景驗證產(chǎn)品能力。360基于‘以模制?！砟钔瞥鏊拇笾悄荏w解決大模型生命周期中各環(huán)節(jié)的安全問題，并將大模型安全衛(wèi)士融入安全運營體系，構(gòu)建“網(wǎng)數(shù)模一體化”安全運營平臺。

山石網(wǎng)科（688030.SH）則希望從軟件硬件一體化層面來優(yōu)化解決方案，通過網(wǎng)絡(luò)安全ASIC芯片與AI相結(jié)合，指向“系統(tǒng)算力”與“流程效率”的優(yōu)化。山石網(wǎng)科董事長兼總經(jīng)理葉海強認(rèn)為，未來會從人機協(xié)同發(fā)展到人機共治，將涉及全域的智能安全，這意味著跨平臺的治理，以及未來AI 驅(qū)動的零信任升級（即對所有用戶、流量和設(shè)備通過持續(xù)驗證和最小權(quán)限原則來實現(xiàn)動態(tài)防護）。

一方面，企業(yè)需要對內(nèi)部AI應(yīng)用進行集中管控，包括大模型的選擇、數(shù)據(jù)權(quán)限的劃分、風(fēng)險的動態(tài)評估；另一方面，需要為智能體構(gòu)建“身份-行為-責(zé)任”的閉環(huán)體系，確保AI行為可追溯、責(zé)任可界定。

“未來成千上萬個智能體協(xié)作時，必須有類似二代身份證的數(shù)字身份，才能明確‘誰在做事、能做什么、做錯了誰負(fù)責(zé)’?！比~海強提到，山石網(wǎng)科正在通過投資探索為每個AI智能體賦予唯一可驗證的數(shù)字身份標(biāo)識，構(gòu)建“身份-行為-責(zé)任”的閉環(huán)體系。

Fortinet中國區(qū)總經(jīng)理李宏凱向第一財經(jīng)記者表示，未來十年，網(wǎng)絡(luò)安全最大的機會在于用AI打造“自學(xué)習(xí)、自修復(fù)、自進化”的安全神經(jīng)中樞；最大的挑戰(zhàn)在于攻擊者也在用同樣的AI重構(gòu)APT（高級持續(xù)性威脅）和供應(yīng)鏈滲透。“只有把零信任架構(gòu)、網(wǎng)絡(luò)安全融合理念與可解釋AI三位一體，才能把AI的確定性價值留給產(chǎn)業(yè)，把不確定性風(fēng)險關(guān)在籠子里。”