從“地震廢墟中被埋小男孩”的虛假圖片，再到“7月起老人坐火車打折”的假消息……AI生成的不實信息，已成當(dāng)前網(wǎng)絡(luò)信息生態(tài)中的重要污染源。在此背景下，“如何治理AI謠言”也成了社會關(guān)心的問題。
謠言治理，也離不開平臺參與。在9月16日的不實信息治理開放日上，抖音方面就表示，謠言治理是抖音2025年最重要的工作之一，分享了平臺治理謠言的“方法論”，并宣布上線“AI抖音求真”功能。
在AI謠言為不實消息治理帶來了新挑戰(zhàn)的當(dāng)下，借助AI技術(shù)突破“事后辟謠依賴”的被動治理模式，構(gòu)建起從謠言生成預(yù)警、傳播路徑監(jiān)測到內(nèi)容自動澄清的全鏈條治理體系，無疑為AI謠言治理提供了新思路。
“AI謠言”已成新型網(wǎng)絡(luò)毒瘤
如今，AI技術(shù)在文本生成、圖片創(chuàng)作、視頻制作等方面的應(yīng)用越來越廣泛，只需輸入幾個關(guān)鍵詞即可快速生成一篇文章、一幅圖片、一段視頻，為內(nèi)容創(chuàng)作提供了極大便利。
但AI在重塑信息生產(chǎn)傳播鏈條、賦能內(nèi)容創(chuàng)作的同時，AI也讓不實信息生產(chǎn)制作邁入了“低成本，高逼真”階段。
莎士比亞曾說過：謠言是一只憑著推測、猜疑和臆度吹響的笛子。到了AI時代，謠言更是一個不費(fèi)吹灰之力就能輕松吹響的哨子。以往需要專門技術(shù)支撐的圖片合成、語音模仿，如今借助AI工具就可輕易完成；曾經(jīng)依賴專業(yè)筆桿子的邏輯自洽作文、適合傳播文案，現(xiàn)在通過AIGC技術(shù)就能快速生成。
這帶來了兩大影響：一是謠言可以從“少量精心編造”轉(zhuǎn)向“批量高效生產(chǎn)”。在生成式AI大面積應(yīng)用前，謠言制造多依賴人工編撰，耗時費(fèi)力，成本高昂，但有了那些AI工具后，很多人無需依托技術(shù)背景和專業(yè)團(tuán)隊，就可完成專業(yè)級內(nèi)容制作，謠言生產(chǎn)成本更低了。
二是謠言治理難度呈指數(shù)級上升。AI生成的謠言經(jīng)常會嫁接真實事件背景，呈現(xiàn)看似現(xiàn)場的畫面，引用貌似專業(yè)的數(shù)據(jù)，披上真實情形的外衣，甚至偽造權(quán)威媒體的“報道畫面”、政務(wù)機(jī)構(gòu)的“公告截圖”，擬真度很高、迷惑性極強(qiáng)。加上謠言來源的分散、謠言數(shù)量的倍增，謠言治理難度更高了。
清華大學(xué)副教授陸洪磊就說，“AI謠言可以做到分平臺、分渠道、分時段、分媒介的定制化生成和發(fā)布，并且成本低廉，可以短時間內(nèi)成倍率傳播，AI謠言間還能彼此交叉、共振與放大，辟謠難度大大增加?！?/p>
這類以圖片為憑、視頻為據(jù)為幌子的AI謠言，動輒侵害他人權(quán)益，誤導(dǎo)公眾認(rèn)知，還制造社會恐慌、污染網(wǎng)絡(luò)空間，實質(zhì)上已成新型網(wǎng)絡(luò)病毒。有些真假難辨的“小作文”，就讓企業(yè)遭遇重大損失；假消息熱傳后頻現(xiàn)的反轉(zhuǎn)，也讓“狼來了”在現(xiàn)實中頻繁上演……足見其危害之深。
“用AI治理AI謠言”是個有益有效的思路
未來學(xué)家凱文·凱利曾說過：對于科技帶來的問題，永遠(yuǎn)不能靠減少科技來解決，而應(yīng)該發(fā)明更好的科技。
AI謠言的“定制化、門檻低、識別難、破壞大”特點(diǎn)決定了，以往響應(yīng)滯后、覆蓋有限的“人工審核+事后辟謠”被動應(yīng)對模式難以應(yīng)對AI謠言的挑戰(zhàn)?！敖忖忂€須系鈴人”，技術(shù)帶來的負(fù)外部性，也需要技術(shù)層面的突破性解決方案來消除。
抖音推出“AI抖音求真”功能，將AI大模型能力用在謠言治理上，對謠言“發(fā)現(xiàn)即管控”，就趟出了通過技術(shù)創(chuàng)新推動謠言治理從“被動攔截”到“主動防控”的新路徑。
在技術(shù)識別層面，引入AI大模型能力，可重構(gòu)謠言治理的全鏈路。
以往謠言治理高度依賴人工，經(jīng)常需等待媒體報道或機(jī)構(gòu)發(fā)聲提供辟謠信號，再由運(yùn)營人員將謠言信息納入數(shù)據(jù)庫，進(jìn)而回查下架相關(guān)內(nèi)容，單例處置時效常以“天”為單位。
隨之而來的，就是馬克·吐溫那句名言得到應(yīng)驗：“當(dāng)真相還在穿鞋的時候，謠言就已經(jīng)跑遍半個地球了。”
但抖音謠言治理大模型如同全天候在崗的“謠言鑒定專家”，能主動召回平臺內(nèi)達(dá)到一定熱度的所有資訊內(nèi)容，通過“視頻信息提取—主旨提煉—聯(lián)網(wǎng)檢索—風(fēng)險研判”的全自動化流程完成甄別。在AI賦能下，不實信息處理效率得到了提升，單例謠言的處置時效被縮短至“小時級”，大幅降低了謠言擴(kuò)散風(fēng)險。
由于信源庫涵蓋權(quán)威媒體報道、政務(wù)公開平臺及歷史謠言樣本，還能精準(zhǔn)定義“內(nèi)容誤導(dǎo)性”“公共價值”“可證偽性”等核心特征，避免人工審核的主觀偏差與精力局限，因而謠言研判的準(zhǔn)確性也會更高。
數(shù)據(jù)顯示，將AI大模型技術(shù)引入謠言治理工作后，一個季度內(nèi)平臺謠言曝光量下降67%，這是對AI治理有效性的直觀注腳。
在用戶賦能層面，“AI抖音求真”功能的推出，也能構(gòu)建直達(dá)用戶的“認(rèn)知防線”。
如果說后端大模型是從技術(shù)維度筑起防火墻，那“AI抖音求真”功能則是面向用戶提供甄別工具。
今年4月，抖音曾推出“辟謠卡”功能，會在用戶搜索謠言相關(guān)信息時進(jìn)行提示；此次升級的“AI抖音求真”功能，則將辟謠提醒從搜索延伸至瀏覽，實現(xiàn)了辟謠服務(wù)全場景嵌入。
一方面，當(dāng)用戶瀏覽疑似不實信息的視頻時，頁面會掛載“求真”跳轉(zhuǎn)鏈接，點(diǎn)擊即可進(jìn)入“求真卡”查看完整事件脈絡(luò)與澄清信息；另一方面，當(dāng)用戶搜索相關(guān)關(guān)鍵詞時，“求真卡”會優(yōu)先呈現(xiàn)，包含事件溯源、權(quán)威報道、當(dāng)事人發(fā)聲等核心內(nèi)容，對確認(rèn)謠言的信息還會顯著標(biāo)注“謠言”或“存疑”標(biāo)簽。
這種“遇事不明，一鍵查證”的設(shè)計，可以讓用戶從被動的信息接收者轉(zhuǎn)變?yōu)橹鲃拥恼嫦嗵綄ふ?，激發(fā)他們在信息消費(fèi)場景中完成事實核查的主動性，提升其識謠辟謠的辨別力。
技術(shù)防治是屏障，多方共治是基礎(chǔ)
用AI治理AI謠言，形成“技術(shù)識別+用戶賦能”的雙螺旋，的確能將謠言防治的屏障筑得更高，但也要看到，謠言從生成到傳播，往往是寄附在復(fù)雜的社會土壤之上，僅依靠平臺側(cè)的積極作為、技術(shù)端的能力提升，仍無法滿足筑牢謠言防止網(wǎng)絡(luò)之需。
哈佛大學(xué)教授桑斯坦曾在著作《謠言》中說過，謠言有三大傳播機(jī)制：信息流瀑、群體極化、偏頗吸收。不少謠言黨就精準(zhǔn)拿捏了受眾心理，會精準(zhǔn)捕捉其獵奇心態(tài)、焦慮情緒，針對儲戶擔(dān)憂編造“千萬存款消失”故事，針對老年人編造“養(yǎng)老政策大變化”謠言……
而無論是神經(jīng)學(xué)中的“大腦對壞刺激的反應(yīng)比對好刺激的更強(qiáng)烈”，還是心理學(xué)中的“首因效應(yīng)”，都表明，那些甄別能力薄弱的人群必然會成為謠言易感人群。
還有，信源污染與識別難題也會給技術(shù)治理“上難度”。謠言治理大模型的準(zhǔn)確性高度依賴權(quán)威信源的及時性與完整性，但在實際場景中，部分突發(fā)事件的權(quán)威信息發(fā)布存在滯后性，而自媒體卻已編造“內(nèi)幕消息”搶占傳播節(jié)點(diǎn)，此時平臺也難以立即判定其為謠言，這難免會帶來治理空窗期。
更何況，如今部分謠言制造者也會“道高一尺，魔高一丈”，通過“模糊表述”“摻雜部分事實”等方式降低虛假特征的顯著性，其甄別難度遠(yuǎn)高于那些“一眼假”信息。
鑒于此，要真正破解謠言治理難題，還需構(gòu)建“平臺主導(dǎo)、媒體聯(lián)動、用戶參與”的社會共治體系。
在此過程中，平臺作為信息傳播的關(guān)鍵樞紐，需要從技術(shù)與運(yùn)營等維度持續(xù)發(fā)力：借助AI提升對深度造假、隱性謠言的識別能力，建立謠言治理的透明化機(jī)制，定期發(fā)布治理報告，公開謠言特征、處置數(shù)據(jù)及功能迭代方向，并建立跨平臺的謠言數(shù)據(jù)庫共享機(jī)制，就是必要之舉。
政務(wù)與媒體機(jī)構(gòu)作為辟謠主力軍，該充當(dāng)起壓艙石作用：媒體當(dāng)建立熱點(diǎn)事件的快速核查機(jī)制，第一時間發(fā)布事實信息，擠壓謠言生存空間；政務(wù)機(jī)構(gòu)可借助平臺開設(shè)官方賬號，針對民生政策、公共安全等高頻謠言領(lǐng)域，主動發(fā)布科普內(nèi)容，從源頭減少謠言滋生土壤。
提升信息發(fā)布時效性與精準(zhǔn)性，填補(bǔ)信息真空，就是從源頭減少謠言滋生空間。
用戶作為信息消費(fèi)者，需提升媒介素養(yǎng)：在蕪雜的信息環(huán)境重構(gòu)了“有圖有真相”和改寫了“眼見為實”的語境中，用戶該多些謹(jǐn)慎采信、少些偏聽盲信，避免成為謠言傳聲筒。
抖音的“AI抖音求真”為用戶提供了查證工具，但用戶形成主動查證的意識，才能將其價值最大化。唯有每個人都能成為謠言過濾器，構(gòu)建起無死角的治理網(wǎng)絡(luò)才不是奢望。
謠言治理的本質(zhì)是對信息生態(tài)的凈化，是對社會信任的守護(hù)。所以它需要以技術(shù)為盾，更需要以共治為基。
可以預(yù)見的是，接下來，謠言與治謠的博弈還將長期存在。這場博弈的勝負(fù)，建基于平臺的技術(shù)創(chuàng)新能力，更取決于全社會的協(xié)同程度。也只有平臺堅守技術(shù)向善的底線，媒體扛起積極發(fā)聲的責(zé)任，用戶養(yǎng)成理性辨別的習(xí)慣，形成治理合力，才能更有力地遏制謠言的傳播，還信息生態(tài)以健康，還網(wǎng)絡(luò)空間以清朗。
(文/佘宗明)
【編輯:張令旗】
