“0成本、高收益”，隨著AI從最初的“工業(yè)級”技術(shù)逐漸“飛入尋常百姓家”，一些別有用心者的造謠能力也得到了大幅提升。據(jù)報(bào)道，某MCN機(jī)構(gòu)通過具有語音交互功能的AI軟件生成虛假文章上傳到多個(gè)網(wǎng)絡(luò)平臺，最高峰一天能生成4000-7000篇。當(dāng)網(wǎng)絡(luò)謠言用上AI，網(wǎng)民該如何應(yīng)對？本期“思與辨”就該話題進(jìn)行討論。

主持人：趙 鑫

嘉賓：陳 兵（南開大學(xué)法學(xué)院教授、中國新一代人工智能發(fā)展戰(zhàn)略研究院特約研究員）

賈開（上海交通大學(xué)國際與公共事務(wù)學(xué)院長聘副教授）

詹國輝（南京財(cái)經(jīng)大學(xué)MPA教育中心副主任、副教授）

AI造謠呈現(xiàn)出門檻低、傳播廣、更具迷惑性等特點(diǎn)

主持人：相較于一般網(wǎng)絡(luò)謠言，AI造謠有何特點(diǎn)？

陳兵：AI造謠具有更高的自動(dòng)化程度。它能夠自主生成內(nèi)容，極大加快了謠言的生成與傳播速度。利用深度學(xué)習(xí)等技術(shù)，AI能夠生成逼真的文本、圖片和視頻，使謠言更難被識別。由于AI的自動(dòng)化和匿名性，追蹤謠言來源變得更為困難。隨著開源工具和平臺的普及，即使非專業(yè)人士也能利用AI技術(shù)制造謠言，技術(shù)門檻顯著降低。

賈開：第一，網(wǎng)絡(luò)化特征，AI造謠的關(guān)鍵并不局限于生產(chǎn)謠言內(nèi)容，還在于其能夠創(chuàng)造出一個(gè)謠言傳播的網(wǎng)絡(luò)，并因此放大其影響。由于AI能夠同時(shí)生成多個(gè)社交媒體賬號，而這些賬號之間又相互關(guān)聯(lián)，因此同時(shí)涵蓋了生成與傳播這兩個(gè)關(guān)鍵環(huán)節(jié)。第二，混合性特征，有些AI造謠，以真實(shí)存在的事件或某種一般性社會情緒為起點(diǎn)，展開虛假內(nèi)容的生成與傳播，讓人更難以識別。

詹國輝：AI造謠呈現(xiàn)出成本低、門檻低、傳播廣、更具迷惑性、內(nèi)容多樣且難以追溯等特點(diǎn)，但目前實(shí)踐中呈現(xiàn)“多為行政處罰、刑事處罰較少”的特點(diǎn)，在客觀層面上難以形成有力震懾效應(yīng)。

虛假信息常含有邏輯漏洞、事實(shí)錯(cuò)誤，要保持警惕，多信源比較

主持人：對于AI生成的網(wǎng)絡(luò)謠言、虛假信息，我們應(yīng)該如何辨別？

詹國輝：保持警惕性，關(guān)注信息來源。比如，在瀏覽網(wǎng)絡(luò)信息時(shí)，不輕信未經(jīng)證實(shí)的信息；盡量選擇權(quán)威、可信賴的媒體或機(jī)構(gòu)發(fā)布的信息。

分析信息的邏輯性。如果發(fā)現(xiàn)信息在邏輯上存在明顯漏洞或矛盾，它很可能是經(jīng)過篡改或杜撰的；對于那些過于夸張、聳人聽聞的標(biāo)題和內(nèi)容，要保持懷疑態(tài)度，進(jìn)一步核實(shí)其真實(shí)性。

陳兵：建議檢查信息來源、核實(shí)事實(shí)，評估內(nèi)容。應(yīng)驗(yàn)證發(fā)布者是否可靠，如是否為權(quán)威機(jī)構(gòu)或有信譽(yù)的個(gè)人。對于接收到的信息，嘗試在多個(gè)來源，特別是權(quán)威媒體或?qū)I(yè)網(wǎng)站上核實(shí)。虛假信息常含有邏輯漏洞、事實(shí)錯(cuò)誤或不一致之處，因此需仔細(xì)分析內(nèi)容，檢查其是否合邏輯、無自相矛盾之處。

關(guān)注時(shí)間標(biāo)記，警惕情感操縱，防止被深度偽造技術(shù)欺騙。虛假信息可能使用過時(shí)數(shù)據(jù)或事件誤導(dǎo)讀者，故需檢查信息的時(shí)間標(biāo)記，確保其時(shí)效性。深度偽造技術(shù)能生成逼真的假視頻或圖片，面對看似完美的內(nèi)容，需保持懷疑。

了解AI生成內(nèi)容的常見特征，如語言風(fēng)格的一致性、缺乏深度或個(gè)性化細(xì)節(jié)等。同時(shí)，需不斷提高媒介素養(yǎng)和批判性思維能力，通過教育和培訓(xùn)學(xué)習(xí)識別和抵制虛假信息。

賈開：要形成思辨意識，對所有“反常識”的信息展開質(zhì)疑和求證。此外，應(yīng)對網(wǎng)絡(luò)信息保持一定的“冗余度”，即不能認(rèn)為網(wǎng)絡(luò)信息就是權(quán)威的、真實(shí)的、可信的，而是將網(wǎng)絡(luò)信息僅作為信息源之一，多從電視臺、報(bào)紙、書籍等其他渠道獲得多元信息，在此基礎(chǔ)上形成正確認(rèn)識。

對那些默許、放任甚至故意利用AI造謠者，要追究法律責(zé)任

主持人：AI造謠的門檻和成本更低，批量生產(chǎn)謠言的情況不在少數(shù)。您認(rèn)為應(yīng)當(dāng)如何治理這類信息亂象？

賈開：治理AI造謠需要多方協(xié)作。第一，從技術(shù)源頭上講，應(yīng)加強(qiáng)AI技術(shù)及其應(yīng)用治理，例如要求AI生成內(nèi)容標(biāo)注水印。第二，從傳播媒介上講，社交媒體平臺應(yīng)主動(dòng)承擔(dān)主體責(zé)任，特別是需要扭轉(zhuǎn)平臺為了吸引流量而放任虛假內(nèi)容傳播的機(jī)制?？傮w而言，AI造謠及其治理是一個(gè)“攻防不對稱”的過程，造謠容易但治理困難，因而我們需要對AI造謠治理具有一定包容度和靈活性，應(yīng)鼓勵(lì)多方協(xié)作、敏捷回應(yīng)。

陳兵：首先，強(qiáng)化技術(shù)監(jiān)管，通過開發(fā)和部署高性能工具來識別和過濾AI制造的虛假信息。這些工具包括利用機(jī)器學(xué)習(xí)算法識別異常模式，以及深度偽造檢測技術(shù)。政府、教育機(jī)構(gòu)、非政府組織和技術(shù)公司等應(yīng)攜手合作，共享資源與信息，構(gòu)建聯(lián)合治理虛假信息網(wǎng)絡(luò)。

完善相關(guān)立法。針對AI生成內(nèi)容，制定并實(shí)施明確的法律法規(guī)，界定責(zé)任歸屬，并對制造與傳播虛假信息的行為進(jìn)行法律制裁。

強(qiáng)化行業(yè)自律，激勵(lì)企業(yè)合規(guī)。鼓勵(lì)技術(shù)公司、社交媒體平臺和內(nèi)容發(fā)布者建立行業(yè)標(biāo)準(zhǔn)和自律機(jī)制，主動(dòng)監(jiān)控并處理虛假信息。同時(shí)，提高AI系統(tǒng)的透明度，讓用戶了解內(nèi)容生成過程及其背后的算法和數(shù)據(jù)來源。

詹國輝：平臺應(yīng)當(dāng)加大審查力度。一方面，強(qiáng)化賬號注冊核驗(yàn)、動(dòng)態(tài)巡查、調(diào)整流量分成制度等，以便于構(gòu)建更有效的事前和事中防范措施，切斷謠言傳播源頭。另一方面，網(wǎng)絡(luò)平臺須加強(qiáng)內(nèi)容審核機(jī)制，防止AI生成的虛假信息上傳和傳播；對于已上傳的虛假信息，平臺應(yīng)及時(shí)刪除，并公開澄清事實(shí)。

應(yīng)當(dāng)明確技術(shù)開發(fā)者、應(yīng)用者的謠言治理責(zé)任。一方面，大模型開發(fā)者應(yīng)通過后臺設(shè)置的方式，對通過大模型生成的內(nèi)容打上水印，告知用戶。另一方面，有必要明確技術(shù)應(yīng)用者及軟件開發(fā)者的責(zé)任，對那些默許、放任甚至故意利用AI造謠者，要追究法律責(zé)任。

引入人工智能技術(shù)，以“技術(shù)打敗技術(shù)”。鼓勵(lì)開發(fā)者從技術(shù)研發(fā)、產(chǎn)業(yè)應(yīng)用、制度設(shè)計(jì)等各方面加強(qiáng)合作，打出AI謠言治理組合拳。