“在監(jiān)獄直播帶貨”?警方通報
隨著AI生成技術(shù)的普及,只需簡單輸入文字指令,就能生成以假亂真的圖像、視頻,這不僅讓謠言傳播門檻大幅降低,更讓不少人在“獵奇”“博流量”的驅(qū)使下,觸碰法律與道德的紅線。近日,山東威海網(wǎng)安部門查獲兩起通過AI編造、傳播網(wǎng)絡(luò)謠言的違法行為。
案例一

近日,威海網(wǎng)民張某為提升賬號關(guān)注度,博取流量、牟取私利,使用某AI工具編造了“在監(jiān)獄直播帶貨”圖片的謠言信息,并發(fā)布在某互聯(lián)網(wǎng)平臺,引發(fā)大量網(wǎng)民關(guān)注和討論,擾亂公共秩序。
案例二

近日,在廣東臺風(fēng)期間,威海網(wǎng)民遲某為博取眼球、吸引流量,編造“廣東陽江兩所教學(xué)樓因臺風(fēng)受損”虛假災(zāi)情視頻畫面,在某短視頻平臺發(fā)布,誤導(dǎo)大量網(wǎng)民關(guān)注,嚴(yán)重擾亂社會公共秩序,引發(fā)恐慌,造成了不良社會影響。
公安機(jī)關(guān)依法給予張某和遲某行政處罰。
法律責(zé)任
根據(jù)《中華人民共和國治安管理處罰法》第二十五條的規(guī)定,散布謠言,謊報險情、疫情、警情或者以其他方法故意擾亂公共秩序的,處以五日以上十日以下拘留,可以并處五百元以下罰款;情節(jié)較輕的,處五日以下拘留或者五百元以下罰款。
風(fēng)險隱患
通過類似案件看,一些AI謠言的背后已形成分工明確的灰色產(chǎn)業(yè)鏈。其具備“低成本量產(chǎn)”的特性,有資料顯示通過AI單日最高可生成4000至7000篇虛假文章,成本僅為傳統(tǒng)造謠的1%。AI謠言帶來的風(fēng)險隱患確實值得高度警惕,其風(fēng)險隱患主要體現(xiàn)在:
一是與傳統(tǒng)謠言相比,AI謠言因其技術(shù)特性,危害性呈指數(shù)級放大。
二是具有高仿真與強(qiáng)迷惑性,生成的文字、圖片、音視頻內(nèi)容逼真,普通網(wǎng)民難以分辨。
三是進(jìn)化與迭代能力強(qiáng),AI謠言甚至能針對辟謠信息快速生成新版本進(jìn)行反駁或迭代,形成“打地鼠”式的動態(tài)對抗,讓治理防不勝防。
如何預(yù)防
作為信息接收者,可以通過以下方式識別潛在的AI謠言:
查源頭:警惕那些沒有明確作者、來源模糊或偽裝成“網(wǎng)友投稿”“內(nèi)部消息”的內(nèi)容。可靠的信息通常有正規(guī)的新聞機(jī)構(gòu)或官方信源背書。
看細(xì)節(jié):對于圖片和視頻,仔細(xì)觀察是否存在AI生成的典型痕跡,例如人物手指數(shù)量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。
驗邏輯:判斷內(nèi)容是否存在明顯的事實錯誤或邏輯矛盾,比如時間線錯亂(用未來的數(shù)據(jù)描述過去的事件)或地理信息錯誤。
用工具:善用權(quán)威辟謠平臺進(jìn)行查證,可以關(guān)注官方機(jī)構(gòu)發(fā)布的相關(guān)警示信息。
警方提示
網(wǎng)絡(luò)不是法外之地!為博流量無下限,惡意AI不可取!公安機(jī)關(guān)嚴(yán)厲打擊惡意編造傳播網(wǎng)絡(luò)謠言的行為,請廣大網(wǎng)民自覺遵守法律法規(guī),不造謠、不信謠、不傳謠,積極向公安機(jī)關(guān)舉報各類網(wǎng)絡(luò)謠言和傳播虛假信息的違法行為,攜手營造清朗網(wǎng)絡(luò)空間。
來源:中國互聯(lián)網(wǎng)聯(lián)合辟謠平臺



