四川依法查處10起利用AI軟件造謠典型案例

近年來

隨著人工智能技術（AI）的高速發展

一些不法分子

利用AI的文本和圖像生成功能

編造虛假信息

使“AI類網絡謠言”滋生擴散

破壞網絡生態，擾亂社會秩序

今日

四川網警公布10起AI造謠典型案例

一起來看看

↓↓↓

  案例一

  利用AI軟件編造“山體滑坡致8人遇難”網絡謠言

  2024年1月23日，有網民在某平臺發布文章稱：“云南山體滑坡災害 已致8人遇難”。經查，違法行為人楊某某為獲取流量牟利，搜集網絡上的相關信息后，利用AI軟件生成了“云南山體滑坡災害 已致8人遇難”的虛假新聞信息，并發布在網絡平臺上，造成不良社會影響。目前，四川廣元公安機關已依法對楊某某進行行政處罰。

  案例二

  利用AI軟件編造“喜德縣地震”網絡謠言

  2024年6月9日，有網民在某視頻平臺發布視頻稱，“5月27日，四川省涼山彝族自治州發生5.0級地震，震中位于喜德縣，地震波以每小時80公里的速度傳播。地震造成了大量房屋損壞和人員傷亡，災情嚴重”。經查，5月27日涼山發生5.0級地震，震中位于木里縣，無人員傷亡，部分房屋受損，違法行為人羅某某為吸引眼球、獲取流量，利用AI軟件生成虛假地震災情圖片，并在某短視頻平臺散布不實信息。目前，四川涼山公安機關已依法對羅某某進行行政處罰。

  案例三

  利用AI軟件編造“巴中警民對峙”網絡謠言

  2024年5月18日，有網民在某平臺發布文章稱：”巴中市最近上演了一場令人驚心動魄的事件，一輛運鈔車遭到踢爆，警民雙方展開了一場激烈的對峙”。經查，4月30日上午9時許，在四川巴中的一輛運鈔車因在公交車站牌處占道停留，交警發現后請運鈔車駛離。違法人員尚某某在網上獲悉相關圖片后，為吸引眼球，獲取流量和利益，帶著僥幸心理，在未經核實的情況下使用“AI千文”生成標題為《一場驚心動魄的"鈔票大戰"巴中市警民對峙引發轟動誰將成為勝利者》的虛假信息并發布，誤導網民，引發社會恐慌，擾亂公共秩序。目前，四川巴中公安機關已依法對尚某某進行行政處罰。

  案例四

  利用AI軟件編造“九旬老人遭兒女遺棄”網絡謠言

  2024年6月24日，有網民在某平臺發布一則題為成都市新都區大豐街道“九旬老人遭兒女遺棄，流浪乞討多年成‘皮包骨’”的文章。經查，文章中的圖片來源于某外國博主救助外國流浪老人的視頻，而文章中的這位“李老頭”也遠在大洋彼岸，違法行為人張某為了吸引流量、博取關注，在家中借助AI程序，結合自己的“所思所想”編造并發布了這篇虛假文章。目前，四川成都公安機關已依法對張某進行行政處罰。

  案例五

  利用AI軟件編造“4月大女嬰被遺棄”網絡謠言

  2024年1月12日，有網民在某平臺發布文章稱：“一則令人心痛的新聞在貴州省貴陽市花溪區傳開，一個僅僅4個月大的女嬰被遺棄在超市角落”。經查，違法行為人周某開發了可自動編撰文章的“翠綠筆墨”AI工具和配套管理系統，并招募志愿者創建工作群，要求志愿者提供平臺賬號，由其開發的管理系統代為登錄賬號，周某再利用AI工具自動生成相關文章，通過管理系統自動保存到志愿者平臺賬號的“草稿箱”中，通過工作群發布任務，由志愿者通過手機從“草稿箱”中手動發布，2023年11月以來，周某通過招募獲取相關賬號300余個（均已關停），利用AI工具編造信息約42萬余條（均已清除）。目前，四川達州公安機關已依法對周某進行行政處罰。

  案例六

  利用AI編造“成都公交車失控”網絡謠言

  2023年11月20日，有網民在某平臺發布文章稱：“四川成都公交車失控沖入河中”。經查，違法行為人陳某看到“重慶公交車失控墜河10死2傷”的新聞后，為吸引眼球、博取流量，通過AI軟件合成，將內容篡改為“成都龍泉驛公交車失控墜河10死2傷”后發布到互聯網，產生不良社會影響。目前，四川成都公安機關已依法對陳某進行行政處罰。

  案例七

  利用AI軟件編造“地下熱管道破裂”網絡謠言

  2023年12月27日，有網民在某平臺發布文章稱："西安市鄠邑區地下涌出熱水、疑是地下熱管道破裂引發”。經查，違法行為人王某、柳某為賺取平臺獎勵，利用AI軟件自動生成“西安鄠邑區地下熱管道破裂”的文章，并與河南省商丘網發布的“商丘一熱管道破裂”圖片進行嫁接，發布在網絡平臺上，引發大量網民關注，造成不良社會影響。目前，四川綿陽公安機關已依法對王某、柳某進行行政處罰。

  案例八

  利用AI編造“建筑工地事故”網絡謠言

  2023年11月28日，有網民在某平臺發布文章稱：“成都龍泉驛區一工地上，四名工人使用腳手架高空作業觸碰高壓線不幸身亡”。經查，違法行為人朱某在互聯網看到“四川達州渠縣使用腳手架高空作業觸碰高壓線造成四人死亡”的新聞后，為吸引眼球、博取流量，通過AI軟件合成，將事故地點篡改為成都龍泉驛區后發布到互聯網，產生不良社會影響。目前，四川成都公安機關已依法對朱某進行行政處罰。

  案例九

  利用AI軟件編造“嫖娼突發心臟病死亡”網絡謠言

  2024年5月11日，有網民在某平臺發布文章稱：“涼山西昌有一男子因嫖娼突發心臟病死亡，其家屬向兩名賣淫女和賓館老板尋求賠償”。經查，違法行為人吉某某為吸引流量通過AI工具“智普清言”炮制該虛假文章并發布，造成不良影響。目前，四川涼山公安機關已依法對吉某某進行行政處罰。

  案例十

  利用AI軟件編造“虛假橫幅”網絡謠言

  2024年4月，有網民在某平臺發布“成都市郫都區德源鎮某某開發區奠基儀式”的視頻。5月，該網民又發布一掛有“讓全村都懷上二胎，是村支書不可推卸的責任”橫幅的圖片視頻。經查，以上視頻為AI編輯生成，均為不實信息。目前，四川成都公安機關已依法對王某進行行政處罰。