湖北公安網安部門查處一起利用AI工具編造虛假信息案

AI在文本生成、圖片創作等方面應用越來越廣泛，輸入幾個關鍵詞即可快速生成一張畫或一篇文章。一些網民為博眼球、蹭熱度，將AI技術用以編“偽消息”、造“假新聞”，以此來獲得網民關注和點贊量進而實現流量變現。近日，武漢市公安局硚口區分局依法查處一起利用AI技術編造網絡謠言的案件。

案情回顧

公安網安部門工作中發現，某資訊網站發布的文章嚴重失實。網警及時取證，并與網站所屬公司取得聯系，通過法治教育，該公司迅速刪除了不實文章。

據查，該公司為提高所運營網站的流量，購買了一個AI智能寫作軟件，通過輸入自設的關鍵詞，由系統自動抓取網絡信息生成文章。涉案文章系AI機械拼接多地文本而成，該公司發布前未按規定對發布內容履行審核責任。

公安機關根據相關法律法規，對涉事公司予以行政處罰。目前，涉事公司已在網站首頁公開致歉聲明，下架全部AI生成內容，并在公司內進行整改。

網警提示

根據《互聯網信息服務深度合成管理規定》，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播 法律、行政法規禁止的信息，不得利用深度合成服務從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。

深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發布、傳播虛假新聞信息，轉載基于深度合成服務制作發布新聞信息的，應當依法轉載互聯網信息稿源單位發布的新聞信息。

深度合成服務提供者和技術支持者違反《互聯網信息服務深度合成管理規定》的，依照有關法律、行政法規的規定處罰;造成嚴重后果的，依法從重處罰。構成違反治安管理行為的，由公安機關依法給予治安管理處罰;構成犯罪的，依法追究刑事責任。