DoNews6月14日消息，據(jù)央視新聞報道， 1 月，有網(wǎng)絡平臺出現(xiàn)一條“西安發(fā)生爆炸”的消息，其時間地點等關鍵信息和配圖齊備，極具迷惑性。經(jīng)警方調查，消息發(fā)布賬號歸屬于一家江西的 MCN 機構。
該公司實際控制人為王某某。據(jù)南昌市公安局高新分局網(wǎng)絡安全保衛(wèi)大隊大隊長李毅介紹，上述“爆炸”消息經(jīng)核實并未發(fā)生，就此初步判定該 MCN 機構發(fā)布的數(shù)條信息涉嫌網(wǎng)絡造謠。
警方立刻對該公司負責人進行約談，同時勘察該公司辦公場所，對使用的電腦和軟件工具進行現(xiàn)場取證。
經(jīng)核實，上述謠言從文本到圖片全部由 AI 生成。王某某通過國內一個網(wǎng)站 —— 其專門提供“近期可能生成熱點的新聞報道”或“正在 / 即將發(fā)生的一類事情”，并分級分類將關鍵詞提供給寫作者。王某某通過該網(wǎng)站生成關鍵詞，形成了文章的標題。
王某某隨后再通過具有語音交互功能的 AI 軟件，說出關鍵詞后軟件自動從網(wǎng)絡上抓取相關信息，生成數(shù)百到上千字的文本，并配上“貌似與事件相關”的虛假圖片，從而形成看起來信息量很大、實際上子虛烏有的內容。
隨后，王某某再將 AI 生成的內容使用另一款軟件自動上傳到該 MCN 機構控制的多網(wǎng)絡平臺不同賬號上，并對外發(fā)布，全程基本不需要人工參與。因此，在操作過程中產生了此類謠言信息。這家 MCN 機構短時間內生成了大量文章，最高峰一天能生成 4000-7000 篇。
警方在調查過程中發(fā)現(xiàn)，該 MCN 機構在網(wǎng)絡上發(fā)布的內容以民生類信息為主，通過加入夸張故事情節(jié)或獵奇性成分，或編造不實信息來獲取網(wǎng)民關注度、點贊量，進而實現(xiàn)流量變現(xiàn)。通過這一方式，王某某在短時間內獲得了高額報酬。經(jīng)警方初步估算，該機構每天的收入在 1 萬元以上。
經(jīng)查，江西男子王某江經(jīng)營有 5 家 MCN 機構，共運營自媒體賬號 842 個，其長期組織公司人員選取熱點文章，使用人工智能工具批量生成不實文章進行吸粉引流。目前，江西南昌公安機關已對王某江處以行政拘留 5 日，責令涉案 MCN 機構停業(yè)整改。
