前幾天，一則“政府工作人員因買方便面被通報”的消息甚囂塵上。公安網(wǎng)安部門查明，該內(nèi)容均屬虛構(gòu)，系曹某林為博眼球利用AI憑空捏造。目前，曹某林已被屬地公安機(jī)關(guān)依法采取刑事強(qiáng)制措施。
“厲行節(jié)約、反對浪費(fèi)”本是社會共識，也是正風(fēng)肅紀(jì)的抓手，流量投機(jī)分子偏偏炮制謠言碰瓷，人為制造“低級黑”。從現(xiàn)實影響看，這一荒誕謠言還真迷惑了一些人，對相關(guān)工作造成了一定干擾。如今造謠者被刑拘，再度警示各方：造謠生事不僅缺德，更是違法，必然付出代價。
更值得一提的是，上述謠言又是“AI生成”。近兩年來，AI謠言頻出，且明顯侵入時事政治等硬新聞領(lǐng)域，并展現(xiàn)出幾個典型特性。
其一，成本極低，造謠趨于工業(yè)化。以往，為了抓人眼球，造謠者還要費(fèi)些心思編造拼接，刺激情緒。如今，敲敲鍵盤就可批量生產(chǎn)不實內(nèi)容。一鍵生成、坐收流量，在AI助力下，一個人就可以是一支“水軍”。有報道顯示，某家MCN機(jī)構(gòu)用AI生成文章和圖片，最高峰一天能生成4000至7000篇。
其二，能力極強(qiáng)，“出品”有模有樣。從惡搞名人，到捏造熱點(diǎn)，再到“改寫”歷史，各個領(lǐng)域AI都能信手拈來。往往只需要一個指令，其就能將文字、聲音、圖像和視頻等深度融合。基于強(qiáng)大的生成能力，很多“AI謠言”已然能“以假亂真”。
其三，“效果”極佳，造謠“一本萬利”。由于沖擊力強(qiáng)、迷惑性高，不少虛假信息竟能產(chǎn)出百萬、千萬量級的瀏覽量。網(wǎng)絡(luò)造謠的門檻與成本之低，效率與收益之高，破壞與影響之大，讓人細(xì)思極恐。
謠言之害，不必多言。而當(dāng)技術(shù)加持作惡，“網(wǎng)絡(luò)傳播的坍塌”就不再是危言聳聽。
這些年，監(jiān)管部門也一直在升級對AI謠言的治理。比如，相關(guān)規(guī)定明確提出，要對AI生成內(nèi)容作出鮮明標(biāo)識。不過，從現(xiàn)實來看，不少平臺對AI生成的信息要么沒有提示，要么字體極小，有的審核機(jī)制滯后甚至“先發(fā)后審”，給謠言傳播留下了較大空間。再看技術(shù)層面，多個平臺上線AI檢測工具，嘗試用“魔法打敗魔法”。但對于海量生產(chǎn)的UGC內(nèi)容而言，AI測假的能力看上去還沒能跟上需求。總體來看，制度完善“提速”，治理手段“提智”，方向肯定沒錯，關(guān)鍵是如何做好落實。
AI技術(shù)日日加速迭代，這也意味著治理AI造謠必須加緊腳步，治理手段和路徑都須更具前瞻性。加大資源與技術(shù)投入，盡快形成治理合力，才能防止AI工具淪為謠言的“黑箱”。
前幾天，一則“政府工作人員因買方便面被通報”的消息甚囂塵上。公安網(wǎng)安部門查明，該內(nèi)容均屬虛構(gòu)，系曹某林為博眼球利用AI憑空捏造。目前，曹某林已被屬地公安機(jī)關(guān)依法采取刑事強(qiáng)制措施。
“厲行節(jié)約、反對浪費(fèi)”本是社會共識，也是正風(fēng)肅紀(jì)的抓手，流量投機(jī)分子偏偏炮制謠言碰瓷，人為制造“低級黑”。從現(xiàn)實影響看，這一荒誕謠言還真迷惑了一些人，對相關(guān)工作造成了一定干擾。如今造謠者被刑拘，再度警示各方：造謠生事不僅缺德，更是違法，必然付出代價。
更值得一提的是，上述謠言又是“AI生成”。近兩年來，AI謠言頻出，且明顯侵入時事政治等硬新聞領(lǐng)域，并展現(xiàn)出幾個典型特性。
其一，成本極低，造謠趨于工業(yè)化。以往，為了抓人眼球，造謠者還要費(fèi)些心思編造拼接，刺激情緒。如今，敲敲鍵盤就可批量生產(chǎn)不實內(nèi)容。一鍵生成、坐收流量，在AI助力下，一個人就可以是一支“水軍”。有報道顯示，某家MCN機(jī)構(gòu)用AI生成文章和圖片，最高峰一天能生成4000至7000篇。
其二，能力極強(qiáng)，“出品”有模有樣。從惡搞名人，到捏造熱點(diǎn)，再到“改寫”歷史，各個領(lǐng)域AI都能信手拈來。往往只需要一個指令，其就能將文字、聲音、圖像和視頻等深度融合。基于強(qiáng)大的生成能力，很多“AI謠言”已然能“以假亂真”。
其三，“效果”極佳，造謠“一本萬利”。由于沖擊力強(qiáng)、迷惑性高，不少虛假信息竟能產(chǎn)出百萬、千萬量級的瀏覽量。網(wǎng)絡(luò)造謠的門檻與成本之低，效率與收益之高，破壞與影響之大，讓人細(xì)思極恐。
謠言之害，不必多言。而當(dāng)技術(shù)加持作惡，“網(wǎng)絡(luò)傳播的坍塌”就不再是危言聳聽。
這些年，監(jiān)管部門也一直在升級對AI謠言的治理。比如，相關(guān)規(guī)定明確提出，要對AI生成內(nèi)容作出鮮明標(biāo)識。不過，從現(xiàn)實來看，不少平臺對AI生成的信息要么沒有提示，要么字體極小，有的審核機(jī)制滯后甚至“先發(fā)后審”，給謠言傳播留下了較大空間。再看技術(shù)層面，多個平臺上線AI檢測工具，嘗試用“魔法打敗魔法”。但對于海量生產(chǎn)的UGC內(nèi)容而言，AI測假的能力看上去還沒能跟上需求。總體來看，制度完善“提速”，治理手段“提智”，方向肯定沒錯，關(guān)鍵是如何做好落實。
AI技術(shù)日日加速迭代，這也意味著治理AI造謠必須加緊腳步，治理手段和路徑都須更具前瞻性。加大資源與技術(shù)投入，盡快形成治理合力，才能防止AI工具淪為謠言的“黑箱”。
本文鏈接：警惕AI成為謠言工廠http://m.sq15.cn/show-2-12835-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。