隨著AIGC（利用人工智能技術(shù)來生成各種類型的內(nèi)容）創(chuàng)作的快速發(fā)展與迭代，網(wǎng)絡(luò)空間變得更加豐富多元。比如，用各種模版一鍵上傳照片，就可以生成各種有趣的小視頻；看AI小貓小狗做飯，也成了近段時間的熱議話題。但與此同時，AI生成的各種低質(zhì)內(nèi)容也鋪天蓋地而來，給廣大用戶造成信息干擾。
生成式AI降低了標(biāo)題黨、“擦邊”內(nèi)容的制作門檻，但技術(shù)的加持讓AI謠言更具“說服力”、偽裝性和強(qiáng)傳播性，使得傳統(tǒng)辟謠手段難以招架。可以說，部分生成式AI正在重塑謠言的傳播生態(tài)，并嚴(yán)重擾亂網(wǎng)絡(luò)環(huán)境。
去年4月，在公安部公布的10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例中，就有4起涉及使用AI造謠。據(jù)不完全統(tǒng)計，2024年搜索熱度較高的50個國內(nèi)AI風(fēng)險相關(guān)輿情案例中，超1/5與AI造謠有關(guān)。
當(dāng)AI學(xué)會“一本正經(jīng)地胡說八道”后，我們該怎么辦？一方面，全鏈條的有效治理迫在眉睫，從企業(yè)平臺、監(jiān)管部門、技術(shù)提供者、用戶等多方面發(fā)力，方能最大程度擠壓AI謠言的生存空間；另一方面，作為AI技術(shù)應(yīng)用和海量信息的載體，平臺方的治理效能顯得尤為重要。不少專家建議把關(guān)注重點(diǎn)放到源頭治理上來，特別是同樣利用AI，在謠言內(nèi)容識別、路徑追蹤和自動化辟謠等方面“用魔法打敗魔法”。
例如，今日頭條在鼓勵用戶使用AI提效的基礎(chǔ)上，也迅速升級、迭代AI模型的識別能力，收嚴(yán)AI內(nèi)容的審核力度。識別到創(chuàng)作者使用AI輔助創(chuàng)作時，平臺會打上標(biāo)簽，以提醒用戶注意甄別。除此之外，平臺還增加了后臺的AI治理——持續(xù)迭代低質(zhì)內(nèi)容AI模型，命中模型的內(nèi)容會被自動處置，從而減少或禁止對外傳播。據(jù)了解，對于AI謠言治理，今日頭條已構(gòu)建起涵蓋內(nèi)容治理制度、內(nèi)容審核、辟謠教育、內(nèi)外聯(lián)動的四位一體“防御工事”，取得了較為顯著的效果。2024年攔截不實(shí)信息超500萬條，處置低質(zhì)AI內(nèi)容93萬條。
讓“AI治理”跑贏“AI謠言”，我們期待各平臺積極踐行社會責(zé)任，不斷升級“魔法”。政府機(jī)構(gòu)、媒體、公眾的多方協(xié)同也不可缺位，畢竟，網(wǎng)絡(luò)謠言治理需多方握指成拳、形成合力。
隨著AIGC（利用人工智能技術(shù)來生成各種類型的內(nèi)容）創(chuàng)作的快速發(fā)展與迭代，網(wǎng)絡(luò)空間變得更加豐富多元。比如，用各種模版一鍵上傳照片，就可以生成各種有趣的小視頻；看AI小貓小狗做飯，也成了近段時間的熱議話題。但與此同時，AI生成的各種低質(zhì)內(nèi)容也鋪天蓋地而來，給廣大用戶造成信息干擾。
生成式AI降低了標(biāo)題黨、“擦邊”內(nèi)容的制作門檻，但技術(shù)的加持讓AI謠言更具“說服力”、偽裝性和強(qiáng)傳播性，使得傳統(tǒng)辟謠手段難以招架。可以說，部分生成式AI正在重塑謠言的傳播生態(tài)，并嚴(yán)重擾亂網(wǎng)絡(luò)環(huán)境。
去年4月，在公安部公布的10起打擊整治網(wǎng)絡(luò)謠言違法犯罪典型案例中，就有4起涉及使用AI造謠。據(jù)不完全統(tǒng)計，2024年搜索熱度較高的50個國內(nèi)AI風(fēng)險相關(guān)輿情案例中，超1/5與AI造謠有關(guān)。
當(dāng)AI學(xué)會“一本正經(jīng)地胡說八道”后，我們該怎么辦？一方面，全鏈條的有效治理迫在眉睫，從企業(yè)平臺、監(jiān)管部門、技術(shù)提供者、用戶等多方面發(fā)力，方能最大程度擠壓AI謠言的生存空間；另一方面，作為AI技術(shù)應(yīng)用和海量信息的載體，平臺方的治理效能顯得尤為重要。不少專家建議把關(guān)注重點(diǎn)放到源頭治理上來，特別是同樣利用AI，在謠言內(nèi)容識別、路徑追蹤和自動化辟謠等方面“用魔法打敗魔法”。
例如，今日頭條在鼓勵用戶使用AI提效的基礎(chǔ)上，也迅速升級、迭代AI模型的識別能力，收嚴(yán)AI內(nèi)容的審核力度。識別到創(chuàng)作者使用AI輔助創(chuàng)作時，平臺會打上標(biāo)簽，以提醒用戶注意甄別。除此之外，平臺還增加了后臺的AI治理——持續(xù)迭代低質(zhì)內(nèi)容AI模型，命中模型的內(nèi)容會被自動處置，從而減少或禁止對外傳播。據(jù)了解，對于AI謠言治理，今日頭條已構(gòu)建起涵蓋內(nèi)容治理制度、內(nèi)容審核、辟謠教育、內(nèi)外聯(lián)動的四位一體“防御工事”，取得了較為顯著的效果。2024年攔截不實(shí)信息超500萬條，處置低質(zhì)AI內(nèi)容93萬條。
讓“AI治理”跑贏“AI謠言”，我們期待各平臺積極踐行社會責(zé)任，不斷升級“魔法”。政府機(jī)構(gòu)、媒體、公眾的多方協(xié)同也不可缺位，畢竟，網(wǎng)絡(luò)謠言治理需多方握指成拳、形成合力。
本文鏈接：打敗AI謠言亟待“魔法”升級http://m.sq15.cn/show-2-10885-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
上一篇： 全球最大功率甲醇雙燃料船用主機(jī)發(fā)布
下一篇： 農(nóng)機(jī)智駕繪春圖