瑞典布羅斯大學學院研究人員在一項最新研究中警告稱：無論是從社會知識層面，還是從公眾對科學的信任度來看，人工智能（AI）生成的研究都已構成一種威脅。他們最近在文獻索引數據庫——谷歌學術平臺中發現了上百篇疑似由AI生成的文章。相關研究報告13日發表在哈佛肯尼迪學院《錯誤信息評論》期刊上。
研究人員認為，由AI生成的“垃圾科學”侵蝕學術平臺，意味著惡意行為者能以更低成本制造和傳播虛假科學，對社會和科研界來說都是一種危險情況。
該研究發現，AI生成的研究帶來的主要擔憂之一，是證據篡改風險增加，即虛假研究可能被用于戰略操縱。此次發現，這些有問題的文章已經傳播到網絡研究基礎設施的多個組成部分，滲透進了各種檔案庫、社交媒體平臺以及其他相關網絡渠道。由于傳播速度很快，且在谷歌學術平臺處于公開狀態，即使文章被撤回，也有可能已經傳播開來，造成潛在影響。
此外，AI生成的研究也給已經壓力重重的同行評審系統帶來問題。AI生成的研究在搜索引擎數據庫中傳播，對參與在線研究的人員的信息素養提出了更高要求，否則，人們很有可能基于錯誤的信息作出決策。這既是科學不端行為的問題，也是媒體和信息素養的問題。
研究人員強調，谷歌學術平臺并不等同于專業的學術數據庫。盡管它使用便捷、搜索迅速，但缺少必要的質量保證流程。這一缺陷在普通的谷歌搜索結果中已顯現出問題，而當涉及科學知識的普及與傳播時，這一問題則變得更為嚴峻和復雜。
瑞典布羅斯大學學院研究人員在一項最新研究中警告稱：無論是從社會知識層面，還是從公眾對科學的信任度來看，人工智能（AI）生成的研究都已構成一種威脅。他們最近在文獻索引數據庫——谷歌學術平臺中發現了上百篇疑似由AI生成的文章。相關研究報告13日發表在哈佛肯尼迪學院《錯誤信息評論》期刊上。
研究人員認為，由AI生成的“垃圾科學”侵蝕學術平臺，意味著惡意行為者能以更低成本制造和傳播虛假科學，對社會和科研界來說都是一種危險情況。
該研究發現，AI生成的研究帶來的主要擔憂之一，是證據篡改風險增加，即虛假研究可能被用于戰略操縱。此次發現，這些有問題的文章已經傳播到網絡研究基礎設施的多個組成部分，滲透進了各種檔案庫、社交媒體平臺以及其他相關網絡渠道。由于傳播速度很快，且在谷歌學術平臺處于公開狀態，即使文章被撤回，也有可能已經傳播開來，造成潛在影響。
此外，AI生成的研究也給已經壓力重重的同行評審系統帶來問題。AI生成的研究在搜索引擎數據庫中傳播，對參與在線研究的人員的信息素養提出了更高要求，否則，人們很有可能基于錯誤的信息作出決策。這既是科學不端行為的問題，也是媒體和信息素養的問題。
研究人員強調，谷歌學術平臺并不等同于專業的學術數據庫。盡管它使用便捷、搜索迅速，但缺少必要的質量保證流程。這一缺陷在普通的谷歌搜索結果中已顯現出問題，而當涉及科學知識的普及與傳播時，這一問題則變得更為嚴峻和復雜。
本文鏈接：瑞典研究警告：AI生成的“垃圾科學”正侵蝕谷歌學術平臺http://m.sq15.cn/show-2-10171-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 《全國青少年科技創新大賽實施辦法（試行）》發布 確保科技創新大賽更加公平誠信
下一篇： AI推理芯片激發新一輪應用創新