人工智能（AI）生成的科研成果正引發(fā)學(xué)界對“思想抄襲”的激烈爭論。
《自然》雜志日前一則報道稱，部分研究人員發(fā)現(xiàn)，一些標注為大型語言模型生成的論文，雖未直接復(fù)制文字，卻存在挪用他人研究方法或核心觀點且不標注出處的情況，即“抄觀點不抄字”。
但對這種“思想抄襲”或“思想挪用”的指控，有學(xué)者及AI研發(fā)團隊予以否認。
“思想挪用”案例頻引爭議
今年1月，韓國高等科學(xué)技術(shù)研究院研究員樸炳俊收到印度班加羅爾科學(xué)研究所“揭發(fā)團隊”的郵件，被告知一款名為“The AI Scientist”的工具生成的未正式發(fā)表手稿，疑似使用了他論文中的研究方法，卻并未署名?！癟he AI Scientist”由東京Sakana AI公司于2024年推出，是計算機科學(xué)領(lǐng)域全自動科研工具的代表，能通過大型語言模型生成思路、自主編寫運行代碼，并撰寫研究論文，且會明確標注為“AI生成”。
樸炳俊核查后發(fā)現(xiàn)，該AI手稿雖提出了新架構(gòu)，與他的論文主題不同，但兩篇論文的核心方法高度相似。
發(fā)現(xiàn)這一問題的印度“揭發(fā)團隊”指出，類似情況并非個例。他們在今年2月發(fā)表的研究中提到，經(jīng)外部專家評估，多個AI生成手稿存在未直接復(fù)制文字，卻挪用他人觀點且不署名的現(xiàn)象。這些由大型語言模型生成的研究觀點表面看似新穎，實則是“巧妙地抄襲”，其原創(chuàng)性難以驗證。
此外，“揭發(fā)團隊”還發(fā)現(xiàn)，Sakana AI今年3月宣布的、首篇通過國際學(xué)習(xí)表征會議研討會同行評審的全AI生成論文，疑似挪用了2015年發(fā)表的一項研究中的核心成果，且未標引用，同時，其還借鑒了另一篇2015年的未署名手稿。專家評估認為，這篇AI論文與2015年的研究相似性達到了5級，即具有極高的相似性。
為進一步驗證，“揭發(fā)團隊”選取了美國斯坦福大學(xué)團隊2024年發(fā)布的4份AI生成研究方案、Sakana AI的10份AI手稿，以及與Sakana AI使用相同方法生成的36份新方案，邀請13位領(lǐng)域?qū)＜野础?級相似度量表”評估（5級為方法完全對應(yīng)，4級為融合2—3項前人成果）。結(jié)果顯示，24%的AI生成作品達到4—5級相似度。
如何定義“抄襲”仍存分歧
針對上述指控，“The AI Scientist”研發(fā)團隊予以否認，稱“抄襲指控不實，毫無根據(jù)且應(yīng)被無視”。團隊表示，被質(zhì)疑的AI手稿與前人研究假設(shè)不同、應(yīng)用領(lǐng)域各異，即便方法存在部分關(guān)聯(lián)，也只是“未引用相關(guān)文獻”，這在人類研究者中也屬常見現(xiàn)象，且團隊已承認工具存在引用不足問題，但強調(diào)AI生成成果并非抄襲。
學(xué)界對“是否構(gòu)成抄襲”的判斷也存在分歧。美國佐治亞理工學(xué)院機器學(xué)習(xí)研究員本·胡佛認為，樸炳俊提及的AI論文與他本人的研究相似度僅為3級，“遠不足以構(gòu)成抄襲”。韓國高等科學(xué)技術(shù)研究院研究生白真宥則指出，新穎性本身就具有主觀性，人類評審在學(xué)術(shù)會議中也常就何為原創(chuàng)爭論不休。
樸炳俊本人雖認為其研究與AI論文的方法相似度達5級，但也表示“這未必符合法律或倫理層面的抄襲定義”。
柏林應(yīng)用科學(xué)大學(xué)專家德博拉·韋伯-伍爾夫指出，爭議根源在于“抄襲”定義的認知差異：部分計算機科學(xué)家認為抄襲需“主觀故意欺詐”，但她主張“意圖不應(yīng)作為判斷標準”，因為AI沒有主觀意識，且現(xiàn)有AI系統(tǒng)無法追溯觀點來源。她引用國際學(xué)術(shù)誠信中心前主任泰迪·菲什曼的定義：“未恰當(dāng)標注他人可識別的觀點或成果，且存在原創(chuàng)性預(yù)期時，即構(gòu)成抄襲”。
現(xiàn)有學(xué)術(shù)體系飽受沖擊
爭議背后，是AI科研對現(xiàn)有學(xué)術(shù)體系的深層挑戰(zhàn)。德國錫根大學(xué)機器學(xué)習(xí)專家喬拉恩·比爾指出，計算機科學(xué)等領(lǐng)域每年論文數(shù)量激增，研究者本就難以驗證自身觀點的新穎性；而大型語言模型通過重組訓(xùn)練數(shù)據(jù)生成觀點的特性，會加劇學(xué)術(shù)信用流失，因為AI天然傾向于借鑒前人成果。
更關(guān)鍵的是，“思想抄襲”的驗證尚無有效解決方案。韋伯-伍爾夫坦言，目前沒有統(tǒng)一方法能證明“思想抄襲”與“文字抄襲”不同，觀點挪用難以量化。新加坡南洋理工大學(xué)AI研究員劉陽也表示，現(xiàn)有技術(shù)可檢測句子語義相似度，但“觀點或概念層面的相似度檢測研究極少”。
研究測試顯示，商業(yè)抄襲檢測工具Turnitin未能識別出專家判定的AI論文來源文獻，學(xué)術(shù)搜索大型語言模型工具OpenScholar僅識別出1篇。
“The AI Scientist”雖會通過“大型語言模型生成關(guān)鍵詞+語義學(xué)者搜索引擎+大型語言模型評估”的流程驗證原創(chuàng)性，但比爾認為，該過程過于簡化，因為關(guān)鍵詞難以完整概括觀點，搜索引擎可能遺漏關(guān)鍵文獻，無法媲美領(lǐng)域?qū)＜业呐袛唷?span style="display:none">OyL速刷資訊——每天刷點最新資訊，了解這個世界多一點SUSHUAPOS.COM
AI使用標準亟待明晰
面對爭議，學(xué)界普遍認為需規(guī)范AI科研工具的使用。
新加坡國立大學(xué)計算機科學(xué)家靳民彥表示，AI工具終將普及，關(guān)鍵是找到正確的使用方式。“The AI Scientist”研發(fā)團隊則表示，其成果僅是“概念驗證”，旨在證明“AI生成科研論文已具備可行性”，未來這類系統(tǒng)有望實現(xiàn)“重大原創(chuàng)發(fā)現(xiàn)”。團隊同時承認AI生成論文存在質(zhì)量問題，建議當(dāng)前階段僅將這一工具用于“啟發(fā)思路”，研究者需自行驗證其輸出內(nèi)容的可靠性。
目前，關(guān)于AI生成科研成果的學(xué)術(shù)規(guī)范尚未成形，如何平衡AI的科研輔助價值與學(xué)術(shù)誠信，仍是學(xué)界亟待解決的課題。
本文鏈接：AI論文“抄觀點不抄字”引激辯http://m.sq15.cn/show-11-26344-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。