用AI數據訓練AI效果怎樣？國際最新研究稱可能最終導致崩潰
中新網北京7月27日電 (記者 孫自法)國際學術期刊《自然》最新發表一篇計算機科學論文指出，用人工智能(AI)生成的數據集訓練未來幾代機器學習模型可能會污染它們的輸出，這個概念稱為“模型崩潰”。
該研究顯示，原始內容會在AI數代內變成不相關的胡言亂語，顯示出使用可靠數據訓練AI模型的重要性。
生成式AI工具越來越受歡迎，如大語言模型等，這類工具主要用人類生成的輸入進行訓練。不過，隨著這些AI模型在互聯網不斷壯大，計算機生成內容可能會以遞歸循環的形式被用于訓練其他AI模型或其自身。
論文第一作者兼共同通訊作者、英國牛津大學Ilia Shumailov和同事及合作者一起，用數學模型演示了AI模型可能會如何出現模型崩潰。他們證明了一個AI可能會忽略訓練數據中的某些輸出(如不太常見的文本)，導致其只用一部分數據集來自我訓練。
隨后，論文作者還研究了AI模型會如何應對主要用人工智能生成的訓練數據集。他們發現，給模型輸入AI生成的數據會減弱今后幾代模型的學習能力，最終導致模型崩潰。他們測試的幾乎所有遞歸訓練語言模型都容易出現重復短語。比如，一個用中世紀建筑文本作為原始輸入的測試到第九代的輸出已經是一串野兔的名字。
論文作者指出，為了讓人工智能成功使用其自身輸出進行訓練，本次研究認為用AI生成數據訓練一個模型并非不可能，但必須對數據進行嚴格過濾。與此同時，依賴人類生成內容的科技公司或許能比競爭對手訓練出更高效的AI模型。(完)
本文鏈接：用AI數據訓練AI效果怎樣？國際最新研究稱可能最終導致崩潰http://m.sq15.cn/show-2-7855-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： 月球稀薄大氣從何而來