“一本正經(jīng)胡說八道”：AI幻覺到底有多可怕？
中新網(wǎng)北京4月1日電(記者 吳濤)在享受AI帶來便捷的同時，你是否發(fā)現(xiàn)這個問題揮之不去――AI幻覺，一種“看似真實、實則虛構(gòu)”的內(nèi)容生成現(xiàn)象，正滲透進我們的生活。它到底是通往更強大智能的陣痛，還是技術(shù)發(fā)展的“魔性副產(chǎn)物”？未來，AI幻覺能否為我所用？
幻覺亂象，層出不窮
AI大模型固然“聰明”，但在“胡說八道”方面也毫不遜色。虛構(gòu)引用、杜撰人物、邏輯混亂，在與AI的互動中屢見不鮮。
例如，它會引用一篇根本不存在的“2023年哈佛研究”；或者，為并不存在的“諾貝爾物理學(xué)獎得主約翰?史密斯”編織一段“量子物理貢獻”的敘述。有時候，它甚至?xí)谀阋辉俜裾J其內(nèi)容后“動搖立場”，反復(fù)修改說法。
中新網(wǎng)記者在測試中還發(fā)現(xiàn)，AI模型在面對較為復(fù)雜的推理問題時，可能“宕機”或自相矛盾。而當你編造出一個根本不存在的概念，比如“高數(shù)幾何睡眠法”，它也會一本正經(jīng)地回答：“這是一種將睡眠科學(xué)與高等數(shù)學(xué)相結(jié)合的個性化學(xué)習(xí)策略……”――說得頭頭是道。
某大模型截圖。
當中新網(wǎng)記者輸入自己的名字請AI大模型進行介紹，還出現(xiàn)了一名乍看上去完全合理，但其實完全不存在的人，可以說除了“記者”是真的，其他全是假的。
AI大模型介紹的記者身份，職業(yè)生涯背景等均為虛構(gòu)。
技術(shù)問題，還是認知演進？
“AI幻覺就是生成看起來像真的一樣的虛假信息。”互聯(lián)網(wǎng)行業(yè)從業(yè)者、58同城CEO姚勁波接受中新網(wǎng)采訪認為，它當然需要治理，但現(xiàn)階段還未構(gòu)成決定性風險。“互聯(lián)網(wǎng)發(fā)展這么多年，虛假信息仍然很多，沒有被徹底消除，但網(wǎng)友的識別能力也越來越高。我認為AI領(lǐng)域也一樣，隨著用戶教育的積累，越來越多的網(wǎng)友自己可以分辨出AI幻覺。”
不過，并非所有從業(yè)者都如此樂觀。科大訊飛董事長劉慶峰曾指出，生成式AI的幻覺問題不僅關(guān)乎內(nèi)容真假，更可能形成算法偏差的惡性循環(huán)――虛假內(nèi)容被AI再次學(xué)習(xí)、放大，反復(fù)再生產(chǎn)。
但值得注意的是，AI幻覺在部分場景中卻意外成了創(chuàng)作“靈感來源”。游戲開發(fā)、動漫設(shè)計、小說創(chuàng)作等領(lǐng)域，恰恰歡迎那種“不合常理”的奇思妙想。比如AI生成的創(chuàng)意圖片不少是違反自然規(guī)律的，但這不影響創(chuàng)意圖的效果。
一位不愿具名的開源大模型社區(qū)負責人坦言：“今年的大模型比往年更好，就是因為產(chǎn)生了一部分想象力的創(chuàng)作。”
治理AI幻覺，路徑幾何？
如何治理AI幻覺？技術(shù)手段正在快速跟進。一方面，企業(yè)正在為大模型接入權(quán)威知識庫或?qū)崟r搜索能力，使其答案更具事實依據(jù)；另一方面，“標注AI生成內(nèi)容”也成為監(jiān)管部門推動的方向。
上述開源大模型社區(qū)負責人就表示，AI大模型如今引入聯(lián)網(wǎng)搜索，各個平臺也在用算法和工程解決一部分幻覺問題。
中國工程院院士張亞勤近日表示，幻覺在橫向模型里會越來越少，但是它不會消失，這是生成式AI的特點。要消失的話，一定需要具體到某個行業(yè)時，用更精準的數(shù)據(jù)和更精準的模型結(jié)合起來，才會達到效果。
多位科技領(lǐng)域企業(yè)家也提出了相應(yīng)對策。360集團創(chuàng)始人周鴻 亚洲 欧美 成人日韩| 欧美一级视频免费观看| 精品视频在线观看一区二区三区| 久草免费在线视频| 一级女性全黄久久生活片| 欧美国产日韩久久久| 国产高清视频免费观看| 亚飞与亚基在线观看| 日韩免费片| 免费的黄色小视频| 国产美女在线观看| 精品视频在线看 | 在线观看成人网| 日韩专区第一页| 欧美国产日韩久久久| 97视频免费在线观看| 精品毛片视频| 一级毛片视频免费| 日本特黄特黄aaaaa大片| 97视频免费在线观看| 日韩专区亚洲综合久久| 国产精品自拍亚洲| 午夜家庭影院| 欧美激情一区二区三区视频 | 一级毛片视频免费| 韩国毛片 免费| 99久久精品费精品国产一区二区| 在线观看成人网| 黄色福利片| 久久国产精品永久免费网站| 国产原创中文字幕| 国产一区二区精品久久| 午夜在线亚洲男人午在线| a级精品九九九大片免费看| 免费毛片播放| 可以免费看污视频的网站| 国产国产人免费视频成69堂| 久草免费在线视频| 一级毛片视频免费| 欧美另类videosbestsex视频 | 欧美日本免费| 午夜久久网| 精品视频在线观看免费| 精品视频在线观看免费| 国产一区精品| 精品国产一区二区三区久久久狼| 国产91精品一区| a级精品九九九大片免费看| 国产不卡在线看| 欧美激情影院| 午夜欧美成人香蕉剧场| 亚洲第一页色| 成人免费观看的视频黄页| 亚洲精品久久玖玖玖玖| 国产一区二区精品| 国产综合91天堂亚洲国产| 亚州视频一区二区| 久久精品成人一区二区三区| 日本在线www| 欧美一区二区三区性| 国产原创中文字幕| 二级片在线观看| 亚洲女初尝黑人巨高清在线观看| 欧美一区二区三区性| 精品国产一区二区三区久久久狼| 亚欧成人乱码一区二区| 精品久久久久久免费影院| 午夜欧美成人香蕉剧场| 日韩免费在线视频| 日韩欧美一及在线播放| 国产不卡在线观看| 免费一级片网站| 日韩欧美一及在线播放| 九九干| 亚洲精品影院一区二区| 国产高清视频免费观看| 日韩一级黄色大片| 尤物视频网站在线观看| 午夜激情视频在线观看| 青青青草影院| 中文字幕一区二区三区 精品| 国产不卡在线看| 黄视频网站免费| 日本免费看视频| 国产麻豆精品免费密入口| 欧美a级v片不卡在线观看| 国产一区精品| 91麻豆爱豆果冻天美星空| 欧美一级视| 香蕉视频一级| 精品国产一区二区三区精东影业| 日韩专区第一页| 99久久精品国产免费| 久久精品店| 亚欧乱色一区二区三区| 国产精品自拍亚洲| 99色视频在线| 欧美爱色| 国产福利免费视频| 亚洲第一页色| 国产国语在线播放视频| 精品国产一区二区三区久久久狼| 欧美激情一区二区三区在线播放| 99久久精品费精品国产一区二区| 91麻豆国产福利精品| 亚欧乱色一区二区三区| 免费国产一级特黄aa大片在线| 国产一区二区精品久久91| 精品久久久久久中文| 免费毛片播放| 你懂的在线观看视频| 国产欧美精品午夜在线播放| 日韩在线观看视频免费| 成人影院一区二区三区| 好男人天堂网 久久精品国产这里是免费 国产精品成人一区二区 男人天堂网2021 男人的天堂在线观看 丁香六月综合激情 | 欧美国产日韩久久久| 欧美1区| 亚飞与亚基在线观看| 九九热精品免费观看| 韩国三级香港三级日本三级| 欧美激情影院| 国产欧美精品午夜在线播放| 九九干| 黄视频网站免费| 日韩专区第一页| 日韩中文字幕一区二区不卡| 亚洲 欧美 成人日韩| 成人免费观看视频| 国产精品自拍亚洲| 精品毛片视频| 欧美18性精品| 成人免费福利片在线观看| 午夜家庭影院| 日韩综合| 午夜家庭影院| 精品国产一区二区三区久久久狼| 精品视频在线观看一区二区三区| 久久国产精品永久免费网站| 国产91精品一区| 国产精品自拍在线| 午夜家庭影院| 美国一区二区三区| 麻豆网站在线看| 国产综合91天堂亚洲国产| 久久久久久久网| 欧美日本国产| 一级片片| 免费国产一级特黄aa大片在线| 四虎久久影院| 九九热精品免费观看| 亚洲精品影院| 九九免费高清在线观看视频| 日韩专区一区| 亚洲不卡一区二区三区在线| 精品视频在线观看一区二区三区| 青青青草影院| 久久精品成人一区二区三区| 国产成人精品一区二区视频| 欧美a级v片不卡在线观看| 国产成人精品综合在线| 精品国产亚洲人成在线| 国产成人啪精品视频免费软件| 高清一级做a爱过程不卡视频| 日韩一级黄色大片| 欧美日本国产| 欧美另类videosbestsex久久| 国产国语在线播放视频| 国产一区二区精品在线观看| 青青久久精品国产免费看| 国产91丝袜高跟系列| 日本特黄一级| 成人影院一区二区三区| 国产网站免费在线观看| 成人免费观看视频| 久久99中文字幕| 亚洲天堂一区二区三区四区| 国产网站免费在线观看| 九九干| 国产国语在线播放视频| 精品国产一区二区三区精东影业| 韩国三级香港三级日本三级| 欧美夜夜骑 青草视频在线观看完整版 久久精品99无色码中文字幕 欧美日韩一区二区在线观看视频 欧美中文字幕在线视频 www.99精品 香蕉视频久久 | 亚州视频一区二区| 国产不卡在线观看| 免费一级片网站| 999久久久免费精品国产牛牛| 日韩中文字幕在线观看视频| 国产a免费观看| 日本在线不卡视频| 欧美18性精品| 青青青草影院| 一级毛片看真人在线视频| 久久久久久久免费视频| 青青青草影院| 日本伦理网站| 你懂的在线观看视频| 99色吧| 黄色福利片| 国产一区精品| 欧美a级v片不卡在线观看|