拜登來電莫迪跳舞？別被騙！AI造假打開潘多拉魔盒？
中新網2月21日電(陳彩霞) “真是一派胡言！重要的是，你要把選票留到11月的選舉中。本周的投票只會讓共和黨人再次選舉唐納德?特朗普……”近期，在美國新罕布什爾州舉行初選前，很多美國人接到了“美國總統拜登”的電話留言，而這通電話被認為是人工智能(AI)生成的“虛假電話”。
隨著生成式人工智能(GAI)時代的到來，“眼見為實”“有圖有真相”逐漸被顛覆。2024年開年，美國OpenAI公司發布了首個文生視頻模型“Sora”，在振奮科技圈的同時，也讓人們對AI生成的假視頻和假圖片泛濫的擔憂與日俱增。大量“深度偽造”視頻的出現，可能對選舉等政治和安全領域產生負面影響，世界各國仍需合作來應對這一挑戰。
圖片來源：OpenAI網站截圖
“AI換臉”真假難辨
多國政要“躺槍”
近年來，AI技術發展迅猛，文生圖、文生視頻的工具如Pika、Sora等層出不窮。而“AI換臉”也通過深度合成算法處理，為“二度創作”提供了支持。深度偽造技術似乎愈發出格，甚至多國政要也紛紛“躺槍”……
2023年3月18日，美國前總統特朗普曾在社交媒體上發文稱，他預計自己將于2023年3月21日被捕。此消息一出，“特朗普被捕”的“照片”在一些社交平臺迅速流傳開來。這些“照片”包括“特朗普被警察圍捕”、“特朗普穿囚服”，甚至還有“特朗普越獄”，精彩程度堪比好萊塢大片。
日本首相岸田文雄也曾因“AI換臉”技術“躺槍”。2023年11月，日本一名25歲男子借助AI技術，制作了“岸田文雄開發布會”的假視頻。
視頻中的“岸田”身著西裝，神態緊張，語氣鄭重。該視頻還帶有日本電視臺的臺標和“突發新聞”字樣。這條假視頻上線僅一天，播放量就超過230萬次。
“莫迪跳舞”的假視頻截圖 圖片來源：社交平臺X截圖
印度總理莫迪也曾陷“深度偽造”風波。2023年11月，一段“莫迪跳舞”的視頻在網上瘋傳。視頻中，“莫迪”和其他舞者身穿傳統服飾，圍成一個圈，歡快地跳著印度古吉拉特邦的一種節日舞蹈――加爾巴舞。
莫迪親自辟謠，稱視頻是AI合成的。他警告稱，“人們會誤以為自己看見的是真實的，這會引發巨大危機……在人工智能時代，負責任地使用技術很重要。”
新加坡總理李顯龍2023年底也在社交媒體發文稱，近日出現了一些利用他的音頻制作的深度偽造視頻，宣傳加密貨幣騙局。流傳的偽造視頻中，李顯龍提到獲新加坡政府批準的投資機會，并推廣了一個所謂由特斯拉首席執行官馬斯克設計的“革命性投資平臺”。李顯龍呼吁公眾提高警惕，切勿上當受騙。
政治“深偽”時刻到來？
AI安全成焦點
除了滿足網絡受眾的獵奇心理和社交需求，AI技術近來逐漸在選舉中嶄露頭角，它與政治的融合既帶來進步，也帶來“陷阱”。
瓦拉斯譴責網上發布的有關他的虛假視頻。圖片來源：美國哥倫比亞廣播公司(CBS)報道截圖
2023年2月，美國芝加哥市長選舉前夕，一段“溫和派民主黨候選人保羅?瓦拉斯猛烈抨擊芝加哥”的視頻在網絡迅速流傳。視頻中，瓦拉斯稱，由于缺乏法律和秩序，芝加哥已經變成一個“無法無天”的真空地帶，而且“警察隨隨便便就可以射殺嫌疑人，人們卻對這些情況視而不見”。
不過，這段視頻被證明是AI合成。雖然社交平臺最后刪除了該視頻，但其產生的負面影響仍無法消除，瓦拉斯也在市長選舉中不敵對手布蘭登•約翰遜。
《今日美國報》援引布魯金斯學會技術創新中心高級研究員達雷爾?韋斯特的話稱，“2024年的美國大選，將會出現人工智能(AI)生成的虛假信息‘海嘯’。我們已看到這種情況，且情況將會變得更糟。”
美國政府監管組織“捍衛公眾利益組織”負責人羅伯特•韋斯曼也稱，政治“深度偽造”時刻已經到來，政策制定者必須盡快采取保護措施，否則將面臨“選舉混亂”。
關于AI可能被用來誤導選民和惡意歪曲選舉的擔憂，在2024年這個“全球超級大選年”急劇上升。
2月16日，OpenAI、亞馬遜、谷歌、微軟、TikTok、臉書的母公司“元”、社交平臺X(原推特)等全球多家領先的科技企業，在第60屆慕尼黑安全會議(慕安會)上簽署協議，承諾在2024年這個多國舉行重要選舉的年份，通過技術部署，減少利用人工智能生成和分發欺騙性內容干擾選舉的風險。
“政府需要在人工智能領域扮演重要角色，確保設置安全屏障和護欄，讓產業內人士知道，哪些能做，哪些不能做。”美國消費者技術協會首席執行官夏皮羅如是說道。(完)
本文鏈接：拜登來電莫迪跳舞？別被騙！AI造假打開潘多拉魔盒？http://m.sq15.cn/show-2-3036-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。