12月15日，“微信珊瑚安全”公眾號發布《關于打擊利用AI仿冒知名人士進行營銷宣傳的公告》：
微信一直致力于打造安全、健康、綠色的平臺生態環境。近期有媒體報道網絡存在利用AI技術仿冒名人進行不當營銷的現象。為守護用戶權益，避免消費者上當受騙，結合用戶舉報、日常巡查等線索，微信從速從嚴打擊了一批利用AI仿冒知名人士進行不當營銷、惡意博取流量的違規行為，并針對相關情況開展專項治理。
截至目前，累計處置內容532條，關閉賬號209個。典型案例如下：
下一步，微信將持續對“利用AI仿冒知名人士進行營銷宣傳”等違規行為增加打擊力度，進一步提升技術治理能力和水平，維護良好生態。同時，平臺也倡導廣大用戶自覺遵守法律法規與平臺規則。針對“利用AI合成技術生成違規內容”的行為，平臺歡迎廣大網友提供更多線索，共同構建清朗有序的網絡環境。
張文宏“被AI帶貨”
日前，有網友發消息稱，“張文宏是不是帶貨了？”視頻中，“張文宏”在賣一種蛋白棒，聲音聽起來很像張文宏本人，一些老人信以為真，不僅下了單，還呼朋引伴來購買。
據央視新聞報道，對此，張文宏回應稱，這樣的賣貨賬號不止一個，而且一直在變，他多次向平臺投訴但屢禁不絕。
工信部信息通信經濟專家委員會委員盤和林表示：“AI技術冒充名人帶貨、詐騙越來越多，這里的關鍵不在AI，而是要及時處理利用AI冒充他人的內容發布者。冒名頂替、虛假宣傳、破壞名人肖像權、利用名人的公信力來牟利，這些行為會給名人帶來風險，也會成為詐騙分子的溫床。”
工信部反詐工作專班專家李坤介紹，在網上，耳聽眼見不一定為實。“擬聲”“換臉”等合成技術的一大特點是以假亂真，不法分子可以利用此類技術輕易偽裝成他人，并通過快速篩選目標人群、精準制定詐騙腳本。
廣電總局出手管理AI“魔改”視頻
在各大視頻平臺上，類似《三國演義》劉備、張飛化身“變種人”，《甄嬛傳》變身“槍戰片”，《還珠格格》紫薇給容嬤嬤“喂啤酒”等各種AI改編影視劇段落十分常見；此外，《紅樓夢》變成“武打戲”、孫悟空騎著摩托車揚長而去等腦洞大開的場景也比比皆是。其中，經典影視作品《三國演義》一直是被“魔改”的對象，點贊量超百萬甚至200萬的視頻不在少數。
12月7日，廣電總局網絡視聽司發布的《管理提示（AI魔改）》提到，近期，AI“魔改”視頻以假亂真、“魔改”經典現象頻發。這些視頻為博流量，毫無邊界褻瀆經典IP，沖擊傳統文化認知，與原著精神內核相悖，且涉嫌構成侵權行為。
對此，《管理提示》要求，各相關省局督促轄區內短視頻平臺排查清理AI“魔改”影視劇的短視頻，嚴格落實生成式人工智能內容審核要求。
技術專家教你三招識破套路
“AI換臉”套路招式多，普通用戶應該如何辨真偽？南方財經全媒體記者曾專訪了中國網絡空間安全協會人工智能安全治理專業委員會委員、天融信科技集團助理總裁張博。對于如何防范“AI換臉”帶來的風險，張博表示：
第一是提高自身的安全風險意識，“AI換臉”可能跟交易詐騙場景結合出現，所以在涉及提供個人信息、轉賬匯款等敏感場景時，應保持高度警惕，以防受騙。
第二是在接收到視頻通話等視頻信息時，要仔細觀察對方視頻中的光線背景、面部輪廓等細節是否自然，如有必要，可以要求對方進行快速的抬頭、低頭、左右轉頭等動作，觀察畫面是否存在異常，進一步驗證視頻的真實性。
第三，在面臨轉賬匯款等金融交易時，可通過其他相對可靠的方式，例如親自打電話等確認對方身份，以確保交易信息無誤，避免因輕信虛假信息而遭受損失。
此外，應該加強對個人信息的防范保護，對人臉信息、指紋信息等敏感信息需要提高警惕，不要輕易泄露。在技術層面，可以采用人工智能檢測的方式來識別視頻內容是否有偽造，還可以增加身份認證和數字水印，加大偽造難度。
來 源：21財經客戶端、21世紀經濟報道（記者：陳夢璇）、央視新聞、上游新聞
本文鏈接：徹底涼涼！多個賬號，突然被封http://m.sq15.cn/show-4-14497-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。