21世紀經濟報道記者 馮戀閣 肖瀟 廣州、北京報道
歐洲議會的人工智能法案聯合負責人將3月13日形容為“歷史性的一天”。
當地時間13日，歐洲議會以 523 票贊成、46 票反對、49 票棄權的壓倒性優勢通過《人工智能法案》（以下簡稱“《法案》”），并公布了法案的文本。
受訪專家指出，相比今年1月非正式公開的文本，本次官方公布的內容實質變動不大。在通用人工智能系統、生物識別、國家安全等條款進行了一定調整。順利通過議會后，《法案》面前又少了一個關卡。如果4月29日通過歐盟理事會的批準，預計法案將在5月、6月開始生效。
歐盟或許再次成為了數字科技領域的全球標準制定者。
實質內容已定稿
“歐盟的人工智能法是個比較重要的立法樣本。”對外經濟貿易大學數字經濟與法律創新研究中心執行主任張欣指出，整體而言，歐盟對人工智能的立法規制思路仍然與之前一脈相承，即基于風險的分類分級治理。
根據歐洲議會官網公開的法案，基于不同的風險，AI系統被分為四個類別：分別是完全被禁止、高風險、有限風險、低風險的AI系統。
完全被禁止的AI應用有六類，比如在公共場所面部識別，用AI在工作或學校識別情緒。值得注意的是，此前爭議頗大的生物識別，最終沒有被完全禁止。當執法人員需要追蹤嚴重犯罪者、預防恐怖主義時，如果獲得了司法或行政授權，仍然可以在公共場合使用面部識別技術。
更為大眾熟悉的ChatGPT、Gemini等基礎模型，可能被用于各種目的，因此屬于“典型的通用目的人工智能（General Purpose AI, GPAI）” 它們必須額外滿足一些透明度要求，比如遵守現行的歐盟版權法，發布訓練數據的詳細摘要。
據媒體報道，版權條款是《法案》“游說最激烈”的一部分，來自不同立場的觀點不斷碰撞，難以達成一致。同濟大學法學院助理教授、上海市人工智能社會治理協同創新中心研究員朱悅認為，版權問題的爭議圍繞一個問題：人工智能企業的訓練內容披露，究竟要詳細到何種程度？
“媒體、作家等版權人可能會認為，既然自己的數據已經被使用，AI企業就應該盡量詳細地公開相關信息；但另一端的模型開發者則會認為，一方面，訓練數據的選擇、配比等是企業的商業秘密，不可能全盤公開；另一方面，Sora這類頂尖的大模型，其訓練數據很可能是高質量的私有數據，公開可能會對企業造成商業上的負面影響。”
“說實話，在詳細的行為守則或者指南出來之前，或者在重要案例判決之前，歐盟在版權問題上的實踐究竟會做到什么程度很難說清楚。”他表示。
法案還重點指出，人工智能系統的部署者和提供者都負有對人造或操縱生成的圖像、音頻或視頻內容（深度偽造品，deepfake）明確標記的義務。
“目前官方在這個問題上的監管態度還比較審慎。”朱悅指出，一般來說，這種標識可以通過水印、標識、元數據等方法來實現。從技術成熟度上來看，圖片的明水印、暗水印技術已經逐步成熟，但文字內容如何做好水印標識可能還需進一步探索。“可能還需要有配套的行為守則對技術手段等進行指導。”
要不要監管基礎模型，也曾是此前的核心爭議。各自擁有明星AI初創公司的法國、德國，在去年12月突然對基礎模型的監管提出異議，一度讓《法案》的談判陷入僵局。在本次歐洲議會的新聞發布會上，被問到法國Mistral公司的游說情況，以及游說是否削弱了《法案》對基礎模型的監管力度，歐盟內部市場專員蒂埃里·布雷頓駁斥了這一說法。他強調：“這是游說力度最大的立法之一，但歐盟頂住了壓力。”
在朱悅看來，本輪后文本顯示，歐盟對于GPAI的監管力度不算太強。“主要是披露義務和一些常規的自律義務，很可能此前來自產業界等多方的游說在這方面還是產生了一定影響。”
而張欣認為，對基礎模型的規制思路，以及對風險的認定和評估，是本輪法案值得借鑒的亮點。此次法案中提出，依據一定的指標和基準對通用人工智能模型的影響能力進行評估。“生成式人工智能是一個技術族群，不同的模型所能帶來的風險和影響不可一概而論。這種通過訓練使用計算量、模型技能獲取效率、通用性分析以及數據豐富度、算法效率和模型通用性維度并結合特定模型基準而構建的基礎模型分層治理思路有一定參考價值。”
在她看來，無論是今天的生成式人工智能還是即將出現的AI Agent（人工智能體），治理的關鍵節點都在基礎模型環節。因此歐盟的分層治理是其嘗試統籌發展與安全和精準治理的思路之一。
評估細化、框架融合等難題待解
腳步漸近，人工智能法案邁向下一步的路上。受訪專家指出，新規則與舊制度的融合、新風險與舊框架的沖突，都是接下來執法要面對的難題。
張欣指出，一方面，歐盟需要思考，人工智能法如何與已經生效的人工智能責任指令、產品責任指令、通用產品安全法規、GDPR、《數據治理法》《數字市場法》以及《數字服務法》之間構成的龐大的規范體系相銜接，避免法律規則之間的沖突與重疊；另一方面，雖然以風險分級作為基礎治理思路，但是人工智能的風險呈現動態性特征，即使歐盟制定了更新評估的機制，但是仍然可能面臨滯后與評估偏差的風險。此外，風險評估和基礎模型分層評估所依賴的評估機構體系和評估生態尚在雛形之中，未來如何高效運作，能否實現立法者的預期也是未定之數。
“未來落地的挑戰還十分艱巨。”她表示。
《法案》之后，新的機構和規則是否也將陸續跟上？
21記者發現，歐盟相關的機構和規則配套的進度也在逐漸加快。今年年初，成立歐洲人工智能辦公室(AI Office)的決定發布，這一辦公室將作為通信網絡、人工智能內容和技術總局行政架構的一部分，其職能主要包括促進人工智能系統的實施、監測和監督以及人工智能治理。目前，該辦公室的人員協調已經展開。
在規則方面，《產品責任指令》（Product Liability Directive，以下簡稱“《指令》”）和《通用數據保護條例》（General Data Protection Regulation，以下簡稱“GDPR”）的進一步適用都值得關注。
在朱悅看來，GDPR中包含了多類個人數據，而AI的成長和運行都與數據脫不了干系。“GDPR在人工智能領域的適用有可能對AI實踐產生非常大的影響。”
《產品責任指令》的重要性也不可小視。朱悅認為，《指令》多處表明，構成軟件，進而構成產品的人工智能將是其規制的重要對象。一般來說，民事訴訟中大多數時候依循“誰主張、誰舉證”的原則，但《指令》在訴訟權責分配方面有特別的規定，如果原告能證明系統存在科學上的復雜性，則其舉證責任可能降低。針對AI從業者，《指令》也有相對“人性化”的條款，比如“發展抗辯”——如果損害的發生來自AI企業在當前科技水平不能預見、不可克服的風險，則企業有可能免除責任。
歐洲議會法律工作聯合負責人在新聞發布會上表示，夏季議會選舉后，可能會出臺更多與人工智能相關的立法和細則。
本文鏈接：歐盟搶跑AI治理，《人工智能法案》的下一步是什么？http://m.sq15.cn/show-2-3799-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
上一篇： AI+的邏輯與未來