監(jiān)管AI，歐盟出手，美國(guó)掉隊(duì)？
上個(gè)世紀(jì)，科幻小說(shuō)家艾薩克?阿西莫夫提出了“機(jī)器人三定律”，帶來(lái)了對(duì)“機(jī)器人”與“規(guī)則”的美好幻想。
如今，伴隨著ChatGPT、Sora的爆火，人工智能(AI)領(lǐng)域的激烈競(jìng)爭(zhēng)，對(duì)該領(lǐng)域的監(jiān)管也被正式提上日程。
當(dāng)?shù)貢r(shí)間3月13日，歐洲議會(huì)正式投票通過(guò)并批準(zhǔn)歐盟《人工智能法案》，嚴(yán)格禁止“對(duì)人類(lèi)安全造成不可接受風(fēng)險(xiǎn)的AI系統(tǒng)”。這標(biāo)志著歐盟掃清了立法監(jiān)管AI的最后障礙。
另?yè)?jù)美國(guó)有線(xiàn)電視新聞網(wǎng)(CNN)3月12日?qǐng)?bào)道，美國(guó)國(guó)務(wù)院委托第三方機(jī)構(gòu)進(jìn)行的一份新調(diào)查報(bào)告稱(chēng)，快速發(fā)展的AI或?qū)θ祟?lèi)構(gòu)成“毀滅級(jí)”風(fēng)險(xiǎn)。該報(bào)告還警告說(shuō)，美國(guó)政府避免災(zāi)難的時(shí)間已經(jīng)不多了，必須進(jìn)行干預(yù)。
監(jiān)管前沿
事實(shí)上，歐盟一直走在技術(shù)監(jiān)管的最前沿。
早在2019年4月，歐盟委員會(huì)就發(fā)布了一份AI道德準(zhǔn)則，提出了“值得信賴(lài)”的AI應(yīng)當(dāng)滿(mǎn)足的7個(gè)條件。
2020年12月15日，歐盟委員會(huì)向歐洲議會(huì)和歐盟理事會(huì)提交了《數(shù)字市場(chǎng)法案》，2024年3月8日，這一法案正式落地生效。而與該法案一起提交的，作為“塑造歐洲數(shù)字未來(lái)”一部分的《數(shù)字服務(wù)法案》也已于2月17日正式在全部網(wǎng)絡(luò)平臺(tái)生效。
據(jù)悉，《數(shù)字市場(chǎng)法案》更注重于結(jié)束科技巨頭壟斷行為，《數(shù)字服務(wù)法案》更聚焦用戶(hù)的隱私等基本權(quán)利，希望敦促企業(yè)有節(jié)制、有方法地投放廣告等內(nèi)容。
而本次通過(guò)的《人工智能法案》旨在全面規(guī)范AI，確保AI的使用不會(huì)侵犯人的基本權(quán)利，防止AI濫用和風(fēng)險(xiǎn)。該法案于2021年4月由歐盟委員會(huì)提出，預(yù)計(jì)將在今年5月生效。
該法案的核心特征是對(duì)AI應(yīng)用進(jìn)行風(fēng)險(xiǎn)級(jí)別的分類(lèi)，分為“不可接受”風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、中風(fēng)險(xiǎn)和低風(fēng)險(xiǎn)，被認(rèn)為存在“不可接受”風(fēng)險(xiǎn)的技術(shù)會(huì)被完全禁止，法規(guī)會(huì)根據(jù)不同風(fēng)險(xiǎn)等級(jí)的AI應(yīng)用制定針對(duì)性標(biāo)準(zhǔn)。
爭(zhēng)議頗多
和歐盟其他許多法規(guī)一樣，在獲得高票通過(guò)的同時(shí)，《人工智能法案》也引發(fā)了頗多擔(dān)憂(yōu)。
一方面，有些公司擔(dān)心這項(xiàng)法案可能過(guò)于嚴(yán)格，限制了技術(shù)創(chuàng)新和商業(yè)發(fā)展；另一方面，一些立法者認(rèn)為該法案還不足以全面應(yīng)對(duì)人工智能帶來(lái)的挑戰(zhàn)和風(fēng)險(xiǎn)。
在去年談判進(jìn)入最后階段時(shí)，法國(guó)和德國(guó)政府就認(rèn)為AI監(jiān)管規(guī)則過(guò)嚴(yán)，會(huì)傷害歐洲的初創(chuàng)企業(yè)。而德國(guó)和法國(guó)正是歐洲一些最有前途的人工智能初創(chuàng)公司所在地，包括Aleph Alpha、DeepL和Mistral AI。
與微軟進(jìn)行合作的法國(guó)企業(yè)Mistral AI認(rèn)為，“相較于在較少限制性監(jiān)管框架下運(yùn)作的美國(guó)大型科技公司，該法案過(guò)于嚴(yán)格的規(guī)定可能限制歐盟AI領(lǐng)域的競(jìng)爭(zhēng)能力。”
Meta公司也警告不要采取任何可能扼殺創(chuàng)新的措施。Meta歐盟事務(wù)主管Marco Pancini表示，“最重要的是，我們不要忽視人工智能在促進(jìn)歐洲創(chuàng)新和促進(jìn)競(jìng)爭(zhēng)方面的巨大潛力，而開(kāi)放是關(guān)鍵。”
有分析指出，如果歐盟的規(guī)定過(guò)于嚴(yán)格，可能會(huì)促使歐盟內(nèi)部的AI企業(yè)尋求與歐盟監(jiān)管體系之外的公司合作，以規(guī)避這些限制，這可能削弱歐盟立法的初衷和目標(biāo)。
歐洲科技行業(yè)組織Digital Europe總干事塞西莉亞?博內(nèi)菲爾德-達(dá)爾(Cecilia Bonefeld-Dahl)此前表示，“我們將為該法案付出代價(jià)，這意味著我們需要投入更多來(lái)研究對(duì)抗人工智能使用風(fēng)險(xiǎn)的方法。新的監(jiān)管規(guī)則將要求公司投入大量資源來(lái)遵守，把資源花在律師身上，而不是雇傭人工智能工程師。”
這或許不是危言聳聽(tīng)。
德國(guó)政府前顧問(wèn)、波士頓咨詢(xún)公司合伙人魯爾夫(Kirsten Rulf)表示，已有超過(guò)300家企業(yè)向她的公司咨詢(xún)了該法案的相關(guān)情況。“企業(yè)需要并希望獲得法律上的確定性”。
在本月歐盟《數(shù)字市場(chǎng)法案》正式落地生效前夕，歐盟以蘋(píng)果公司濫用市場(chǎng)主導(dǎo)地位為由，對(duì)其處以18億歐元的巨額罰款。蘋(píng)果公司隨后表示，將對(duì)歐盟的這一決定提起上訴，這將引發(fā)一場(chǎng)可能持續(xù)數(shù)年的法律斗爭(zhēng)。而這一情況或?qū)⒃谖磥?lái)成為常態(tài)。
在人工智能的世界里，一眨眼就是瞬息萬(wàn)變。在歐洲議會(huì)議員圖多拉切看來(lái)，該法案立法后如何實(shí)施將成為最大的障礙。
Harbottle&Lewis律師事務(wù)所合伙人艾瑪?懷特(Emma Wright)指出，“考慮到技術(shù)變革的步伐，未來(lái)可能會(huì)出現(xiàn)的復(fù)雜情況是，《人工智能法案》很快就會(huì)過(guò)時(shí)，特別是考慮到部分條款將分階段實(shí)施的情況。”
此外，關(guān)于禁止面部識(shí)別技術(shù)的可能性，以及配套的人工智能辦公室亦是爭(zhēng)論的焦點(diǎn)。
據(jù)了解，新成立的人工智能辦公室的員工總數(shù)將達(dá)到98人，啟動(dòng)預(yù)算將為4650萬(wàn)歐元。但關(guān)于人員聘用、預(yù)算分配仍未有切實(shí)計(jì)劃出臺(tái)。
美國(guó)掉隊(duì)？
在擁有多家強(qiáng)大人工智能公司的美國(guó)，情況更為復(fù)雜。
2022年年底，微軟支持的OpenAI推出ChatGPT，這一人工智能應(yīng)用能在幾秒內(nèi)撰寫(xiě)論文、進(jìn)行翻譯等，展示出了AI科技的巨大潛力，隨即引發(fā)了一場(chǎng)世界范圍內(nèi)的AI“軍備競(jìng)賽”。年初推出的Sora更是讓許多科技大佬感慨“差距明顯”。
但在AI產(chǎn)業(yè)繁榮的背后，美國(guó)對(duì)該產(chǎn)業(yè)的監(jiān)管卻顯得有些力不從心。
美國(guó)有線(xiàn)電視新聞網(wǎng)(CNN)3月12日?qǐng)?bào)道，美國(guó)國(guó)務(wù)院委托第三方機(jī)構(gòu)進(jìn)行的一份新調(diào)查報(bào)告稱(chēng)，快速發(fā)展的AI或?qū)θ祟?lèi)構(gòu)成“毀滅級(jí)”風(fēng)險(xiǎn)。
報(bào)告將AI發(fā)展給全球安全帶來(lái)的風(fēng)險(xiǎn)與核武器相比，稱(chēng)未來(lái)AI發(fā)展存在“軍備競(jìng)賽”、沖突和“大規(guī)模殺傷性武器致命事故”的風(fēng)險(xiǎn)。報(bào)告呼吁成立一個(gè)新的AI機(jī)構(gòu)，實(shí)施緊急監(jiān)管，并限制用于訓(xùn)練AI模型的計(jì)算機(jī)能力等。
美國(guó)其實(shí)早已意識(shí)到了這一點(diǎn)。盡管美國(guó)總統(tǒng)拜登已于去年10月發(fā)布行政命令，要求聯(lián)邦機(jī)構(gòu)起草AI技術(shù)使用標(biāo)準(zhǔn)，以監(jiān)控人工智能風(fēng)險(xiǎn)、保護(hù)工人，促進(jìn)半導(dǎo)體領(lǐng)域的競(jìng)爭(zhēng)，但美國(guó)政府，尤其是美國(guó)國(guó)會(huì)至今未能就有約束力的AI監(jiān)管達(dá)成一致，反而在半導(dǎo)體領(lǐng)域頻頻找茬。
去年9月，美國(guó)國(guó)會(huì)舉行了至少三場(chǎng)與AI立法有關(guān)的討論，出席討論的科技界大佬包括谷歌、微軟、Meta、OpenAI等AI技術(shù)公司的CEO。國(guó)會(huì)參議院多數(shù)黨領(lǐng)袖查克?舒默在會(huì)后對(duì)記者說(shuō)，他在會(huì)上提出“政府是否應(yīng)該在監(jiān)管人工智能中發(fā)揮作用”的問(wèn)題，“所有人都舉手(表示同意)，雖然他們的觀點(diǎn)不盡相同”。
從某種程度上來(lái)說(shuō)，這些科技企業(yè)可能更希望將“標(biāo)準(zhǔn)”掌握在自己手中。
以谷歌為例，該公司公開(kāi)反對(duì)建立專(zhuān)門(mén)監(jiān)管AI的政府機(jī)構(gòu)。據(jù)CNBC報(bào)道，谷歌公司去年6月在一封回復(fù)給美國(guó)國(guó)家標(biāo)準(zhǔn)技術(shù)研究所(NIST)的信函中說(shuō)，谷歌支持分散式的監(jiān)管方式，以“多層次、多利益相關(guān)者的方法”治理人工智能。
更多的監(jiān)管則依賴(lài)于科技公司的“自覺(jué)”。今年年初，谷歌公司DeepMind機(jī)器人團(tuán)隊(duì)公布了三項(xiàng)新進(jìn)展，其中一項(xiàng)就是收集訓(xùn)練數(shù)據(jù)的“機(jī)器人憲法”系統(tǒng)――AutoRT。該系統(tǒng)可一次性安全指揮20個(gè)機(jī)器人，谷歌為其設(shè)置了安全護(hù)欄，指示大語(yǔ)言模型避免選擇涉及人類(lèi)、動(dòng)物、尖銳物體甚至電器的任務(wù)。
社會(huì)層面來(lái)看，紐約大學(xué)媒體技術(shù)教授紐曼提倡對(duì)AI監(jiān)管采取一種“下游模式”。他認(rèn)為，“如果技術(shù)被用于非法目的，已經(jīng)有了成文的法律懲罰肇事者和犯罪者。沒(méi)有理由因?yàn)槭褂昧瞬煌墓ぞ叻缸锞腿ピ賹?xiě)一部法律。”類(lèi)似的想法在美國(guó)不在少數(shù)。
作者：王哲希
本文鏈接：監(jiān)管AI，歐盟出手，美國(guó)掉隊(duì)？http://m.sq15.cn/show-2-3985-0.html
聲明：本網(wǎng)站為非營(yíng)利性網(wǎng)站，本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。