《自然》網(wǎng)站在近日的報道中指出，由人工智能（AI）加持的致命自主武器已經(jīng)到來，AI可能會幫助它們攻擊特定目標。研究人員、法律專家和倫理學家正努力解決如何在戰(zhàn)場上使用這些武器的問題。
AI增強武器性能
自主武器至少已經(jīng)存在了幾十年，如熱追蹤導彈，但AI算法的開發(fā)和使用正在擴展其能力。
研究人員指出，AI擁有卓越的處理和決策技能，理論上具有顯著優(yōu)勢。在快速圖像識別的年度測試中，近十年來算法的表現(xiàn)一直優(yōu)于人類專家。例如，去年一項研究表明，AI能比人類專家更快發(fā)現(xiàn)論文中重復出現(xiàn)的圖像。此外，在2020年，一個AI模型在一系列模擬混戰(zhàn)中擊敗了一名經(jīng)驗豐富的F-16戰(zhàn)斗機飛行員，這要歸功于“該AI模型具有人類飛行員無法匹敵的精確操作”。
這預示著，包括AI無人機在內的致命自主武器正進入研發(fā)快車道。
美國國防部已為“復制者”計劃撥款10億美元。2023年8月28日，美國國防部副部長凱瑟琳·希克斯宣布了“復制者”計劃，其目標是在未來18—24個月內生產(chǎn)、交付和部署數(shù)千個無人作戰(zhàn)系統(tǒng)。使用AI實現(xiàn)自動駕駛和射擊的實驗性潛艇、坦克和艦艇已經(jīng)問世，商用無人機也可以使用AI圖像識別功能瞄準目標并將其炸毀。
美國戰(zhàn)略與國際研究中心安全分析師扎克·卡倫伯恩指出，AI武器很容易鎖定紅外或強大的雷達信號，并將其與數(shù)據(jù)庫進行比較以輔助決策。這意味著，當AI武器在戰(zhàn)場上檢測到來襲雷達信號的來源時，可在幾乎不傷害平民的情況下進行射擊。AI無人機也可就飛離對手的距離和攻擊角度作出非常復雜的決定。
用于戰(zhàn)場引爭議
AI增加了致命自主武器的速度和規(guī)避防御的能力。一些觀察人士擔心，未來任何集團都可派遣大批廉價的AI無人機前往戰(zhàn)場，使用面部識別技術消滅目標對象。
理論上，AI還能用于戰(zhàn)爭的其他方面，如編制潛在目標清單。有媒體報道稱，以色列使用AI創(chuàng)建了一個包含數(shù)萬名疑似武裝分子姓名的數(shù)據(jù)庫。不過，以色列軍方對此進行了否認。
2017年，美國加州大學伯克利分校計算機科學家、著名反AI武器活動家斯圖爾特·拉塞爾幫助制作了名為“殺戮機器人”的視頻，突出了將AI用于戰(zhàn)爭可能帶來的風險。視頻展示了在不久的將來，配備面部識別系統(tǒng)的微型無人機裝配炸藥，成為恐怖的“AI殺手”。它們能鎖定并殺死目標或攻擊特定人群，如穿著制服的人。
AI在戰(zhàn)場上出現(xiàn)，引發(fā)了研究人員、法律專家和倫理學家的爭論。
一些人認為，AI輔助武器可能比人類引導的武器更精確，能減少死亡和致殘士兵人數(shù)，減輕附帶傷害，如平民傷亡和對居民區(qū)的破壞，同時幫助弱勢國家和群體自衛(wèi)。另一些人則強調，這些AI加持的自主武器可能會犯下災難性錯誤。
而卡倫伯恩認為，主要問題不在于技術本身，而在于人類如何使用這項技術。
亟待制訂相關規(guī)則
多年來，研究人員一直在努力控制這種AI增強武器可能帶來的威脅，聯(lián)合國已經(jīng)邁出了至關重要的一步。
去年12月，聯(lián)合國一項決議將致命自主武器列入今年9月聯(lián)合國大會議程。聯(lián)合國秘書長安東尼奧·古特雷斯去年7月表示，他希望2026年前禁止可在沒有人類監(jiān)督情況下使用的武器。
專家認為，此舉為各國對AI武器采取行動提供了一條現(xiàn)實途徑。但說起來容易做起來難，部分原因在于各國對法律的實際內容缺乏共識。2022年的一項分析發(fā)現(xiàn)，“自主武器”至少有十幾個定義。
拉塞爾說，這些定義范圍很廣，并沒有達成共識。例如英國認為，致命自主武器“能夠理解更高層次的意圖和方向”；德國則將“自我意識”視為自主武器的必要屬性，而大多數(shù)研究人員認為現(xiàn)在的AI遠未獲得這種能力。
卡倫伯恩表示，任何關于致命自主武器的禁令都很難通過檢查和觀察來執(zhí)行，因為AI很容易隱藏或更改系統(tǒng)狀態(tài)。
所有這些問題都將在今年9月的聯(lián)合國大會上進行討論。
《自然》網(wǎng)站在近日的報道中指出，由人工智能（AI）加持的致命自主武器已經(jīng)到來，AI可能會幫助它們攻擊特定目標。研究人員、法律專家和倫理學家正努力解決如何在戰(zhàn)場上使用這些武器的問題。
AI增強武器性能
自主武器至少已經(jīng)存在了幾十年，如熱追蹤導彈，但AI算法的開發(fā)和使用正在擴展其能力。
研究人員指出，AI擁有卓越的處理和決策技能，理論上具有顯著優(yōu)勢。在快速圖像識別的年度測試中，近十年來算法的表現(xiàn)一直優(yōu)于人類專家。例如，去年一項研究表明，AI能比人類專家更快發(fā)現(xiàn)論文中重復出現(xiàn)的圖像。此外，在2020年，一個AI模型在一系列模擬混戰(zhàn)中擊敗了一名經(jīng)驗豐富的F-16戰(zhàn)斗機飛行員，這要歸功于“該AI模型具有人類飛行員無法匹敵的精確操作”。
這預示著，包括AI無人機在內的致命自主武器正進入研發(fā)快車道。
美國國防部已為“復制者”計劃撥款10億美元。2023年8月28日，美國國防部副部長凱瑟琳·希克斯宣布了“復制者”計劃，其目標是在未來18—24個月內生產(chǎn)、交付和部署數(shù)千個無人作戰(zhàn)系統(tǒng)。使用AI實現(xiàn)自動駕駛和射擊的實驗性潛艇、坦克和艦艇已經(jīng)問世，商用無人機也可以使用AI圖像識別功能瞄準目標并將其炸毀。
美國戰(zhàn)略與國際研究中心安全分析師扎克·卡倫伯恩指出，AI武器很容易鎖定紅外或強大的雷達信號，并將其與數(shù)據(jù)庫進行比較以輔助決策。這意味著，當AI武器在戰(zhàn)場上檢測到來襲雷達信號的來源時，可在幾乎不傷害平民的情況下進行射擊。AI無人機也可就飛離對手的距離和攻擊角度作出非常復雜的決定。
用于戰(zhàn)場引爭議
AI增加了致命自主武器的速度和規(guī)避防御的能力。一些觀察人士擔心，未來任何集團都可派遣大批廉價的AI無人機前往戰(zhàn)場，使用面部識別技術消滅目標對象。
理論上，AI還能用于戰(zhàn)爭的其他方面，如編制潛在目標清單。有媒體報道稱，以色列使用AI創(chuàng)建了一個包含數(shù)萬名疑似武裝分子姓名的數(shù)據(jù)庫。不過，以色列軍方對此進行了否認。
2017年，美國加州大學伯克利分校計算機科學家、著名反AI武器活動家斯圖爾特·拉塞爾幫助制作了名為“殺戮機器人”的視頻，突出了將AI用于戰(zhàn)爭可能帶來的風險。視頻展示了在不久的將來，配備面部識別系統(tǒng)的微型無人機裝配炸藥，成為恐怖的“AI殺手”。它們能鎖定并殺死目標或攻擊特定人群，如穿著制服的人。
AI在戰(zhàn)場上出現(xiàn)，引發(fā)了研究人員、法律專家和倫理學家的爭論。
一些人認為，AI輔助武器可能比人類引導的武器更精確，能減少死亡和致殘士兵人數(shù)，減輕附帶傷害，如平民傷亡和對居民區(qū)的破壞，同時幫助弱勢國家和群體自衛(wèi)。另一些人則強調，這些AI加持的自主武器可能會犯下災難性錯誤。
而卡倫伯恩認為，主要問題不在于技術本身，而在于人類如何使用這項技術。
亟待制訂相關規(guī)則
多年來，研究人員一直在努力控制這種AI增強武器可能帶來的威脅，聯(lián)合國已經(jīng)邁出了至關重要的一步。
去年12月，聯(lián)合國一項決議將致命自主武器列入今年9月聯(lián)合國大會議程。聯(lián)合國秘書長安東尼奧·古特雷斯去年7月表示，他希望2026年前禁止可在沒有人類監(jiān)督情況下使用的武器。
專家認為，此舉為各國對AI武器采取行動提供了一條現(xiàn)實途徑。但說起來容易做起來難，部分原因在于各國對法律的實際內容缺乏共識。2022年的一項分析發(fā)現(xiàn)，“自主武器”至少有十幾個定義。
拉塞爾說，這些定義范圍很廣，并沒有達成共識。例如英國認為，致命自主武器“能夠理解更高層次的意圖和方向”；德國則將“自我意識”視為自主武器的必要屬性，而大多數(shù)研究人員認為現(xiàn)在的AI遠未獲得這種能力。
卡倫伯恩表示，任何關于致命自主武器的禁令都很難通過檢查和觀察來執(zhí)行，因為AI很容易隱藏或更改系統(tǒng)狀態(tài)。
所有這些問題都將在今年9月的聯(lián)合國大會上進行討論。
本文鏈接：給AI自主武器及早戴上“緊箍咒”http://m.sq15.cn/show-2-5655-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內容由互聯(lián)網(wǎng)博主自發(fā)貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
上一篇： C919，再訂100架！