【專家沙龍】
◎主持人：本報(bào)記者 陳可軒
嘉 賓：孫春晨 國家科技倫理委員會委員、中國倫理學(xué)會會長
張成崗 清華大學(xué)社會學(xué)系教授、社會治理與發(fā)展研究院院長
趙 鵬 中國政法大學(xué)教授、法治政府研究院院長
從機(jī)器人登上春晚舞臺到DeepSeek火爆全網(wǎng)，今年以來，科技創(chuàng)新正迅速以其顛覆性力量不斷出圈，并重塑我們的生活。
然而，科技觸手可及、造福于人的同時(shí)也帶來隱憂。以人工智能、生物醫(yī)藥等領(lǐng)域?yàn)榇?，技術(shù)濫用已不再是實(shí)驗(yàn)室里的想象，而是在眾多應(yīng)用場景中廣泛存在且悄然改變著社會。以人工智能領(lǐng)域?yàn)槔?，使用深度偽造技術(shù)的“AI換臉”軟件可以一鍵生成虛假圖像、聲音、視頻，“像素級逼真”的虛假信息給個(gè)人和企業(yè)帶來切實(shí)損害，引發(fā)社會秩序與信任危機(jī)。
如何守住倫理底線，推動科學(xué)良性、有序發(fā)展？科技日報(bào)邀請倫理學(xué)、社會學(xué)、法學(xué)領(lǐng)域的學(xué)者，共同探討科技倫理治理。
科技研究需守住倫理底線
主持人：科技創(chuàng)新為什么需要倫理先行？
孫春晨：人類創(chuàng)造的科學(xué)技術(shù)，有可能反過來制約人類自身。科學(xué)發(fā)現(xiàn)和技術(shù)突破在造福人類的同時(shí)，也帶來難以預(yù)判的風(fēng)險(xiǎn)。科技的誤用、濫用將對國家安全、社會公共利益及個(gè)人權(quán)利等造成顯性與潛在的威脅。因此，倫理先行有其必要性。
張成崗：倫理先行，既是理論議題，也是實(shí)踐要求。近年來，生物技術(shù)、人工智能等新興技術(shù)的發(fā)展常對社會的既有道德規(guī)范產(chǎn)生沖擊。我們不得不思考，什么樣的技術(shù)是“善”和“應(yīng)當(dāng)”的。例如，2018年的“基因編輯嬰兒”事件引發(fā)學(xué)界和社會的廣泛討論，其中既有對技術(shù)發(fā)展倫理規(guī)約體系的反思，更有對新技術(shù)應(yīng)用后果不確定性風(fēng)險(xiǎn)的深層擔(dān)憂。倫理先行對應(yīng)著倫理學(xué)研究中的預(yù)防原則。該原則要求，即便沒有確切證據(jù)，也要預(yù)想各類糟糕情況，防患于未然。
趙鵬：倫理先行，可以在引導(dǎo)科技發(fā)展大方向的同時(shí)，給予科創(chuàng)主體更大的創(chuàng)新空間。例如，人工智能領(lǐng)域已出現(xiàn)了大量基于倫理原則的治理文件，其核心考慮就是既引導(dǎo)科技發(fā)展的基本方向，又給相關(guān)研發(fā)機(jī)構(gòu)和企業(yè)一定空間，使其可以根據(jù)具體的技術(shù)場景選擇研究內(nèi)容。
主持人：漠視科技倫理可能造成哪些潛在風(fēng)險(xiǎn)？
孫春晨：人類科技發(fā)展的歷史表明，隨著科學(xué)技術(shù)的先進(jìn)性和復(fù)雜程度的提高，科技創(chuàng)新活動帶來的風(fēng)險(xiǎn)也會不斷增大?？萍紕?chuàng)新給人類社會生活帶來巨大發(fā)展“紅利”的同時(shí)，也會引發(fā)不確定倫理風(fēng)險(xiǎn)，如人工智能發(fā)展帶來的算法歧視、隱私保護(hù)等社會問題，基因編輯、基因增強(qiáng)等帶來不平等的潛在可能。這些也已成為人類不得不面對的現(xiàn)實(shí)難題。
張成崗：這些挑戰(zhàn)不僅威脅著個(gè)人權(quán)利，也對社會的公正性和傳統(tǒng)道德準(zhǔn)則提出了嚴(yán)峻考驗(yàn)。
理解社會與技術(shù)的相互影響
主持人：有觀點(diǎn)認(rèn)為，技術(shù)是獨(dú)立于社會運(yùn)行的工具，科研工作者可以自主決定技術(shù)的發(fā)展方向。幾位專家怎么看這種觀點(diǎn)？
趙鵬：我認(rèn)為，科技研發(fā)本身并非完全客觀，而是暗含了價(jià)值選擇。優(yōu)先選擇何種科學(xué)研究、技術(shù)路線等都受隱含的社會價(jià)值影響。但這種社會價(jià)值相對比較隱秘，相關(guān)法律往往只聚焦于技術(shù)實(shí)踐環(huán)節(jié)的使用細(xì)節(jié)，而難以對技術(shù)暗含的社會價(jià)值進(jìn)行調(diào)整。
張成崗：是的，對技術(shù)的認(rèn)知要避免“就技術(shù)論技術(shù)”的邏輯。社會愿望與需求一直是影響技術(shù)發(fā)展速度與方向的重要力量，對技術(shù)的深入理解離不開對社會背景的理解。
孫春晨：技術(shù)發(fā)展是人類對未知領(lǐng)域的探索與開拓，具有明顯的不確定性，如不確定的技術(shù)路線、應(yīng)用場景和商業(yè)模式、社會影響等。這些不確定因素，使科技創(chuàng)新成果的應(yīng)用推廣存在倫理風(fēng)險(xiǎn)。
主持人：看來科技發(fā)展中出現(xiàn)的倫理問題并非孤立存在，而是與社會治理的方方面面聯(lián)系在一起。
張成崗：是的，特別是那些更接近日常生活、普及率更高的科學(xué)技術(shù)，其風(fēng)險(xiǎn)可能更加復(fù)雜。其中既包括人類正在研發(fā)的新技術(shù)本身產(chǎn)生的風(fēng)險(xiǎn)，也包括技術(shù)嵌合于社會制度、人性中之后可能產(chǎn)生的風(fēng)險(xiǎn)。例如，在互聯(lián)網(wǎng)的影響下，現(xiàn)代社會的道德不端行為可能對遙遠(yuǎn)地域和子孫后代產(chǎn)生影響，這種影響遠(yuǎn)比我們能夠預(yù)想的深刻和激進(jìn)。
趙鵬：科學(xué)技術(shù)與社會秩序之間相互影響、共同演化。當(dāng)生活更多地與技術(shù)交織，技術(shù)也將更多地影響我們的價(jià)值體系、行為規(guī)范、文化等。以藥品監(jiān)管為例，假設(shè)某種創(chuàng)新藥品能讓使用者獲得體能或智力上的競爭優(yōu)勢，那么可以設(shè)想，一旦其被批準(zhǔn)使用，就很可能造成技術(shù)運(yùn)用的“軍備競賽”，讓擁有更多財(cái)富或資源的主體獲得更大的社會競爭優(yōu)勢，繼而加劇社會不平等。從這個(gè)角度看，需要更多從尊重和保障人權(quán)的維度思考這一問題，而不僅從風(fēng)險(xiǎn)與收益的功利計(jì)算角度予以回應(yīng)。
科技向善還須良法善治
主持人：除了要求科研人員恪守職業(yè)道德，我們還需要從哪些方面著手進(jìn)行科技倫理治理？
趙鵬：法律在這方面可以扮演多種功能。一種是通過程序促成對話、反思，從而形成好的決策。例如，要求開展倫理審查，要求舉辦公共倫理論壇與社會對話等。這些程序設(shè)計(jì)有助于利益相關(guān)方、社會成員等進(jìn)行交流，形成共識或者至少了解相應(yīng)選擇的潛在影響。另一種是當(dāng)各種倫理主張無法調(diào)和時(shí)，將復(fù)雜的技術(shù)倫理問題分配至多個(gè)決策場所，并在各個(gè)決策者之間建立制衡機(jī)制，確保倫理爭論得到及時(shí)有效的解決。
孫春晨：科技倫理治理不應(yīng)被狹義地理解為對科技活動的倫理治理。我們應(yīng)當(dāng)從更為寬廣的視野來理解科技倫理治理與國家治理現(xiàn)代化之間的關(guān)系。除了與科技直接相關(guān)的領(lǐng)域外，諸如國際關(guān)系、個(gè)人隱私和社區(qū)管理等人類社會生活的其他領(lǐng)域，同樣需要進(jìn)行相應(yīng)的倫理治理。
張成崗：近年來，我非常關(guān)注信息技術(shù)治理問題。在推進(jìn)國家智能社會治理綜合實(shí)驗(yàn)基地建設(shè)的工作中，我們的研究團(tuán)隊(duì)與內(nèi)蒙古鄂爾多斯市緊密合作，開展了關(guān)于機(jī)制、評價(jià)、倫理、信任等方面的理論研究和社會實(shí)驗(yàn)。
我認(rèn)為人工智能技術(shù)不僅是一種治理工具，更應(yīng)當(dāng)成為人們未來生活的一個(gè)重要組成部分。應(yīng)賦權(quán)和激活治理主體，達(dá)到“共享共治”的目標(biāo)。一方面，在鼓勵(lì)技術(shù)創(chuàng)新同時(shí)，需加強(qiáng)倫理教育與宣傳，切實(shí)提高從業(yè)者及大眾的倫理意識；另一方面，要健全政府、學(xué)界、公眾代表等多方參與的倫理審查機(jī)制，確保決策的科學(xué)性和民主性。此外，還應(yīng)建立倫理風(fēng)險(xiǎn)預(yù)警機(jī)制，及時(shí)發(fā)現(xiàn)并有效解決技術(shù)創(chuàng)新中的倫理問題，防范潛在風(fēng)險(xiǎn)，促進(jìn)人工智能技術(shù)健康、有序發(fā)展。
主持人：我們該如何探尋科技倫理治理的“中國路徑”？
張成崗：在新興科技領(lǐng)域，應(yīng)當(dāng)提前布局監(jiān)管框架，促進(jìn)技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控平衡發(fā)展，實(shí)現(xiàn)新興領(lǐng)域治理與發(fā)展的雙贏，建立符合中國國情的新興科技風(fēng)險(xiǎn)治理模式尤為重要。例如，我國人工智能技術(shù)的飛速演進(jìn)和廣泛應(yīng)用正深遠(yuǎn)地影響倫理觀念、社會治理模式及人與技術(shù)的共生關(guān)系。傳統(tǒng)封閉、單向的倫理規(guī)范制定模式已顯不足，難以有效應(yīng)對日益復(fù)雜的倫理挑戰(zhàn)。倫理治理的關(guān)注內(nèi)容也從單一倫理問題的討論轉(zhuǎn)向探索治理對社會發(fā)展多方面的影響。因此，探討一種多元主體參與、交互式、開放性的參與式倫理規(guī)約變得至關(guān)重要?？萍紓惱碇卫淼?ldquo;中國路徑”探尋是一項(xiàng)系統(tǒng)工程，需要積極適應(yīng)新興科技發(fā)展的新趨勢、新特點(diǎn)。既要尋求倫理治理的“最大公約數(shù)”，又要因技制宜、因地制宜，注重差異性和豐富性，構(gòu)建更具韌性、包容性和前瞻性的倫理治理體系，形成倫理治理結(jié)構(gòu)優(yōu)化與治理效能提升的良性循環(huán)。
趙鵬：相較于科技倫理治理較為成熟的國家，我國的科技倫理在科技治理體系中的作用仍然非常薄弱。對新興科技的社會倫理反思等尚未在全社會形成廣泛的討論。這會產(chǎn)生兩方面的影響。一方面，經(jīng)過倫理討論形成的共識，不能及時(shí)地被法律和監(jiān)管框架所吸收；另一方面，缺乏與公眾制度化的倫理溝通機(jī)制，影響了公眾對科技的客觀認(rèn)知，這可能加劇公眾對技術(shù)創(chuàng)新的信任危機(jī)，帶來新的社會治理問題。
我認(rèn)為，為了加強(qiáng)科技倫理治理的實(shí)效，需要適度強(qiáng)化法律的作用。對個(gè)體權(quán)利有實(shí)質(zhì)性影響以及產(chǎn)生重大倫理問題的領(lǐng)域，立法需要更積極地介入。我們需要認(rèn)識到，當(dāng)代的科學(xué)研究已不僅僅是抽象純粹的知識與思辨，更伴隨著工具使用、實(shí)驗(yàn)等實(shí)踐性活動，必然對社會產(chǎn)生影響。當(dāng)科技研發(fā)與環(huán)境安全、家庭關(guān)系、社會公平等受法律保護(hù)的領(lǐng)域產(chǎn)生直接關(guān)聯(lián)，并對現(xiàn)有社會秩序產(chǎn)生直接而重大的影響，就有必要通過法律的“命令—控制”體系建立直接的管制架構(gòu)。當(dāng)然，立法需要根據(jù)技術(shù)發(fā)展和社會變化及時(shí)反思、調(diào)整相關(guān)規(guī)則。
對于一般的倫理議題，立法可以劃定基本原則，充分依賴相關(guān)機(jī)構(gòu)的自主管理。
相關(guān)的法治建構(gòu)，可以更關(guān)注程序，而不應(yīng)僅僅從既定倫理道德觀念出發(fā)，向科學(xué)研究活動發(fā)出規(guī)范性的呼吁或者指令。相反，應(yīng)該通過法律創(chuàng)造一種結(jié)構(gòu)，推動科學(xué)與社會價(jià)值體系之間建立適當(dāng)有效的連接，使兩者能夠持續(xù)地交換資訊、交流對話、相互理解。
孫春晨：當(dāng)代國家治理和社會治理的一個(gè)重要著力點(diǎn)是對科技活動領(lǐng)域的治理。而科技創(chuàng)新活動引發(fā)的社會生活各領(lǐng)域的重大變化，使社會治理呈現(xiàn)出治理主體多元化、治理領(lǐng)域多樣化和治理方式差異化的趨勢。
2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，對我國科技倫理治理工作作出系統(tǒng)部署，確立了我國科技倫理治理的指導(dǎo)思想，提出了倫理先行、依法依規(guī)、敏捷治理、立足國情、開放合作的科技倫理治理基本要求，明確了增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明的科技倫理原則。這一頂層設(shè)計(jì)，對有效防范科技倫理風(fēng)險(xiǎn)、推動我國科技向善發(fā)展具有里程碑式的重大意義。
科技倫理治理貫徹實(shí)施上述治理要求和倫理原則，與國家治理現(xiàn)代化走向“善治”的倫理目標(biāo)相契合。以科技倫理治理為代表的各領(lǐng)域的社會治理聯(lián)動合作，將有力推進(jìn)國家治理現(xiàn)代化進(jìn)程。
【專家沙龍】
◎主持人：本報(bào)記者 陳可軒
嘉 賓：孫春晨 國家科技倫理委員會委員、中國倫理學(xué)會會長
張成崗 清華大學(xué)社會學(xué)系教授、社會治理與發(fā)展研究院院長
趙 鵬 中國政法大學(xué)教授、法治政府研究院院長
從機(jī)器人登上春晚舞臺到DeepSeek火爆全網(wǎng)，今年以來，科技創(chuàng)新正迅速以其顛覆性力量不斷出圈，并重塑我們的生活。
然而，科技觸手可及、造福于人的同時(shí)也帶來隱憂。以人工智能、生物醫(yī)藥等領(lǐng)域?yàn)榇恚夹g(shù)濫用已不再是實(shí)驗(yàn)室里的想象，而是在眾多應(yīng)用場景中廣泛存在且悄然改變著社會。以人工智能領(lǐng)域?yàn)槔褂蒙疃葌卧旒夹g(shù)的“AI換臉”軟件可以一鍵生成虛假圖像、聲音、視頻，“像素級逼真”的虛假信息給個(gè)人和企業(yè)帶來切實(shí)損害，引發(fā)社會秩序與信任危機(jī)。
如何守住倫理底線，推動科學(xué)良性、有序發(fā)展？科技日報(bào)邀請倫理學(xué)、社會學(xué)、法學(xué)領(lǐng)域的學(xué)者，共同探討科技倫理治理。
科技研究需守住倫理底線
主持人：科技創(chuàng)新為什么需要倫理先行？
孫春晨：人類創(chuàng)造的科學(xué)技術(shù)，有可能反過來制約人類自身。科學(xué)發(fā)現(xiàn)和技術(shù)突破在造福人類的同時(shí)，也帶來難以預(yù)判的風(fēng)險(xiǎn)?？萍嫉恼`用、濫用將對國家安全、社會公共利益及個(gè)人權(quán)利等造成顯性與潛在的威脅。因此，倫理先行有其必要性。
張成崗：倫理先行，既是理論議題，也是實(shí)踐要求。近年來，生物技術(shù)、人工智能等新興技術(shù)的發(fā)展常對社會的既有道德規(guī)范產(chǎn)生沖擊。我們不得不思考，什么樣的技術(shù)是“善”和“應(yīng)當(dāng)”的。例如，2018年的“基因編輯嬰兒”事件引發(fā)學(xué)界和社會的廣泛討論，其中既有對技術(shù)發(fā)展倫理規(guī)約體系的反思，更有對新技術(shù)應(yīng)用后果不確定性風(fēng)險(xiǎn)的深層擔(dān)憂。倫理先行對應(yīng)著倫理學(xué)研究中的預(yù)防原則。該原則要求，即便沒有確切證據(jù)，也要預(yù)想各類糟糕情況，防患于未然。
趙鵬：倫理先行，可以在引導(dǎo)科技發(fā)展大方向的同時(shí)，給予科創(chuàng)主體更大的創(chuàng)新空間。例如，人工智能領(lǐng)域已出現(xiàn)了大量基于倫理原則的治理文件，其核心考慮就是既引導(dǎo)科技發(fā)展的基本方向，又給相關(guān)研發(fā)機(jī)構(gòu)和企業(yè)一定空間，使其可以根據(jù)具體的技術(shù)場景選擇研究內(nèi)容。
主持人：漠視科技倫理可能造成哪些潛在風(fēng)險(xiǎn)？
孫春晨：人類科技發(fā)展的歷史表明，隨著科學(xué)技術(shù)的先進(jìn)性和復(fù)雜程度的提高，科技創(chuàng)新活動帶來的風(fēng)險(xiǎn)也會不斷增大。科技創(chuàng)新給人類社會生活帶來巨大發(fā)展“紅利”的同時(shí)，也會引發(fā)不確定倫理風(fēng)險(xiǎn)，如人工智能發(fā)展帶來的算法歧視、隱私保護(hù)等社會問題，基因編輯、基因增強(qiáng)等帶來不平等的潛在可能。這些也已成為人類不得不面對的現(xiàn)實(shí)難題。
張成崗：這些挑戰(zhàn)不僅威脅著個(gè)人權(quán)利，也對社會的公正性和傳統(tǒng)道德準(zhǔn)則提出了嚴(yán)峻考驗(yàn)。
理解社會與技術(shù)的相互影響
主持人：有觀點(diǎn)認(rèn)為，技術(shù)是獨(dú)立于社會運(yùn)行的工具，科研工作者可以自主決定技術(shù)的發(fā)展方向。幾位專家怎么看這種觀點(diǎn)？
趙鵬：我認(rèn)為，科技研發(fā)本身并非完全客觀，而是暗含了價(jià)值選擇。優(yōu)先選擇何種科學(xué)研究、技術(shù)路線等都受隱含的社會價(jià)值影響。但這種社會價(jià)值相對比較隱秘，相關(guān)法律往往只聚焦于技術(shù)實(shí)踐環(huán)節(jié)的使用細(xì)節(jié)，而難以對技術(shù)暗含的社會價(jià)值進(jìn)行調(diào)整。
張成崗：是的，對技術(shù)的認(rèn)知要避免“就技術(shù)論技術(shù)”的邏輯。社會愿望與需求一直是影響技術(shù)發(fā)展速度與方向的重要力量，對技術(shù)的深入理解離不開對社會背景的理解。
孫春晨：技術(shù)發(fā)展是人類對未知領(lǐng)域的探索與開拓，具有明顯的不確定性，如不確定的技術(shù)路線、應(yīng)用場景和商業(yè)模式、社會影響等。這些不確定因素，使科技創(chuàng)新成果的應(yīng)用推廣存在倫理風(fēng)險(xiǎn)。
主持人：看來科技發(fā)展中出現(xiàn)的倫理問題并非孤立存在，而是與社會治理的方方面面聯(lián)系在一起。
張成崗：是的，特別是那些更接近日常生活、普及率更高的科學(xué)技術(shù)，其風(fēng)險(xiǎn)可能更加復(fù)雜。其中既包括人類正在研發(fā)的新技術(shù)本身產(chǎn)生的風(fēng)險(xiǎn)，也包括技術(shù)嵌合于社會制度、人性中之后可能產(chǎn)生的風(fēng)險(xiǎn)。例如，在互聯(lián)網(wǎng)的影響下，現(xiàn)代社會的道德不端行為可能對遙遠(yuǎn)地域和子孫后代產(chǎn)生影響，這種影響遠(yuǎn)比我們能夠預(yù)想的深刻和激進(jìn)。
趙鵬：科學(xué)技術(shù)與社會秩序之間相互影響、共同演化。當(dāng)生活更多地與技術(shù)交織，技術(shù)也將更多地影響我們的價(jià)值體系、行為規(guī)范、文化等。以藥品監(jiān)管為例，假設(shè)某種創(chuàng)新藥品能讓使用者獲得體能或智力上的競爭優(yōu)勢，那么可以設(shè)想，一旦其被批準(zhǔn)使用，就很可能造成技術(shù)運(yùn)用的“軍備競賽”，讓擁有更多財(cái)富或資源的主體獲得更大的社會競爭優(yōu)勢，繼而加劇社會不平等。從這個(gè)角度看，需要更多從尊重和保障人權(quán)的維度思考這一問題，而不僅從風(fēng)險(xiǎn)與收益的功利計(jì)算角度予以回應(yīng)。
科技向善還須良法善治
主持人：除了要求科研人員恪守職業(yè)道德，我們還需要從哪些方面著手進(jìn)行科技倫理治理？
趙鵬：法律在這方面可以扮演多種功能。一種是通過程序促成對話、反思，從而形成好的決策。例如，要求開展倫理審查，要求舉辦公共倫理論壇與社會對話等。這些程序設(shè)計(jì)有助于利益相關(guān)方、社會成員等進(jìn)行交流，形成共識或者至少了解相應(yīng)選擇的潛在影響。另一種是當(dāng)各種倫理主張無法調(diào)和時(shí)，將復(fù)雜的技術(shù)倫理問題分配至多個(gè)決策場所，并在各個(gè)決策者之間建立制衡機(jī)制，確保倫理爭論得到及時(shí)有效的解決。
孫春晨：科技倫理治理不應(yīng)被狹義地理解為對科技活動的倫理治理。我們應(yīng)當(dāng)從更為寬廣的視野來理解科技倫理治理與國家治理現(xiàn)代化之間的關(guān)系。除了與科技直接相關(guān)的領(lǐng)域外，諸如國際關(guān)系、個(gè)人隱私和社區(qū)管理等人類社會生活的其他領(lǐng)域，同樣需要進(jìn)行相應(yīng)的倫理治理。
張成崗：近年來，我非常關(guān)注信息技術(shù)治理問題。在推進(jìn)國家智能社會治理綜合實(shí)驗(yàn)基地建設(shè)的工作中，我們的研究團(tuán)隊(duì)與內(nèi)蒙古鄂爾多斯市緊密合作，開展了關(guān)于機(jī)制、評價(jià)、倫理、信任等方面的理論研究和社會實(shí)驗(yàn)。
我認(rèn)為人工智能技術(shù)不僅是一種治理工具，更應(yīng)當(dāng)成為人們未來生活的一個(gè)重要組成部分。應(yīng)賦權(quán)和激活治理主體，達(dá)到“共享共治”的目標(biāo)。一方面，在鼓勵(lì)技術(shù)創(chuàng)新同時(shí)，需加強(qiáng)倫理教育與宣傳，切實(shí)提高從業(yè)者及大眾的倫理意識；另一方面，要健全政府、學(xué)界、公眾代表等多方參與的倫理審查機(jī)制，確保決策的科學(xué)性和民主性。此外，還應(yīng)建立倫理風(fēng)險(xiǎn)預(yù)警機(jī)制，及時(shí)發(fā)現(xiàn)并有效解決技術(shù)創(chuàng)新中的倫理問題，防范潛在風(fēng)險(xiǎn)，促進(jìn)人工智能技術(shù)健康、有序發(fā)展。
主持人：我們該如何探尋科技倫理治理的“中國路徑”？
張成崗：在新興科技領(lǐng)域，應(yīng)當(dāng)提前布局監(jiān)管框架，促進(jìn)技術(shù)創(chuàng)新與風(fēng)險(xiǎn)防控平衡發(fā)展，實(shí)現(xiàn)新興領(lǐng)域治理與發(fā)展的雙贏，建立符合中國國情的新興科技風(fēng)險(xiǎn)治理模式尤為重要。例如，我國人工智能技術(shù)的飛速演進(jìn)和廣泛應(yīng)用正深遠(yuǎn)地影響倫理觀念、社會治理模式及人與技術(shù)的共生關(guān)系。傳統(tǒng)封閉、單向的倫理規(guī)范制定模式已顯不足，難以有效應(yīng)對日益復(fù)雜的倫理挑戰(zhàn)。倫理治理的關(guān)注內(nèi)容也從單一倫理問題的討論轉(zhuǎn)向探索治理對社會發(fā)展多方面的影響。因此，探討一種多元主體參與、交互式、開放性的參與式倫理規(guī)約變得至關(guān)重要。科技倫理治理的“中國路徑”探尋是一項(xiàng)系統(tǒng)工程，需要積極適應(yīng)新興科技發(fā)展的新趨勢、新特點(diǎn)。既要尋求倫理治理的“最大公約數(shù)”，又要因技制宜、因地制宜，注重差異性和豐富性，構(gòu)建更具韌性、包容性和前瞻性的倫理治理體系，形成倫理治理結(jié)構(gòu)優(yōu)化與治理效能提升的良性循環(huán)。
趙鵬：相較于科技倫理治理較為成熟的國家，我國的科技倫理在科技治理體系中的作用仍然非常薄弱。對新興科技的社會倫理反思等尚未在全社會形成廣泛的討論。這會產(chǎn)生兩方面的影響。一方面，經(jīng)過倫理討論形成的共識，不能及時(shí)地被法律和監(jiān)管框架所吸收；另一方面，缺乏與公眾制度化的倫理溝通機(jī)制，影響了公眾對科技的客觀認(rèn)知，這可能加劇公眾對技術(shù)創(chuàng)新的信任危機(jī)，帶來新的社會治理問題。
我認(rèn)為，為了加強(qiáng)科技倫理治理的實(shí)效，需要適度強(qiáng)化法律的作用。對個(gè)體權(quán)利有實(shí)質(zhì)性影響以及產(chǎn)生重大倫理問題的領(lǐng)域，立法需要更積極地介入。我們需要認(rèn)識到，當(dāng)代的科學(xué)研究已不僅僅是抽象純粹的知識與思辨，更伴隨著工具使用、實(shí)驗(yàn)等實(shí)踐性活動，必然對社會產(chǎn)生影響。當(dāng)科技研發(fā)與環(huán)境安全、家庭關(guān)系、社會公平等受法律保護(hù)的領(lǐng)域產(chǎn)生直接關(guān)聯(lián)，并對現(xiàn)有社會秩序產(chǎn)生直接而重大的影響，就有必要通過法律的“命令—控制”體系建立直接的管制架構(gòu)。當(dāng)然，立法需要根據(jù)技術(shù)發(fā)展和社會變化及時(shí)反思、調(diào)整相關(guān)規(guī)則。
對于一般的倫理議題，立法可以劃定基本原則，充分依賴相關(guān)機(jī)構(gòu)的自主管理。
相關(guān)的法治建構(gòu)，可以更關(guān)注程序，而不應(yīng)僅僅從既定倫理道德觀念出發(fā)，向科學(xué)研究活動發(fā)出規(guī)范性的呼吁或者指令。相反，應(yīng)該通過法律創(chuàng)造一種結(jié)構(gòu)，推動科學(xué)與社會價(jià)值體系之間建立適當(dāng)有效的連接，使兩者能夠持續(xù)地交換資訊、交流對話、相互理解。
孫春晨：當(dāng)代國家治理和社會治理的一個(gè)重要著力點(diǎn)是對科技活動領(lǐng)域的治理。而科技創(chuàng)新活動引發(fā)的社會生活各領(lǐng)域的重大變化，使社會治理呈現(xiàn)出治理主體多元化、治理領(lǐng)域多樣化和治理方式差異化的趨勢。
2022年3月，中共中央辦公廳、國務(wù)院辦公廳印發(fā)《關(guān)于加強(qiáng)科技倫理治理的意見》，對我國科技倫理治理工作作出系統(tǒng)部署，確立了我國科技倫理治理的指導(dǎo)思想，提出了倫理先行、依法依規(guī)、敏捷治理、立足國情、開放合作的科技倫理治理基本要求，明確了增進(jìn)人類福祉、尊重生命權(quán)利、堅(jiān)持公平公正、合理控制風(fēng)險(xiǎn)、保持公開透明的科技倫理原則。這一頂層設(shè)計(jì)，對有效防范科技倫理風(fēng)險(xiǎn)、推動我國科技向善發(fā)展具有里程碑式的重大意義。
科技倫理治理貫徹實(shí)施上述治理要求和倫理原則，與國家治理現(xiàn)代化走向“善治”的倫理目標(biāo)相契合。以科技倫理治理為代表的各領(lǐng)域的社會治理聯(lián)動合作，將有力推進(jìn)國家治理現(xiàn)代化進(jìn)程。
本文鏈接：倫理先行，把好科技創(chuàng)新“大方向”http://m.sq15.cn/show-2-11454-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 超級智能體時(shí)代漸行漸近