■隨著人工智能等新技術迅速發展、與人類的關系越來越密切，科學研究的探索正不斷觸探人類生命倫理的底線，科技工作者與人文社科學者是時候坐下來、共同投入到科技倫理研究之中了
■對科技倫理的研究不僅需要更多科技工作者參與，而且應該不限于學者——需要更多的人、更多的機構參與其中，大家共同探討事關社會與人類安全的重大問題，積極推動科技向善
■本報記者 姜澎
一場圍繞科技倫理展開的“頭腦風暴”，來參加的大多數是人文社科領域的學者，科技工作者則寥寥無幾。日前，由復旦大學與中國科協聯合主辦的中國科技倫理高峰論壇上，有學者忍不住感慨：科技倫理論壇的參加者應該至少有三分之一是科學家，但讓人遺憾的是，目前不少類似的學術論壇，幾乎都出現了“科學家缺席”的現象。
中國科協-復旦大學科技倫理研究院院長王國豫也在接受記者采訪時呼吁，隨著人工智能等新技術迅速發展、與人類的關系越來越密切，科學研究的探索正不斷觸探人類生命倫理的底線，科技工作者與人文社科學者是時候坐下來、共同投入到科技倫理研究之中了。
火爆全球的大模型，價值對齊仍未完全解決
“即便是人工智能和生命科學這兩個最早開始關注倫理的科學領域，至今，對于不同場景下的具體倫理問題，學界內部都存在著大量的爭議?！蓖鯂ブ赋?，當下，隨著各類跨界的科學研究越來越多，給科技倫理治理帶來的挑戰也越來越多。
就以近年來引發爭議最多的人工智能領域為例。多位學者在接受記者采訪時提及，人工智能自誕生之初就面臨著價值對齊的問題，且這樣的問題至今都未能完全解決。
所謂價值對齊，簡言之，就是確保人工智能的價值觀與人類的價值觀相一致。而時至今日，火遍全球的人工智能大模型，依然沒有明確提出與人類的價值對齊、保持一致的價值觀。
事實上，在對于“什么是有價值的”這一根本問題上，身處不同文化圈的人們在其歷史長河中，逐漸形成了各自的主流價值，從而給出不同答案，甚至不只不同群體之間存在差異，同一個群體內部也會存在不同的判斷和選擇。
就大模型而言，如何使其具備普遍的價值觀，不僅人工智能專家和人文社科領域的學者之間存在著比較大的分歧，人工智能研究領域內部的意見也并不一致。一位人工智能領域的學者告訴記者，越來越多的人傾向于認為，應該確保大模型具有人類最大公約數下的價值共識，但仍有部分業界專家對此持保留意見，認為“過于強調大模型的價值對齊，會影響人工智能本身的創造能力”。
科技倫理的復雜性，遠超人們想象
科技是發展的利器，也可能成為風險的源頭。科技倫理問題的復雜性，也遠超人們想象。
在生命科學領域，科技倫理也面臨著一系列復雜棘手的難題。中國醫學科學院、北京協和醫學院生命倫理學研究中心執行主任翟曉梅就以我國基因編輯技術研究和轉化領域兩個大眾熟知的案例為切入點，探討新興科技醫學研究與轉化的倫理視角。
2015年4月，中山大學黃軍就團隊發表了全球第一篇利用基因編輯技術修改人類胚胎基因的論文。這一研究結果很快引發國際社會的巨大倫理爭論，認為黃軍就團隊的工作使“全世界科學家感到震驚”，因為對人胚的基因進行編輯“是一條不應該跨越的界線”，“對人胚進行基因編輯是設計嬰兒，因而引發了令人不安的倫理問題”。
但仔細了解黃軍就團隊的研究工作后，可以發現其研究是可以得到倫理學辯護的。首先，團隊涉及研究使用人胚的來源合規。他們使用的人胚來源于IVF剩余的不可存活、不可能發育成有感覺的細胞的三倍體受精卵（正常的受精卵是二倍體）；在程序上，團隊也采取了非常謹慎的措施，即這些受精卵發育48小時、發育到8個細胞時就銷毀，以用來分析基因編輯的效應。而國際學術界通常要求在使用人胚進行干細胞研究時，允許人胚體外培養5-6天、達到100-300個細胞。黃軍就在發表的論文中也明確提出，“這一基礎實驗室研究的結論是，基因編輯技術從目前成效看，還有較高的脫靶率”。此外，論文還清楚地表明立場：這種技術不應應用于人類胚胎的臨床研究。
另一個反面案例，就是眾所周知的南方科技大學原副教授賀建奎所從事的基因編輯技術。他的工作并非基礎實驗室研究，而是臨床應用。在實質倫理學方面，其研究是在不充分的科學和醫學基礎上進行的，醫學上不是必要的，也違背了國際公認的倫理準則和我國的規范?！拔覀儜撜J真思考，我們這代人對未來幾代人負有什么責任？技術上的進步，不能成為一種特權?！钡詴悦氛f。
科技倫理關注的不僅是現在，更是未來
“近年來，一些科幻小說和影視作品不時對科技發展帶來的負面效應開展深刻思考、反思，不斷探索科技倫理的邊界。但與之形成對比的是，現實生活中，我們的科技工作者對科技倫理的關注度卻并不夠?！痹谶@次論壇上，不少學者在發言時不約而同提到了這一觀點。
仍以人工智能為例。早在上世紀四五十年代，科幻作家阿西莫夫就幻想，未來的世界將由人類和機器人構成，并基于對人類的保護提出了“機器人三原則”；本世紀初，斯皮爾伯格的電影《人工智能》提出問題——“如果機器人學會愛人類時，人類能愛機器人嗎”，更是對人工智能發出終極倫理拷問。
中國科學院自動化研究所研究員、人工智能倫理與治理中心主任曾毅坦率地說，隨著生成式人工智能(AIGC)不斷迭代，那些曾被視為潛在風險的倫理問題正成為確切存在的問題。但是，科學界對此并沒有予以足夠的重視?！拔以c一些從事系統安全的研究者討論過一些科技倫理問題，可他們簡單地認為，倫理問題與系統安全無關。試問，一個不道德的系統怎么可能是安全的？”
科技倫理之所以重要，不僅因為其關系到當下的倫理問題，更關系到未來。翟曉梅強調，生命科學領域的科技倫理必須堅守“代際公正”原則。而從某種程度上來說，對于整個科學領域，這一原則都是適用的，且具有重要意義。
所謂代際公正，就生命科學領域而言，是指科技不僅要確保人類健康需求與倫理風險的平衡，還要確?？茖W家沒有濫用他們掌握科技的特權、影響我們子孫后代的利益。翟曉梅解釋說，“我們這一代人所推動的科技進步會影響到未來世代的科學進步，但我們對子孫后代的生命并沒有所有權，所以當代的科學家有義務保障未來世代的生命質量?！?br style="color: rgb(37, 37, 37); font-family: "Microsoft YaHei"; font-size: medium; white-space: normal;">
曾毅也從人工智能為切入點，談到科技倫理對未來的影響?！安环猎囅胍幌拢寒斶@個世界上出現了超級人工智能的時候，我們能否保證這個超級人工智能有著超越人類的利他心？正如現在關于螞蟻的800多條維基百科中，只有一條談到螞蟻的社會結構與人類社會結構有某種程度的相似之處。我們面對的這個世界是以人類為中心的，未來如何確保超級人工智能在認知這個世界時會遵循‘以人類為中心’？”
推動科學與人文的對話，任重道遠
“科技倫理很具體，不僅包含明確的概念、規范、原則，而且關系到事實層面的工作。但長期以來，從事倫理學研究的學者與科學工作者之間缺乏暢通的溝通機制，這就使得對科技倫理的研究很多時候是‘從概念到概念’。”王國豫接受采訪時再三強調，當科技發展使得科技倫理的風險越來越大時，需要更多科技工作者參與到對科技倫理的發展和規范中來。她多年來在高校哲學系任教，且同時在人工智能、計算機等多個領域參與科技倫理研究和規范工作。她坦言，科學工作者和人文社科工作者的知識結構決定了他們看問題的視角不同，甚至兩者的語言體系都不一樣。但是，“缺少科技工作者參與的科技倫理工作，一定是有缺憾的”。
事實上，歷史上很多關于科技倫理的問題，最初都是由科技工作者提出的。而現在，一個讓人稍感欣慰的跡象是，越來越多的科學工作者開始關注科技倫理問題。北京大學醫學人文學院院長、醫學部公共教學部主任周程介紹，在2017年前，人工智能倫理領域的論文數一直平穩保持在低位；而在2017年后，相關論文數量呈幾何級增長。同樣，AlphaGo的問世也推動國際電氣與電子工程師協會（IEEE）于2016年底發布世界首個人工智能道德準則設計草案，即《人工智能設計的倫理準則》。但是，這些工作只是一個開始，未來，如何推動科學工作者和倫理學研究者之間的交流，依舊任重道遠。
“隨著科研探索進入‘無人區’，人類科技活動對未來的影響，包括其產生的風險和利益，我們在當下或許無法作出準確預判。從這個意義上講，對科技倫理的研究不僅需要更多科技工作者參與，而且應該不限于學者——需要更多的人、更多的機構參與其中，大家共同探討事關社會與人類安全的重大問題，積極推動科技向善。”王國豫也進一步呼吁，要積極推動科技倫理納入教育之中，讓科技倫理要求貫穿于科學活動的全過程，倡導更多人參與科技倫理的討論和規范，為強化科技倫理治理提供更有力的支撐。
（原標題：追問“科技向善”，期待更多科學家上場）
本文鏈接：追問“科技向善”，科學家不應缺席科技倫理研究http://m.sq15.cn/show-11-2310-0.html
聲明：本網站為非營利性網站，本網頁內容由互聯網博主自發貢獻，不代表本站觀點，本站不承擔任何法律責任。天上不會到餡餅，請大家謹防詐騙！若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。
下一篇： 能量飲料或影響年輕人睡眠