“關于基因編輯的文章，2012年只有7篇，2018年達到2750篇，作者超過36000人，分布在92個國家，從屬于3600多所大學和研究機構。對他們的問卷調查發現，40%的人從沒聽說過已有的60多個基因編輯相關宣言，真正研究過那些共識條款的人不足20%。這就是我們的現狀。”11月8日晚，第二屆世界科技與發展論壇以“科技倫理與科學文化”為題舉辦高端對話，清華大學蘇世民書院院長薛瀾現場分享了一項研究。

他進一步說，在參與調查的全球科學家中，有30%同意“暫停基因編輯研究”，超過50%反對，“科技工作者內部都是分裂的，可見從業者并沒有對基因編輯的倫理問題進行深入思考。”

基因編輯之外，人工智能、腦機接口、自動駕駛……在現代科技快速迭代和社會應用不斷創新的今天，技術和產業創新緊密結合，在推動社會發展的同時引發一系列倫理問題，沖擊著人類傳統的倫理觀念。正如世界工程組織聯合會主席龔克所言，“挑戰已經近在眼前”。

基因編輯、人工智能等倫理爭議最受關注

根據中國社科院組織的相關調查，在科技倫理領域最受關注的問題中，基因技術排在首位，機器人、人類增強、人工智能等分列其后。

作為生殖醫學科學家，北大第三醫院院長喬杰院士身處技術和倫理沖突的“第一線”。她表示，倫理知識體系建設的起點就是醫學倫理，“一定要關注新技術可能對人類生理心理、權益尊嚴、道德法律的影響。科技推動社會進步，倫理是對社會的保障。”

她以所在領域為例：輔助生殖給不孕癥患者帶來福音，但基因歧視、可能的篩選甚至嬰兒定制等都值得深思，遺傳學的父母和社會學的父母背后的倫理法律風險也需要討論。而新摘得諾獎的基因編輯技術更是倫理爭議“重災區”，“分子剪刀廉價又高效，但用它剪什么?在缺乏嚴格倫理審查的情況下，后果不可預估。”喬杰說。

“科學家開展前沿醫學科學研究必須做出一個判斷，我們要用什么樣的倫理規則處理人類胚胎，這樣的規定對于醫學進步非常重要。”中科院腦科學與智能技術卓越創新中心學術主任蒲慕明院士表示，“像腦機接口，可以解讀大腦中的活動，改變人的行為模式甚至控制人。像新藥研發，藥物不再只是幫助人類治愈疾病，還有可能增強人體機能，這會不會導致社會進一步分化?”

在人工智能領域，倫理問題相伴相生。微軟首席科學家埃里卡·霍維茨一一列舉：AI系統的可信度、安全性、公平性、透明度，數據中深埋的偏見、歧視等不一而足。

在薛瀾看來，新興科技帶來的倫理挑戰主要集中于不可控的風險如基因編輯對人類身體和后代的影響;侵權的風險如數據隱私和保護;責任性的風險如自動駕駛事故以及社會性的風險。“都是必須思考，找到解決方案的倫理問題”。

需跨國跨領域跨圈層合作治理

“二戰后到現在，從事科研活動的人數劇增，且來自不同國家不同文化不同宗教，傳統的科技倫理治理機制已經失靈。”薛瀾坦言。

是否有建立新機制的可能?所有人的回答都指向對話與合作。

“去年擬定在工程領域負責任地運用人工智能和大數據的原則時，我們對全球各大企業的相關做法進行了比較，結果發現極大相似性。在最基本原則上，大家的認識是相同的。”龔克說。蒲慕明同樣表示，從克隆技術、原子彈技術的發展史來看，在新的爭議技術上建立全球性倫理行為準則是可以實現的。

在聯合國教科文組織UNESCO人工智能倫理委員會召集人、荷蘭特文特大學教授保羅·維貝克看來，確定共同的倫理治理框架是最重要的，因為“技術的影響不局限于某個國家，它是全球的。而好的倫理規則適用于所有技術和國家，需要相互了解共同開發”。他表示，通過建立溝通平臺，開發技術影響的預測評估工具，可以進行技術規制。

薛瀾表示，要實現科技倫理的全球治理，深入的研究和對話是首要的，各個國家、企業、社會組織、科學家團體都要參與其中，更坦誠地溝通甚至“交火”。其中，龔克特別強調了科學共同體的作用，“科學共同體不僅要在技術創新上走在前面，也要在倫理上走在前面”。

科技倫理建設是全球性議題。去年7月，《國家科技倫理委員會組建方案》審議通過，我國科技倫理建設全面啟動。

“全球科技倫理治理是我們的必修課。我們需要在科技倫理方面更多交流、達成共識。”微軟公司前執行副總裁、美國工程院外籍院士沈向洋說，“這是人類共同的責任。”(科技日報記者 崔爽)

關鍵詞： 人工智能 倫理爭議