日前，全國政協雙周協商座談會召開，關注人工智能發展中的科技倫理與法律規制——

引技術向善，馭智能之“火”

受新冠肺炎疫情影響，英國取消了A-levels考試(類似中國的高考)。英國教育部門同英國資格與考試監督辦公室合作，決定使用算法自動生成學生的A-levels成績。算法估分方案出臺之后，由于考生認為所得分數不公，最終英國政府不得不叫停了這一方案，回到由各校教師提供預估成績來評定的方案。

英國算法估分方案被叫停，可以說是一次影響廣泛的對“算法”的對抗，從一定程度上說明人工智能并非萬能，算法也會“失算”。

注重技術與倫理的平衡，通過多元協同治理確保“人工智能向善”，逐漸成為社會關注的焦點和人工智能產業健康可持續發展的關鍵。

人工智能向善需要邁過幾道坎？

據報道，有上班族反映，公司給員工發了一批智能坐墊，結果沒幾天自己就被公司的人事部門“盯”上了，被質問為什么某個時間段不在工位上。沒想到坐墊上的數據不只員工自己手機可看，人事部門也看得一清二楚。有網友評論，“代入感太強，已經感到不適了”。

從公司智能坐墊、社區“刷臉”，到各類網站、手機App，個人信息泄露已經成為普遍現象。雖然對此深惡痛絕，但個人想要切斷數據流，并沒那么容易。有人形容大數據時代的人為“有用的透明人”。人們每天有意無意地在互聯網上留下大量個人信息，人工智能技術將這些碎片化信息進行整合，并在不同算法模型中調用這些信息，從而創造出價值。

“加強隱私保護，應當是人工智能開發、應用中的倫理道德底線。”重慶醫科大學校長黃愛龍說。上海眾人智能科技有限公司董事長談劍鋒提到，尤其需要保護的是不可再生性數據，比如人臉、指紋、DNA等生物特征數據，以及個人醫療檔案數據等。這些數據具有唯一性，是無法更改的，一旦被采集到不安全的網絡上，極有可能帶來災難性后果。“必須提前設防，在使用規范上有更加嚴格的要求，防范各類風險。”

基于人工智能的發展特性，過于嚴苛的數據保護可能會阻礙其發展。如何兼顧數據保護和科技發展，是實現人工智能向善的第一道關卡。

人工智能的核心是數據與算法。眾所周知，算法正在以前所未有的速度滲透到我們的工作生活中，算法偏見、算法歧視也越來越被人們感受到。

算法偏見有其客觀原因，比如原始數據不完整或被污染;算法本身的局限性，有時算法過于復雜，難以及時發現其漏洞;設計者無意識的偏見或價值觀的偏差等。但算法的有意“歧視”更值得高度關注，比如那些進行大數據“殺熟”的商家、傾向于給男性推薦高薪崗位的招聘網站等。由于算法的不透明和難以理解，有時候人們很難看出其中的歧視屬性。因此很多人在毫不知情的情況下，承受著各種微妙的歧視和精準的不公。

如何通過技術升級和規范治理，最大程度消除算法偏見和歧視，是人工智能向善的又一道關卡。

除了數據保護和算法倫理，人工智能向善還應考慮人工智能發展可能帶來或已帶來的社會問題，比如如何緩解人工智能可能加劇的不平等現象、如何平衡人工智能的發展與失業問題、如何防范人工智能犯罪、如何應對人機交互式產品廣泛應用對人類情感體驗和家庭關系的沖擊等。

在中國社科院哲學所科學技術哲學研究室主任、研究員段偉文看來，對技術的倫理追問不應僅關注已存在的價值沖突或被動地等待倫理難題的出現，而應該積極地對其進行前瞻性評估，全面權衡可能的倫理影響。技術倫理審度的關鍵在于揭示技術對世界、社會和未來的建構中固有的不透明性，不斷提高洞察新技術及其運作機制的能力，使其中可能存在的不確定性風險、不公正的情況乃至失控的危險得以及時納入倫理辨析與考量之中。

“以技制技”成為共識

2020年，針對用戶反映強烈的App違規收集與使用用戶個人信息等突出問題，工信部累計巡查了4.8萬余款App，專項檢查了200余款App。目前巡查App采用的還是人工和技術結合的方式，巡查數量有限，且存在漏洞。App監管需要創新治理方式，加強技管結合，持續提升App技術檢測能力。

據悉，工信部正加快推進全國App技術檢測平臺建設，通過線上線下、聯防聯控體系建設，提升App自動化檢測和處理能力。同時，牽頭制定《App收集使用個人信息最小必要評估規范》等一系列標準，為規范信息采集行為提供技術準則。

在人工智能的治理與風險防范方面，法律規制必不可少，但實踐證明，光有法律不一定能起到應有的效果。就個人信息保護來說，立法正在逐步推進，但由于違法成本低、監管難度大、個人維權難等，個人信息泄露的問題并沒有得到有效的解決。

為此，黃愛龍提出構建“制度+科技”的治理機制。“以技制技”，以科技的力量助推人工智能治理，是專家學者和業界人士的共識。

新興技術一般具有高度專業化的特點，人工智能更是如此。比如算法歧視的治理，最大的挑戰在于要搞懂算法并發現其潛在的歧視屬性。這就意味著，監管部門需要提升理解、評估和治理算法歧視的能力，這對人才和技術都提出了很高的要求。

當前我國人工智能技術的應用已經走在世界前列，傳統的事前監管、行政命令等治理理念和方式已難以適應技術的快速迭代，各類應用場景快速涌現，也增加了發展的不確定性。人工智能發展如何公平地服務于人類的公共利益，不侵害人類社會的公平與正義，需要不斷創新治理方式。業界呼吁敏捷靈活的治理措施，立法和監管都應把握合理的限度，要避免因矯枉過正而阻礙人工智能的創新發展。

不同國家之間人工智能相關標準的制定、開放平臺的搭建、合作共享框架的形成，對創新全球治理機制也提出了全新挑戰。全國政協社會和法制委員會副主任、公安部原副部長陳智敏認為，我國應立足先發優勢，積極參與和引領人工智能治理國際規則制定，為構建適應人類命運共同體安全發展需要的人工智能全球治理新規則新秩序新格局，貢獻中國智慧和中國方案。

用科技倫理確保人工智能正向應用

科幻作家阿瑟·克拉克曾在小說中寫道：“任何足夠先進的科技，都與魔法無異。”在人工智能技術高速發展的今天，我們的生活確實像被施了魔法一樣。但科技不是獨立于現實的烏托邦，科技能向善也能為惡。在全面增強人工智能技術創新能力的同時，構建多部門協同、多學科融合、多元主體參與的治理框架和工作體系，已經是十分緊迫的問題。

深度合成技術可能引發政治風險、個人信息可能被竊取倒賣引發刑事犯罪、“數據投毒”會導致人工智能系統誤判……陳智敏指出，應盡快建立數據安全保障、算法安全審查等制度，為人工智能發展形成正確價值導向和穩定社會預期提供有力保障。

因人工智能的高度專業化、知識化和技術化，圈外人很難對其中的風險和不確定性進行準確判斷。為此，在科研人員中弘揚“科技向善”理念顯得尤為重要。在諸多專家學者和業界人士看來，人工智能治理離不開科技共同體內部的風險預警和自我反思。

我國人工智能治理目前已得到高度重視，取得可喜進展。比如，成立由15個部門構成的人工智能規劃推進辦公室，統籌推進包括人工智能治理在內的任務落實;在科技創新2030—“新一代人工智能”重大項目中，組織開展人工智能倫理和立法問題研究等。上海正積極建設人工智能綜合性研究機構，建設面向人工智能主流技術的算法評測標準體系和通用算法庫。同時，加快制定醫療重點領域人工智能產品和服務責任認定條例，開展人工智能產業發展監管、人工智能數據安全等立法調研。

正如有網友寫道：“從鉆木取火的原始時代到計算機時代，人類一直走在學習科技、利用科技、掌控科技的路上，其間雖然走了一些彎路，但終究作出了一次次善的選擇，找到了正確的馭‘火’之術。”我們有理由相信，當人工智能科技倫理得到越來越多的關注和討論，構建出一套行之有效的人工智能治理規則將不再遙遠。

關鍵詞： 人工智能 科技倫理