本報記者 樊三彩

　　2022年3月，中共中央辦公廳、國務院辦公廳印發《關於加強科技倫理治理的意見》，對科技倫理治理工作進行了係統部署，將人工智能列入科技倫理治理的重點領域。

　　當前，人工智能倫理麵臨哪些風險與挑戰？國內外進行了哪些實踐？未來應如何實現人工智能倫理的治理？近日
，中國信息通信研究院（簡稱中國信通院）發布的《人工智能倫理治理研究報告（2023年）》圍繞相關問題進行了研究分析。

　　該報告認為
，人工智能技術的突破發展，引發了技術應用的倫理爭議，特別是生成式人工智能技術的發展應用引發了偏見歧視、隱私侵犯、責任不明、虛假內容傳播等倫理挑戰。未來一段時期，人工智能倫理治理將與產業創新活動增強協調；多學科多主體參與
、分類分級治理、技術工具開發等措施將有效推動人工智能倫理治理機製完善
；全民科技倫理素養的提升將有效防範人工智能倫理風險；全球人工智能倫理治理合作也將推動人工智能技術造福人類。

　　挑戰：

　　覆蓋人工智能全生命周期的各個階段

　　人工智能倫理是開展人工智能研究、設計、開發

、服務和使用等科技活動需要遵循的價值理念和行為規範，呈現出哲學性
、技術性、全球性三大特點。該報告認為
，目前，人工智能引發的倫理挑戰已從理論研討變為現實風險。據統計，僅2023年11月
，人工智能事件就超過280件。對人工智能倫理問題的關切覆蓋人工智能全生命周期的各個階段，需要從技術研發和應用部署層麵分析評估人工智能倫理風險。

　　其中
，在技術研發階段

，由於人工智能技術開發主體在數據獲取和使用、算法設計
、模型調優等方麵還存在技術能力和管理方式的不足
，可能產生偏見歧視、隱私泄露
、錯誤信息、不可解釋等倫理風險。在產品研發與應用階段，人工智能產品所麵向的具體領域
、人工智能係統的部署應用範圍等將影響人工智能倫理風險程度，並可能產生誤用濫用、過度依賴、衝擊教育與就業等倫理風險。

　　“需要注意
，隱私泄露、偏見歧視、產生虛假錯誤信息、歸gui責ze不bu明ming等deng倫lun理li風feng險xian既ji可ke能neng產chan生sheng在zai研yan發fa階jie段duan，又you可ke能neng產chan生sheng於yu應ying用yong階jie段duan

，甚shen至zhi是shi兩liang者zhe疊die加jia產chan生sheng的de負fu麵mian後hou果guo。識shi別bie人ren工gong智zhi能neng倫lun理li風feng險xian需xu要yao進jin行xing全quan生sheng命ming周zhou期qi的de評ping估gu。”該報告特別強調。

　　當前，伴隨著大模型的發展，生成式人工智能應用成為 2023年人工智能應用熱點
，但使用大模型生成內容具有三大突出倫理風險。

　　一是誤用濫用風險。生成式人工智能技術應用普及快、使用門檻低，可能成為製作深度偽造內容、惡意代碼等的技術工具，引發虛假信息大量傳播以及網絡安全問題。

　　二er是shi數shu據ju泄xie露lu與yu隱yin私si侵qin犯fan風feng險xian。生sheng成cheng式shi人ren工gong智zhi能neng使shi用yong的de訓xun練lian數shu據ju集ji可ke能neng包bao含han個ge人ren信xin息xi，繼ji而er被bei誘you導dao輸shu出chu有you關guan信xin息xi。同tong時shi，在zai用yong戶hu使shi用yong過guo程cheng中zhong上shang傳chuan的de個ge人ren信xin息xi、企業商業秘密、重要代碼等都有可能成為生成式人工智能訓練的素材，進而產生被泄露的風險。

　　三san是shi對dui知zhi識shi產chan權quan製zhi度du帶dai來lai挑tiao戰zhan。生sheng成cheng式shi人ren工gong智zhi能neng技ji術shu對dui知zhi識shi產chan權quan體ti係xi造zao成cheng了le衝chong擊ji。在zai訓xun練lian數shu據ju的de使shi用yong上shang，哪na些xie數shu據ju能neng用yong於yu模mo型xing訓xun練lian還hai存cun在zai爭zheng議yi，關guan於yu“合理使用”是否能適用於大模型數據訓練還在討論，且已有藝術家開始使用技術工具”阻止未經允許的模型訓練。在生成內容的權利歸屬上，人工智能技術是否僅能發揮工具作用還有探討空間。

　　實踐：

　　世界各國逐步構建起人工智能有序發展的治理機製

　　人(ren)工(gong)智(zhi)能(neng)已(yi)成(cheng)為(wei)各(ge)國(guo)科(ke)技(ji)發(fa)展(zhan)的(de)重(zhong)要(yao)戰(zhan)略(lve)。目(mu)前(qian)，各(ge)國(guo)通(tong)過(guo)倫(lun)理(li)規(gui)範(fan)明(ming)確(que)人(ren)工(gong)智(zhi)能(neng)技(ji)術(shu)研(yan)發(fa)和(he)應(ying)用(yong)的(de)基(ji)本(ben)倫(lun)理(li)要(yao)求(qiu)
，加(jia)強(qiang)全(quan)球(qiu)人(ren)工(gong)智(zhi)能(neng)倫(lun)理(li)治(zhi)理(li)合(he)作(zuo)
，逐(zhu)步(bu)構(gou)建(jian)起(qi)人(ren)工(gong)智(zhi)能(neng)有(you)序(xu)發(fa)展(zhan)的(de)治(zhi)理(li)機(ji)製(zhi)。

　　guojizuzhiderengongzhinenglunlizhilifangan。muqian，guojishehuizhengjiajintuijinrengongzhinenglunlizhililingyudehezuo。zairengongzhinenglunligongshixingyuanzecengmian，lianheguojiaokewenzuzhi193個成員國於2021年11月達成《人工智能倫理問題建議書》，明確尊重、保護和促進人的權利
、基本自由、尊嚴，環境和生態係統發展，確保多樣性和包容性，生活在和平、公正的互聯網社會中等4項人工智能價值觀。同時
，ISO（國際標準化組織）、IEC（國際電工委員會）、IEEE（電氣與電子工程師委員會）

、ITU（國際電信聯盟）等國際標準化組織積極推動以人工智能技術為代表的科技倫理標準研製。2023年5月25日，聯合國發布的《我們的共同議程》政策簡報提出“全球數字契約——為所有人創造開放
、自由
、安全的數字未來”；2023年10月26日，聯合國高級別人工智能谘詢機構成立；2023年12月，該谘詢機構發布臨時報告《以人為本的人工智能治理》。

　　yuwaiguojiahediquderengongzhinenglunlizhilijizhi。qizhong，jiyouyimeiguoweidaibiaodeyimianxiangshichanghechuangxinweidaoxiangdejianguanmoshi，youyouyioumengweidaibiaodejijijierumoshi。

　　美國發展以鼓勵創新為基礎的可信賴人工智能。在行政規劃層麵，2023年10月

，美國總統拜登發布《關於安全、可靠、可信賴地開發和使用人工智能》行政令，明確進行負責任人工智能技術開發。此前，2022年5月
，拜登政府成立國家人工智能谘詢委員會；2022年10月發布《人工智能權利法案藍圖》。同時
，美國政府積極鼓勵行業自律，2023年7月和9月兩次推動包括OpenAI、穀歌、微軟、英偉達等15家企業就開發避免偏見歧視、baohuyinsiderengongzhinengzuochuchengnuo。zaijutilingyu，meiguolianbangzhengfubutongbumenyeyijuzhuzezhuyefabuxiangyingdelunliyuanzehezhilikuangjia。buguo
，meiguomuqianrengranquefayirengongzhinengweiguizhiduixiangdejuyouyueshulidefalvguifan。

　　歐盟通過健全監管規製落地人工智能倫理要求。在倫理框架方麵，2019年4月
，歐盟高級專家組發布《可信人工智能倫理指南》，提出可信人工智能的概念和7項關鍵要求
，包括保證人類監督、魯棒性和安全性
、隱私和數據治理、透明度
、多樣性、社會和環境福利
、問責。在治理落地方麵
，2023年12月，歐盟委員會

、歐洲理事會、歐洲議會達成共識
，就《人工智能法案》達成臨時協議，提出基於風險的監管方式
，將人工智能係統帶來的挑戰分為不可接受的風險、高風險、有限風險、基本無風險4個級別
，並形成對應的責任和監管機製
；同時
，強調以人為本、保證透明度等倫理價值要求。

　　此外，德國關注人工智能具體應用領域（人工智能算法、數據以及自動駕駛等）倫理風險規製，強調以人為本，發展負責任、以公共利益為導向的人工智能。如在算法領域，德國數據倫理委員會將與人類決策相關的人工智能係統劃分為基於算法的決策、算法驅動的決策和算法決定的決策3種類型

，並提出人工智能算法風險導向型“監管金字塔”
，將人工智能算法風險進行1級~5級評級
，逐級增加規範要求，包括監管審查、附加批準條件
、動態監管以及完全禁止等措施。新加坡積極探索人工智能倫理治理技術工具，通過發布“智慧國家”“數字政府藍圖”等國家政策，多維度提升人工智能發展與應用水平，著力推動社會數字化轉型向有利於人的方向發展。如2023年12月
，新加坡發布國家人工智能戰略2.0，提出人工智能服務公共利益的願景，再次強調建立一個可信賴和負責任的人工智能生態。

　　與此同時
，我國也積極參與人工智能倫理治理國際合作。2023年8月(yue)，在(zai)金(jin)磚(zhuan)國(guo)家(jia)領(ling)導(dao)人(ren)第(di)十(shi)五(wu)次(ci)會(hui)晤(wu)上(shang)，金(jin)磚(zhuan)國(guo)家(jia)已(yi)同(tong)意(yi)盡(jin)快(kuai)啟(qi)動(dong)人(ren)工(gong)智(zhi)能(neng)研(yan)究(jiu)組(zu)工(gong)作(zuo)，拓(tuo)展(zhan)人(ren)工(gong)智(zhi)能(neng)合(he)作(zuo)，形(xing)成(cheng)具(ju)有(you)廣(guang)泛(fan)共(gong)識(shi)的(de)人(ren)工(gong)智(zhi)能(neng)治(zhi)理(li)框(kuang)架(jia)和(he)標(biao)準(zhun)規(gui)範(fan)。2023年10月，我國發布《全球人工智能治理倡議》
，圍繞人工智能發展
、安全
、治理三方麵係統闡述了人工智能治理中國方案
，提出堅持倫理先行的原則
，提出建立並完善人工智能倫理準則
、規範及問責機製。同時
，我國專家也積極參與聯合國、世界衛生組織等國際機構的人工智能倫理規則構建。2023年10月，我國兩位專家入選聯合國高級別人工智能治理機構，積極參與聯合國層麵的人工智能治理討論
，提出全球人工智能治理建議。

　　展望：

　　人工智能倫理治理將與產業創新活動增強協調

　　該報告圍繞人工智能倫理治理提出了四方麵建議。

　　一是協調人工智能產業創新發展與倫理治理。一方麵，重視人工智能技術創新
，鼓勵人工智能基礎技術創新和突破，發展人工智能芯片、數據、算法等基礎核心技術，加強人工智能治理產品開發
，以人工智能技術防範人工智能風險
；另一方麵，探索建立敏捷的人工智能倫理治理機製，增強科技倫理治理的有效性和科學性，推動產業創新與倫理風險防範相協調。

　　ershiwanshanrengongzhinenglunlizhilijucuo。qiyi
，jianquanduoxuekeduozhutihezuodezhilitixi
，xingchengduoxuekegongjianderengongzhinengzhiliheli。qier，yaojianlifenleifenjilunlizhilijizhi。jianyigenjurengongzhinenglunlifengxiandaxiaoheyingxiangfanweiquedingzerenyiwuhejianguanguize，ruduiyujibenbujuyoulunliyingxiangderengongzhinengjishuyingyong，jianhuajianguanchengxu，gulijishuchuangxinhefazhan
；對於具有一定倫理影響的人工智能技術
，設定倫理要求，建立風險評估機製，明確責任
；對於具有長期且廣泛影響的人工智能高風險應用領域
，加大監管力度，通過多種監管手段防範倫理風險；對於具有不可接受倫理影響的人工智能應用
，考慮禁止部署。其三，推動人工智能倫理治理技術化、工程化
、標準化，形成人工智能倫理治理經驗示範。

　　三是提升各主體人工智能倫理風險應對能力。符合人工智能倫理的開發和應用實踐有賴於研發、設計、應ying用yong人ren員yuan承cheng擔dan起qi個ge人ren責ze任ren，也ye需xu要yao公gong眾zhong加jia強qiang對dui人ren工gong智zhi能neng倫lun理li風feng險xian的de認ren知zhi及ji負fu責ze任ren使shi用yong。支zhi持chi高gao校xiao開kai設she科ke技ji倫lun理li課ke程cheng
，引yin導dao學xue生sheng和he科ke技ji工gong作zuo者zhe提ti升sheng人ren工gong智zhi能neng倫lun理li素su養yang，將jiang開kai展zhan麵mian向xiang員yuan工gong的de科ke技ji倫lun理li培pei訓xun作zuo為wei企qi業ye落luo實shi科ke技ji倫lun理li管guan理li主zhu體ti責ze任ren的de必bi要yao環huan節jie，引yin導dao行xing業ye加jia強qiang科ke技ji倫lun理li自zi律lv與yu合he作zuo
，加jia強qiang麵mian向xiang社she會hui公gong眾zhong的de科ke技ji倫lun理li教jiao育yu。

　　四是加強人工智能倫理治理國際交流合作。人工智能技術具有全球性、時(shi)代(dai)性(xing)，要(yao)積(ji)極(ji)參(can)與(yu)全(quan)球(qiu)科(ke)技(ji)倫(lun)理(li)治(zhi)理(li)雙(shuang)多(duo)邊(bian)合(he)作(zuo)
，同(tong)時(shi)鼓(gu)勵(li)國(guo)內(nei)企(qi)業(ye)和(he)專(zhuan)家(jia)學(xue)者(zhe)參(can)與(yu)國(guo)際(ji)人(ren)工(gong)智(zhi)能(neng)倫(lun)理(li)治(zhi)理(li)交(jiao)流(liu)合(he)作(zuo)，形(xing)成(cheng)全(quan)球(qiu)人(ren)工(gong)智(zhi)能(neng)倫(lun)理(li)治(zhi)理(li)合(he)作(zuo)生(sheng)態(tai)。