智能機器人自信地“走上”舞台擔綱主持；無人車在測試道路上完成一係列動作，司機卻穩坐千裏之外；智能健康“魔鏡”能實時顯示測試者“睡眠”“情緒”“皮膚”等一係列健康指標係數……曾經在科幻電影中才能看到的炫酷片段已經在生活中得以實現
，種種“黑科技”被廣泛應用，人工智能的發展深刻地影響著社會生活。

　　但同時，隨著人工智能技術應用越來越廣泛，人工智能“脆弱麵”也逐漸暴露，機器人“自我意識”、技術濫用等安全漏洞引起業界更多關注。專家表示，要加強對潛在風險的研判和防範，確保人工智能各項技術安全、可靠、可控。

　　催生新攻擊方式

　　當(dang)今(jin)，世(shi)界(jie)各(ge)國(guo)紛(fen)紛(fen)布(bu)局(ju)人(ren)工(gong)智(zhi)能(neng)

，國(guo)際(ji)競(jing)爭(zheng)日(ri)趨(qu)激(ji)烈(lie)。然(ran)而(er)，人(ren)工(gong)智(zhi)能(neng)的(de)快(kuai)速(su)發(fa)展(zhan)也(ye)使(shi)得(de)網(wang)絡(luo)安(an)全(quan)的(de)風(feng)險(xian)點(dian)和(he)攻(gong)擊(ji)方(fang)式(shi)出(chu)現(xian)新(xin)變(bian)化(hua)，進(jin)而(er)引(yin)發(fa)更(geng)深(shen)層(ceng)次(ci)的(de)網(wang)絡(luo)安(an)全(quan)風(feng)險(xian)。

　　2018年4月，歐盟委員會計劃2018年至2020年在人工智能領域投資240億美元。2018年5月，法國發布《法國人工智能戰略》，目的是使法國成為人工智能強國。2018年6月，日本《未來投資戰略》重點推動物聯網建設和人工智能的應用。

　　對於人工智能，我國同樣高度重視。2017年
，政府先後發布了《新一代人工智能發展規劃》和《促進新一代人工智能產業發展三年行動計劃（2018—2020年）》。

　　北(bei)京(jing)郵(you)電(dian)大(da)學(xue)教(jiao)授(shou)李(li)小(xiao)勇(yong)表(biao)示(shi)，我(wo)國(guo)是(shi)受(shou)到(dao)網(wang)絡(luo)攻(gong)擊(ji)最(zui)嚴(yan)重(zhong)的(de)國(guo)家(jia)之(zhi)一(yi)，也(ye)是(shi)遭(zao)受(shou)物(wu)聯(lian)網(wang)攻(gong)擊(ji)最(zui)嚴(yan)重(zhong)的(de)國(guo)家(jia)之(zhi)一(yi)，網(wang)絡(luo)攻(gong)擊(ji)手(shou)段(duan)和(he)攻(gong)擊(ji)形(xing)式(shi)越(yue)來(lai)越(yue)多(duo)。從(cong)行(xing)業(ye)來(lai)看(kan)
，經(jing)濟(ji)、教育、政府等部門成為攻擊的主要目標。

　　360公司董事長兼CEO周鴻禕說，網絡攻擊每天都在發生。目前網絡黑客的攻擊目標非常明確
，就是能源
、交通等基礎設施，因為這樣產生的影響是最大的。未來在萬物互聯的情況下，每個集裝箱、每輛卡車
，甚至城市裏的每個井蓋都實現互聯，虛擬層麵的攻擊可能引發物理空間的損害。

　　事shi實shi上shang，劫jie持chi智zhi能neng設she備bei已yi經jing成cheng為wei網wang絡luo攻gong擊ji的de重zhong要yao手shou段duan。網wang絡luo安an全quan專zhuan家jia表biao示shi，許xu多duo無wu人ren值zhi守shou係xi統tong運yun用yong人ren工gong智zhi能neng技ji術shu，一yi旦dan遭zao網wang絡luo劫jie持chi
，將jiang帶dai來lai嚴yan重zhong的de安an全quan問wen題ti。例li如ru，智zhi能neng汽qi車che可ke與yu車che廠chang服fu務wu器qi連lian接jie，通tong過guo手shou機ji遠yuan程cheng控kong製zhi，車che主zhu需xu要yao定ding期qi更geng新xin軟ruan件jian保bao證zheng汽qi車che的de駕jia駛shi模mo式shi，如ru此ci一yi來lai就jiu可ke能neng被bei網wang絡luo劫jie持chi。

　　天津大學法學院院長孫佑海稱，網絡攻擊者可通過漏洞控製人工智能算法，實現物理硬件操縱、實施輿論引導、製造虛假圖像或影響
、製造信息噪音等，造成安全隱患。

　　此外，圖像、聲音合成滋生新的風險。國家互聯網應急中心的相關專家稱，隨著技術的發展，現在的合成圖像、語音越來越逼真。如果把該技術用於網絡詐騙，虛構人臉和語音，是非常可怕的事情。

　　暴露安全軟肋

　　由於人工智能技術依托的算法、大數據等可以很低的成本進行複製和擴散
，其傳播渠道廣
，監管難度大
，封控幾率低。

　　目前，人工智能技術正由“弱人工智能”向“強人工智能”階段躍進，能夠依據其所掌握的算法、數據，在短時間內快速突破人類傳承多年的經驗積累。

　　2016年，由穀歌旗下“深度思維”（DeepMind）公司開發的AlphaGo橫空出世，經深度學習後橫掃人類圍棋界翹楚。一年後，零基礎起步的新程序AlphaGo Zero
，通過自我訓練，在三天內與自身對弈490萬局後，以100：0的成績擊敗“前輩”AlphaGo。

　　2017nian，meiguoshejiaomeitipingtailianshugongsishiyanshizhongdelianggerengongzhinengjiqirenshiyongjiqixuexixianghuduihua
，bingbuduanjinxingduihuacelvediedaishengji，zhujianfazhanchuleyizhongjiqizhijiannenglijiedanrenleiwufalijiedeyuyan。

　　“事實表明，人工智能通過算法和大數據進行深度學習，不排除演化出‘自我意識’的可能

，輔助甚至代替人類做出分析和決策
，這易於發生反噬風險。”孫佑海說。

　　當(dang)前(qian)，人(ren)工(gong)智(zhi)能(neng)研(yan)究(jiu)高(gao)度(du)開(kai)放(fang)附(fu)帶(dai)源(yuan)代(dai)碼(ma)的(de)海(hai)量(liang)論(lun)文(wen)可(ke)免(mian)費(fei)下(xia)載(zai)
，即(ji)便(bian)編(bian)寫(xie)一(yi)種(zhong)折(zhe)型(xing)算(suan)法(fa)的(de)時(shi)間(jian)成(cheng)本(ben)也(ye)隻(zhi)需(xu)幾(ji)天(tian)
，人(ren)工(gong)智(zhi)能(neng)技(ji)術(shu)的(de)濫(lan)用(yong)風(feng)險(xian)激(ji)增(zeng)。此(ci)外(wai)
，人(ren)工(gong)智(zhi)能(neng)既(ji)有(you)多(duo)學(xue)科(ke)綜(zong)合(he)、高度複雜等特性
，帶有天然的技術壁壘，給監管部門的監督管理和風險防範提出了不小的挑戰。

　　除技術發展外，人工智能帶來的社會影響不容小覷。通過特定算法全方位了解用戶偏好和需求
，為消費者“量身定製”的“精準推送”正成為商家引導消費的新途徑。

　　近年來
，北京
、上海、重慶
、濟南等地的商圈開始試水“智慧商圈”模(mo)式(shi)，可(ke)以(yi)根(gen)據(ju)顧(gu)客(ke)的(de)特(te)征(zheng)更(geng)精(jing)準(zhun)地(di)推(tui)送(song)優(you)惠(hui)券(quan)商(shang)品(pin)信(xin)息(xi)

，讓(rang)用(yong)戶(hu)更(geng)有(you)消(xiao)費(fei)動(dong)力(li)。比(bi)如(ru)，給(gei)年(nian)輕(qing)的(de)未(wei)婚(hun)白(bai)領(ling)女(nv)性(xing)推(tui)送(song)化(hua)妝(zhuang)品(pin)和(he)奢(she)侈(chi)品(pin)的(de)品(pin)牌(pai)商(shang)券(quan)

；給媽媽們推薦嬰兒用品店
；給男性推送運動品牌門店活動
，等等。

　　“智慧商圈”帶來生活便捷卻容易引發“信息騷擾”問wen題ti。消xiao費fei者zhe的de一yi個ge簡jian單dan操cao作zuo就jiu有you可ke能neng暴bao露lu想xiang要yao購gou買mai某mou件jian商shang品pin的de想xiang法fa，後hou續xu會hui不bu斷duan收shou到dao同tong類lei商shang品pin的de廣guang告gao宣xuan傳chuan，產chan生sheng困kun擾rao。長chang此ci以yi往wang，商shang場chang導dao購gou等deng從cong事shi決jue策ce分fen析xi、藝術創作等工作也有被機器人取代的可能，人工智能技術的日臻成熟將打碎傳統職業群體的“飯碗”，進而引發新產業革命和經濟結構調整，形成“去勞動力”傾向，最終產生失業風險。

　　不僅如此
，人工智能產生的道德倫理隱憂不斷。有專家表示，人工智能設計者的價值導向和行為偏好易於被有意或無意地反映到算法

、數shu據ju當dang中zhong，並bing通tong過guo機ji器qi學xue習xi被bei人ren工gong智zhi能neng所suo承cheng繼ji，進jin而er演yan進jin為wei算suan法fa歧qi視shi。而er在zai具ju體ti適shi用yong過guo程cheng中zhong
，容rong易yi受shou到dao對dui抗kang樣yang本ben的de幹gan擾rao或huo汙wu染ran，被bei應ying用yong者zhe二er次ci形xing塑su，做zuo出chu背bei離li設she計ji初chu衷zhong的de錯cuo誤wu決jue策ce。

　　2016年3月，美國微軟公司發布了名為Tay的最新版本人工智能機器人。然而
，上線不到24小時，Tay就“學壞”了：出言不遜
、髒話不斷
，言語甚至涉及種族主義
、色情、納粹
，充滿歧視、仇恨和偏見。微軟隻得不停刪除Tay的不當言論
，進行下線調整。

　　用好“雙刃劍”

　　zhuanjiabiaoshi
，zairengongzhinengfeisufazhandeshidai，anquanwentiriyituxian
，xuyaowomenjiaqiangduiqianzaifengxiandeyanpanhefangfan，qieshiweihuhaorenminliyiheguojiaanquan，quebaorengongzhinenganquankekao、可控。

　　南開大學周恩來政府管理學院教授吳曉林認為
，數字化、網絡化、智能化已經是時代的主題，智能讓生活變得更美好，但安全問題無處不在
、無時不在。互聯網下半場是工業互聯網
，以後國家的基礎設施安全、工業互聯網安全非常關鍵，還是要把人工智能的雙刃劍用好，趨利避害
，讓科技的智能與人類的智慧並存、和諧。

　　在(zai)網(wang)絡(luo)安(an)全(quan)防(fang)護(hu)上(shang)，應(ying)加(jia)強(qiang)技(ji)術(shu)研(yan)究(jiu)，建(jian)立(li)有(you)效(xiao)安(an)全(quan)防(fang)護(hu)，抵(di)禦(yu)網(wang)絡(luo)攻(gong)擊(ji)。專(zhuan)家(jia)建(jian)議(yi)，可(ke)以(yi)建(jian)立(li)主(zhu)動(dong)免(mian)疫(yi)的(de)計(ji)算(suan)架(jia)構(gou)
，對(dui)計(ji)算(suan)進(jin)行(xing)安(an)全(quan)防(fang)護(hu)
，使(shi)計(ji)算(suan)全(quan)程(cheng)可(ke)測(ce)可(ke)控(kong)，不(bu)被(bei)幹(gan)擾(rao)。利(li)用(yong)人(ren)工(gong)智(zhi)能(neng)應(ying)對(dui)網(wang)絡(luo)攻(gong)擊(ji)，“免疫係統”中不管哪個係統受到攻擊

，都有統一的人工智能係統發出指令，采取相應措施。

　　在zai法fa治zhi建jian設she保bao障zhang上shang，中zhong國guo法fa學xue會hui副fu會hui長chang兼jian秘mi書shu長chang張zhang鳴ming起qi建jian議yi高gao度du重zhong視shi立li法fa工gong作zuo，適shi時shi安an排pai宏hong觀guan立li法fa
，人ren工gong智zhi能neng的de發fa展zhan離li不bu開kai一yi部bu反fan映ying時shi代dai需xu求qiu的de《人工智能法》以及配套法規組成的法律法規體係。

　　孫佑海建議，全國人大宜進行立法上的一些準備，建議有關部門優先對無人機的管理、自動駕駛、圖像識別相對成熟的技術應用製定法律規章
，以剛性的法規條款引領秩序。

　　tongshi，yaojinyibujianquanjingzhunwushidezhengcezhichengtixi，goujianzhengcejiqun。sunyouhaishuo，yaojinyibushengjiquanliuchengdeanquanfangkongtixi
，bingzhidingxingyeanquanbiaozhun，zuohaoyingjifangfandeyuan
，jiadazhongdianlingyudefangkong，jiadaduidaimashuju
、算法等重點領域的綜合管控力度
，保障技術安全
、產品安全、數據安全和應用安全。

　　zhenduixinyidairengongzhinengkenengyinfadejiegouxingshiyedengfengxian
，wuxiaolinjianyi，youlaodongbumenqiantoujiaqiangyurengongzhinengchanyexuqiupeitaodezaizhipeixunhezaijiuyepeixuntixi，dahaolaodonglizhuanxingdezhudongzhang。