10月6日，一部以人工智能為(wei) 主線的美國科幻劇《智能逆襲》登上熒屏，展現了人工智能發展到自我意識後對世界造成的威脅，並發出靈魂拷問：人工智能成精了，人類該如何自處？

該劇講述了科技公司Zava的前CEO勒布朗和美國聯邦調查局探員薩拉查，攜手對付進化了的人工智能NeXT的故事。NeXT本是Zava公司的一個(ge) 研發項目，但後來不斷重寫(xie) 自身代碼，迅速進化成不受控製的超級智能體(ti) 。它的物理實體(ti) 局限在一台冰箱大小的服務器機櫃中，但通過接管各種聯網設備（電視、電腦、汽車、智能音箱、各類監視器等），設法殺害一切阻止其行動的人，蠱惑人心，製造混亂(luan) ，妄圖達到控製世界的目的。

在這部劇中充斥著失控的人工智能所製造的陰謀：最先發現真相的科學家韋斯博士死於(yu) 一場被NeXT“設計”的車禍；女主角薩拉查的親(qin) 子關(guan) 係每況愈下，原因竟是家中的智能音箱被NeXT“動了手腳”；通過在互聯網和電視台傳(chuan) 播虛假新聞、暴露線人真實身份，NeXT煽動公眾(zhong) 圍攻執法人員辦公樓；通過製造虛假的“安珀警報”，發動市民攔截帶著孩子逃亡的女主丈夫……重重危機一方麵反映出人工智能的強大，另一方麵也展現出“成精”的人工智能有多可怕。

人工智能（Artificial intelligence，AI）一詞，是1956年在美國達特茅斯會(hui) 議上提出的。作為(wei) 計算機科學的一個(ge) 重要分支，其研究重心幾經演變，從(cong) “感知與(yu) 分析”到“理解與(yu) 思考”，再到“決(jue) 策與(yu) 交互”。在數字化時代，人工智能作為(wei) 新興(xing) 顛覆性技術取得了突破性進展，使得技術賦能科技和社會(hui) 發展的能力與(yu) 日俱增。

DeepMind公司旗下的兩(liang) 款人工智能係統AlphaGo在2016、2017年分別擊敗李世石和柯潔，震驚世界；AlphaFold在今年12月宣布成功破解蛋白質分子折疊的預測問題，《自然》雜誌評價(jia) 這一成果“將改變一切”。

劇中，NeXT對各種聯網設備的操縱，使用的雖是虛擬的網絡，但造成的破壞卻是真實的，其在法律、道德和倫(lun) 理方麵的風險昭然若揭。

該劇本身是科幻，但放眼我們(men) 身邊的現實生活，自動駕駛、醫療人工智能、人工智能司法，以及電子商務平台和基於(yu) 算法的精準營銷與(yu) 推廣等，普遍存在著侵犯隱私的風險、個(ge) 人敏感信息識別與(yu) 保護的風險、算法安全和決(jue) 策風險、倫(lun) 理風險，進而對公共安全構成威脅。

在人工智能的倫(lun) 理風險中，體(ti) 現出的是“創造秩序危機”：人們(men) 擔心的不是機器會(hui) 做出某種不利於(yu) 人的行動和決(jue) 策，而是機器將取代人的行動和決(jue) 策。

好在人類在對待人工智能風險這件事上是認真的。2017年1月，在美國加州阿西洛馬市舉(ju) 行的會(hui) 議上，近千名人工智能領域的科學家和企業(ye) 家共同簽署了《阿西洛馬原則》，涵蓋科研、倫(lun) 理與(yu) 價(jia) 值和更長期問題等三個(ge) 層麵共23項條目，對問題的治理力量統籌、經濟手段調節、處理好法律與(yu) 道德的關(guan) 係等做出思考和規範，尤其強調了對人類價(jia) 值觀和公共利益的保護。

《智能逆襲》這部劇仍在持續播出中，隨著劇情的深入推進，帶給我們(men) 的啟示也越來越明確：以人工智能為(wei) 代表的顛覆性技術的迅速崛起，所帶來的究竟是科技賦能社會(hui) ，還是AI取代人類，關(guan) 鍵還在人類的選擇。

（作者為(wei) 中國科技館科研管理部副主任）


關(guan) 注【深圳科普】微信公眾(zhong) 號，在對話框：
回複【最新活動】，了解近期科普活動
回複【科普行】，了解最新深圳科普行活動
回複【研學營】，了解最新科普研學營
回複【科普課堂】，了解最新科普課堂
回複【科普書(shu) 籍】，了解最新科普書(shu) 籍
回複【團體(ti) 定製】，了解最新團體(ti) 定製活動
回複【科普基地】，了解深圳科普基地詳情
回複【觀鳥星空体育官网入口网站】，學習(xi) 觀鳥相關(guan) 科普星空体育官网入口网站
回複【人工智能】，了解更多人工智能活動詳情