張鈸

作為(wei) 引領第四次科技革命的戰略性技術，人工智能（AI）給社會(hui) 建設和經濟發展帶來了重大而深遠的影響。但數據隱私、算法偏見、技術濫用等安全問題正給社會(hui) 公共治理與(yu) 產(chan) 業(ye) 智能化轉型帶來嚴(yan) 峻挑戰。

AI帶來的問題，首先是科技發展的共性問題。科技是發展的利器，也可能成為(wei) 風險的源頭，AI也不例外。

AI的發展將引發新一輪產(chan) 業(ye) 革命。一方麵是傳(chuan) 統產(chan) 業(ye) 的智能化，比如網絡搜索中采取推薦算法、用戶畫像等，可以提高服務效率和質量。另一方麵是智能技術的產(chan) 業(ye) 化，催生了新的產(chan) 業(ye) ，如智能交通、智慧醫療、智慧城市、自動駕駛等。與(yu) 此同時，AI的發展也帶來了新的風險和安全隱患。因此，我們(men) 既要抓AI的創新發展，又要抓AI的治理，兩(liang) 手都要抓。

其次是AI發展與(yu) 治理中的特殊性問題，具體(ti) 表現在算法層麵、數據層麵與(yu) 應用層麵。

從(cong) 算法層麵看，現有的AI算法較脆弱，泛化能力較差，這意味著如果將算法運用到與(yu) 訓練場景區別很大的實際場景中，就會(hui) 存在安全問題。以無人駕駛為(wei) 例，AI訓練的時候不可能窮盡所有情景，所以當遇到新的突發事件便無法處理，就會(hui) 造成AI技術的誤用，這有可能是無意識的誤用。同時，這種脆弱性還使得AI係統容易被攻擊、被欺騙，給AI技術的濫用以可乘之機。

從(cong) 數據層麵看，現在AI應用效果很大程度上依賴數據質量，但由此會(hui) 帶來隱私泄露、數據確權等問題。如果解決(jue) 不好數據安全的問題，AI產(chan) 業(ye) 也不可能健康發展。

從(cong) 應用層麵看，AI技術已經逐漸對人們(men) 的生活造成衝(chong) 擊，比如為(wei) 保隱私戴頭盔去售樓處的看房人、困在算法裏的外賣騎手等，還有深度偽(wei) 造之類可能對社會(hui) 造成重大影響的技術，因此AI技術必須保證安全可控。

AI的創新發展是大道理。縱觀信息科技的發展曆史，盡管信息科技發展異常迅猛，但基本上安全可控。而AI發展卻緩慢曲折，安全問題層出不窮。

二者的差別在於(yu) ，從(cong) 信息革命開始，信息的三大理論就已經建立，即圖靈機理論（1936）、香農(nong) 的通信理論（1948）、維納的控製論（1948）。正因為(wei) 有了堅實的理論基礎，才引導信息技術健康發展。然而，AI的發展則相反，其基礎理論至今沒有建立。盡管經曆了第一代AI的符號主義(yi) 模型（星空体育官网入口网站驅動）和第二代AI的亞(ya) 符號（連接）主義(yi) 模型（數據驅動），但它們(men) 均有很大的局限性，不能構成AI的理論基礎。由於(yu) 缺乏理論指導，AI的發展處於(yu) 難以控製的局麵。

當前，必須解決(jue) “卡脖子”的基礎理論問題。因此，建立AI的理論基礎是我們(men) 提出“第三代人工智能”的初衷。所謂的“第三代人工智能”，其發展路徑是融合第一代的星空体育官网入口网站驅動和第二代的數據驅動的AI，在前兩(liang) 代理論的基礎上發展“第三代人工智能”基礎理論，建立一個(ge) 完備的AI基礎理論。

具體(ti) 的思路上，“第三代人工智能”利用星空体育官网入口网站、數據、算法和算力4個(ge) 要素，建立新的可解釋和魯棒的AI理論及方法，從(cong) 而發展安全、可信、可靠和可擴展的AI技術。這樣，發展“第三代人工智能”和AI治理一起進行，以達到相輔相成、共同發展的目的。

AI剛剛拉開序幕，更精彩的大戲正要上演。全世界應共同來發展安全可控的“第三代人工智能”，讓AI真正造福於(yu) 人類。

（作者係中國科學院院士，本報記者沈春蕾根據其在2021北京智源大會(hui) 上的講話整理）