來源:中國科協創新戰略研究院《創新研究報告》

第12期（總第440期）2021-02-25

編者按：2021年1月18日，英國國會(hui) 科技辦公室發布了一篇名為(wei) 《人工智能與(yu) 醫療保健》（AI and Healthcare）的研究簡報，作者是約翰·斯米頓（John Smeaton）、洛娜·克裏斯蒂（Lorna Christie），該簡報介紹了人工智能在醫療保健領域所具有的價(jia) 值和廣泛應用前景，論述了人工智能的應用對醫療行業(ye) 的服務質量、成本和從(cong) 業(ye) 人員造成的潛在影響，並針對人工智能技術廣泛應用於(yu) 醫療保健行業(ye) 可能麵臨(lin) 的安全和法律等諸多方麵的問題進行了討論。本文對該簡報的主要內(nei) 容進行摘編。

一、背景

關(guan) 於(yu) 人工智能（AI）係統的定義(yi) ，目前尚未形成定論，一般指的是可以執行需要人類智慧才能完成任務的智能係統。人工智能係統由算法支撐，可以對一係列的數據進行分析並得出符合要求的結果。近年來，由於(yu) 機器學習(xi) 模擬算法、深度學習(xi) 等技術的發展和所訓練數據的質量和體(ti) 量的提高，使得人工智能係統的性能得到了突飛猛進的發展。

目前，學術界、醫療行業(ye) 專(zhuan) 業(ye) 人士和決(jue) 策者對醫療保健領域人工智能技術的應用充滿期待和興(xing) 趣。研究顯示，人工智能可以提高醫療服務的質量、降低醫療成本並且減少員工在行政事務上的時間消耗。人工智能技術已經應用在醫療保健領域的諸多方麵，包括輔助診斷、健康監測、可穿戴設備和智能醫療。東(dong) 米德蘭(lan) 成像網絡（East Midlands Imaging Network）及其合作夥(huo) 伴正在測試一種分析乳房X光影像的人工智能工具，該工具可以對乳腺癌的發病症狀進行篩查並對各類掃描的圖片進行管理。盡管目前市場上已經有一些人工智能係統，但英國國家醫療體(ti) 係（NHS）內(nei) 卻沒有大規模使用人工智能技術。在英國國家醫療體(ti) 係內(nei) ，大多數用於(yu) 醫療保健的人工智能產(chan) 品仍處於(yu) 研究或開發階段，其中一些產(chan) 品目前進入了試用或評估階段。

盡管人工智能並沒有在英國國家醫療體(ti) 係內(nei) 廣泛使用，但是英國政府對人工智能在醫療領域的應用前景充滿信心。在2017年的產(chan) 業(ye) 戰略中，英國政府表示將利用大數據和人工智能實現“轉變醫療係統疾病預防方式”的目標，到2030年實現慢性病的預防、早期診斷和治療。2018年，英國斥資5000萬(wan) 英鎊投資了5個(ge) 新的國家醫療與(yu) 護理卓越中心用於(yu) 研究如何利用人工智能來改善醫療病理診斷影像；同年，英國政府頒發了數據驅動醫療和護理技術的行為(wei) 守則，旨在推動本國醫療係統使用人工智能和數字技術。2019年英國政府成立了國家醫療係統數字化中心（NHSX），專(zhuan) 門負責製定在醫療保健領域推廣人工智能技術的相關(guan) 政策並指導其實踐，並斥資2.5億(yi) 英鎊用於(yu) 支持人工智能實驗室的建設以及人工智能技術在英國國家醫療體(ti) 係中的研發應用。2020年，英國政府繼續撥款5000萬(wan) 英鎊支持國家醫療與(yu) 護理卓越中心開展利用人工智能更好應對新型冠狀病毒（COVID-19）擴散的研究。此外，改進和提高醫療保健領域的人工智能和數字技術被確定為(wei) 英國國家醫療係統數字化中心2019年的優(you) 先事項。

二、人工智能在醫療保健中的應用

01醫學影像

在醫療領域有大量醫療影像需要進行專(zhuan) 業(ye) 分析。通過對結構化數據集和標準圖像格式的深度學習(xi) ，可以訓練人工智能係統對各類醫療影像進行識別與(yu) 解讀。目前人工智能技術應用於(yu) 醫療影像的領域包括:

放射科：人工智能係統不僅(jin) 可以用來檢測X光圖像中的骨折和腫瘤，還可以對患者頭部CT掃描結果進行描述和檢測，從(cong) 而判定患者是否患有中風、創傷(shang) 性腦損傷(shang) 和癡呆等病症。

病理與(yu) 內(nei) 鏡：人工智能係統可以對顯微鏡下的病變組織樣本進行分析來區分良性及惡性腫瘤。不僅(jin) 如此，人工智能係統還可以輔助醫生識別實時結腸鏡檢查視頻中的癌變組織和癌前息肉。

眼科：通過對視網膜照片進行診斷和監測，人工智能可以識別青光眼、糖尿病等疾病引發的視網膜病變和老年性黃斑變性。

02日常事務管理

在日常工作中，醫務人員花費大量時間在行政管理和臨(lin) 床事物上。英國國家醫療體(ti) 係（NHS）的一項調查表明，人工智能技術可以幫助醫務人員提高處理醫院日常管理事物的效率和辦公的自動化水平。例如：語音識別技術可以轉錄病人口述的病曆和病史，並向錯過預約的病人發送提醒消息。對於(yu) 複雜的物流和倉(cang) 儲(chu) 問題，像物資管理和時間列表這類的問題也可以使用人工智能技術來處理以提高效率。

03治療計劃和患者監測

決(jue) 策支持係統是基於(yu) 軟件的人工智能工具，可以為(wei) 臨(lin) 床醫生醫療決(jue) 策提供數據支持和建議。人工智能係統可以協助醫生開具處方、輔助診斷和識別病人各類並發症的風險。決(jue) 策支持係統起源於(yu) 20世紀70年代基於(yu) 臨(lin) 床星空体育官网入口网站與(yu) 臨(lin) 床操作指南的預先編程規則。目前，這種預先編程規則已經被廣泛使用了。當前對決(jue) 策支持係統的研發重點在利用機器學習(xi) 的深度學習(xi) 能力來提高該係統學習(xi) 患者數據和臨(lin) 床文獻的能力，這樣一來，人工智能係統就能夠直接監控患者的健康狀況。在英國的各大醫院，使用攝像頭和可穿戴傳(chuan) 感器對壓瘡、精神錯亂(luan) 、循環衰竭等症狀進行預警的研究已經展開；身處醫院以外的高危病人也可以通過遠程設備進行監控和觀察，避免不必要的住院就診。

04其他麵向患者的應用

一些語音助手和基於(yu) 文本的聊天機器人可以直接幫助患者自己檢查身體(ti) 狀況並獲得治療。手機應用程序配合可穿戴傳(chuan) 感器和其他設備也可以幫助病人自我管理病情諸如呼吸係統、糖尿病或癲癇等疾病。人工智能可以嵌入這些係統來幫助醫生對病人的病情進行實時追蹤並提供量身定製的醫療保健指導。類似的人工智能係統還可以幫助病人自己管理心電圖(ECGs)和進行尿檢。

三、人工智能對醫療保健行業(ye) 的影響

01對醫療成本的影響

利用人工智能實現日常事務管理和臨(lin) 床任務的自動化可以減少醫療開支並提高醫療服務的效率。盡管在各個(ge) 環節人工智能能夠節約的醫療成本各不相同，但是根據2018年公共政策研究所的一項調查，人工智能和自動化能夠通過縮短員工工作時間為(wei) 英國國家醫療體(ti) 係（NHS）節約125億(yi) 英鎊的開支。

一些研究也報告了人工智能係統可以和臨(lin) 床醫生一樣甚至超過臨(lin) 床醫生完成類似於(yu) 皮膚癌、糖尿病、視網膜病變等診斷任務。這意味著疾病可以得到更早、更準確的診斷，並且未來的治療費用會(hui) 大大降低。然而，一些研究人員也對人工智能的學習(xi) 能力表示擔憂，因為(wei) 目前很少有研究去檢查人工智能係統在實際臨(lin) 床環境中的表現。為(wei) 了解決(jue) 這一問題，對臨(lin) 床行為(wei) 進行研究和評價(jia) 的新報告標準已經出台，以便於(yu) 更好地評價(jia) 人工智能在實際臨(lin) 床條件下的表現。

02對患者的影響

人工智能技術的應用可以讓疾病得到更早更準確的診斷，患者也能夠在出現並發症前就接受治療，從(cong) 而改善患者的健康。還有一些證據表明，安裝在家庭中的監控設備和應用程序能夠使患者更主動地參與(yu) 製訂自身治療方案，從(cong) 而讓患者在醫療中變得更加主動和積極，提高長期自我管理健康、治愈疾病的能力。然而，一些利益相關(guan) 者擔憂人工智能的應用可能會(hui) 使醫療係統缺乏人性化。民意研究表明，人們(men) 相信人類同理心是醫療保健的重要組成部分，但是人工智能係統的應用不僅(jin) 不會(hui) 損害醫患關(guan) 係，還能讓醫生和患者有更多溝通與(yu) 交流的機會(hui) 和渠道。盡管一些人認為(wei) 醫生在診斷和治療疾病方麵比人工智能所做出的判斷更加全麵和係統，但是一些利益相關(guan) 人士則建議在處理常規事物時更多地使用自動化和人工智能設備，讓醫療機構的員工有更多時間能夠花在患者身上來提高患者體(ti) 驗。並且人工智能可以針對不同患者的病情製訂和實施定製化的護理方案。

03對醫療保健工作的影響

為(wei) 了更好地使用人工智能技術，醫療保健人員需要新的星空体育官网入口网站和技能培訓。例如：醫護人員需要學習(xi) 新的星空体育官网入口网站和技術來操作人工智能係統並且理解其運行的原理和係統本身的局限性。在醫療行業(ye) 內(nei) 提高數字化水平將有助於(yu) 人工智能技術的發展和普及。不僅(jin) 如此，醫療行業(ye) 還需要大量精通數據編程和信息化管理的崗位和角色。普華永道（PwC）的一項預測表明，隨著人工智能係統在醫療行業(ye) 應用的增長，英國的醫療行業(ye) 將增加22%的工作崗位。專(zhuan) 門負責醫療保健人員培訓事物的英國健康教育署（HEE）已經啟動了一項專(zhuan) 門對醫療係統領導層和臨(lin) 床醫生進行數字化技能培訓的計劃，計劃包括了英國國家醫療體(ti) 係內(nei) 數字化學院的建立和“托波爾數字獎學金”的設立。臨(lin) 床信息學協會(hui) 和信息學專(zhuan) 業(ye) 聯合會(hui) 這樣的機構正在致力於(yu) 開展專(zhuan) 業(ye) 化的培訓以提高醫療工作人員使用信息和數字技術的能力。

04人工智能的應用對社會(hui) 道德、法律造成的挑戰

2020年，谘詢公司牛津洞察(Oxford Insights)的一項排名顯示，英國在人工智能方麵所進行的準備排名全球第二，僅(jin) 次於(yu) 美國。但是，也有一些利益相關(guan) 人士強調英國國家醫療體(ti) 係（NHS）長期在創新發展方麵存在諸多困難，例如：缺乏專(zhuan) 項資金和組織分散等問題。並且，在英國國家醫療體(ti) 係（NHS）內(nei) 也存在一些與(yu) 人工智能應用有關(guan) 的技術和倫(lun) 理問題。

05人工智能應用於(yu) 醫療保健行業(ye) 的安全性和有效性問題

在人工智能係統在改善患者體(ti) 驗和提高醫療服務質量方麵表現出巨大潛力的同時，我們(men) 也應該認識到，如果人工智能係統在設計上存在缺陷或者使用不當也會(hui) 造成巨大的安全風險。在遇見始料未及、訓練數據未涉及的情況時，人工智能係統可能給出危險的建議和指令。例如：有報道稱，一些人工智能機器人出現了喪(sang) 失模擬心髒顫動的功能、在測試期間對兒(er) 童實施性虐待等問題。如果一個(ge) 係統的對照參數被設定為(wei) 過於(yu) 敏感，可能會(hui) 導致對患者的過度診斷甚至是危險的臨(lin) 床幹預，並且醫療費用也會(hui) 增加。

也許人工智能係統在開發和測試過程中表現十分良好，但是應用到醫療實踐中依然有各種難題與(yu) 挑戰需要解決(jue) ，這無疑妨礙了人工智能係統的推廣與(yu) 應用。例如：穀歌的視網膜人工智能檢測係統在研發過程中表現良好甚至超過了人類專(zhuan) 業(ye) 的眼科醫生，但是在泰國幾家醫院的醫療實踐中表現讓人失望。主要原因是相比人工智能係統訓練時候的掃描圖像，實際操作過程中視網膜掃描成像結果的質量差得多，當然也存在諸如人和人工智能係統互動的其他問題。一些醫務人員的某些專(zhuan) 業(ye) 偏見可能會(hui) 導致他們(men) 信任係統的自動化決(jue) 策，但也可能不信任。

國家醫療係統數字化中心（NHSX）與(yu) 國家醫療與(yu) 護理卓越中心的研究所已經與(yu) 其他相關(guan) 機構進行合作並發布了數字化醫療技術的評估標準，這些標準列舉(ju) 了安全性、醫療效率、可用性和成本效益等要求，使醫療服務提供商在購買(mai) 人工智能係統前就可以要求開發者滿足這類條件。

06關(guan) 於(yu) 隱私保護和數據共享

由於(yu) 使用患者數據將要受到很多現有法律和法規的監管，利用大量數據來開發人工智能係統將引發一係列的隱私問題。例如：2017年谘詢專(zhuan) 員辦公室（ICO）發現皇家自由醫院（Royal Free Hospital）未能遵守數據保護法的規定，向醫療巨頭深度思維公司（Deep Mind）泄露了可識別的患者數據用於(yu) 腎損傷(shang) 診斷係統的開發。有證據表明公眾(zhong) 對醫療機構如何共享患者數據這類事件缺乏認識，同時也對患者數據的共享持懷疑態度，特別是那些醫療機構間的數據共享。2018年的一項調查顯示，2080名英國成年人中50.3%的成年人願意共享匿名的個(ge) 人健康數據；12.2%的人願意把個(ge) 人健康信息分享給用於(yu) 改善醫療服務用途的研究。

英國國家醫療體(ti) 係（NHS）不同機構之間的數據共享協議和數據格式存在重大的差異。一些利益相關(guan) 人士擔心NHS係統的領導缺乏對數據共享協議達成一致的專(zhuan) 業(ye) 星空体育官网入口网站，從(cong) 而使被NHS係統掌控的患者數據的價(jia) 值無法得以充分發揮。2020年，英國政府成立了國家醫療係統數字化中心（NHSX）來提高數據的流動性和共享性。這一機構的設立旨在確保醫療體(ti) 係內(nei) 數據共享合作夥(huo) 伴關(guan) 係能夠維持，並使整個(ge) 國家醫療服務係統從(cong) 數據共享中受益。

07數據質量

人工智能係統需要海量並且高質量的訓練數據集來產(chan) 生準確的輸出。不準確或不完整的數據會(hui) 使人工智能係統輸出結果嚴(yan) 重偏離預期效果。訓練數據通常需要以結構化的數字格式進行儲(chu) 存以便數據更容易被機器學習(xi) 算法識別。但是英國國家醫療係統內(nei) 不同組織的數據質量和格式存在很大差異，這取決(jue) 於(yu) 數據的電子化和標準程度。例如：盡管2017年54%的英國國家醫療體(ti) 係（NHS）信托機構報告醫療機構人員可以依靠數字技術將他們(men) 所需的所有信息電子化記錄，但是英國國家醫療體(ti) 係（NHS）內(nei) 的二級醫療保健單位仍然大量使用紙質手段進行記錄。此外英國國家醫療體(ti) 係（NHS）使用的許多IT係統無法做到與(yu) 其他係統進行通信和互操作，這使得數據的收集工作變得更加困難。對此，英國國家醫療體(ti) 係（NHS）的長期發展規劃把實現係統的連通性和互操作性作為(wei) 優(you) 先目標，從(cong) 而實現數據的采集和共享。在這一規劃下，預計在2024年英國國家醫療體(ti) 係（NHS）內(nei) 的所有醫療單位都將實現“信息數字化”。

08安全性

評論人士對醫療保健行業(ye) 內(nei) 人工智能技術和其他技術的廣泛使用可能造成醫療係統遭受網絡攻擊的潛在風險表示擔憂。在人工智能開發期間，醫療係統內(nei) 部與(yu) 外部開發人員共享大型數據集的情況將使得數據泄露的風險大大增加，黑客及其他勢力可能會(hui) 通過對人工智能係統進行操控從(cong) 而篡改輸出結果進而幹擾醫療係統或者進行醫療欺詐，甚至是盜取研發過程中患者提供的個(ge) 人數據。

09問責機製和法律責任

調查顯示，由於(yu) 擔心人工智能的應用會(hui) 導致醫療責任的模糊化和主管醫生推卸對病人的責任，公眾(zhong) 對人工智能或其他自動化決(jue) 策係統持不同的信任態度。2016年，普華永道（PWC）針對12個(ge) 國家12003名成年人的調查顯示，39%的英國籍調查對象表示他們(men) 願意通過人工智能係統進行診斷或治療以及獲得醫療保健方麵的建議；50%的英國籍調查對象則表示不願意這樣做。目前，幾乎所有的人工智能係統在實際應用中都向臨(lin) 床醫生提供建議，然後再由醫生根據他們(men) 的星空体育官网入口网站、經驗作出最終的醫療決(jue) 策。一個(ge) 包含53名患者和社會(hui) 公眾(zhong) 人士參與(yu) 的醫療科學研討會(hui) 表示，人工智能應該輔助臨(lin) 床醫生做決(jue) 策，而不是主導醫療決(jue) 策。

從(cong) 法律角度看，如果一個(ge) 臨(lin) 床醫生因采納了人工智能係統的建議對病人造成了傷(shang) 害，那麽(me) 臨(lin) 床醫生、係統研發人員和醫療服務提供商都將麵臨(lin) 刑事起訴及民事索賠，臨(lin) 床醫生也將麵臨(lin) 醫療協會(hui) 的紀律處分，然而如何處理這類事件還缺乏先例。目前還沒有專(zhuan) 業(ye) 的監管機構製定指南或者法規來規範和指導人工智能的使用。像英國皇家醫學學院這樣的專(zhuan) 業(ye) 學術機構擔心人工智能的應用難以明確法律責任和進行問責。隨著“黑箱”技術的應用，決(jue) 策的責任更加難以明確，在人工智能普遍應用的情況下，醫療決(jue) 策的過程將變得十分複雜，這使得人們(men) 難以全麵地理解一個(ge) 醫療決(jue) 策產(chan) 生的過程。一些利益相關(guan) 人士表示，未來社會(hui) 需要全新的針對人工智能的法律體(ti) 係來指導和規範人工智能的應用和發展。

10醫療不公平現象

如何開發和使用人工智能係統決(jue) 定了今後醫療不公平現象是增加還是減少。人工智能係統可以根據最新的醫療數據和執行標準對不同的症狀進行診斷並提供無差別和標準化的醫療保健建議，從(cong) 而減少不同醫療機構之間服務質量的差別並提高患者體(ti) 驗。但是，人工智能係統仍然存在算法上的缺陷，會(hui) 提供與(yu) 數據集相衝(chong) 突的建議，這種情況可能是由於(yu) 係統在研發期間使用的樣本總量不能覆蓋所有現實情況的訓練數據導致的。例如：一個(ge) 常見的皮膚癌研究數據庫主要包含了白人患者皮膚影像的數據，而缺少其他膚色患者的皮膚影像數據。專(zhuan) 家認為(wei) ，機器學習(xi) 係統使用這些數據進行訓練會(hui) 導致係統無法對黑色皮膚的患者進行診斷。《數據保護法》要求在使用個(ge) 人數據進行研發和治療的過程中避免歧視行為(wei) ，《2010年平等法案》也禁止根據固有特征對不同群體(ti) 進行區分和歧視。

11人工智能的監管問題

直接用於(yu) 醫療目的的人工智能係統將被納入醫療器械、體(ti) 外診斷設備或可移動植入設備的管理範疇。在英國，這類物品受藥品和保健產(chan) 品監管局（MHRA）的監管。根據2018年英國退歐法案，在英國脫歐過渡時期將保留歐盟相關(guan) 法律，此期間《歐盟器械管理條例》繼續生效。除了上述法規，英國政府針對本國市場流通的醫療器械也於(yu) 2021年1月出台了規範指引。除了北愛爾蘭(lan) 地區，未來英國的相關(guan) 法律將根據《2019-2021年度藥品和醫療設備法案》來製定。英國政府表示，新的法規將注重醫療器械和藥品的安全性並更好地促進包括人工智能在內(nei) 的新技術在醫療行業(ye) 的應用與(yu) 推廣。

人工智能領域對個(ge) 人數據的使用行為(wei) 將受到信息專(zhuan) 員辦公室（ICO）的監管，然而在英國國家醫療體(ti) 係（NHS）內(nei) 部對數據的使用有更嚴(yan) 格的安全標準，並且對人工智能的研發將被認定為(wei) 醫療研發，需要得到醫療研發管理部門的許可。英國醫療質量委員會(hui) 已經申明，任何在沒有人工幹預下人工智能係統對患者的診斷和治療都需要進行注冊(ce) 。醫療行業(ye) 的相關(guan) 人士認為(wei) 現有的英國醫療研發監管體(ti) 係涉及眾(zhong) 多部門且流程繁瑣，難以推動醫療創新的發展並且已經成為(wei) 創新的一種障礙。英國國家醫療體(ti) 係（NHS）的人工智能實驗室正在資助簡化監管程序的項目，包括創建一個(ge) 多機構聯合辦公的谘詢服務體(ti) 係，期望能夠為(wei) 尋求指導的AI研發者提供更加便捷的一站式聯係渠道。

在英國現有的監管和法律體(ti) 係下，機器學習(xi) 算法係統的研發與(yu) 應用困難重重，盡管該係統能夠在獲得新的數據時繼續學習(xi) ，優(you) 化算法和輸出結果，但是想要確保實現係統安全和高效的運行還是存在很多困難。美國食品和藥品管理局已經出台了允許研發人員預先設計一係列針對未來AI係統改變的安全程序的法規，但在英國這方麵做的還不夠。作為(wei) 美國的合作夥(huo) 伴，國標準協會(hui) 已經考慮如何製定國際化的醫療器械管理標準來應對和解決(jue) 英國人工智能發展可能麵臨(lin) 的各種情況與(yu) 挑戰。

文章來源：
https://post.parliament.uk/research-briefings/post-pn-0637/

編譯：王堅、吳崇，責任編輯：黃詩愉

感謝您的支持與(yu) 關(guan) 注，歡迎賜稿交流

投稿郵箱：nais-research@cnais.org.cn


關(guan) 注【深圳科普】微信公眾(zhong) 號，在對話框：
回複【最新活動】，了解近期科普活動
回複【科普行】，了解最新深圳科普行活動
回複【研學營】，了解最新科普研學營
回複【科普課堂】，了解最新科普課堂
回複【科普書(shu) 籍】，了解最新科普書(shu) 籍
回複【團體(ti) 定製】，了解最新團體(ti) 定製活動
回複【科普基地】，了解深圳科普基地詳情
回複【觀鳥星空体育官网入口网站】，學習(xi) 觀鳥相關(guan) 科普星空体育官网入口网站
回複【博物學院】，了解更多博物學院活動詳情