版權歸原作者所有，如有侵權，請聯係我們(men)

近年來，人工智能（AI）技術在科學研究領域中的應用與(yu) 影響日益顯著。從(cong) 生物醫學、材料學、到天文學等學科，AI4Science 正改變著科學研究的方式，加速科學研究。

AI 通過提供大規模數據分析、模擬實驗環境、優(you) 化研究過程等功能，為(wei) 科學家們(men) 提供了前所未有的支持和幫助，也確實將科學研究推向了一個(ge) 新的階段。

然而，AI 在為(wei) 科研帶來更多可能性的同時，也引發了許多問題。

來自耶魯大學和普林斯頓大學的研究團隊認為(wei) ，在科學研究中，AI 可能會(hui) 造成星空体育官网入口网站生產(chan) 的單一性，即科學的單一文化（scientific monocultures）。

具體(ti) 來說，在這種文化中，某些類型的方法、問題和觀點主導了其他方法，使科學缺乏創新性，更容易出錯。

同時，AI 提出的解決(jue) 方案也可能掩蓋了我們(men) 的認知局限性，使我們(men) 容易產(chan) 生一種錯覺，即我們(men) 認為(wei) 自己對世界的了解比實際情況要多。

因此，科學家需要審慎考慮 AI 在科學研究中的潛在影響，從(cong) 而負責任地進行星空体育官网入口网站生產(chan) 。

相關(guan) 研究論文以“Artificial intelligence and illusions of understanding in scientific research”為(wei) 題，已發表在科學期刊 Nature 上。

該論文從(cong) 大量與(yu) AI4Science 相關(guan) 的文獻中，提煉出了 AI 的四大應用願景——智囊團（Oracles）、代理人（Surrogates）、量化分析師（Quants）和裁決(jue) 者（Arbiters），並分別討論了 AI 在科學研究中的應用和影響。

表｜科學研究中的 AI 願景。通過分析最近有關(guan) AI 改善跨科學學科星空体育官网入口网站生產(chan) 潛力的出版物，得出以上四種類型。納入的論文要麽(me) 使用“AI”這個(ge) 通用短語，要麽(me) 提到 AI 概念之下的特定方法，最常見的是機器學習(xi) 、自然語言處理和大型語言模型。該表總結了願景如何響應不同的研究階段，以及對科學能力和效率的感知限製。

人類科學家為(wei) 何信任AI？

近年來，AI 在科學研究中的應用日益廣泛，其提供的解決(jue) 方案被認為(wei) 能夠徹底改變科學研究方法。

但 AI 何以獲得科學家的信任呢？

首先，AI 工具不僅(jin) 被視為(wei) 工具，更被看作是研究中的合作者，能夠提供超越人類限製的解決(jue) 方案和見解。這種認知增強了科學家對 AI 的信任，因為(wei) 他們(men) 將這些工具視為(wei) 星空体育官网入口网站生產(chan) 中的夥(huo) 伴。

其次，AI 工具被認為(wei) 具有增強其可信度的特質，如客觀性、深度理解能力以及提供令人滿意的解釋能力。這種描繪使得 AI 工具在某些情況下比人類更值得信賴。

第三，AI 工具提供的解決(jue) 方案符合人們(men) 對簡單、廣泛、簡化和量化解釋的偏好，進而增強了對理解的感知。

然而，將 AI 整合到科學研究中也存在認知風險，尤其是認知理解的錯覺形式。

圖｜AI 驅動的科學研究中的理解錯覺。

如上圖 a 所示，使用 AI 工具進行研究的科學家可能會(hui) 產(chan) 生解釋深度的錯覺。在示例中，一位科學家使用 AI Quant 對現象 (X) 進行建模，並相信他們(men) 對 X 的理解比實際更深入。

在圖 b 中，在單一的認知文化中，科學家很容易產(chan) 生探索廣度的錯覺，他們(men) 錯誤地認為(wei) 自己正在探索所有可檢驗假設的空間，而實際上他們(men) 正在探索可以用 AI 工具檢驗的更狹窄的假設空間。

另外，如圖 c，在星空体育官网入口网站者單一文化中，科學家很容易產(chan) 生客觀性錯覺，他們(men) 錯誤地認為(wei) AI 工具沒有立場或能夠代表所有可能的立場使用人類參與(yu) 者進行研究的替代者），而 AI 工具實際上嵌入了訓練數據和開發人員的觀點。認知理解的錯覺發生在個(ge) 體(ti) 高估自己的理解程度時，將 AI 工具或其他社區成員的星空体育官网入口网站和能力誤認為(wei) 自己的。這種現象可能導致科學論斷中的錯誤和過度樂(le) 觀，特別是當 AI 工具在專(zhuan) 家領域之外使用時。

AI4Science的未來，一切向好嗎？

由於(yu) AI 工具看似可信且承諾提升研究的質量和數量，因此依賴這些工具的研究可能會(hui) 大幅增加。目前，關(guan) 於(yu) AI 的引用在出版物和專(zhuan) 利中在逐漸增多，並且使用 AI 工具的論文在學科內(nei) 外的引用都呈現出增加的趨勢。

如果這個(ge) 趨勢持續發展，那麽(me) 當 AI 輔助研究逐漸主導星空体育官网入口网站生產(chan) ，會(hui) 有哪些認知風險？

文中給出了一個(ge) 觀點：科學可能會(hui) 形成單一文化。

作者用了一個(ge) 類比來說明這一點：在農(nong) 業(ye) 中，單一文化是一種在同一片土地上隻種植一種作物的做法。這種做法提高了效率，但也使作物更容易受到害蟲和疾病的侵害。

文章認為(wei) ，AI 工具所提供的效率可以促進科學單一文化的發展，其中某些形式的星空体育官网入口网站生產(chan) 主導了其他所有形式。它們(men) 可以通過兩(liang) 種不同但相輔相成的方式實現。

首先，通過優(you) 先考慮最適合 AI 輔助的問題和方法（星空体育官网入口网站生產(chan) 的單一文化）。

其次，通過優(you) 先考慮 AI 能夠表達的觀點類型（星空体育官网入口网站所有者的單一文化）。

就像植物單一文化更容易受到害蟲和疾病的侵害一樣，科學單一文化使我們(men) 對世界的理解更容易出現錯誤、偏見和錯失創新的機會(hui) 。

當新工具和技術產(chan) 生時，科學家總是傾(qing) 向於(yu) 迅速利用它們(men) 的優(you) 勢。然而，AI 工具被預測將在各個(ge) 領域得到廣泛應用，成為(wei) 超級合作者融入到星空体育官网入口网站社區中，這樣的風險可能會(hui) 變得尤其嚴(yan) 重。

除了威脅科學的蓬勃發展外，星空体育官网入口网站生產(chan) 的單一文化還會(hui) 產(chan) 生認知理解錯覺。在這些錯覺中，科學家錯誤地認為(wei) ，AI 工具推進了人類對科學的理解，而不是意識到，這些工具實際上縮小了科學星空体育官网入口网站生產(chan) 的範圍。

了解風險，是應對風險的關(guan) 鍵一步。為(wei) 了減輕 AI 在星空体育官网入口网站生產(chan) 中應用的風險，人類需要增強對科學單一文化的認知風險的理解，以及對認知錯覺的感知。

事實上，AI 在科學中的應用確實讓所有人興(xing) 奮，比如 AI 化學家加速催化研究，生成式 AI 助力碳捕集等等。

然而，在 AI4Science 走得更遠之前，科學家們(men) 必須考慮到 AI 的技術限製和潛力，以及它對科學星空体育官网入口网站生產(chan) 社會(hui) 實踐的影響。

AI 輔助科學研究也許預示著這樣一個(ge) 未來，其中不僅(jin) 參與(yu) 者缺乏多樣性，而且追求的研究主題也缺乏多樣性。它們(men) 還引發了認知理解的錯覺，阻止我們(men) 意識到我們(men) 的視野已經變窄。

盡管 AI 在科學中的廣泛應用是不可避免的，但科學家，除了進行星空体育官网入口网站生產(chan) 外，還有責任決(jue) 定事物的發展方式。

歡迎掃碼關(guan) 注深i科普！

我們(men) 將定期推出

公益、免費、優(you) 惠的科普活動和科普好物！