春節假期尚未結束，OpenAI 最新發布的視頻生成模型 Sora 便突然引爆了科技圈。

作為(wei) 一個(ge) 數據驅動的物理引擎，隻需要接收一句話，Sora 便可以生成“充滿想象力”“史詩級”的大片。

由於(yu) 生成的視頻畫麵過於(yu) 真實，且水平吊打一眾(zhong) “前輩”視頻生成模型，Sora 讓人們(men) 不禁感歎：又有一批人要失業(ye) 了？現實要不存在了嗎？這無疑又是一顆投向人類的重磅“炸彈”。

當天，Google 也發布了自家的最新大模型 Gemini 1.5。據介紹，Gemini 1.5 的上下文窗口高達 100 萬(wan) 個(ge) tokens，可以一次處理大量的信息——如 1 小時的視頻、11 小時的音頻、3 萬(wan) 多行的代碼等。這樣的算力，已經遠遠超過人類。

未來，人工智能（AI）還將會(hui) 展現出怎樣的超級能力，我們(men) 還不得而知。但有一點顯而易見，AI 的安全治理，依然落後 AI 的發展。

麵對已知的挑戰和未知的風險，人類已經做了大量的工作，探討 AI 倫(lun) 理、數據倫(lun) 理和算法倫(lun) 理，而卻很少討論支撐 AI 飛速發展的物理硬件——圖形處理器和算力上。

圖｜自 2010 年以來，用於(yu) 訓練 AI 模型的計算量大約每六個(ge) 月翻一番，數據來自 Epoch。

日前，來自 OpenAI、人工智能治理中心（GovAI）、劍橋大學 Leverhulme 未來智能中心等機構的 19 位學界、業(ye) 界人士，共同發表了一篇題為(wei) “Computing Power and the Governance of Artificial Intelligence”的研究論文，將 AI 發展的爭(zheng) 議焦點聚焦到了“硬件”和“算力”上。

在這篇論文中，這些專(zhuan) 家提出了多項政策選擇，其中之一是建立一個(ge) 全球登記處，跟蹤用於(yu) AI 超級計算機的芯片流動，從(cong) 而幫助防止 AI 的濫用和災難。

另外，論文中提到的其他技術建議包括“計算上限”（compute caps）——對每個(ge) AI 芯片可連接的芯片數量的內(nei) 置限製——以及在多方之間分配 AI 訓練的“啟動開關(guan) ”（start switch），以便在有風險的 AI 輸入數據之前對其進行數字否決(jue) 。

這些專(zhuan) 家認為(wei) ，驅動生成式 AI 模型所需的強大計算芯片是通過由少數幾家公司主導的高度集中的供應鏈構建的，這使得硬件本身成為(wei) 降低風險的 AI 政策的強有力幹預點。

圖｜計算（compute）供應鏈示意圖。

因此，治理人工智能硬件、芯片和數據中心將在治理 AI 模型開發和部署方麵發揮重要作用，但“也可能帶來新的社會(hui) 風險”。

硬件是治理AI的關(guan) 鍵

硬件在 AI 領域的重要性主要體(ti) 現在以下幾個(ge) 方麵：

AI 模型變得越來越複雜，需要大量的計算資源來訓練和運行。硬件，例如高性能的 CPU、GPU、TPU 等，提供了這些計算資源。它們(men) 能夠加速複雜算法的運行，以及大規模數據的處理，從(cong) 而實現更快速、更有效的 AI 應用。

讓一個(ge) AI 模型變得越來越複雜，通常需要大量的計算資源，而硬件的性能直接影響著模型訓練的速度和效率。高性能的硬件可以加快模型訓練的進程，縮短開發周期，提高模型的更新速度和質量。

除了模型訓練，AI 模型在部署和實際應用中也需要大量的計算資源進行推理。例如，在語音識別、圖像識別、自然語言處理等應用中，需要實時處理大量的數據並生成準確的預測結果。硬件的性能和效率直接影響著這一過程的速度和準確性，這對實時性要求較高的應用尤為(wei) 重要。

硬件在保障 AI 係統安全性和隱私保護方麵也發揮著關(guan) 鍵作用。通過硬件的安全功能和加密技術，可以確保 AI 係統的數據和模型在傳(chuan) 輸和存儲(chu) 過程中得到有效的保護，有效防止敏感信息泄露和惡意攻擊。

因此，計算資源的使用量是衡量一個(ge) AI 係統潛在影響的可靠指標之一。

通過監管和管理計算資源的使用，可以有效地影響和控製 AI 技術的發展方向和應用範圍。

相比看不見摸不著的軟件，計算資源相對容易進行檢測、排除和量化，這使硬件治理成為(wei) 一種有效手段。

與(yu) 數據和算法不同，計算資源是有限的實物資源，可以被準確地計數和跟蹤，因此更容易進行管理和監管。

基於(yu) 此，該論文提供了一係列可行的治理方案：

1.建立監測和追蹤係統，用於(yu) 跟蹤計算資源的使用情況和流向；

2.製定限製性政策，限製某些敏感領域或特定用途的計算資源的使用；

3.加強對計算資源供應鏈的管理和監督，以確保供應鏈的安全和穩定性。

這些技術方案的目標是通過有效的管理和監管計算資源的使用，來保障 AI 技術的安全和可持續發展，從(cong) 而實現對 AI 技術的有效治理。

全球視野下的AI計算可見性

具體(ti) 來說，AI 計算注冊(ce) 製度（global registry tracking the flow of chips destined for AI supercomputers）指的是一個(ge) 全球性的登記注冊(ce) 係統，用於(yu) 跟蹤用於(yu) 人工智能超級計算機的芯片流動。這個(ge) 製度是報告提到的政策選擇之一。

建立AI計算注冊(ce) 製度具有重要意義(yi) 。

首先，可以提高對 AI 計算資源的透明度和可追溯性，使各國能夠更好地監測和控製全球 AI 技術的發展和應用。

其次，注冊(ce) 製度有助於(yu) 識別和防範潛在的安全風險和倫(lun) 理挑戰，確保 AI 技術的安全和可持續發展。

此外，全球注冊(ce) 製度還可以促進國際合作和信息共享，推動全球 AI 治理的協調和合作，實現共贏和共同發展。

當然，這項措施的推行也麵臨(lin) 著很多挑戰。

首先，來自不同國家和地區的政治和文化差異可能導致立法和執行上的障礙。

其次，技術和數據安全、隱私保護等問題可能引發國際爭(zheng) 議和糾紛。解決(jue) 這些挑戰的關(guan) 鍵在於(yu) 建立多邊合作機製和國際標準，促進各國間的協商和合作。

此外，加強國際組織和機構的角色和職能，建立信息交流和合作平台，加強對技術和數據安全的監管和管理，都是解決(jue) 這些挑戰的重要途徑。

該論文還提到了其他技術方案，例如“計算上限”，即每個(ge) AI 芯片可以連接的芯片數量的內(nei) 置限製，以及分發“啟動開關(guan) ”給多方，以允許對有風險的 AI 進行數字否決(jue) 之類的政策。

研究人員認為(wei) ，AI 芯片和數據中心是更有效的審查和AI安全治理目標，因為(wei) 這些資產(chan) 必須是物理上擁有的，而“AI 三元組”的其他元素——數據和算法——理論上可以無限複製和傳(chuan) 播。

AI治理政策的新方向

該論文指出，針對 AI 可能帶來的風險，政策製定可以從(cong) 以下幾個(ge) 方麵進行：

1.限製計算機芯片網絡：政府可以通過立法或監管機製限製對關(guan) 鍵計算機芯片網絡的訪問，以防止其被惡意使用或攻擊。這包括對芯片生產(chan) 和供應鏈的管控，以確保其安全和可靠性。

2.加強加密技術監管：政府可以製定更嚴(yan) 格的加密技術使用規定，確保其不被用於(yu) 非法活動或惡意目的。這可能包括對加密技術的出口管製和使用限製。

保證安全和良性發展的同時，一定會(hui) 有所犧牲。

比如，限製計算機芯片網絡和加密技術可能會(hui) 影響到正常的商業(ye) 活動和科研進展，對技術創新造成一定程度的阻礙。過度的監管也可能導致市場動態受到限製，影響市場的競爭(zheng) 性和效率性。

論文指出，治理 AI 的關(guan) 鍵在於(yu) 對其計算設備的監管。政府需要製定相應的政策和監管措施，以應對由AI發展帶來的風險。

然而，政策製定需要權衡各方利益，並且要克服監管過程中的各種挑戰和困難。AI 發展是全球人類的命題，在這個(ge) 過程中，政府應該積極倡導國際合作，共同應對 AI 治理挑戰，攜手實現共贏。

參考鏈接：

https://www.eurekalert.org/news-releases/1034407

https://www.cser.ac.uk/media/uploads/files/Computing-Power-and-the-Governance-of-AI.pdf

https://github.com/lheim/CPGAI-Figures

https://www.governance.ai/post/computing-power-and-the-governance-of-ai

https://lcfi.ac.uk/news-and-events/news/2024/feb/14/compute-ai-governance/

歡迎掃碼關(guan) 注深i科普！

我們(men) 將定期推出

公益、免費、優(you) 惠的科普活動和科普好物！