春節(jié)假期尚未結(jié)束，OpenAI 最新發(fā)布的視頻生成模型 Sora 便突然引爆了科技圈。

作為一個(gè)數(shù)據(jù)驅(qū)動(dòng)的物理引擎，只需要接收一句話，Sora 便可以生成“充滿想象力”“史詩(shī)級(jí)”的大片。

由于生成的視頻畫面過于真實(shí)，且水平吊打一眾“前輩”視頻生成模型，Sora 讓人們不禁感嘆：又有一批人要失業(yè)了？現(xiàn)實(shí)要不存在了嗎？這無(wú)疑又是一顆投向人類的重磅“炸彈”。

當(dāng)天，Google 也發(fā)布了自家的最新大模型 Gemini 1.5。據(jù)介紹，Gemini 1.5 的上下文窗口高達(dá) 100 萬(wàn)個(gè) tokens，可以一次處理大量的信息——如 1 小時(shí)的視頻、11 小時(shí)的音頻、3 萬(wàn)多行的代碼等。這樣的算力，已經(jīng)遠(yuǎn)遠(yuǎn)超過人類。

未來(lái)，人工智能（AI）還將會(huì)展現(xiàn)出怎樣的超級(jí)能力，我們還不得而知。但有一點(diǎn)顯而易見，AI 的安全治理，依然落后 AI 的發(fā)展。

面對(duì)已知的挑戰(zhàn)和未知的風(fēng)險(xiǎn)，人類已經(jīng)做了大量的工作，探討 AI 倫理、數(shù)據(jù)倫理和算法倫理，而卻很少討論支撐 AI 飛速發(fā)展的物理硬件——圖形處理器和算力上。

圖｜自 2010 年以來(lái)，用于訓(xùn)練 AI 模型的計(jì)算量大約每六個(gè)月翻一番，數(shù)據(jù)來(lái)自 Epoch。

日前，來(lái)自 OpenAI、人工智能治理中心（GovAI）、劍橋大學(xué) Leverhulme 未來(lái)智能中心等機(jī)構(gòu)的 19 位學(xué)界、業(yè)界人士，共同發(fā)表了一篇題為“Computing Power and the Governance of Artificial Intelligence”的研究論文，將 AI 發(fā)展的爭(zhēng)議焦點(diǎn)聚焦到了“硬件”和“算力”上。

在這篇論文中，這些專家提出了多項(xiàng)政策選擇，其中之一是建立一個(gè)全球登記處，跟蹤用于 AI 超級(jí)計(jì)算機(jī)的芯片流動(dòng)，從而幫助防止 AI 的濫用和災(zāi)難。

另外，論文中提到的其他技術(shù)建議包括“計(jì)算上限”（compute caps）——對(duì)每個(gè) AI 芯片可連接的芯片數(shù)量的內(nèi)置限制——以及在多方之間分配 AI 訓(xùn)練的“啟動(dòng)開關(guān)”（start switch），以便在有風(fēng)險(xiǎn)的 AI 輸入數(shù)據(jù)之前對(duì)其進(jìn)行數(shù)字否決。

這些專家認(rèn)為，驅(qū)動(dòng)生成式 AI 模型所需的強(qiáng)大計(jì)算芯片是通過由少數(shù)幾家公司主導(dǎo)的高度集中的供應(yīng)鏈構(gòu)建的，這使得硬件本身成為降低風(fēng)險(xiǎn)的 AI 政策的強(qiáng)有力干預(yù)點(diǎn)。

圖｜計(jì)算（compute）供應(yīng)鏈?zhǔn)疽鈭D。

因此，治理人工智能硬件、芯片和數(shù)據(jù)中心將在治理 AI 模型開發(fā)和部署方面發(fā)揮重要作用，但“也可能帶來(lái)新的社會(huì)風(fēng)險(xiǎn)”。

硬件是治理AI的關(guān)鍵

硬件在 AI 領(lǐng)域的重要性主要體現(xiàn)在以下幾個(gè)方面：

AI 模型變得越來(lái)越復(fù)雜，需要大量的計(jì)算資源來(lái)訓(xùn)練和運(yùn)行。硬件，例如高性能的 CPU、GPU、TPU 等，提供了這些計(jì)算資源。它們能夠加速?gòu)?fù)雜算法的運(yùn)行，以及大規(guī)模數(shù)據(jù)的處理，從而實(shí)現(xiàn)更快速、更有效的 AI 應(yīng)用。

讓一個(gè) AI 模型變得越來(lái)越復(fù)雜，通常需要大量的計(jì)算資源，而硬件的性能直接影響著模型訓(xùn)練的速度和效率。高性能的硬件可以加快模型訓(xùn)練的進(jìn)程，縮短開發(fā)周期，提高模型的更新速度和質(zhì)量。

除了模型訓(xùn)練，AI 模型在部署和實(shí)際應(yīng)用中也需要大量的計(jì)算資源進(jìn)行推理。例如，在語(yǔ)音識(shí)別、圖像識(shí)別、自然語(yǔ)言處理等應(yīng)用中，需要實(shí)時(shí)處理大量的數(shù)據(jù)并生成準(zhǔn)確的預(yù)測(cè)結(jié)果。硬件的性能和效率直接影響著這一過程的速度和準(zhǔn)確性，這對(duì)實(shí)時(shí)性要求較高的應(yīng)用尤為重要。

硬件在保障 AI 系統(tǒng)安全性和隱私保護(hù)方面也發(fā)揮著關(guān)鍵作用。通過硬件的安全功能和加密技術(shù)，可以確保 AI 系統(tǒng)的數(shù)據(jù)和模型在傳輸和存儲(chǔ)過程中得到有效的保護(hù)，有效防止敏感信息泄露和惡意攻擊。

因此，計(jì)算資源的使用量是衡量一個(gè) AI 系統(tǒng)潛在影響的可靠指標(biāo)之一。

通過監(jiān)管和管理計(jì)算資源的使用，可以有效地影響和控制 AI 技術(shù)的發(fā)展方向和應(yīng)用范圍。

相比看不見摸不著的軟件，計(jì)算資源相對(duì)容易進(jìn)行檢測(cè)、排除和量化，這使硬件治理成為一種有效手段。

與數(shù)據(jù)和算法不同，計(jì)算資源是有限的實(shí)物資源，可以被準(zhǔn)確地計(jì)數(shù)和跟蹤，因此更容易進(jìn)行管理和監(jiān)管。

基于此，該論文提供了一系列可行的治理方案：

1.建立監(jiān)測(cè)和追蹤系統(tǒng)，用于跟蹤計(jì)算資源的使用情況和流向；

2.制定限制性政策，限制某些敏感領(lǐng)域或特定用途的計(jì)算資源的使用；

3.加強(qiáng)對(duì)計(jì)算資源供應(yīng)鏈的管理和監(jiān)督，以確保供應(yīng)鏈的安全和穩(wěn)定性。

這些技術(shù)方案的目標(biāo)是通過有效的管理和監(jiān)管計(jì)算資源的使用，來(lái)保障 AI 技術(shù)的安全和可持續(xù)發(fā)展，從而實(shí)現(xiàn)對(duì) AI 技術(shù)的有效治理。

全球視野下的AI計(jì)算可見性

具體來(lái)說，AI 計(jì)算注冊(cè)制度（global registry tracking the flow of chips destined for AI supercomputers）指的是一個(gè)全球性的登記注冊(cè)系統(tǒng)，用于跟蹤用于人工智能超級(jí)計(jì)算機(jī)的芯片流動(dòng)。這個(gè)制度是報(bào)告提到的政策選擇之一。

建立AI計(jì)算注冊(cè)制度具有重要意義。

首先，可以提高對(duì) AI 計(jì)算資源的透明度和可追溯性，使各國(guó)能夠更好地監(jiān)測(cè)和控制全球 AI 技術(shù)的發(fā)展和應(yīng)用。

其次，注冊(cè)制度有助于識(shí)別和防范潛在的安全風(fēng)險(xiǎn)和倫理挑戰(zhàn)，確保 AI 技術(shù)的安全和可持續(xù)發(fā)展。

此外，全球注冊(cè)制度還可以促進(jìn)國(guó)際合作和信息共享，推動(dòng)全球 AI 治理的協(xié)調(diào)和合作，實(shí)現(xiàn)共贏和共同發(fā)展。

當(dāng)然，這項(xiàng)措施的推行也面臨著很多挑戰(zhàn)。

首先，來(lái)自不同國(guó)家和地區(qū)的政治和文化差異可能導(dǎo)致立法和執(zhí)行上的障礙。

其次，技術(shù)和數(shù)據(jù)安全、隱私保護(hù)等問題可能引發(fā)國(guó)際爭(zhēng)議和糾紛。解決這些挑戰(zhàn)的關(guān)鍵在于建立多邊合作機(jī)制和國(guó)際標(biāo)準(zhǔn)，促進(jìn)各國(guó)間的協(xié)商和合作。

此外，加強(qiáng)國(guó)際組織和機(jī)構(gòu)的角色和職能，建立信息交流和合作平臺(tái)，加強(qiáng)對(duì)技術(shù)和數(shù)據(jù)安全的監(jiān)管和管理，都是解決這些挑戰(zhàn)的重要途徑。

該論文還提到了其他技術(shù)方案，例如“計(jì)算上限”，即每個(gè) AI 芯片可以連接的芯片數(shù)量的內(nèi)置限制，以及分發(fā)“啟動(dòng)開關(guān)”給多方，以允許對(duì)有風(fēng)險(xiǎn)的 AI 進(jìn)行數(shù)字否決之類的政策。

研究人員認(rèn)為，AI 芯片和數(shù)據(jù)中心是更有效的審查和AI安全治理目標(biāo)，因?yàn)檫@些資產(chǎn)必須是物理上擁有的，而“AI 三元組”的其他元素——數(shù)據(jù)和算法——理論上可以無(wú)限復(fù)制和傳播。

AI治理政策的新方向

該論文指出，針對(duì) AI 可能帶來(lái)的風(fēng)險(xiǎn)，政策制定可以從以下幾個(gè)方面進(jìn)行：

1.限制計(jì)算機(jī)芯片網(wǎng)絡(luò)：政府可以通過立法或監(jiān)管機(jī)制限制對(duì)關(guān)鍵計(jì)算機(jī)芯片網(wǎng)絡(luò)的訪問，以防止其被惡意使用或攻擊。這包括對(duì)芯片生產(chǎn)和供應(yīng)鏈的管控，以確保其安全和可靠性。

2.加強(qiáng)加密技術(shù)監(jiān)管：政府可以制定更嚴(yán)格的加密技術(shù)使用規(guī)定，確保其不被用于非法活動(dòng)或惡意目的。這可能包括對(duì)加密技術(shù)的出口管制和使用限制。

保證安全和良性發(fā)展的同時(shí)，一定會(huì)有所犧牲。

比如，限制計(jì)算機(jī)芯片網(wǎng)絡(luò)和加密技術(shù)可能會(huì)影響到正常的商業(yè)活動(dòng)和科研進(jìn)展，對(duì)技術(shù)創(chuàng)新造成一定程度的阻礙。過度的監(jiān)管也可能導(dǎo)致市場(chǎng)動(dòng)態(tài)受到限制，影響市場(chǎng)的競(jìng)爭(zhēng)性和效率性。

論文指出，治理 AI 的關(guān)鍵在于對(duì)其計(jì)算設(shè)備的監(jiān)管。政府需要制定相應(yīng)的政策和監(jiān)管措施，以應(yīng)對(duì)由AI發(fā)展帶來(lái)的風(fēng)險(xiǎn)。

然而，政策制定需要權(quán)衡各方利益，并且要克服監(jiān)管過程中的各種挑戰(zhàn)和困難。AI 發(fā)展是全球人類的命題，在這個(gè)過程中，政府應(yīng)該積極倡導(dǎo)國(guó)際合作，共同應(yīng)對(duì) AI 治理挑戰(zhàn)，攜手實(shí)現(xiàn)共贏。

參考鏈接：

https://www.eurekalert.org/news-releases/1034407

https://www.cser.ac.uk/media/uploads/files/Computing-Power-and-the-Governance-of-AI.pdf

https://github.com/lheim/CPGAI-Figures

https://www.governance.ai/post/computing-power-and-the-governance-of-ai

http://lcfi.ac.uk/news-and-events/news/2024/feb/14/compute-ai-governance/

歡迎掃碼關(guān)注深i科普！

我們將定期推出

公益、免費(fèi)、優(yōu)惠的科普活動(dòng)和科普好物！