谷歌與美國(guó)國(guó)防部簽署了一項(xiàng)允許五角大樓將谷歌 AI 用于機(jī)密工作的協(xié)議，在內(nèi)部員工強(qiáng)烈反對(duì)聲中完成交割。該協(xié)議的安全限制條款措辭模糊，被法律專家指出不具備法律約束力，引發(fā)外界對(duì) AI 軍事應(yīng)用邊界的深切擔(dān)憂。

據(jù) The Information 報(bào)道，知情人士透露稱，該協(xié)議允許五角大樓將谷歌 AI 用于 " 任何合法的政府目的 "，這一表述與此前其他 AI 公司與國(guó)防部談判中引發(fā)爭(zhēng)議的措辭如出一轍。協(xié)議同時(shí)要求谷歌根據(jù)政府要求協(xié)助調(diào)整其 AI 安全設(shè)置與過(guò)濾器，條款寬松程度被認(rèn)為超過(guò) OpenAI 今年 2 月與五角大樓達(dá)成的協(xié)議。

就在協(xié)議簽署前夕，逾 600 名谷歌員工聯(lián)名致信 CEO Sundar Pichai，要求其拒絕該協(xié)議，認(rèn)為拒絕承接機(jī)密工作是確保谷歌 AI 不被濫用的唯一途徑。此次簽約標(biāo)志著谷歌在軍事 AI 合作立場(chǎng)上的重大轉(zhuǎn)向，也令市場(chǎng)重新審視科技巨頭與國(guó)防部門深度綁定所帶來(lái)的商業(yè)與聲譽(yù)風(fēng)險(xiǎn)。

員工反對(duì)未能阻止協(xié)議落地

協(xié)議簽署前，谷歌內(nèi)部已出現(xiàn)明顯阻力。超過(guò) 600 名員工在本周一聯(lián)名致信 Pichai，要求公司拒絕該協(xié)議，并主張只有徹底回避機(jī)密工作，才能從根本上防止谷歌 AI 遭到濫用。

這一幕令人聯(lián)想到八年前的歷史。2018 年，谷歌在數(shù)千名員工簽署反對(duì)信后，最終退出了國(guó)防部涉及無(wú)人機(jī)目標(biāo)識(shí)別的 "Maven 項(xiàng)目 "。此次谷歌選擇逆員工意愿而行，完成簽約，顯示出公司在國(guó)防業(yè)務(wù)上的戰(zhàn)略取向已發(fā)生根本性轉(zhuǎn)變。

谷歌公共部門發(fā)言人在聲明中表示，新協(xié)議是對(duì)去年 11 月已簽署的非機(jī)密用途合同的修訂補(bǔ)充。" 我們?yōu)槟軌虺蔀橹С謬?guó)家安全的領(lǐng)先 AI 實(shí)驗(yàn)室及科技云企業(yè)廣泛聯(lián)盟的一部分而感到自豪，" 該發(fā)言人表示，" 我們?nèi)匀恢铝τ诠讲块T的共識(shí)—— AI 不應(yīng)被用于國(guó)內(nèi)大規(guī)模監(jiān)控或缺乏適當(dāng)人類監(jiān)督的自主武器。"

條款寬松程度超越 OpenAI 協(xié)議

谷歌此次協(xié)議在條款設(shè)計(jì)上與競(jìng)爭(zhēng)對(duì)手存在明顯差異。OpenAI 今年 2 月與五角大樓達(dá)成的協(xié)議同樣允許 " 所有合法目的 " 的使用，但 OpenAI 在公告博客中明確聲明保留對(duì)其 " 安全體系的完全自主權(quán) "，并列明禁止將 AI 用于大規(guī)模監(jiān)控、自主致命武器系統(tǒng)指揮或 " 社會(huì)信用 " 類高風(fēng)險(xiǎn)自動(dòng)化決策。

谷歌協(xié)議則要求公司根據(jù)政府要求協(xié)助調(diào)整 AI 安全過(guò)濾器。谷歌公共部門發(fā)言人對(duì)此解釋稱，相關(guān)過(guò)濾器原本面向消費(fèi)者場(chǎng)景設(shè)計(jì)，谷歌通常會(huì)針對(duì)企業(yè)客戶進(jìn)行定制調(diào)整。

目前，谷歌已與馬斯克旗下 xAI 及 OpenAI 一道，成為與五角大樓簽署機(jī)密 AI 使用協(xié)議的科技公司。

安全條款被指不具法律約束力

協(xié)議中涉及 AI 使用限制的核心條款措辭引發(fā)法律界質(zhì)疑。據(jù)知情人士透露，協(xié)議包含如下表述：" 雙方同意，AI 系統(tǒng)無(wú)意用于、且不應(yīng)被用于國(guó)內(nèi)大規(guī)模監(jiān)控或自主武器（包括目標(biāo)選擇），除非有適當(dāng)?shù)娜祟惐O(jiān)督與控制。"

然而，協(xié)議隨即補(bǔ)充：" 本協(xié)議不賦予任何一方控制或否決政府合法運(yùn)營(yíng)決策的權(quán)利。"

獨(dú)立智庫(kù)法律與 AI 研究所高級(jí)研究員、律師 Charlie Bullock 指出，" 無(wú)意用于、且不應(yīng)被用于 " 這一措辭意味著相關(guān)條款 " 在法律上不具任何約束力 "。他表示，這種表述僅代表雙方認(rèn)為此類用途不可取，而非將其認(rèn)定為違約行為。

紐約大學(xué)布倫南司法中心研究 AI 與國(guó)家安全的高級(jí)顧問(wèn) Amos Toh 則指出，" 適當(dāng)?shù)娜祟惐O(jiān)督與控制 " 這一表述，并不必然意味著在目標(biāo)識(shí)別與武器發(fā)射之間必須有人類介入。他表示，五角大樓迄今未排除部署全自主武器系統(tǒng)的可能性。" 對(duì)武力使用實(shí)施適當(dāng)人類判斷的要求，僅僅意味著在武器系統(tǒng)的總體部署方式上存在某種形式的人類參與和決策，"Toh 說(shuō)。

Anthropic 前車之鑒懸于行業(yè)頭頂

此次谷歌協(xié)議的簽署，發(fā)生在行業(yè)對(duì) AI 軍事應(yīng)用邊界爭(zhēng)議持續(xù)發(fā)酵的背景之下。今年 2 月，Anthropic 與五角大樓的談判公開(kāi)破裂，導(dǎo)火索正是 Anthropic 拒絕接受 " 任何合法用途 " 條款，并堅(jiān)持保留針對(duì)大規(guī)模監(jiān)控與自主武器兩條明確紅線。

談判破裂后，五角大樓將 Anthropic 列為供應(yīng)鏈風(fēng)險(xiǎn)，Anthropic 目前正就此在法庭上提出抗?fàn)?。彼時(shí)，逾 900 名谷歌員工與逾 100 名 OpenAI 員工曾聯(lián)署公開(kāi)承諾，要求各自雇主與 Anthropic 的兩條紅線保持一致立場(chǎng)。

如今，谷歌選擇簽約，意味著這一行業(yè)內(nèi)部的道德共識(shí)正在加速瓦解，而安全條款的法律效力存疑，則令外界對(duì) AI 在高風(fēng)險(xiǎn)軍事場(chǎng)景中的實(shí)際約束機(jī)制更加憂慮。