电竞比分网-中国电竞赛事及体育赛事平台

關(guān)于ZAKER Skills 合作
虎嗅APP 22小時(shí)前

黃仁勛第一次發(fā)推,就聯(lián)合微軟、Meta 等企業(yè)給中國開源模型說好話

本文來自微信公眾號:字母 AI,作者:苗正,題圖來自:視覺中國

7 月 24 日,黃仁勛破天荒地注冊了 X,他的第一條推文就是一篇長文。字母 AI 對這篇長文進(jìn)行了歸納總結(jié)。

長文的內(nèi)容是一份由英偉達(dá)、微軟、Meta、IBM、Hugging Face、Andreessen Horowitz 等機(jī)構(gòu)和企業(yè)聯(lián)署的文件,大談開放權(quán)重(開源)模型對美國的影響。

雖然文件沒有明說,但是字里行間都是在幫,像 DeepSeek、智譜、Kimi 這樣的中國 AI 公司說話。文件強(qiáng)調(diào),開源模型對美國,乃至對全球 AI 發(fā)展都是起到了極為重要的作用。

文件首先回顧了開源軟件的發(fā)展歷史。

20 世紀(jì) 80 年代,開源先驅(qū)挑戰(zhàn)了 " 只有企業(yè)嚴(yán)密控制代碼,軟件才能進(jìn)步 " 的觀念。此后,開源軟件逐漸成為互聯(lián)網(wǎng)、科技公司、美國軍方和聯(lián)邦科研機(jī)構(gòu)的重要基礎(chǔ)。它不僅降低了軟件成本,還形成了共享知識體系,為美國的技術(shù)創(chuàng)新、創(chuàng)業(yè)生態(tài)和自主能力提供了長期支撐。

文件認(rèn)為,美國當(dāng)前在 AI 領(lǐng)域面臨類似選擇。

想要獲得在 AI 上的領(lǐng)導(dǎo)地位,不能只依靠某一個(gè)最先進(jìn)的閉源模型,還取決于能否建立一個(gè)開放、具有競爭力并能深入各行業(yè)的生態(tài)系統(tǒng)。

開源模型雖然不一定公開訓(xùn)練數(shù)據(jù)和完整訓(xùn)練流程,但可以顯著提高先進(jìn) AI 的可定制性以及傳播。

隨后,文件具體描述了開放權(quán)重模型所具有的價(jià)值。

第一,降低 AI 應(yīng)用門檻。

企業(yè)、大學(xué)、科研機(jī)構(gòu)和公共部門無須從頭訓(xùn)練模型,也不必為所有任務(wù)支付前沿閉源模型的高昂費(fèi)用。它們可以根據(jù)成本和需求選擇合適的模型,把最強(qiáng)能力留給真正困難的問題,在日常任務(wù)中采用更高效的專用模型。

這有利于 AI 進(jìn)入工廠、醫(yī)院、農(nóng)場、學(xué)校和中小企業(yè)。

第二,促進(jìn)市場競爭。

開放權(quán)重讓更多組織能夠開發(fā)、調(diào)整和部署先進(jìn)模型,由此推動模型、芯片、云服務(wù)和應(yīng)用之間的競爭。競爭可以加快創(chuàng)新、降低價(jià)格,防止 AI 被少數(shù)大型企業(yè)壟斷。

第三,增強(qiáng)用戶控制權(quán)

組織可以自行掌控?cái)?shù)據(jù)、調(diào)整模型并選擇部署環(huán)境,減少對單一供應(yīng)商的依賴。同時(shí),企業(yè)能夠保留通過模型改進(jìn)、專業(yè)能力和知識積累創(chuàng)造的價(jià)值,從而提高技術(shù)自主性。

第四,提升安全與防御能力。

文件承認(rèn),模型權(quán)重一經(jīng)公開便難以撤回,修改版本也不容易追蹤。

文件認(rèn)為,禁止開放權(quán)重是錯誤的。

因?yàn)楫?dāng)攻擊者使用先進(jìn) AI 時(shí),網(wǎng)絡(luò)安全防御者也需要獲得能力相當(dāng)?shù)哪P?。開放模型能夠接受更廣泛的檢查、紅隊(duì)測試和漏洞研究,避免先進(jìn)能力集中在少數(shù)閉源系統(tǒng)中形成單點(diǎn)故障。

文件強(qiáng)調(diào),閉源并不天然等于安全,透明性反而可能幫助社會更快發(fā)現(xiàn)并修復(fù)問題。

文件建議美國擴(kuò)大初創(chuàng)企業(yè)和研究人員獲得算力的渠道,投資共享數(shù)據(jù)集、開發(fā)工具和評估框架,并避免對開放模型實(shí)施過早、過度寬泛的限制,以免壓制競爭或迫使創(chuàng)新轉(zhuǎn)移到海外。

文件還特別區(qū)分了 " 模型蒸餾 " 與非法竊取。

文件表示,利用一個(gè)模型的輸出訓(xùn)練或改進(jìn)另一個(gè)模型,是常見的模型優(yōu)化、評估和驗(yàn)證技術(shù),不應(yīng)被一概視為侵權(quán)。針對閉源模型的非法價(jià)值攫取,應(yīng)通過有針對性的法律和商業(yè)規(guī)則處理,而不是全面限制正常的技術(shù)研究。

以下為全文翻譯:

20 世紀(jì) 80 年代,早期的開源軟件先驅(qū)對當(dāng)時(shí)占主導(dǎo)地位的一種觀念提出了挑戰(zhàn):只有企業(yè)牢牢控制自己的代碼,軟件才能不斷進(jìn)步。這場運(yùn)動倡導(dǎo)建立一個(gè)透明的生態(tài)系統(tǒng),讓世界各地的開發(fā)者都能研究、修改和改進(jìn)軟件。如今,由開源社區(qū)開發(fā)的軟件支撐著互聯(lián)網(wǎng)的大部分基礎(chǔ)設(shè)施,也是全球最大科技公司所使用系統(tǒng)的底層基礎(chǔ);美國軍方和聯(lián)邦機(jī)構(gòu)在開展科學(xué)研究、網(wǎng)絡(luò)安全及其他關(guān)鍵任務(wù)時(shí),同樣依賴這些軟件。開源不僅降低了軟件成本,還建立了一個(gè)共享的知識基礎(chǔ),一代又一代美國工程師和企業(yè)家在此基礎(chǔ)上構(gòu)筑起自身的制度自主能力。

如今,在人工智能領(lǐng)域,美國面臨著一個(gè)類似的選擇。衡量美國 AI 領(lǐng)導(dǎo)力的標(biāo)準(zhǔn),不會是某一個(gè)前沿 AI 模型,而是美國能否建立一個(gè)強(qiáng)大、開放并滲透至各個(gè)行業(yè)的生態(tài)系統(tǒng)。這對于在全國范圍內(nèi)創(chuàng)造創(chuàng)新與繁榮的機(jī)會至關(guān)重要。要實(shí)現(xiàn)這一目標(biāo),就必須擴(kuò)大 AI 的可及性、鼓勵競爭、建設(shè)強(qiáng)健的應(yīng)用層,并讓美國人對自己所依賴的技術(shù)擁有更大的控制權(quán)。開放權(quán)重模型,也就是任何人都可以下載、檢查、修改并在自有基礎(chǔ)設(shè)施上運(yùn)行的 AI 模型,是這一基礎(chǔ)不可或缺的一環(huán)。這類模型能夠讓先進(jìn) AI 變得更加易于獲取、便于適配,并得到更廣泛的應(yīng)用。

開放權(quán)重?cái)U(kuò)大了人們進(jìn)入 AI 經(jīng)濟(jì)的機(jī)會。初創(chuàng)企業(yè)、成熟企業(yè)、大學(xué)和公共機(jī)構(gòu)無須從零開始訓(xùn)練模型,也無須為每一項(xiàng)任務(wù)支付前沿模型的價(jià)格,就能在先進(jìn)模型的基礎(chǔ)上開展開發(fā)。開放權(quán)重讓每個(gè)組織都能以適當(dāng)?shù)某杀?,為具體工作匹配適當(dāng)?shù)哪P停褐挥姓嬲那把貑栴}才調(diào)用前沿規(guī)模的能力,其余場景則運(yùn)行高效的專用模型。隨著 AI 的應(yīng)用擴(kuò)展至數(shù)十億項(xiàng)日常任務(wù),正是這種合理配置資源的做法,才能確保 AI 在經(jīng)濟(jì)上具備可持續(xù)性。美國要贏得 AI 時(shí)代,就必須讓 AI 融入工廠、醫(yī)院、農(nóng)場、課堂以及街區(qū)中小企業(yè)的日常工作流程。

開放權(quán)重還能加強(qiáng)競爭,而競爭正是確保 AI 帶來的收益得到廣泛共享、而不是集中在少數(shù)人手中的關(guān)鍵。開放權(quán)重使眾多組織都能夠開發(fā)、調(diào)整和部署先進(jìn)模型,因此不僅會促進(jìn)模型開發(fā)者之間的競爭,也會推動云服務(wù)、芯片、應(yīng)用和各類服務(wù)之間的競爭。這種競爭能夠激發(fā)創(chuàng)新、降低成本,并讓 AI 的紅利廣泛惠及整個(gè)美國經(jīng)濟(jì)。

開放權(quán)重還賦予客戶更大的控制權(quán)。隨著各類組織加大對 AI 的投入,它們希望確認(rèn)自己不會被鎖定在單一供應(yīng)商的平臺上,也不會失去長期積累的知識和能力。開放權(quán)重模型讓組織能夠掌控自身數(shù)據(jù),按照自身需求評估和調(diào)整模型,并根據(jù)業(yè)務(wù)要求在任何合適的環(huán)境中部署模型,從而為這種自主權(quán)提供保障。當(dāng)組織利用 AI 創(chuàng)造價(jià)值時(shí),開放權(quán)重還使它們能夠真正擁有這些價(jià)值,包括不斷自我改進(jìn)的模型、專業(yè)化能力和持續(xù)積累的知識;這些都將推動美國的自主能力與繁榮。

誠然,開放權(quán)重確實(shí)帶有真實(shí)且獨(dú)特的風(fēng)險(xiǎn)。權(quán)重一經(jīng)發(fā)布,便不再受原始開發(fā)者控制;經(jīng)過修改的版本也很難追蹤或撤回。然而,應(yīng)對這種風(fēng)險(xiǎn)的正確方式并不是禁止開放權(quán)重。在網(wǎng)絡(luò)攻擊者使用先進(jìn) AI 的世界里,防御者也需要獲得能力相當(dāng)?shù)哪P停拍馨l(fā)現(xiàn)、模擬并應(yīng)對新出現(xiàn)的威脅。開放模型可以拓展防御能力、提高透明度,并讓眾多團(tuán)隊(duì)共同發(fā)現(xiàn)和修復(fù)漏洞。

事實(shí)上,開放性可能是實(shí)現(xiàn) AI 安全與保障最重要的路徑之一。僅僅依賴閉源模型并不天然安全:它們同樣可能遭到攻破、被濫用,或者以外部人員無法察覺的方式發(fā)生故障。把先進(jìn) AI 能力集中在少數(shù)閉源模型中,反而會加劇這種風(fēng)險(xiǎn)。這會形成少數(shù)幾個(gè)單點(diǎn)故障,削弱競爭,并把關(guān)鍵技術(shù)掌握在少數(shù)供應(yīng)商手中。相比之下,開放權(quán)重模型讓廣泛的研究人員和開發(fā)者群體都能檢查模型行為、識別漏洞、建立防護(hù)措施,并持續(xù)改進(jìn)模型。正如開源軟件已經(jīng)證明,透明可能比隱蔽更加安全;AI 安全或許同樣取決于能否讓更多人有能力測試并強(qiáng)化社會所依賴的模型。開放性有助于開展嚴(yán)格的基準(zhǔn)測試與評估、紅隊(duì)測試,并針對真實(shí)且已經(jīng)得到證實(shí)的危害建立防護(hù)措施,而不是想當(dāng)然地把閉源系統(tǒng)視為更加安全。

一個(gè)強(qiáng)大的 AI 生態(tài)系統(tǒng)不會自然而然地形成。政策制定者目前擁有一個(gè)重要的行動窗口??刹扇〉拇胧┌ǎ簲U(kuò)大初創(chuàng)企業(yè)和研究人員獲取算力的渠道;投資建設(shè)共享訓(xùn)練資源,如數(shù)據(jù)集、工具和評估框架;避免過早限制開放模型,以免壓制競爭或迫使創(chuàng)新轉(zhuǎn)移到海外,從而確保前沿 AI 領(lǐng)域保持多元化。這些措施還必須考慮如何通過強(qiáng)大的應(yīng)用層,將具有自主可控能力的 AI 應(yīng)用擴(kuò)展到整個(gè)經(jīng)濟(jì)體系。

在塑造這一生態(tài)系統(tǒng)時(shí),政策制定者應(yīng)當(dāng)謹(jǐn)慎,不要把正當(dāng)?shù)哪P烷_發(fā)技術(shù)與不當(dāng)占用他人成果混為一談。蒸餾,即利用一個(gè)模型的輸出幫助訓(xùn)練或改進(jìn)另一個(gè)模型,是一種廣泛用于模型改進(jìn)、評估和驗(yàn)證的技術(shù)。這延續(xù)了一項(xiàng)悠久傳統(tǒng):學(xué)習(xí)現(xiàn)有技術(shù)、在其基礎(chǔ)上繼續(xù)開發(fā)并加以改進(jìn)。自開源軟件運(yùn)動興起以來,這一傳統(tǒng)一直在推動創(chuàng)新。相比之下,以非法方式從閉源模型中攫取價(jià)值,確實(shí)會引發(fā)合理的擔(dān)憂。對此,應(yīng)通過有針對性的法律和商業(yè)框架加以解決,而不是對那些在 AI 創(chuàng)新中發(fā)揮重要作用的技術(shù)實(shí)施寬泛限制。

AI 時(shí)代完全可以成為一個(gè)繁榮的時(shí)代。只要作出正確選擇,開放權(quán)重 AI 就能擴(kuò)大機(jī)會、加強(qiáng)競爭、延續(xù)美國的技術(shù)領(lǐng)導(dǎo)地位、緩解風(fēng)險(xiǎn),并確保這項(xiàng)非凡技術(shù)帶來的收益在整個(gè)經(jīng)濟(jì)體系中得到廣泛共享。這樣的未來值得建設(shè),而美國應(yīng)當(dāng)在建設(shè)這一未來的過程中發(fā)揮領(lǐng)導(dǎo)作用。

本文來自微信公眾號:字母 AI,作者:苗正

相關(guān)閱讀

最新評論

沒有更多評論了