文 | 字母 AI
你知道嗎,哪怕是和流行病、氣候、戰(zhàn)爭、核威脅相比,2100 年前最有可能毀滅人類的東西竟然是 AI ——這個驚人的論斷,來自于《柳葉刀》的權威報告。
《柳葉刀》在 10 月 11 日發(fā)布的《21 世紀全球健康威脅》委員會報告中寫到,包括氣候變化、流行病、污染在內的 17 種威脅里,核沖突和人工智能的惡意使用排在首位,可能在 2100 年前導致人類滅絕。
這份報告共由 35 位頂級專家撰寫,整個研究覆蓋全球 204 個國家和地區(qū),并且報告還提醒,這些威脅可能相互作用、彼此放大。
報告最令人膽寒的部分在于,即使 AI 和核沖突都是毀滅人類的頭號難題,但 AI 造成的破壞,要遠遠超過核沖突。
如果 AI 末日這話是阿莫迪說的,我可能就當個樂子聽,畢竟相同的話術已經有太多了,我聽得耳朵都快起繭了。
但是這回是《柳葉刀》說的,我是真有點怕了。
《柳葉刀》是怎么說的?
《柳葉刀》這份報告牽頭的是華盛頓大學的健康指標與評估研究所(IHME)。他們把未來 75 年可能影響人類健康的威脅,按嚴重程度擺成了一座 " 威脅金字塔 ",最頂端是一個單獨的類別:
有可能在 2100 年前導致人類滅絕的威脅。
這個類別里只有兩件事,一個是核沖突引發(fā)的 " 核饑荒 ",另一個是人工智能的惡意使用。
哪怕是行星撞地球和超級火山噴發(fā),都沒有進入金字塔的塔尖,原因是委員會認為它們在未來 75 年發(fā)生的概率 " 極低 "。
但這并不意味著 "AI 一定會滅絕人類 "。
報告原文寫到,這兩類風險 " 發(fā)生的可能性仍然很低 ",只是一旦發(fā)生,后果是整個人類層面的。
報告里有一個單位,叫做 DALYs,它代表著 " 傷殘調整生命年 ",簡單說就是一個人因為生病、殘疾或者早逝,一共損失了多少個健康生活的年份。
委員會用它來衡量每一種威脅,最終到 2100 年能造成多少 " 健康壽命的損失 "。
惡意使用 AI 到 2100 年可能造成約 104 億 DALYs 的損失,其體量和肥胖大致在同一個量級。而核沖突,會造成大約 1.33 億人死亡,以及約 93.5 億 DALYs 的損失。
《柳葉刀》認為,AI 比核武器還危險。委員會特意強調,這么設計是為了衡量 " 可采取行動的杠桿 ",而不是渲染最悲慘的結局。
那么,AI 到底是如何 " 滅絕 " 我們的呢?是《終結者》里的天網?還是《流浪地球》里的 MOSS?
都不是?!读~刀》認為,AI 毀滅人類的路徑只有一條,即生物武器。
有人惡意利用 AI,去設計或改造能造成大規(guī)模傷亡的病原體或毒素。
《柳葉刀》的論據是,AI 正在拉低做危險事情所需要的門檻。
過去,改造一種病毒,需要頂尖實驗室、昂貴設備,以及研究者多年積累的 " 手感 " 和隱性知識。大模型能做的,恰恰是幫人查文獻、設計實驗方案、寫出申請材料、解釋每一步為什么要這樣做。
2026 年 9 月 10 日,Anthropic 發(fā)布了一份威脅情報報告,里面披露了他們在 2025 年 12 月到 2026 年 8 月之間攔截的幾類濫用,其中有 5 起案例,是用戶以 " 可能支持生物武器研發(fā) " 的方式使用 Claude:
有人在今年 5 月讓 Claude 幫忙撰寫一份基金申請書,研究基孔肯雅病毒中哪些突變能讓它傳播得更高效、更容易逃過免疫系統(tǒng)。
有人用它規(guī)劃實驗,想讓高致病性禽流感病毒更適應哺乳動物宿主。
有人起草申請書,研究如何改變正痘病毒家族(天花和猴痘都屬于這個家族)的毒力。
有人在做藥物研發(fā)項目時整理毒液毒素的圖譜。
還有科研人員用 Claude 幫忙對一組毒素做計算機重設計,其中包括一種細菌毒素和一種來自重大疾病威脅病毒的蛋白,而且在寫進展報告時,刻意用了含糊的詞來指代這些毒素。
因此,濫用 AI,一定會對整個人類族群造成不小的傷害。
AI 末日論已劃分成了兩個陣營
事實上,在《柳葉刀》這份報告出來之前,AI 末日論每個月都會有,就比如 9 月,各行各業(yè)都在辯駁 AI 是否會帶來末日。
9 月 8 日,前 Anthropic 研究員雅各布 · 考克森(Jacob Coxon)宣布辭職,并公開說 OpenAI 和 Anthropic 都在 " 拿人類生命下注 ",AI" 可能在本十年結束前殺死我們所有人 "。這條帖子在很短的時間內獲得了過億瀏覽。
第二天,Anthropic 對齊科學負責人埃文 · 胡賓格(Evan Hubinger)發(fā)文表示:" 我們確實認真地相信 AI 可能殺死所有人,我個人認為未來十年內的概率超過 10%。"
AI 教父辛頓隨后也表示,10% 這個數字 " 不算離譜 "。
三天后,阿莫迪拋出一個更具體的說法。他認為在 6 到 12 個月內,一群 Agent 有可能接管整個互聯網,造成數千億美元的損失。
奧特曼和馬斯克這兩個死對頭站在了同一條戰(zhàn)線,支持 " 放慢 AI 發(fā)展的節(jié)奏 "。
正方火力雖然很猛,可反方實力也不弱。
黃仁勛在采訪中提到,2030 年前 AI 毀滅世界的概率是 0%。他認為埃文提到的 "10% 概率 AI 殺死所有人 " 是沒有科學依據的,并且這是一個 " 不負責任 " 的直覺。
" 無法安全控制的 AI 就不該發(fā)布。" 黃仁勛說到。
AI Now 研究所的首席科學家海迪 · 克拉夫(Heidy Khlaaf)認為,不管是 10% 也好 20% 也好," 既不可證偽,也無法驗證,因此從本質上就不科學 "。
認知科學家蓋瑞 · 馬庫斯(Gary Marcus)表示,"Agent 接管互聯網 " 的說法非常地 " 荒謬 "。
他的理由是,互聯網的大部分底層設施掌握在 Cloudflare、谷歌和亞馬遜 AWS 這樣的大公司手里,沒有政府力量介入,很難設想它們被長時間攻破或控制。
他還引用了英國 AI 安全研究所的評估報告,Anthropic 最強的 Mythos 模型,到頭也只能自主攻破 " 小型、防護薄弱 " 的系統(tǒng)。只要對方稍微完善一下網絡安全防護,Mythos 就毫無辦法。
放在一起看,你會發(fā)現這場爭論有一個非常有意思的地方:
正方說的是 " 后果 ",反方說的是 " 證據 "。
一邊強調,只要概率不為零,后果就是無法承受的;另一邊強調,你連這個概率是怎么算出來的都說不清楚,憑什么讓全世界跟著緊張?
此外,阿莫迪、奧特曼雖然主張放慢節(jié)奏,但媒體指責他們是在用安全之名給自己筑護城河,讓后來的競爭者進不來。
學界則比較支持正方。
比如論文《AI 如何消滅人類?文明風險的失效模式分析》(arXiv:2610.08878)中就提到,災難性的 AI 風險,并不需要 AI 有意識、有敵意,或者有明確的傷害意圖。
風險可以通過幾條相互交織的路徑出現:自主失準、人類的惡意使用、組織失敗,以及競爭性部署。作者還特意說明,論文是 " 非操作性 " 的,只分析成因,不提供作惡的方法。
不過到目前為止,這場爭論里沒有哪個人真正 " 贏 " 了。