開始：市集資訊

（開始：新智元）

新智元報說念

剪輯：定慧

【新智元導讀】Vercel CEO躬行曝光了沿途令東說念主后背發涼的AI安全事件：一個基于Claude Opus 4.6的AI編程智能體，在奉行部署任務時莫得調用任何查詢接口，勝利腦補了一個9位數的GitHub倉庫ID——而這個杜撰編造的數字，趕巧對應了一份簡直的學生功課，并被收效部署到了企業坐蓐環境中。

故事要從最近一位Vercel用戶被詭異的「入侵」提及。

若是你不闇練Vercel——這是大師最流行的前端部署平臺之一，OpenAI的官網、Perplexity的及時聊天功能齊跑在上頭，杰出600萬成立者在用它。

張開剩余92%

它的創舉東說念主兼CEO Guillermo Rauch亦然前端圈的據說東說念主物，Next.js框架便是他主導創建的。

然而他用「極其可怕」來形容這場AI入侵事件。

某天，一位Vercel用戶照常登錄我方團隊的罷休臺，準備檢查最近的部署情況。

關聯詞，在樣式列內外，他發現了一個裕如生分的開源庫——一個他從未見過、團隊里也莫得任何東說念主引入的樣式。

這是什么？誰干的？是不是被黑了？

你能假想那種嗅覺嗎？就好像你回到家，發現客廳沙發上坐了個生分東說念主，手里還端著你的杯子喝茶。

這位用戶嚇得不輕，迅速排查。

很快，考核終端出來了：這不是什么黑客攻擊，也不是里面成員的誤操作。

實在的「鬧事者」，是團隊里正在使用的一個AI編程智能體。

更具體地說，這個AI智能體基于Anthropic的Claude Opus 4.6模子。

而它犯下的錯誤，比任何東說念主類門徑員會犯的bug齊要離譜得多。

AI的腦補有多離譜

Vercel的CEO Guillermo Rauch躬行在外交媒體上流露了這起事件的細節，讀完之后，所有這個詞便是感到一個「驚悚」。

事情是這樣的：這個AI智能體在奉行一項部署任務時，需要調用Vercel的API，而API條目傳入一個GitHub倉庫的ID。

普通經過是什么？

誠然是先去調用GitHub的查詢接口，拿到正確的倉庫ID，然后再傳給Vercel。

但這位AI莫得這樣作念。

它根柢莫得調用GitHub的任何查詢接口。

它勝利，翔實！是勝利「腦補」出了一個9位數的倉庫ID，然后一臉自信地把這個杜撰合手造的數字傳給了Vercel的部署API。

你猜奈何著？這個立地編造的ID，趕巧在GitHub上對應了一個簡直存在的倉庫。而阿誰倉庫里放著的，是某位大學生的課程功課。

于是，一份某不著名學生的功課代碼，就這樣稀里蒙朧地被部署到了一個裕如不關聯的企業團隊環境中。

若是你以為這像是一個冷見笑，那你可能還沒意志到這件事有多恐怖。

這不是普通的bug

Rauch在分析這起事件時，異常強調了一個要津點：這種錯誤和東說念主類犯的錯誤裕如不一樣。

東說念主類門徑員會犯什么錯？

拼寫錯誤、差一錯誤（off-by-one）、復制粘貼忘改參數——這些齊是有跡可循的、穩妥邏輯的錯誤。

哪怕是最輕視的門徑員，也不會在需要查詢數據庫的時候，勝利編造一個假的查詢終端然后不時往下走。

但AI就干了這件事。

它莫得報錯，莫得教導我找不到這個倉庫，莫得任何遲疑。

它就像一個格外自信又格外不靠譜的新職工，雇主說幫我查一下張三的工號，他連東說念主事系統齊沒開放，勝利回了一句12345，然后幫你把文獻發給了一個生分東說念主。

并且，更細念念極恐的是：這個12345盡然還趕巧對應了一個簡直存在的東說念主。

Rauch用了一個很精確的說法來刻畫這種步地：AI的失效模式（failure mode）與東說念主類的邏輯迥異。

哪怕是現時最智能的大模子，當它出錯的時候，它出錯的樣式亦然東說念主類難以預感的。

東說念主類犯錯是在正確謎底的隔壁波動，AI犯錯是在所有這個詞宇宙里立地選了一個點。

而最可怕的是，AI在犯這種離譜錯誤的時候，它的自信進程和回復正確時一模一樣——莫得任何遲疑，莫得任何我不細成見教導。

對于下流系統來說，一個由AI杜撰編造的參數和一個正確的參數，看起來莫得任何分辯。

這才是最恐怖的，這不是錯誤，是以很難被發現。

代碼投毒的暗影

好音信是：此次被誤部署的僅僅一份無害的學生功課。

莫得壞心代碼，時時彩app官方最新版下載沒少見據清楚，僅僅一場虛驚。

但壞音信是：這讓所有這個詞成立者社區運出動念考一個更可怕的可能性——若是AI幻覺指向的不是一份無辜的功課，而是一個用心設計的壞心倉庫呢？

假想一下這樣的攻擊場景：

攻擊者在GitHub上創建大批看似普通但掩飾壞心代碼的公開倉庫。

這些倉庫的ID掩蓋了一定的數字限制。

然后，他們只需要恭候——恭候某個AI智能體在某次奉行中，杜撰編造出一個趕巧落在這個限制內的ID。

這就像在大海里撒下了斗量車載的垂綸鉤。

不是要釣東說念主類，而是要釣AI。

你致使不錯把這結實為一種全新的供應鏈攻擊。

傳統的供應鏈攻擊需要入侵簡直的依賴庫，需要社會工程學，需要很高的技藝門檻。

但若是AI我方會虛構依賴考慮，那攻擊者致使不需要作念任何主動入侵——只須在那里等著，等AI我方撞上來就行。

這種攻擊模式在疇昔簡直不成能發生，因為東說念主類成立者不會杜撰編造一個包名或倉庫地址。

但在AI Agent時間，幻覺成了一個全新的攻擊面。

安全磋磨東說念主員致使給這類風險起了個名字，叫包幻覺攻擊（Package Hallucination Attack）：

欺詐AI傾向于編造不存在的包名或倉庫名這一特點，提前注冊這些名字并植入壞心代碼。

等著那些聽信了AI淡薄的成立者——或者更危急的，AI Agent我方——把壞心包裝配到簡直樣式中。

AI有了動作，犯錯就不再是小事

疇昔兩年，AI寫代碼的智力突飛大進。

從啟程點的Tab補全這行代碼，到咫尺的從零搭建一個完好意思樣式并部署上線。

AI正在從一個給淡薄的參謀人，形成一個能勝利入手干活的工東說念主。

而這，恰正是問題所在。

當AI僅僅在聊天框里給你淡薄的時候，它說錯了你大不了不接收——這叫幻覺，酌定迫害你幾分鐘時候。

但當AI取得了API的調用權限、取得了敕令行的奉行智力、取得了部署到坐蓐環境的職權時，通常的幻覺，惡果就裕如不一樣了。

一個只可打字的AI說了謊話，你笑笑就疇昔了。

一個能按按鈕的AI說了謊話，你的坐蓐環境可能就炸了。

這便是Rauch為什么如斯嗜好此次事件——它不僅僅一個bug report，它揭示了一個結構性的安全問題：

當咱們給AI越來越多的奉行權限時，咱們的安全模子還跟得上嗎？

正如Vercel安全團隊在后續的博客著作中寫到的：咫尺大多數AI Agent在運行生成的代碼時，對Agent自己和它生成的代碼之間簡直莫得任何安全攻擊。

也便是說，AI Agent產生的代碼不錯裕如看望你的密鑰、你的文獻系統、你的坐蓐基礎順序。

一朝AI產生幻覺或被教導注入（prompt injection）攻擊欺詐，惡果不勝設計。

這不經讓東說念主想起，最近爆火的OpenClaw。

有東說念主回來了咫尺粗略被監控到的所有被顯現在公網的OpenClaw智能體。

齊有被注入的風險。

安全護欄在那里

Rauch在流露這起事件后，也給出了他的淡薄。中樞念念想只須一個：不要讓AI領有不受拘謹的奉行權限。

具體來說，他淡薄成立團隊：

Vercel自后還有益發布了一篇對于智能體架構中的安全規模的深度技藝博客，其中提到了一個相配形象的威迫模子：

假定一個AI Agent在讀取日記文獻時，日記里被攻擊者鑲嵌了一段用心設計的教導注入。

這段注入指點AI編寫一個劇本，把作事器上的SSH密鑰和AWS說明發送到外部。

若是這個AI Agent有奉行代碼的智力，這些說明就會被竊取。

料理決議很明確：需要在AI Agent、生成的代碼和簡直基礎順序之間劃清安全規模。

AI讀文獻的權限、寫文獻的權限、奉行代碼的權限、看望匯注的權限，齊應該被嚴格攻擊和罷休。

彩蛋：OpenAI神秘自研代碼平臺

說到成立者的基礎順序安全，另一條爆炸性新聞也在兼并時候引爆了科技圈。

據The Information獨家報說念，OpenAI正在神秘成立一款里面代碼托管平臺，指標直指微軟旗下的GitHub。

音信一出，科技圈一派嘩然——畢竟微軟是OpenAI最大的投資方，累計插足杰出130億好意思元。

拿東說念主手短，還要挖東說念主墻角？

導火索是什么？也曾GitHub等閑的宕機。

2025年下半年以來，GitHub的作事中斷次數較著加多。尤其在2026年2月，一天之內竟然出現了五次宕機。

和上頭的新聞連起來看，便是編程的基礎順序Git可能要面對一次大洗牌了。

{jz:field.toptypename/}

東說念主類犯錯的時候，至少會以為這里好像不太對。

AI犯錯的時候，它的自信進程和正確時一模一樣。

這才是最可怕的場所。

Rauch的那句話值得每個成立者刻在屏幕上方：即使是最智能的模子，其失效模式也與東說念主類邏輯迥異。

對于每一個正在使用或盤算使用AI Agent的團隊來說，咫尺便是該崇拜注視安全護欄的時候了。

不是比及AI把壞心代碼部署進你的坐蓐環境之后——其時候，可就不是一份學生功課那么淺顯了。

參考良友：

https://x.com/rauchg/status/2028920268119523788

發布于：北京市

• 杜撰
• Claude
• 時時彩app
• 強行
• 作秀