跳至主要內容
SUE NEWS
科技 產業分析

12萬美元token換15.9倍吞吐:微軟把Copilot運行時移植到Rust,先算的是每一列程式碼的單價

微軟以12萬美元token、14.5週將Copilot運行時從TypeScript移植到Rust,取得15.9倍吞吐與九成記憶體節省,本文從成本結構與技術替代曲線拆解這筆移植帳由誰埋單。

刊登 閱讀約 5 分鐘

2026年9月18日,The Register披露了微軟一份工程報告的細節:Copilot運行時從TypeScript移植到Rust,全程由AI智慧體執行,使用GPT-5.6 Sol與Claude Opus 4.8兩種模型,歷時14.5週,token支出12萬美元。這組數字值得拆開看,因為它把「用AI改寫遺產程式碼」這件事,從概念驗證推到了有大規模生產發布紀錄的階段。

先看帳面:43萬行換80萬行,單位成本落在哪一欄

這次專案的產出規模不小。43萬行TypeScript,轉換為80萬行可用於生產環境的Rust程式碼,期間發布135次,平均每天約1.3個Pull Request。以12萬美元token支出除以最終80萬行Rust產出,每行成本約0.15美元;若以原始43萬行TypeScript計,每行約0.28美元。

橫向對照一個基準:北美資深系統工程師的全負荷成本(薪資加管理費用)粗估每年20萬至30萬美元,一名工程師一年能交付的生產級程式碼,樂觀估計在數萬行量級。以人力重寫43萬行、且橫跨兩種語言正規化差異極大的系統,即使投入一個小團隊工作數季,成本也會落在百萬美元量級之上。12萬美元的token帳單,即便加上工程師監督與審核的人力成本,仍低了一個數量級。

這與我們先前分析的AI agent把邊際工程成本壓到token計價趨勢一致:當代理能承擔多步驟、跨檔案的修改工作,軟體工程的計價單位正在從人月往token消耗量移動。

效能那欄:15.9倍與1383MB對126MB

效能數據是這份報告更具經濟意義的部分。測試顯示,TypeScript版本每秒完成7.55個one-turn session lifecycle,Rust版本每秒120個,吞吐提升15.9倍。記憶體方面,包含10個客戶端的智慧體在TypeScript下消耗1383 MB,Rust版本僅126 MB,降幅約91%。

架構上的差異也影響成本結構。Rust版本將任務保持在行程內執行,省去了TypeScript版本啟動外部背景行程的開銷。行程外執行意味著每次任務都要負擔啟動、通訊與清理的固定成本,在session數量放大後,這筆固定成本會以線性方式侵蝕單位吞吐。行程內化之後,邊際成本曲線被壓平,這正是15.9倍差距的來源之一。

對一套以session計價、以並發量決定伺服器規模的AI代理運行時而言,這兩組數字直接換算為資本支出:同樣的請求量,Rust版本所需的運算節點與記憶體配置理論上可縮減至原先的十幾分之一。假設Copilot後端服務數千萬月活用戶,單是記憶體佔用從1383 MB降至126 MB,在雲端實例規格的選配上就是可量化的成本槓桿。

傳導鏈:誰受惠、誰承壓

受惠方首先是大規模AI服務的營運方。Rust在伺服器端的單機吞吐與記憶體效率,讓同樣的GPU與CPU預算承載更多並發session。這與大模型訓練成本被攤在直播裡檢視的脈絡相呼應:當模型端的算力帳單已經公開計價,運行時端的每一分基礎設施效率都會被放大檢視。推理成本與運行時成本的加總,才是一家AI服務商完整的單位經濟。

其次受惠的是AI代理工具本身。14.5週、135次發布的紀錄,證明了代理式開發在百萬行級程式碼庫上的可操作性,這對販售代理式編程服務的廠商是一份可引用的案例,類似一份由微軟自己埋單的公關。

承壓方則分兩層。第一層是與Rust競爭伺服器端工作負載的語言生態:TypeScript與Node.js在快速原型開發的優勢仍在,但在推理密集、並發密集的AI運行時場景,若Rust的移植帳與效能帳持續被驗證,企業技術選型的預設值會逐步移動。第二層是傳統人力外包與顧問服務:當43萬行的語言遷移可以由少數工程師監督代理完成,重寫式專案的報價基礎將被重新協商。

收束判斷

這份報告的核心數字組合是:12萬美元支出、14.5週工期、15.9倍吞吐、91%記憶體節省。以支出對報酬的比率衡量,這筆移植帳幾乎沒有懸念。真正的限制條件在帳面之外:Rust人才密度仍低於TypeScript一個量級,代理產出的80萬行程式碼需要具備Rust審查能力的團隊維運,這筆隱性成本不會出現在token帳單上。

短期內,這類移植仍是少數具備完整測試覆蓋與工程紀律的大型平臺的專利;中期看,token單價持續下探、代理能力逐季提升,每行0.15美元的數字只會往下走。當重寫遺產系統的邊際成本降到某個門檻之下,企業資產負債表上那欄「技術債」的折舊速度,就會被重新計算。