78.1B 參數掛上 Apache 2.0:Kolibri 的「主權 AI」帳,從每 token 啟動 3.46B 開始算
Aleph Alpha 的 Kolibri 以 78.1B 總參數、Apache 2.0 開放權重與歐洲主權 AI 為訴求,本文從成本結構與治理責任角度,整理企業部署前的查核帳。
2026 年 10 月 5 日,APPI News 刊出對德國 Aleph Alpha 模型 Kolibri 的企業選型分析。這篇文章的核心提問很直接:開放權重模型可以下載、可以自行部署,組織是否就因此掌握了 AI?答案藏在成本結構與控制權的細節裡,而這些細節多數不會出現在模型卡上。
先把規格攤開。Kolibri 是德英雙語的混合專家(Mixture of Experts,MoE)模型,權重以 Apache 2.0 授權釋出,模型卡列出總參數約 78.1B,每個 token 啟動約 3.46B 參數,最長上下文 1,048,576 tokens,官方建議服務部署以不超過 262,144 tokens 為宜。Aleph Alpha 的技術報告在八張 B200 GPU、指定序列長度等條件下,比較了 Kolibri 與其他模型的英德文評測分數與推論吞吐量。
這組數字需要兩層還原。第一層是 MoE 的會計邏輯:每 token 啟動 3.46B 參數描述的是運算時實際參與工作的參數量,但完整 78.1B 權重仍須載入記憶體。用啟動參數估算推論成本會嚴重低估硬體需求;換算成採購語言,就是顯示記憶體規格與運算單價要分開計價。第二層是評測條件:八張 B200 與指定序列長度是廠商選定的測試環境,不是獨立機構對所有工作負載的驗收,更無法預測企業在自己的硬體、提示與併發量下的表現。Kolibri 以德語、英語為焦點,繁體中文能力須另行測試。
這與我們先前整理的企業 AI 自建或外購的總持有成本帳是同一條思考線:帳面上的授權成本只是起點,治理責任與維運人力往往才是大宗。
開放權重與主權之間,隔著五道查核關卡
APPI News 的分析把「權重可下載」與「企業主權」之間的落差,拆成部署前應逐項核對的面向。
其一是資料與執行環境。權重、程式與營運控制是三件事:權重可取得回答參數能否下載;可自行部署回答能否在自己選的基礎設施上執行;資料自主則要看輸入、日誌、備份與輸出實際存在哪裡、誰能存取。模型放在自有伺服器,仍可能依賴特定推論套件、硬體驅動、容器映像或供應商支援,主機位置不足以說明控制能力。
其二是硬體與成本驗證。長上下文會增加記憶體、延遲與吞吐量負擔,1,048,576 tokens 的上限是單次請求可處理的文字範圍,不等同模型可靠記住所有內容。實際效果受提示設計、輸入文件與推論設定影響,成本估算必須把上下文長度、併發量、延遲要求與硬體供應一起納入。
其三是授權範圍。Aleph Alpha 模型卡明載:「開放權重授權適用於此模型庫發布的權重與設定檔;未包含在庫中的其他成果不在該授權範圍內。」採購文件應列明各元件的提供者、版本、替代方案、支援期限與中止服務後的移轉方式。
其四是模型能力與語言任務。官方評測呈現的是特定測試條件下的比較,引用分數時應記下基準任務、版本、精度、硬體與推論設定。對臺灣組織而言,德英雙語的規格表無法回答繁體中文文件與在地用語的表現,這一欄目前是空白,需要企業自行補測。
其五是維運責任。模型版本由誰核準更新、出現弱點時誰負責通知與修補、日後更換模型時提示與知識庫能否攜出,這些問題若沒有可驗收的答案,主權便停留在定位口號。
影響推演:誰受惠、誰承壓
受惠的一方,是已建立內部 MLOps 能力、能把上述五項查核轉成驗收條件的大型組織。開放權重加 Apache 2.0 授權降低了換模型的退出成本,對供應商鎖定風險是一種對沖。承壓的一方,是缺乏推論基礎設施與維運人力的中型企業:78.1B 總參數的記憶體需求、長上下文的延遲成本、以及繁中能力待補測的空缺,都會轉成內部人力與顧問費用,實際總持有成本未必低於 API 外購。
Aleph Alpha 以歐洲監管脈絡與主權 AI 為訴求,這是廠商的設計主張。企業採購可以把主張拆成可驗收的問題:敏感資料是否離開指定區域、管理者能否限制存取、更新由誰核準。模型卡的規格是起點,採購決策的帳,要從自己那欄的資料邊界與維運人力開始記。