top of page
debow discovery_工作區域 1_edited.png
熱門文章
搜尋

GitLab Duo 程式碼 Agent 方案：免 GPU 也能確保原始碼不外洩

  • 作家相片: Devops Tec.
    Devops Tec.
  • 18分钟前
  • 讀畢需時 7 分鐘
GitLab Duo 程式碼 Agent 方案：免 GPU 也能確保原始碼不外洩

您的開發者想要 AI 撰寫程式碼 Agent，但您的原始碼是受監管的智慧財產，不能傳送給第三方 AI 服務，而且合規團隊已經白紙黑字明令禁止。常見的替代出路是自建 GPU 叢集、自行運行模型，但這意味著採購稀缺的硬體、聘僱專門團隊維運，而且模型能力仍落後前沿數個月。於是您選擇按兵不動，您的團隊也因此落後於一年前就導入 AI 的競爭對手。 


GitLab Duo Self-Hosted 現在可以使用 Privatemode AI 作為模型供應商。Privatemode 在機密運算（confidential computing）硬體中運行最先進的模型，讓提示詞、原始碼與補全結果全程端到端加密，包括推論過程在內。  

您只需將 GitLab Duo 的 AI Gateway 指向 Privatemode，開發者即可獲得與使用任何模型相同的 Duo 功能，唯一的差別對受監管組織至關重要：程式碼永遠不會離開加密邊界，任何第三方都無法讀取。



受監管團隊無法企及的生產力


AI 撰寫程式碼輔助早已超越自動補全的層次。GitLab Duo Agent Platform 能執行多步驟工作：審查合併請求（Merge Request）、跨檔案重構、產生並執行測試、以 CI 作業驅動 Agent 式（agentic）流程等等。這是團隊交付方式的真正轉變，而且效益會不斷累積，使用它的團隊審查更快、花在樣板程式碼上的時間更少。  

問題在於：上述每一項功能都會把您的提示詞和原始碼傳送給模型供應商。對於開發專有程式碼、受監管軟體或敏感智慧財產的團隊而言，光是這一點就足以否決一切。  



受監管組織為何選擇自架


對這些組織而言，原始碼是核心智慧財產，程式碼在哪裡被處理是契約、產業與法規層面的問題，而非便利性問題。銀行的交易演算法、醫療器材廠商的韌體、國防承包商的控制軟體，將這些智慧財產傳送給外部 AI 服務，可能一步就同時違反智財保護、資料處理協議與產業法規。  


壓力同時來自多個方向：NIS2 與《數位營運韌性法案》（DORA）提高了關鍵基礎設施與金融服務在營運韌性和第三方風險上的門檻；GDPR 規範程式碼與日誌中個人資料的處理方式；產業性法規（如德國金融業的 BaFin 監理、作為採購基準的 BSI C5、以及醫療資料規範）又各自增添限制。此外，許多歐洲組織無論任何單一法規為何，都將資料主權視為第一優先要求。  


感受最深的產業是金融服務、醫療與製藥、國防、公部門與關鍵基礎設施。GitLab Self-Hosted 存在的意義，正是讓這些程式碼永遠不必離開受信任的邊界。在工作流程中加入 AI，不應該悄悄地破壞這一點。  



為什麼 AI 讓自架變得困難


想要 AI 撰寫程式碼輔助的自架團隊有三種傳統選項，而每一種的代價都是受監管的買方難以承受的。  

比較項目

公有雲 AI SaaS

VPC／私有雲 AI

自行運行 LLM 堆疊

原始碼是否離開您的邊界

是  

是（傳給營運方）  

否  

保證類型

契約性（服務條款）  

契約性（營運方＋雲端供應商）  

自我落實  

誰能看到您的明文

AI 供應商  

營運方與雲端供應商  

只有您自己  

基礎設施負擔

無  

低  

高：GPU、模型維運、更新  

能否跟上前沿模型

能  

通常可以  

很少，會落後於前沿  

坦白總結：公有雲 SaaS 出局，因為程式碼會離開組織。VPC 隔離或私有雲服務降低了暴露程度，但仍將明文交給營運方及底層雲端供應商，畢竟契約只是承諾，並非密碼學保證。自行運行模型能保住程式碼隱私，卻購置昂貴、人力昂貴，而且在結構上註定落後最佳模型。面對這種局面，多數受監管組織只能小規模採用 AI，或乾脆不用。  


於是問題變成：如何讓開發者使用現代 AI 撰寫程式碼 Agent，同時原始碼不離開邊界、又不必自行維運 LLM 堆疊？回答這個問題，需要的是一種契約無法提供、而由硬體強制執行的保證。  



機密運算：架構層面的解答


機密運算讓資料在「記憶體中」（也就是處理過程中）保持加密，其基礎是硬體式的可信執行環境（Trusted Execution Environment, TEE）：CPU 或 GPU 中的一塊隔離區域，連作業系統、虛擬機管理程式（hypervisor）與機器的營運者都無法窺視。這裡涉及的硬體是 CPU 端的 AMD SEV 或 Intel TDX，搭配 GPU 端的 NVIDIA Confidential Computing。資料在傳輸與儲存時以 AES-256 加密，且只會在 TEE「內部」被解密。


機密運算：架構層面的解答

讓這項技術從承諾變成保證的關鍵是遠端證明（remote attestation）。在用戶端傳送任何資料之前，會先要求 TEE 證明自己的身分：硬體會產出經簽章的密碼學證據，確切證明機密區（enclave）內執行的是什麼程式碼。用戶端根據已知的正確值驗證該證據，然後才建立加密通道、送出請求。先驗證，再傳送。 

 

由此而來的安全特性正是重點所在：無論是 AI 服務營運方還是底層雲端供應商，都看不到您的提示詞、補全結果或上下文。不是因為他們承諾不看，而是因為硬體不允許他們看。  



Privatemode AI


Privatemode AI 由 Edgeless Systems 打造，這是一家專精機密運算軟體的德國公司。根據 NVIDIA 的說法，Privatemode 是「第一個讓提示詞隨時保持加密的生成式 AI 框架」。  

對開發者而言，這些機制完全隱形。Privatemode 提供與 OpenAI 相容的 API，用戶端 Agent 程式會透明地處理證明與加密，因此任何使用標準 /v1 API 的工具與 SDK 都能原封不動地運作。目前的旗艦撰寫程式碼模型是具備 256K 上下文的 Kimi K2.6，Kimi K3 與 GLM 等其他模型也即將推出。  


這不是實驗室裡的實驗。Privatemode 已在具有上述限制的組織中投入生產環境：Capgemini 將其用於受監管產業的客戶，包括機密撰寫程式碼；德國聯邦就業局在公部門運行它；銀行、保險公司與國防組織也在原始碼與資料不能離開信任邊界的場景中使用它。其密碼學具備後量子安全性（post-quantum-safe），因此也能抵禦「先擷取、後解密」（harvest now, decrypt later）攻擊，攻擊者即使擷取今天的密文，指望用未來的硬體解密，也得不到任何可用的東西。  



整合如何運作


GitLab Duo Self-Hosted 讓您能用自己掌控的模型（而非 GitLab 託管的閘道）提供 Duo 的 AI 功能，而 Privatemode 正好可以扮演這個模型的角色。  

路徑非常直接：GitLab Duo 與自架的 AI Gateway 溝通，後者將推論請求轉發給任何 OpenAI 相容端點，而 Privatemode Agent 程式正是那個端點。它提供標準 /v1 API，並負責對 Privatemode 服務進行加密與證明。當請求進來時，Agent 程式會在請求離開您的網路前先加密、透過證明機制驗證遠端 TEE，然後才轉發。解密只會發生在機密運算環境內部。在 Duo 內部（包括 Code Suggestions、Chat、Code Review 與 Agent 式流程），開發者的體驗完全不變。 


AI Gateway 與 Agent 程式由您自行運行，部署方式不限（Linux 套件、Docker 或 Kubernetes）。
AI Gateway 與 Agent 程式由您自行運行，部署方式不限（Linux 套件、Docker 或 Kubernetes）。


取捨


沒有任何架構是零成本的，技術讀者值得被坦白告知這些，下方是需要注意的代價：

  

  1. 您需要自行維運閘道與 Agent 程式。這是實際的基礎設施工作：以正式主機名稱部署 AI Gateway、每次升級時讓映像檔版本與 GitLab 版本相符、設定 JWT 金鑰與憑證、確保 Agent 程式可連線。不過這屬於一般的基礎設施維運，而非 GPU 採購或模型維運，這個區別正是重點。另一個能保住程式碼隱私的選項（自行運行 LLM 堆疊）意味著購買稀缺的 GPU、配置專門團隊運行與更新模型，同時還落後前沿。Privatemode 是託管式 SaaS，替您承擔模型維運，您留下的負擔只有一個 Agent 程式和一個閘道。  


  1. 通用 OpenAI 相容模型仍在成熟中。目前它們在 GitLab Duo Self-Hosted 中屬於 Beta 功能，因此模型特定問題的支援尚無法保證。強化計畫已在藍圖上，但若您現在就需要完整支援的組態，請將這個時程納入導入規劃。  


  1. 證明與加密會增加一些額外開銷。多一次往返與密碼學運算會增加每個請求的耗時。在我們的測試中這並未構成實際問題，但整合指南確實建議為較慢的自架後端調高 AI Gateway 逾時值，因此值得依您自己的延遲預算實測。  


  1. 您仍然需要信任某些東西，但範圍是有界的。這項保證建立在硬體 TEE 與證明鏈的可靠性之上。相較於「相信營運方不會偷看」，這是一個更小、更可檢驗的信任假設，而且您可以自行驗證證明證據，不過風險並非為零。機密運算把信任縮小到晶片層級，而非徹底消除。  



這在實務上代表什麼


  • 對受監管組織：提供一條符合既有智財與資料保護政策的現代 AI 撰寫程式碼 Agent 導入路徑，因為程式碼始終留在硬體加密邊界內，而且不必購買 GPU 或建立模型維運。

      

  • 對開發者：相同的 GitLab Duo 體驗、相同甚至更好的模型、不需要新工具。由於模型選擇設定在實例層級，透過 GitLab Workflow 擴充套件使用的編輯器內 Chat 與 Code Suggestions 也自動繼承同樣的機密設定。  


  • 對合規與安全團隊：這個架構與 BSI C5:2026 朝機密運算及遠端證明發展的方向一致，並提供具體的技術證據（即「使用中資料加密」與「經證明的執行」）供 NIS2、DORA 與 GDPR 的對話使用。它本身不會讓您自動合規（合規是組織性且持續性的工作），但它移除了「我們的程式碼會離開邊界」這個一開始就阻擋 AI 導入的反對理由。  



開始使用 Privatemode


要將 Privatemode 作為 GitLab Duo 自架模型供應商，需要 GitLab Self-Managed 的 Premium 或 Ultimate 方案（17.9 以上版本），並搭配 GitLab Duo Enterprise 附加元件。Agent 式流程另需 GitLab Duo Agent Platform（18.8 以上版本正式推出）。用量依「自帶模型」（bring-your-own-model）規則與倍率消耗 GitLab 點數，詳見 GitLab 點數文件。  



關於戴博斯科技：GitLab 台灣授權代理商


戴博斯科技股份有限公司（DevOps Tec.）是 GitLab 台灣授權代理商，專注於 DevOps／DevSecOps、專案管理協作與應用生命週期管理（ALM）領域，提供 GitLab、Asana、TestRail、SonarQube、JFrog、Polarion 等多項國際級 SaaS 產品的正版授權銷售與導入顧問服務。


作為 GitLab 在台灣的合作夥伴，戴博斯科技擁有通過 GitLab Certified Git Associate 原廠認證的專業顧問團隊，專精 Git Flow 與代碼審查，能協助企業建立標準化版控流程。服務涵蓋產品評估、EE 試用授權申請、安裝導入、CE 升級 EE 規劃、版本升級支援、教育訓練與後續伺服器維運，並提供在地化中文技術支援，確保企業順利落地 GitLab DevSecOps 解決方案。  


若您的組織正在評估本文介紹的 GitLab Duo Self-Hosted 與機密 AI 架構，或有任何 GitLab 導入、升級需求，歡迎與戴博斯科技聯絡。











參考資料：

留言

bottom of page