技術札記

AI 企業操作系統中,誰來閉環:是系統自我調整,還是具名責任人簽署?

寫給關注「AI 企業操作系統」趨勢的創辦人、企業架構師、CISO 安全團隊,以及負責企業數據治理、隱私合規與內部審計的管理者。

GembaOS 是企業 AI Agent 的治理執行平台:以政策判定權限、以綁定參數的單次放行令授權每一個動作、以可追責的簽署鏈記錄人的審批,部署於企業本地機房或私有 VPC。

這篇文章直接回應矽谷當前最具代表性的一種論調。在 2026 年夏季 Y Combinator 的創業需求(Request for Startups)中,合夥人 Diana Hu 寫道:

「我們觀察到最優秀的 AI 原生公司做成了一件多數人尚未做到的事:他們讓整家公司變得可被查詢(Queryable)。每場會議都被錄音、每張工單都被追蹤、每次客戶互動都被捕獲,全量對學習它們的智能層可讀……在閉環中,系統監控正在發生的事,比對應當發生的事,並進行自我調整(Adjusts)……我們認為這裡存在巨大機遇,去構建一個讓企業『預設對 AI 可讀(Legible to AI by default)』的連接層。」

這段著名的論述包含了四個核心動詞:記錄(Record)、監控(Monitor)、比對(Compare)與調整(Adjust)。GembaOS 贊同前三個動詞——但從架構本質上,堅定反對第四個動詞由系統自行完成。

更重要的是,Diana Hu 提出的**「整家公司預設對 AI 全量可查(Legible to AI by default)」**,是一種典型脫離企業真實內控環境的初創公司幻想。

企業現實撞擊:為何「預設對 AI 可查」是一場即時的合規災難

在一家 15 人的軟件初創團隊中,把所有 Slack 頻道、Linear 工單和會議錄音開放給內部 AI 查詢,確實能帶來極高的透明度與研發速度。但在一間全球前 2000 大的跨國銀行、醫療集團或先進製造巨頭中,這種做法在第二天就會引發災難性的監管罰單與法律訴訟。

1. 內部資料的秘密分級 vs 扁平的全局智能層

沒有任何成熟企業是一張扁平的知識庫。企業運作嚴格依賴法定與內控的資訊密級體系:公開(Public)、內部(Internal)、機密(Confidential)與嚴格受限(Strictly Restricted)。

如果整家公司的會議錄音與文檔全量餵入一個未分層的智能層,如何防範橫向越權(Lateral Privilege Escalation)?當一位初級工程師的編碼 Agent 隨口提問:「總結一下管理層下季度重組裁撤部門的方案」,缺乏隔離的模型就會毫無保留地拼湊出高管閉門會議的結論。

在 GembaOS 中,絕不存在「預設對 AI 可讀」。資訊的知悉範圍(Need-to-Know)由與業務動作相同的職權規程(Delegation of Authority)嚴密鎖定。當 Agent 越權查詢未授權密級的文檔時,治理內核權威返回 404 Not Found(絕非暴露文檔存在的 403 Forbidden),從根源杜絕探測性提問。

2. 客戶隱私法規與數據防出境天花板(Egress Ceiling)

YC 原文主張「捕獲每次客戶互動並供智能層學習」,這一設想在法規層面直接觸礁。在 GDPR、HIPAA、銀行保密法(如香港金管局監管政策手冊、日本 APPI、美國 FINRA)約束下,法律明令禁止將客戶的原始個人資料(PII)、通話錄音、銀行賬號或病歷檔案直接送往未經隔離的第三方大模型或外部向量資料庫。

多數受監管企業的核心底線是:客戶數據絕不可跨越主權邊界,更不可離開企業私有 VPC 或本地機房。

GembaOS 部署於企業本地或私有 VPC,強制推行剛性的模型數據出境天花板(Model Egress Ceiling):

理念交匯:GembaOS 贊同並已落地的三個動詞

拋開全量開放的烏托邦幻想,Diana Hu 所指出的營運閉環,正是現代企業自動化必須具備的核心能力:

YC 的構想GembaOS 的工程落實現狀所在架構位置
每場會議皆記錄,每張工單皆追蹤每個業務單元對應單一工單,以雜湊鏈記錄:記錄請求者、Agent 推理步驟、工具調用與電子簽署共享工單(Work Item)
系統全天候監控現狀每個 Prompt、工具調用、策略判定與執行事件,均記錄於只增不減的雜湊鏈上,已記錄的政策判定可按政策重新評估雜湊鏈審計記錄
…比對現狀與應有狀態獲批動作執行前最後一毫秒,治理內核重新向數據源讀取實時現狀;一旦發現漂移即判定為過期審批並熔斷執行前實時重讀
…主動發現規程缺失當 Agent 遇到未定義的邊界流程時,自動起草結構化草案並登記於風險缺口登記冊,絕不擅自猜測缺口登記冊
生成 Agent 可執行的規約晨會錄音絕不能直接變成執行指令;會議記錄 Agent 起草紀要,主持人簽署確認後,執行 Agent 僅能依據已簽署紀要推進經簽署的正式紀要
非另一個資訊儀表板營運控制台直接渲染底層狀態機時間線;審計員重放的歷史事件與營運人員眼前所見完全同一治理控制台

記錄、監控與比對的閉環至關重要。分歧在於:究竟由誰來關閉這個閉環?

第四個動詞:為何系統絕不能「自我調整權限」

在 YC 的論文中,系統自我調整(The system adjusts)。在 GembaOS 中:系統提出提案(Proposes),由真人審查調整(Adjusts),且調整本身必須是一筆載入史冊的具名簽署行為。

這並不是禁止學習。在已授予的權限之內,Agent 會把工作做得愈來愈好:讀取它有權讀的資料、起草文件、就流程與規則提出修改建議。它永遠不能做的,是改動權限本身:由誰簽批、甚麼條件下可以免簽執行、可以觸碰哪些系統。這些由人決定。

誰可以在企業內部做甚麼,絕不能靠機器學習從日常行為中推斷。它是職權規程中的嚴肅聲明:甚麼金額觸發哪一級審批、由誰簽批、執行前必須校驗哪些數據庫欄位。

AI 可以發現流程瓶頸並在缺口登記冊中提出權限優化建議。GembaOS 編譯器會打印出當前規程與建議規程之間的精確差異,並標註變更方向:放寬(Looser)(減少審批人或擴大自動放行額度)、收緊(Stricter)或變更角色可見度。

具名負責人必須審查這份差異,並在變更記錄上進行電子簽署。所有規程聲明均託管於版本控制系統中,變更審批與代碼 Diff 緊密錨定,正如一次嚴肅的軟件代碼審查(Code Review)。

這是一個閉環。但它是一個閉在具名自然人身上的閉環。

這絕非無謂的官僚謹慎。Diana Hu 舉的例子是研發團隊:Sprint 週期減半、發版速度翻倍。一年之後,沒有任何審計官或監管機構會傳喚研發團隊,盤問「當初是誰批准了這個 Sprint」。

但 GembaOS 所治理的閉環是退款、保險理賠、員工離職權限凍結、生產環境數據庫刪除、以及大額採購。在這些核心領域,每一項錯誤動作都有真金白銀的代價,事後必定會有人追究「究竟是誰批准了這項操作」。

如果系統具備自我調整權限的能力,面對審計官的質詢,企業唯一的真話只能是:「算法根據運行狀況,自動為自己調高了審批額度。」 這在任何法律與合規審計中都是直接被一票否決的死穴。自行調整權限的閉環不是企業的資產;它是審計必定會揪出的重大合規漏洞。

權限必須經代碼審查,絕不能由模型推斷。GembaOS 的提案側持續學習進化;而權限側嚴格靜態配置,修改配置本身就是一項具名的簽署動作。對規則負責的人怎樣知道規則管不管用——抽查答案、個案結束後的結果、比例變動、規則自己寫明的暫停——以及擴大改動之前怎樣先試,見〈這條規則管用嗎?〉。

GembaOS 治理閉環的哪一端

YC 論文描述了「極其殘酷的集成苦工,將 Slack、Linear、GitHub、Notion、通話錄音等十幾種工具黏合在一起」。

那是閉環的接入採集端(Ingesting end)。GembaOS 絕不參與這一層的競爭。

GembaOS 堅守的是閉環的執行動作端(Acting end):當智能層學習並推論出的結論準備轉化為對底層商業系統的實質性寫入時,該動作必須在此接受審批單、真人簽批、單次放行令與 WORM 審計日誌的嚴格檢驗。

兩端透過模型上下文協議(MCP)在兩個方向上無縫對接:

總結

GembaOS 絕不把企業的私密對話與客戶資料未經分級地倒進全局模型;那與零信任架構背道而馳。GembaOS 也絕不允許 Agent 在數據指標好看時自行擴充權力。

可被查詢的公司(Queryable Company)告訴你發生了甚麼。而閉在人名上的閉環(Signed Loop),才能告訴你是誰承擔了責任。

本文回答的問題

為何「讓整家公司預設對 AI 可查」對大企業而言是嚴重的安全隱患?

大型企業絕非單一扁平的知識庫,而是存在剛性的數據密級劃分(董事會未公開併購案、高管薪酬、吹哨人舉報信、特權法務訴訟策略)。若將所有會議錄音與對話全量餵給全局智能層,將引發災難性的橫向越權(Lateral Privilege Escalation)。GembaOS 嚴格遵循知悉範圍原則,越權查詢一律權威返回「404 Not Found」,徹底杜絕探測性提問。

GembaOS 如何防範敏感客戶資料(PII)被擅自送往公網大模型?

GembaOS 部署於企業本地機房或私有 VPC,強制實施「模型數據出境天花板(Model Egress Ceiling)」。原始客戶通話錄音、銀行賬號與醫療隱私留存於受控的本地數據層,送交模型推理的僅限於起草提案所需的脫敏結構化參數,全面符合 GDPR、香港金管局(HKMA)與金融隱私法規。

企業操作系統能否像 YC 描繪的那樣「自我調整權限(Self-adjusting)」?

在研發團隊切換兩週 Sprint 時或許可以;但在涉及真金白銀的企業營運中絕對不行。如果一個 AI Agent 在指標良好時自行調高退款或採購額度,審計員在出事後追問「誰授權了這筆寫入?」,自我調整系統只能回答「算法自己調的」——這將招致監管機構的一票否決。GembaOS 堅持權限變更必須由具名的人審查並簽署,簽署記錄在雜湊鏈上,事後任何改動都會被發現。

資料來源

截至 2026 年 9 月,GembaOS 未取得任何第三方認證;本站的控制對應表為自評,未經審計。GembaOS 處於 Design Partner 階段。 了解 Design Partner 計劃。

最後更新: · GembaOS v0.2