聊天機器人的答覆就是公司的承諾：Air Canada 判例給企業 AI 的警示

GembaOS 是企業 AI Agent 的治理執行平台：以政策判定權限、以綁定參數的單次放行令授權每一個動作、以可追責的簽署鏈記錄人的審批，部署於企業本地機房或私有 VPC。

這篇文章探討企業在部署面向公眾的 AI Agent 時最嚴峻的合規盲區：AI 在對話中給予顧客的承諾，在法律上即等同於企業自身的法定承諾，企業必須為此承擔不可撤銷的法律與財務責任。

事故現場：Moffatt v. Air Canada 判例的法律警鐘

2022 年 11 月，一名加拿大乘客因親人離世，前往加拿大航空（Air Canada）官方網站查詢並預訂撫恤票（Bereavement Fares）。為了確認退票政策，該乘客向加航官方網站的 AI 客服機器人諮詢。

AI 客服給出了極其清晰、流暢且具有安慰性的答覆：乘客可以先以原價購買機票成行，並在航班起飛後的 90 天內提交撫恤機票退款申請。基於這一明確的官方指引，乘客購買了機票。

然而，當乘客旅程結束後提交退款時，加航卻以官方靜態政策明確寫著「撫恤機票必須在起飛前申請、成行後絕不受理追溯退款」為由，拒絕退還差價。乘客隨後向卑詩省民事法庭（CRT）提起訴訟。

加拿大航空在法庭上的辯護令人震驚：加航辯稱，官方網站上的 Chatbot 是一個**「獨立的法律實體（Separate Legal Entity），應為其自身言論負責」**，顧客有義務自行去網站其他靜態條款頁面查證真實政策。

法庭毫不留情地全盤駁回了加航的抗辯：

1. Chatbot 絕非獨立實體：企業官方網站上的 AI 客服是企業對外代表的直接延伸，不具備任何獨立法人地位。
2. 謹慎注意義務（Duty of Care）：企業對其官方渠道傳遞給消費者的資訊負有法定審查與真實性義務。
3. 疏忽性失實陳述（Negligent Misrepresentation）：法庭裁定加航構成失實陳述，判決加航全額賠償乘客差價及訴訟費用。

雖然本案涉及的單筆金額不大，但其法律判例具有歷史性影響：在香港、英國、加拿大等所有普通法系管轄區，AI Agent 在對話中對客戶說出的承諾，就是企業向客戶做出的法定承諾。

爆炸半徑：從對話流到不可撤銷的法律責任

航班取消後的改簽豁免、延誤後的現金賠償、退換貨時效之外的例外退款、商譽補償代金券——這些是客服對話中最頻繁出現、也最容易誘發模型幻覺的情境。

大語言模型被訓練為「具備極高同理心、樂於助人且說服力強」。當未經約束的模型直接面對顧客投訴時，往往會產生虛假的承諾幻象：

企業 AI 面對顧客前的三道剛性架構防線

要徹底防範 AI 越權承諾帶來的法務與財務災難，企業架構必須落實三項防護：

1. 商業承諾是「審批動作」，絕非「對話語句」

退款、贈券、改簽豁免等商業特批，絕對不允許在對話視窗中由 AI 直接給出定論。對話 Agent 僅具備資訊收集與草擬提案的能力；一旦涉及資金或合規例外，必須自動生成結構化工單，交由具名主管完成電子簽署。

2. 官方答覆依據法定條款，杜絕自由發揮

凡涉及消費者退款權利、費用標準或免責條款的答覆，系統禁止大模型隨意改寫或承諾數字。官方答覆必須直接映射到企業已認可的政策條款庫。

3. 前後台職責嚴格分離（Separation of Duties）

負責與客戶交談的前台系統，絕不能持有調用支付網關、退款 API 或改簽系統的憑證。即使攻擊者成功進行提示詞注入，前台 Agent 也根本沒有調用底層寫入 API 的工具權限。所有資金劃轉必須由 GembaOS 治理內核在後台透過單次放行令核銷。

總結

Moffatt v. Air Canada 的教訓深刻而明晰：在 AI 時代，頁面底部的「免責聲明」救不了企業的資產與商譽。

對話模型的職責是解釋與溝通，絕非代替企業做出具有法律效力的金錢承諾。GembaOS 通過徹底剝離前台對話系統的執行權限、引入真人簽批與單次放行令機制，確保企業在享受 AI 自動化效率的同時，牢牢鎖住每一項法定承諾的邊界。

相關業務落地場景

了解 GembaOS 如何在核心業務中規範承諾與授權：

• 電商退款申請場景：退款金額上限分級與主管簽批防線。
• 航變改簽與差價收益管理：跨團隊協同與機票改簽權限管控。