中小企業如何用AI代理分級授權掌控責任風險

週二下午的會議室裡,老闆問:「這筆客戶折扣是誰核准的?」業務說不是他,客服說是系統自己跳出來的,IT說那是AI代理自動執行的。六個人面面相覷,沒人能回答「誰負責」。這正是多數中小企業導入AI代理時真正卡住的地方,不是工具不好用,而是AI代理的授權與責任沒有先設計好,老闆自然不敢放手。

一位企業主管在會議室中面對AI代理自動執行的流程圖,思考授權與責任歸屬的問題
▲ AI代理能自己動手做事,但授權邊界與問責設計必須由人先畫清楚。

AI代理是什麼?從「問答」走向「代辦」的關鍵轉變

生成式AI只給草稿,代理式AI會自己動手

生成式AI像一位坐在旁邊的助理,你問它答,草稿交到你手上,最後按下送出的人是你。代理式AI(Agentic AI)則像一位被授權的員工,它會自己查資料、呼叫工具、寄信、下單、改設定,過程中好幾步不需要你點頭。

差別不只在效率,而在決策權跑到哪裡去了。當決定權從人手上移動到系統裡,責任的座標也跟著移動。

AI代理在中小企業最常被派去做的五件事

  • 客服回覆與退換貨初判
  • 會議紀錄與待辦事項整理
  • 報價單、合約與信件草稿產出
  • 客戶資料比對與標籤更新
  • 帳務對帳與異常清單彙整

為什麼「能做事」反而讓老闆更不敢用

草稿寫錯,重寫一次就好。代理做錯,可能已經寄給客戶、已經扣了款、已經改掉客戶等級。這種「不可逆」的特性,讓老闆在授權時格外猶豫。根據微軟《Work Trend Index》(2024),已有75%的知識工作者在工作中使用AI,但企業規範的制定速度明顯落後。

比較項目 生成式AI(Copilot模式) 代理式AI(Agentic AI) 對老闆的意義
決策權歸屬 人做最後決定後才產出 代理可自行判斷並執行 簽核鏈要掛在誰身上
工具呼叫能力 多半只輸出文字與草稿 可呼叫API、寄信、下單、改資料 出錯會直接動到真實資料
行動範圍 一次一個對話框 跨系統完成多步驟任務 需要範圍與次數的邊界
出錯影響半徑 一份文件重做即可 可能已對外發送、已扣款 可逆性必須先想清楚
責任清楚度 人按下採用,責任明確 自動執行,責任容易蒸發 必須事先指定問責官
導入門檻 低,員工練功即可 高,需權限與日誌配套 中小企業適合漸進式導入

想知道更多企業在AI管理上的共通難題,可延伸閱讀中小企業AI管理痛點的整理,先釐清自己卡在哪一關。

老闆怕的不是AI,是出事時責任憑空消失

責任缺口:當員工說「是系統決定的」

哲學家Andreas Matthias在《Ethics and Information Technology》(2004)提出「責任缺口」概念:學習型自動化系統的行為無法被完全預測,傳統「行為、意圖、責任」的歸責鏈會斷裂。代理自行決定退款、寄出報價、修改客戶資料時,員工說「是系統決定的」,供應商說「是你設定的參數」,責任就在組織內部蒸發。

自動化偏誤:覆核三秒按下同意,等於沒人看

Parasuraman與Riley在《Human Factors》(1997)指出,人對自動化系統會出現誤用與濫用行為。當系統多數時候正確,人會逐漸降低警覺。企業若把覆核設計成按鈕式簽核,覆核者平均幾秒就按下同意,反而製造「已經有人看過」的虛假安全感。

影子AI:老闆往往是最後一個知道的人

微軟《Work Trend Index》(2024)顯示,78%在工作中使用AI的員工,會自行帶入未經公司核准的工具。員工用個人帳號處理客戶名單與報價,公司既無稽核軌跡,也無從得知資料流向。思科《AI Readiness Index》(2024)也指出,僅約14%的組織在治理與人才等面向具備完整AI就緒度。

風險類型 典型情境 可能後果 初步對策
責任缺口 代理自行退款,員工說「是系統決定的」 客戶求償時找不到負責人 每條流程指定具名問責官
自動化偏誤 覆核者三秒按下同意 監督形同虛設,錯誤無人察覺 要求寫判斷理由並隨機抽樣
權限過度授予 給代理財務與客戶資料完整存取權 提示注入導致大範圍損害 最小權限,限額限時限範圍
影子AI 員工用個人帳號處理客戶名單 無稽核軌跡,資料流向不明 工具白名單與使用規範

傳統做法
老闆:「這筆客戶等級是誰改的?」
員工:「是系統自己改的,我只有看到通知按了同意。」
老闆:「那到底是誰設定的?」
全場沉默。

新做法
老闆:「這筆客戶等級是誰改的?」
員工:「日誌顯示是週二14:23由我覆核通過,這條流程的問責官是我。我先聯絡客戶補救,下午提出授權層級檢討。」

員工使用AI工具處理工作,繞過主管審核流程的示意情境
▲ 員工跑在制度前面時,主管往往是最後才知道的人。

當員工習慣先問AI再問主管,管理容易被架空。相關情境與因應方式可參考員工問AI不問主管一文。

AI代理出錯誰負責?台灣法制與國際規範的責任歸屬

民法第188條與公司法第23條:責任回到人與公司身上

台灣法制下,AI不具法人格,責任回到自然人與法人。員工執行職務不法侵害他人權利,依民法第188條,僱用人須與行為人連帶負賠償責任。公司負責人若未盡善良管理人注意義務,也可能依公司法第23條負責。

從授權範圍、覆核紀錄與教育訓練看歸責關鍵

實務上判斷責任落點,會看三件事:授權範圍是否明確、有無覆核紀錄、是否完成教育訓練。這三項都不是事後補得出來的東西,必須在制度設計階段就留下。

歐盟AI Act與人工智慧基本法草案的分級監督方向

歐盟AI Act已於2024年8月1日生效,要求高風險AI系統具備有效的人為監督機制,並分階段於2025至2027年適用。行政院則於2025年8月28日通過「人工智慧基本法」草案,明定風險分級管理、問責與人為監督原則。金管會(2024)發布的金融業運用AI指引,同樣要求建立治理架構與人為監督。方向一致:不是禁止,而是要求分級與留痕。

情境 可能責任人 法源依據 需要事先留存的證據
員工擅自使用未核准代理 員工與公司(僱用人連帶) 民法第188條 工具白名單、教育訓練紀錄、宣導簽收
代理依授權自動執行造成損害 公司與該流程問責官 公司法第23條、民法第188條 授權矩陣、參數設定紀錄、稽核日誌
覆核者未實質審查 覆核者與其直屬主管 民法第188條、公司內規 覆核時間、判斷理由、抽樣紀錄
負責人未盡監督義務 公司負責人 公司法第23條 制度文件、問責官名冊、複審紀錄

調查與留痕的做法,和處理員工申訴案件的邏輯相通,可參考依法調查與留痕的實務流程,把紀錄習慣一次建立起來。

導入第一步:用三軸風險分級盤點你的任務

可逆性、影響範圍、法遵敏感度三軸怎麼打分

可逆性看的是「能不能回復」。影響範圍看的是「單一客戶還是全體」。法遵敏感度看的是「是否涉及個資、財務、醫療、契約」。每一軸給1到3分,分數越高代表風險越大。

綠燈、黃燈、紅燈的判定規則與例外處理

總分3到4分列為綠燈,可走低度授權。5到6分為黃燈,需人工覆核後才執行。7到9分為紅燈,原則上不交給代理自動執行,或僅限唯讀建議。任一軸出現3分時,即使總分不高,也建議直接升級為黃燈以上。

一張A4表格就能完成的盤點實作

不需要大型系統,把公司現有流程列出來,逐條打分即可。重點是每一條代理流程後面,都要寫上一個人的名字。

任務範例 可逆性(1-3分) 影響範圍(1-3分) 法遵敏感度(1-3分) 總分與燈號
客服回覆草稿 1 1 1 3分,綠燈
會議紀錄整理 1 1 1 3分,綠燈
報價單產出 1 2 2 5分,黃燈
退款執行 2 2 3 7分,紅燈
客戶資料修改 2 3 3 8分,紅燈
帳務對帳 1 3 3 7分,紅燈

四級授權矩陣:決定AI代理能放手到什麼程度

L0唯讀建議、L1草稿待核、L2限額自動執行、L3全自動

四級授權矩陣的功能,是把風險分級翻譯成「代理可以做什麼、人要負責什麼」。預設從L0與L1起步,只有低風險、高可逆的任務才考慮L3。

授權層級 名稱 代理可以做什麼 人的角色 適用任務範例
L0 唯讀建議 只讀資料並提出建議 全權決定與執行 法規查詢、資料彙整
L1 草稿待核 產出草稿與建議版本 修改後才送出 報價單、客服回覆、信件
L2 限額自動執行 在金額、筆數、範圍內自動完成 事後抽查與異常處理 小額退款、庫存調整
L3 全自動 不需人工介入即可完成 監控指標與定期複審 內部提醒、資料同步

限額、限時、限範圍的三限設計原則

給寫入權限時,一律套用三限:單筆上限、每日累計上限、可操作對象範圍。權限與金鑰分開管理,並保留隨時撤銷的機制。權限給得越精準,出事時的影響半徑就越小。

流程 單筆上限 每日上限 可操作範圍 超限處理
退款 5,000元 20,000元 指定帳戶與原交易 退回人工覆核
折扣核准 5% 當日累計10筆 一般客戶,不含專案價 升級業務主管
報價寄送 30萬元 50萬元 標準品項清單 轉L1草稿待核
庫存調整 20件 100件 單一倉別 通知倉管主管
客戶標籤變更 不適用 50筆 非敏感標籤 需二次確認

超限退回與升級人工的觸發條件

常見觸發條件包括金額超限、同日筆數異常、對象屬於敏感客戶、指令內容與原授權目的不符。代理遇到這四種情況時,應自動停止並轉為草稿,交由人處理,而不是自行判斷後繼續執行。

傳統做法
業務主管:「客戶很急,直接讓AI發報價就好,出事我扛。」
老闆:「你扛?上個月是誰扛的?」

新做法
老闆:「報價屬黃燈任務,走L1草稿待核。AI先產出草稿,你改完再送出,速度一樣快,而且紀錄上寫得出來是誰核准的。」

企業流程稽核與AI代理授權層級檢視的作業情境
▲ 授權層級要跟著任務風險走,並隨流程調整。

誰來當那個人?人類問責官與雙人覆核設計

每一條代理流程都要有一個具名的問責官

問責官不是掛名,而是要在日誌上看得到名字的人。他的工作是設定邊界、審視紀錄、處理異常,並在出錯時站得出來說明處理過程。

為什麼覆核者不能是設定該代理的同一個人

自己設計規則、自己按下同意,等於球員兼裁判。高風險流程採雙人覆核,且設定者與覆核者必須分離,才能形成真正的制衡。

有意義的人為控制:看得懂、也停得下來

學者Santoni de Sio與van den Hoven在《Frontiers in Robotics and AI》(2018)提出,人為控制須滿足兩個條件:人能理解系統運作邏輯與當下情境,且具備實際干預的能力與權限。若覆核者看不懂推理、也沒有權限喊停,這種監督只是形式。

職責項目 具體動作 執行頻率 產出文件
權限設定審核 確認代理權限符合授權層級 異動時 權限異動紀錄
日誌抽查 抽樣檢視代理執行紀錄 每週 抽查報告
異常事件處理 接獲告警後判斷與補救 發生時 事件處理單
授權層級複審 依風險變化調整層級 每季 授權複審表
教育訓練 對使用者說明規範與案例 每半年 訓練簽到與測驗

人力有限時,該先補人還是先立制度,是中小企業常見的兩難。相關思考可參考先補人還是先立制度。

留下證據:可觀測性、稽核軌跡與緊急停止鍵

代理日誌該記錄哪些欄位才算完整

一份能扛責任的日誌,要能回答三個問題:誰下的指令、代理動了什麼、誰按下同意。缺少任何一項,事後就只能靠記憶與人情來釐清。

不可竄改與異地備份的實務做法

日誌寫入後不應可被前端修改,並採異地備份。對於中小企業,最簡單的做法是設定自動匯出到獨立儲存空間,並由問責官每週確認寫入是否正常。

異常告警門檻與一鍵停止的設計

告警門檻可設在金額超限、筆數異常、非授權時段執行、連續失敗等情況。同時必須有一鍵停止的開關,且該開關要由問責官而非設定者掌握。

欄位名稱 內容說明 保存要求 用途
輸入指令 使用者或系統下的原始指令 至少保存一年 還原當時意圖
檢索來源 代理引用的資料來源 與日誌同步保存 判斷資訊是否正確
工具呼叫 呼叫了哪些系統與功能 不可竄改 釐清動了什麼
參數 金額、筆數、對象等設定值 不可竄改 檢查是否超限
輸出結果 實際產出或執行的內容 不可竄改 作為損害認定依據
覆核者 按下核准的人員帳號 至少保存一年 責任歸屬
時間戳 精確到秒的執行時間 異地備份 時序重建
異常旗標 系統標記的異常事件 永久保存 趨勢分析與改善
主管審閱AI產出報告與稽核紀錄的工作場景
▲ 覆核必須留下判斷痕跡,才不會變成橡皮圖章。

把作業留痕變成日常習慣,和補上工作斷層的邏輯相同,可延伸閱讀SOP與作業留痕的建立方式。

沙盒試點與紅隊測試:先在最安全的地方出錯

隔離環境試點的三個階段與通過標準

先在與正式系統隔離的沙盒環境跑試點,使用測試資料而非真實個資。通過後才進入單一流程、單一部門的小範圍上線,最後才是正式導入。

用已知錯誤案例測試覆核者真的抓得到嗎

紅隊測試的做法,是刻意在流程中注入已知錯誤與誘導指令,觀察覆核者是否攔截。若攔截率偏低,代表覆核設計需要調整,而不是責怪個人。

每月檢視、每季重新授權的複審節奏

代理的行為會隨模型更新與流程調整而改變,授權不能設定一次就永久有效。每月看日誌與異常率,每季重新檢視授權層級,是維持制度有效的最低節奏。

階段 工作項目 通過標準 負責人
沙盒建置 建立隔離環境與測試資料 不連通正式系統與真實個資 IT主管
紅隊測試 注入已知錯誤與誘導指令 覆核者攔截率達九成以上 問責官
小範圍上線 單一流程、單一部門試行 兩週內無重大異常 流程問責官
正式上線 全面導入並納入複審週期 指標穩定且日誌完整 營運主管

規則式自動化、生成式AI、代理式AI怎麼選?

三種方法在可預測性與責任清楚度的差異

規則式自動化的行為最可預測,出錯時容易定位到哪一條規則。生成式AI輔助彈性較高,但人必須留在決策點上。代理式AI的生產力槓桿最大,行為不確定性也最高,責任設計最複雜。

什麼流程該用RPA、什麼該用Copilot、什麼才輪到代理

情境固定、資料結構化的流程,用規則式自動化最划算。需要理解語意、產出草稿的任務,用生成式AI輔助。只有跨系統、多步驟、需要判斷的端到端流程,才值得導入代理,並且要搭配限額授權與可觀測性。

混合配置:同一條流程也可以分層使用

同一條客服流程裡,規則式自動化可以負責分派與標記,生成式AI負責起草回覆,代理只在低風險的退換貨初判上有限度自動執行。分層配置能同時拿到效率與可控性。

方法 行為可預測性 責任清楚度 適用流程類型 主要限制
規則式自動化 高 高 結構化、情境固定 例外狀況需人工處理
生成式AI輔助 中 中高 草稿、整理、摘要 效率提升有限
代理式AI 低 需事先設計 跨系統端到端流程 權限與監控成本高
評估面向 規則式自動化 生成式AI輔助 代理式AI
導入門檻(星數越多越容易) ★★★ ★★ ★
效率槓桿 ★ ★★ ★★★
風險可控度 ★★★ ★★ ★
內控成本(星數越多成本越低) ★★★ ★★ ★
員工接受度 ★★ ★★★ ★★

員工使用規範:防堵影子AI的紅線與白名單

哪些工具可以用、哪些資料絕對不能進

採白名單制:只有經過核准的工具可以使用,其餘一律視為未授權。資料則採負面表列,客戶個資、財務資料、合約全文、未公開的營運數字,明確禁止輸入任何未經核准的AI服務。

個人帳號與公司帳號的界線怎麼劃

公司資料一律只能進入公司配發的帳號,個人帳號不得處理任何業務資料。若員工需要更快的工作方式,公司應該提供替代方案,而不是只說不行。

教育訓練、違規處理與通報管道

教育訓練每半年一次,搭配實際案例說明後果。違規處理要有明確層級,從提醒、書面警告到權限停用。同時建立通報管道,讓員工在發現自己誤用時能主動回報,降低損害。

行為類型 綠燈(可自主) 黃燈(需申請) 紅燈(禁止)
工具選用 公司白名單內工具 白名單外的新工具試用 未經核准的個人帳號工具
資料輸入 公開資訊與內部非敏感資料 去識別化後的營運資料 客戶個資、財務、合約全文
對外發送 內部通知與提醒 客戶信件草稿待核 代理直接對外承諾價格或條款
帳號使用 公司配發帳號 跨部門共用帳號需登記 個人帳號處理公司資料
權限申請 唯讀權限 限額寫入權限 完整讀寫與金鑰權限

傳統做法
員工:「我用自己帳號比較快,公司又沒規定。」
主管:「那你把名單貼上去了嗎?」
員工:「⋯⋯」

新做法
主管:「公司AI使用規範採白名單制,客戶名單只能進公司帳號的核准工具。我幫你開權限,十分鐘就好,之後就不用偷偷來。」

員工使用未經核可的AI工具處理公司資料所產生的影子AI風險
▲ 白名單與通報管道並行,才能把影子AI拉回制度內。

規範要能執行,前提是主管願意管。若組織長期存在不敢管的文化,可先參考主管不敢管員工的管理重建。

中小企業30/60/90天導入行動計畫

第1個月:盤點任務、完成三軸分級

把現有流程列出,逐條打三軸分數,標示燈號與負責人。這個月的產出是一份能看懂、能用的任務分級清單。

第2個月:指定問責官、啟動沙盒試點

針對黃燈與紅燈任務指定具名問責官,並在隔離環境啟動試點與紅隊測試,確認覆核者真的抓得到錯誤。

第3個月:制度上線、建立複審節奏

公布授權矩陣與使用規範,正式上線並納入每月檢視、每季重新授權的節奏。制度上線不是終點,而是維運的起點。

階段 重點任務 產出文件 檢核指標
第1個月(1-30天) 盤點任務並完成三軸分級 任務分級清單 高風險任務全數標示
第2個月(31-60天) 指定問責官並啟動沙盒試點 問責官名冊與試點報告 紅隊測試攔截率達標
第3個月(61-90天) 制度上線,建立複審節奏 授權矩陣與使用規範 日誌完整率與異常處理時效
第4個月起 每月檢視、每季重新授權 月報與複審表 異常率下降、覆核品質提升

制度要落地,往往牽動組織與流程的調整,可搭配組織再造與制度調整的觀點一起規劃。

常見問題FAQ:AI代理授權責任實務五問

法律責任、風險分級、權限設定

Q1:AI代理出錯,法律上到底誰要負責?中小企業的責任歸屬怎麼看?
台灣法制下AI不具法人格,責任回到自然人與法人。員工執行職務不法侵害他人權利,依民法第188條,僱用人須連帶負賠償責任。公司負責人若未盡善良管理人注意義務,也可能依公司法第23條負責。實務判斷會看授權範圍是否明確、有無覆核紀錄與教育訓練,制度留痕就是最實際的自保。

Q2:中小企業沒有法遵人力,AI代理的風險分級該怎麼做?
用三軸簡化就夠。可逆性看能否回復,影響範圍看是單一客戶還是全體,法遵敏感度看是否涉及個資、財務、醫療與契約。三軸都低就放行,任一項高就必須人工覆核。一張A4表格即可完成,重點是每一條代理流程都有具名的人負責。

軸向 低風險(1分) 中風險(2分) 高風險(3分)
可逆性 可即時回復 需人工補救 難以回復
影響範圍 單一內部文件 單一客戶或少數人 全體客戶或跨部門
法遵敏感度 不涉敏感資料 一般營運資料 個資、財務、醫療、契約

Q3:要給AI代理多少授權權限才安全?
採最小權限原則,預設唯讀,需要寫入時用限額、限時、限範圍三限設計。例如退款代理單筆上限5,000元,每日上限2萬元,只能操作特定帳戶。金鑰與權限分開管理,並保留隨時可撤銷的機制。權限給得越精準,出事時的影響半徑就越小。

人為覆核、稽核留痕

Q4:AI代理的人為覆核常常變成橡皮圖章,怎麼辦?
這是自動化偏誤的典型症狀。做法是把覆核設計成必須做判斷,而非按同意:隨機抽樣、要求覆核者寫下理由、定期注入已知錯誤的測試案例,檢查覆核者是否真的抓到。同時記錄覆核時間,若平均低於數秒,代表監督已形式化,需要重新設計流程。

Q5:AI出錯時怎麼留下可追溯的紀錄?稽核軌跡要記哪些欄位?
每一步都留痕:輸入指令、檢索來源、工具呼叫、參數、輸出結果、覆核者、時間戳與異常旗標。日誌需異地備份且不可竄改,並設定異常告警與一鍵停止。這不只是資安要求,也是未來舉證與責任釐清的關鍵,可參考NIST AI風險管理框架的量測與管理功能。

常見誤解 實務正解 依據
AI沒有法人格,所以沒人需要負責 責任回到員工與公司,僱用人可能連帶負責 民法第188條、公司法第23條
給滿權限才跑得動 採最小權限,預設唯讀,寫入用限額限時限範圍 OWASP(2025)、NIST(2024)
有按同意就算有人監督 需看得懂、停得下、寫得出理由才算實質覆核 Santoni de Sio與van den Hoven(2018)

本品牌觀點:制度先於工具,老闆才敢放手

從企業建構角度看AI代理治理

在PersonaGruppe(薈豐頤和)的顧問實務裡,AI代理治理很少是單純的資安專案。它更接近組織設計問題:誰有權、誰負責、誰檢查、出錯時怎麼補救。這些問題在沒有AI的年代就存在,只是代理把它們放大。

授權矩陣其實就是職責分工的延伸

四級授權矩陣本質上是一份寫給AI看的職務說明書。它定義了這個「數位員工」可以做什麼、不能做什麼、超出範圍時該找誰。和職能模型、權限清單、考核機制放在一起看,邏輯完全一致。

把代理當數位員工來管

數位員工也需要到職說明、權限清單、考核與退場機制。當企業用管理人的方式管理代理,制度自然會長出來,老闆也才敢真正放手。

企業建構面向 AI代理治理對應做法 可引用方法論
組織架構 設置問責官與治理委員會 EAS九大循環
流程制度 建立授權矩陣與三限設計 3-6-9×18項體質診斷
職能分工 覆核者與設定者分離 人資九大循環
績效管理 將覆核品質納入考核指標 531策略地圖

任何制度推動都會遇到阻力,溝通方式可參考制度推動遇到反對勢力的溝通,先處理人,再處理工具。

結語:敢放手,是因為你知道誰在看著

AI代理不是不能放,是要分級放。從今天就能做的第一張表,是把公司現有流程列出來,逐條打上可逆性、影響範圍與法遵敏感度三軸分數,並在每一列後面寫上一個人的名字。當責任有座標,授權才有底氣。

延伸閱讀

返回頂端