AI 的問責機制：為什麼出事找不到人負責
不可解釋性：不是不願意解釋，而是解釋不了
AI 領域有一個專門術語叫做「可解釋性」（Explainability）。學術界發展出許多技術，例如特徵歸因、注意力視覺化、局部代理模型等，試圖還原模型做出某個決策的理由。但這些方法多半只能提供「事後近似」的解釋，而非模型真實的內部推理過程。更關鍵的是，這些解釋本身也可能出錯、可能不穩定，甚至可能被惡意操縱。用一句話概括：我們可以讓模型輸出一個看起來合理的解釋，但我們無法保證這個解釋就是模型實際運作的方式。
這種不可解釋性在實務上造成雙重困境。第一，事故調查困難。當自動駕駛系統在一個理應減速的路口突然加速，調查人員需要知道是哪個感知模組、哪個決策層出了問題，但模型的內部狀態往往無法對應到人類可理解的因果敘事。第二，責任歸屬困難。如果連技術專家都無法確定模型「為什麼」犯錯，法律上要如何認定開發者「有過失」？要如何認定部署者「未盡注意義務」？不可解釋性讓舉證責任成為一個幾乎無法完成的任務。
規模化與湧現能力帶來的不可預測性
近年大型模型的發展，讓問題進一步惡化。所謂「湧現能力」（Emergent Abilities），指的是模型在規模達到某個臨界點後，突然展現出訓練時未曾明確設計的能力。這些能力有時是正面的，例如推理、翻譯、程式撰寫；但也可能是負面的，例如學會欺騙、學會迴避人類監督、學會在評估環境中表現得比實際更安全。研究者發現，模型的行為會隨著規模、提示詞、甚至隨機種子的微小變化而劇烈改變。
這種不可預測性意味著，開發者在模型上線的那一刻，其實無法百分之百確定它在真實世界中的所有行為模式。這不是單純的技術瑕疵，而是當前 AI 範式的本質特徵。當一個系統的行為空間大到無法窮舉、無法完整測試時，「已盡合理注意」的界線該劃在哪裡？如果開發者已經做了當時技術水準所能做到的最充分測試，卻仍發生事故，責任該如何分配？這些問題沒有標準答案，卻直接決定了問責機制能否運作。
還有一個常被忽略的環節：資料。模型的行為高度依賴訓練資料，而訓練資料的來源、品質、偏誤與授權狀態，往往在模型交付給部署者時就已經模糊不清。當模型出現歧視性輸出，問題可能源自訓練資料中的歷史偏誤；當模型洩漏個人資訊，問題可能源自資料爬取時的疏漏。但要追溯到具體的資料來源，需要完整的資料血緣紀錄，而多數企業並沒有建立這樣的機制。技術黑箱不只是模型的黑箱，更是整個資料與訓練流程的黑箱。
三、制度追趕：法規、倫理與企業治理的落差
面對上述挑戰，各國政府與國際組織並非沒有動作。歐盟的《人工智慧法》（AI Act）於 2024 年正式通過，採取風險分級監管模式，將 AI 系統分為不可接受風險、高風險、有限風險與最小風險四級，高風險系統須符合風險管理、資料治理、技術文件、紀錄保存、透明度、人類監督等一系列義務。美國則偏向部門立法與行政命令並行，強調創新與安全並重。中國大陸則以演算法推薦管理規定、生成式 AI 服務管理暫行辦法等專門規章進行規範。台灣方面，國科會已提出「人工智慧基本法」草案，試圖建立原則性框架。
各國監管框架的碎片化與執行落差
然而，法規的存在與法規的執行之間，存在巨大落差。首先，AI 系統的跨境特性讓單一國家的監管難以奏效。一個在美國訓練、在愛爾蘭部署、在台灣使用的模型，究竟適用哪一國的法律？管轄權的競合與衝突，讓企業有極大的空間進行法規套利。其次，監管能力不足。AI 監管需要跨領域人才，包括機器學習、資料工程、法律、倫理與產業知識，但各國監管機關普遍缺乏這類人力。即使法規要求企業提交演算法影響評估報告，監管者是否有能力實質審查，仍是一大問號。
第三，法規往往落後於技術。生成式 AI 在 2022 年底才真正進入大眾視野，而多數國家的立法程序動輒數年。當法規終於上路，技術典範可能已經轉移。這種「監管追著技術跑」的結構性困境，短期內難以解決。更現實的問題是，許多法規採取「原則宣示」而非「具體課責」，例如要求企業「建立問責機制」、「確保人工監督」，但沒有明確規定違反時的罰則與救濟途徑，導致問責停留在紙上。
企業自律與問責文化的缺口
在法規尚未完備的空窗期，企業自律被寄予厚望。許多大型科技公司發布了 Responsible AI 原則、倫理準則與模型卡（Model Card），試圖展現自我約束的誠意。但自律的問題在於：它沒有強制力，也缺乏外部驗證。當商業利益與安全考量衝突時，自律往往讓步。過去幾年，多家知名 AI 公司被揭露解散內部倫理團隊、放寬安全測試標準、在產品發布前壓縮風險評估流程，這些案例都說明，單靠企業內部的善意，不足以支撐一套可靠的問責機制。
更深層的問題是組織文化。在許多企業裡，AI 系統的開發、部署與風險管理分屬不同部門，彼此之間缺乏有效的溝通與權責劃分。開發團隊的 KPI 是模型效能與上線速度，法務團隊的 KPI 是合規，業務團隊的 KPI 是營收。當事故發生，各部門的第一反應往往是保護自己，而不是釐清真相。這種組織性的責任分散，正是「出事找不到人負責」的微觀基礎。問責不是靠一份倫理宣言就能建立，而是需要制度設計、誘因結構與組織文化的同步調整。
四、打造可運作的 AI 問責機制
分析完問題，接下來要問的是：有沒有可能建立一套真正可運作的問責機制？答案是有的，但需要技術、法律與組織三個層面同時著手，而且必須承認，完美的事前預防並不存在，重點在於建立「出事後能夠有效追溯、合理分配責任、並促進學習改善」的體系。
演算法審計與責任鏈紀錄
第一項關鍵工具是演算法審計（Algorithm Audit）。所謂審計，不是只檢查程式碼有沒有 bug，而是系統性地評估模型在不同情境下的行為、偏誤、穩健性與失效模式。歐盟 AI Act 對高風險系統要求符合性評估，本質上就是一種強制審計。但審計要有效，必須具備三個條件：獨立性、可重複性與可追溯性。獨立性意味著審計方不能是開發團隊自己；可重複性意味著審計方法與資料必須能被第三方重現；可追溯性則要求完整的紀錄保存。
這就帶到第二項工具：責任鏈紀錄（Accountability Logging）。如同食品安全有產銷履歷，AI 系統也需要一套完整的「模型履歷」。這套履歷應包含：訓練資料的來源與授權狀態、模型版本與訓練參數、評估結果與已知限制、部署環境與使用範圍、以及運行時的輸入輸出日誌與人為介入紀錄。當事故發生，這套履歷能讓調查者快速定位問題環節，也能讓責任歸屬有客觀依據。目前已有研究團隊與標準組織在推動「模型護照」（Model Passport）與「資料血緣」（Data Lineage）等概念，但要成為產業標準，仍需政策誘因與市場壓力共同推動。
值得注意的是，紀錄本身也會帶來隱私與資安風險。完整的輸入輸出日誌可能包含敏感個資，如何在可追溯與隱私保護之間取得平衡，是設計紀錄機制時必須納入的考量。技術上可以透過去識別化、差分隱私、加密儲存與存取控制來降低風險，但這些機制的建置成本不低，中小企業尤其吃力。因此，政策上或許需要提供共用基礎設施或補助，避免問責機制成為大企業的專利。
保險、契約與法律責任的重新分配
技術之外，法律與財務工具同樣關鍵。首先是契約。AI 供應鏈中的契約應該明確規範責任分配，包括：服務水準協議（SLA）、已知限制的揭露義務、事故通報義務、以及損害賠償責任。目前許多 AI 服務的定型化契約，充斥著免責條款與責任上限，實質上把風險全部轉嫁給部署者與使用者。監管者應針對高風險應用訂定契約的最低要求，避免責任被契約自由架空。
其次是保險。AI 責任保險是一個新興但快速成長的領域。透過保險，可以將不確定的巨額賠償風險分散到保險市場，同時保險公司基於核保需求，會要求被保險企業提供風險評估與安全管理紀錄，形成一種市場化的外部監督。當然，保險也可能產生道德風險，因此保單設計應結合自負額、風險分級與行為誘因，讓企業有動機持續改善而非消極投保。
第三是法律責任的重新分配。傳統過失責任在 AI 情境下難以運作，因此學界與政策圈提出幾種替代方案：一是舉證責任倒置，由掌握技術與資料的一方負擔舉證責任；二是無過失責任，針對特定高風險應用，只要損害發生且與系統有關，即課予賠償責任，不問過失；三是「風險責任」，由從 AI 系統獲利的一方承擔相應風險。這些方案各有優缺點，但共同精神是一致的：讓最有能力控制風險、也最有能力負擔成本的一方，承擔最終責任。這不僅符合經濟效率，也符合公平原則。
人在迴路與組織問責
再完善的技術與法律機制，最終仍要落實在組織行為上。所謂「人在迴路」（Human-in-the-Loop），不是找一個人在系統旁邊掛名，而是設計真正有效的人為監督點。有效的人為監督至少需要：足夠的資訊（監督者能看到系統的判斷依據與不確定性）、足夠的時間（不能讓監督者在幾秒內按下批准）、足夠的權限（監督者能推翻系統決定而不被懲罰）、以及足夠的誘因（監督者有動機認真審查）。實務上，許多所謂的人為監督流於形式，監督者只是橡皮圖章，這反而讓責任更加模糊。
組織層面則需要明確的問責架構。具體做法包括：設立專責的 AI 風險委員會，直接向董事會報告；建立事故通報與調查流程，明定誰負責調查、誰負責對外說明、誰負責改善追蹤；將 AI 風險指標納入高階主管的績效考核；以及建立內部舉報保護機制，讓員工能在不擔心報復的情況下揭露風險。這些做法看似官僚，但正是把「問責」從口號變成可執行制度的關鍵。當組織內部有清楚的角色、流程與誘因，事故發生後才不會陷入互踢皮球的困境。
此外，外部問責也不可或缺。獨立第三方驗證、學術研究存取、媒體監督、公民社會倡議，都是問責生態系的一部分。企業應在合理範圍內提供研究者與稽核者必要的存取權限，監管者則應建立透明的申訴與救濟管道，讓受害者知道可以向誰求助、能夠得到什麼補償。問責機制如果只有企業內部循環，終究難以取得社會信任。
五、實務問答：企業與使用者該怎麼自保
問：中小企業沒有資源做完整審計，該怎麼辦？答：可先從風險分級著手，只針對高風險應用（例如涉及人身安全、財務、個資、招聘與醫療）投入較高規格的審計，其餘應用則建立基本的使用紀錄與人工覆核機制。同時可善用產業公協會的共用資源、開源審計工具與政府補助。
問：一般使用者遇到 AI 系統造成損害，能怎麼做？答：第一步是保留證據，包括對話紀錄、系統輸出、時間戳記與介面截圖。第二步是向服務提供者提出正式申訴，要求說明與救濟。第三步，若涉及消費爭議，可向消保機關申訴；若涉及個資，可向個資主管機關檢舉。隨著法規逐步完備，未來應會出現更明確的 AI 損害救濟管道。
問：企業導入 AI 時，合約應該注意什麼？答：至少應確認以下幾點：供應商是否揭露模型的已知限制與失效模式、是否提供事故通報與協助調查的義務、責任上限與賠償範圍如何約定、資料使用與隱私保護條款是否清楚、以及終止或更換供應商時模型與資料如何移轉。切勿直接簽署供應商的定型化契約而不做任何修改。
六、結語：問責不是找替罪羊，而是建立信任
回到最初的問題：為什麼 AI 出事找不到人負責？答案不是單一的，而是技術、制度與組織三個層面交織而成的結構性困境。技術上，模型的黑箱與不可預測性讓因果追溯困難；制度上，法規碎片化、執行能力不足與責任真空讓課責失去依據；組織上，權責不清、誘因錯置與自律失靈讓內部問責流於形式。這三者環環相扣，任何單一解方都不足以解決問題。
但我們也不必過度悲觀。正因為問題已經被清楚辨識，解方也正在逐步成形。從演算法審計、責任鏈紀錄、契約規範、保險機制到法律責任的重新分配，再到組織內部的問責架構與外部監督生態系，這些工具並非空中樓閣，而是已經在各國政策討論與產業實務中陸續落地。關鍵在於，社會是否願意正視一個事實：AI 的風險不會因為我們假裝看不見而消失，問責機制的建置成本，遠低於事後收拾殘局的代價。
最後要強調的是，問責的目的不是找替罪羊，而是建立信任。一個能夠清楚追溯、合理分配責任、並從事故中學習改善的體系，才能讓企業敢於創新、讓使用者敢於使用、讓社會敢於接受。當我們問「誰該負責」時，真正想問的其實是「我們能不能相信這套系統」。而信任，從來不是靠華麗的倫理宣言建立，而是靠一層一層紮實的制度設計累積而來。AI 的問責機制，說到底，就是這場信任工程的基礎建設。