AI 的風險分级：為什麼要分高風險低風險
亞洲的做法不盡相同，但精神相通。中國早在 2022 年施行的《互聯網信息服務算法推薦管理規定》中，就要求具有輿論屬性與社會動員能力的演算法服務履行備案義務；2023 年施行的《生成式人工智能服務管理暂行办法》則要求服務提供者對生成內容負責、進行安全評估與演算法備案；2023 年的《深度合成管理規定》更要求對深度合成內容進行顯著標識。這是一種「按應用場景與影響力分級分類」的思路，與歐盟按風險等級分層異曲同工。
韓國於 2025 年通過《AI 基本法》，針對「高影響力 AI」——也就是對人權、生命安全、基本權利可能造成重大影響的 AI——課予風險評估、人工監督、透明度等義務，並設立 AI 政策委員會與支援中心。日本則以「敏捷治理」為原則，偏向指引與自願性框架，並未採取硬性分級立法。新加坡的 AI Verify 與 Model AI Governance Framework 亦是自願性工具的代表。
換句話說，各國在「要不要分級」這件事上已趨於一致，差異主要在於「怎麼分、分幾級、義務有多硬」。
二、為什麼要分高風險與低風險？五個核心理由
很多人會問：為什麼不能訂一套統一的標準，要求所有 AI 都達到最高安全水準？答案既現實也務實——因為「一刀切」的監管，最終往往兩頭落空。以下五個理由，說明了分級為何是不可迴避的設計選擇。
理由一：避免一刀切監管扼殺創新
AI 的應用光譜極其寬廣。一個用來防止垃圾郵件的分類器，和一個用來決定誰能獲得社會救助的資格審核系統，所需的監督強度根本不在同一個量級。如果對前者也要求提交技術文件、建立風險管理系統、接受第三方合格評定，那麼無數中小型開發者與新創團隊將被合規成本擋在門外，市場上只剩下少數資源雄厚的大企業能夠生存。這不但壓抑競爭，也會讓技術創新的速度大幅放緩。
分級制度的價值在於：把監管的重量，放在真正需要重量的地方。低風險應用享有寬鬆的發展空間，高風險應用則承擔嚴格的安全義務。這是一種「將資源用在刀口上」的設計。
理由二：讓監管資源精準投放
監管機關的人力與預算永遠是有限的。如果每一款 AI 產品都要審查，結果必然是審查流於形式，或者排隊等到天荒地老。透過風險分級，主管機關可以將有限的稽查能量集中在醫療診斷、自駕車、信用評分、執法工具、關鍵基礎設施控制等高風險領域，真正做到「重點監管」。
以歐盟的制度為例，多數高風險 AI 的合格評定仰賴「公告機構」（Notified Bodies）執行，但並非所有高風險系統都需要第三方介入——部分系統若已依調和標準完成內部控制程序，即可自我宣告合規。這樣的設計本身就是一種監管資源的分配藝術。
理由三：保護基本權利與人身安全
AI 對基本權利的侵害，往往不是透過暴力，而是透過「看似中性」的技術決策。例如：履歷篩選模型在訓練資料中學到對特定性別或族群的偏好，導致某些求職者永遠拿不到面試機會；信用評分模型因資料偏差而系統性提高某些社區的貸款利率；人臉辨識系統在特定族裔上辨識準確率明顯偏低，卻被用在犯罪偵防上。
這些危害具有三個共同特徵：難以察覺、難以救濟、影響深遠。一旦 AI 被部署在高風險場景，而且缺乏事前評估與事後監督，受害者往往連自己被演算法「判決」了都不知道。分級制度正是為了在這些場景設置更高的門檻，包括資料治理、偏差檢測、人為覆核，以及對當事人提供說明與救濟的機制。
理由四：建立可問責的責任鏈
AI 系統的開發與部署涉及多方角色：資料提供者、模型開發者、系統整合商、部署者、終端使用者。當事故發生時，最容易出現的狀況就是「互踢皮球」。風險分級制度透過明確的義務分配，把責任鏈串起來：高風險系統的提供者必須對設計與驗證負責，部署者必須對使用情境與人為監督負責，進口商與經銷商也各有其義務。
這種「依角色分擔義務」的設計，讓責任不再模糊。對受害者而言，求償與救濟因此有了明確的對象；對企業而言，也更能預先評估自身的法律風險。
理由五：促進跨境貿易與國際互認
AI 產品與服務本質上是跨國流動的。如果各國標準歧異、互不相認，企業就得為每個市場重做一次合規，形成巨大的貿易障礙。風險分級提供了一種共同的語言：當各國對「什麼是高風險」有相近的定義，對「高風險需要哪些義務」有相互可接受的標準，就有機會簽訂相互認可協議，降低重複驗證的成本。
這也是歐盟 AI Act 效應外溢到全球的原因之一。任何想進入歐盟市場的 AI 提供者，都必須符合其分級要求，這使得歐盟標準實質上成為許多企業的全球合規基準。對企業來說，與其被動因應，不如主動把風險分級思維納入產品設計流程。
三、風險等級怎麼劃分？四大類型的實務解析
理解分級的理由之後，接著要問的是：實務上到底怎麼分？界線又在哪裡？以下以歐盟四級架構為主軸，並輔以其他地區的對照說明。
高風險 AI 的判定標準與清單
高風險的判定，通常不是看「技術先不先進」，而是看「用途與影響」。一個技術簡單的邏輯回歸模型，如果用來決定誰能拿到社會住宅，它就是高風險；一個技術複雜的大型語言模型，如果用來寫詩或推薦餐廳，它很可能只是最小風險。
歐盟附件三列出的高風險領域，可以歸納為以下幾類：
教育與職業訓練：招生錄取、學習評量、考試監考等。
就業與人力資源：招募篩選、績效評估、升遷與解雇決策。
執法：犯罪風險評估、證據可靠性評估、人臉辨識追緝等。
移民與邊境管制：簽證、庇護、邊境風險評估。
司法與民主程序：法院判決輔助、選舉與投票行為影響。
此外，若 AI 系統作為受特定產品安全法規管轄之產品的安全零組件（例如醫療器材、機械、玩具、電梯、汽車），且該產品須經第三方合格評定，則該 AI 系統亦屬高風險。這條路徑常被忽略，卻是許多硬體廠商最容易踩線的地方。
低風險 AI 為什麼仍需基本規範
低風險不等於零風險。即使是聊天機器人、內容生成工具、推薦系統，也可能帶來錯誤資訊擴散、詐騙、隱私侵害、消費誤導等問題。因此，多數制度對低風險 AI 仍保留「透明度義務」與「一般性原則」——例如必須讓使用者知道自己在與 AI 互動、生成內容必須標示、不得用於詐欺或操縱。
歐盟的「有限風險」等級正是為此而設。它的義務不重，但絕非空白。對開發者而言，這意味著即使是低風險產品，也應該在設計階段就把「可辨識性」與「可說明性」納入考量，而不是等到被使用者投訴才補救。
四、高風險 AI 的合規要求：從風險管理系統到人為監督
高風險 AI 之所以「高」，不只是因為它被貼上標籤，更因為它必須承擔一整套義務。以歐盟 AI Act 為例，高風險系統的提供者必須建立並維護以下機制：
記錄保存：自動記錄系統運作事件，以便事後追溯與稽核。
品質管理系統：建立內部流程，確保上述要求持續被遵守。
除此之外，高風險系統通常還需完成符合性評鑑、簽署歐盟符合性聲明、張貼 CE 標誌，並在歐盟資料庫中登錄。對部署者（例如醫院、銀行、企業人資部門）而言，也有相應義務，包括確保輸入資料的相關性、維持人為監督、保存日誌、告知受影響的當事人等。
這一整套要求，本質上就是一套「AI 品質管理系統」。對已經有 ISO 品質管理或資安管理經驗的企業而言，導入門檻相對較低；但對從未建立此類流程的新創團隊來說，這是一場組織能力的考驗。
五、低風險 AI 的發展空間：創新與自律的平衡
低風險 AI 的監管哲學，可以用一句話概括：原則寬鬆、底線清楚、鼓勵自律。
歐盟對最小風險系統基本上不加額外義務，並鼓勵業界自願採納行為準則。對有限風險系統，則以透明度為核心。這樣的設計，讓絕大多數 AI 應用得以在相對自由的環境中發展，同時保留最基本的消費者保護。
然而，寬鬆不等於放任。近年來，生成式 AI 的普及讓「低風險」的邊界變得模糊：一個用來寫文案的聊天機器人，可能被用來大量產製詐騙訊息；一個影像生成工具，可能被用來製作未經同意的私密影像。這些風險雖然不是發生在「高風險清單」所列的場景，卻同樣造成真實的傷害。因此，許多國家開始針對生成式 AI 增設專門規範，例如要求標示 AI 生成內容、要求服務提供者建立內容安全機制、要求對訓練資料的來源與著作權問題作出說明。
另一個值得關注的工具是「監管沙盒」。英國、新加坡、日本、台灣地區等地都設有 AI 或金融科技沙盒，讓業者在受控環境中測試創新應用，監管機關則從中學習並調整規則。沙盒的價值在於：它讓「不確定是否為高風險」的灰色地帶，有一個可以先試行、再定調的空間。
六、風險分級的爭議與未解難題
風險分級聽起來邏輯清晰，但實際運作時，仍有幾個難解的爭議。
分類邊界模糊：誰來認定高風險
首先，清單式的高風險定義，永遠趕不上技術與應用的變化。今天不在清單上的應用，明天可能因為商業模式創新而變成高風險。反之，某些被列為高風險的應用，若在嚴格監督下使用，實際危害可能很低。於是，實務上常見的爭論是：這個系統到底算不算高風險？ 由誰來認定？認定的程序是否透明？業者能否提出反證？
歐盟的做法是：提供者若認為其系統不屬於高風險，可以不履行高風險義務，但必須記錄其評估理由，並在主管機關要求時提供。這是一種「自我評估＋事後問責」的機制，但也意味著灰色地帶的判斷風險，實質上由企業承擔。
通用型 AI 與基礎模型的監管難題
第二個難題，是通用型 AI（General-Purpose AI）與大型基礎模型（Foundation Models）的出現。傳統分級制度假設 AI 系統有明確的「用途」，但通用模型本身沒有單一用途，它可以被用來寫詩，也可以被用來設計生物武器。這種「用途的不可預測性」，讓傳統按應用場景分級的模式面臨挑戰。
歐盟因此另闢一章規範通用型 AI 模型，要求提供者提供技術文件、訓練資料摘要、著作權政策，並對「具系統性風險」的模型（以訓練算力為門檻）課予額外的評估、對抗測試與事故通報義務。這是一種「以能力門檻取代用途清單」的嘗試，但是否有效，仍待時間驗證。
中小企業的合規成本
第三個爭議是成本。高風險義務雖然立意良善，但對中小企業與新創而言，建立品質管理系統、撰寫技術文件、進行第三方評鑑，動輒耗費數十萬甚至數百萬元的成本。若制度設計未提供足夠的減免、補助或簡化程序，結果可能是「只有大企業玩得起高風險 AI」，反而壓縮了公共服務與醫療領域的創新供給。
此外，監管套利也是隱憂：業者可能將高風險功能包裝成低風險產品，或將開發與部署轉移到監管較鬆的司法管轄區。這需要國際合作與執法協調才有辦法因應。
七、企業與個人如何因應 AI 風險分級
面對這股分級浪潮，企業與個人都不應只是被動等待。
對企業而言，第一步是盤點 AI 系統清單：公司內到底用了哪些 AI？是自研、採購，還是使用外部 API？各自用在什麼場景？影響到誰？第二步是依場景進行風險評估，判斷是否落入高風險領域，並據此決定義務強度。第三步是建立文件與治理架構，把風險管理、資料治理、人為監督、上市後監測等流程制度化，並指定專責人員或委員會。第四步是持續監測與更新，因為法規與技術都在快速變化，合規不是一次性的專案，而是持續的流程。
對個人而言，理解風險分級的意義在於：知道自己什麼時候該提高警覺。當你發現某項決策——貸款核准、求職篩選、保險核保、醫療建議——是由 AI 輔助或主導時，你有權要求說明，也有權要求人為覆核。當你使用生成式 AI 工具時，也應留意內容是否標示來源、是否可能誤導他人。風險分級的終極目的，不是讓 AI 變得可怕，而是讓使用 AI 的人，能夠做出更明智的判斷。
八、結語：分級不是限制，而是讓 AI 走得更遠的地圖
回到最初的問題：為什麼要分高風險低風險？答案其實很簡單——因為風險不是均勻分布的，責任也不該是平均分攤的。一套好的制度，應該讓低風險的創新跑得快，讓高風險的應用走得穩，並在兩者之間留下一條可以隨技術演進而調整的界線。
風險分級不是要把 AI 關進籠子裡，而是為它畫一張地圖：哪裡可以自由奔跑，哪裡需要減速慢行，哪裡則是禁止進入的懸崖。對企業來說，這張地圖是產品設計與市場准入的指南；對監管者來說，它是資源配置的依據；對社會來說，它是建立信任的基礎。
AI 的發展不會因為分級而停下，反而可能因為有了清楚的安全底線，而走得更遠、更穩。真正值得擔心的，從來不是「有分級」，而是「沒有分級」——那意味著我們把判斷風險的責任，全部丟給運氣。
在雅寶社區 · 頂客論壇，我們持續關注 AI 治理與科技政策的發展。如果你對風險分級、合規實務或特定產業的 AI 應用有更多想法，歡迎在討論區分享你的觀察與經驗。
```