AI 代理人的偏見：為什麼它對某些人有刻板印象
二、AI 偏見從何而來？
AI 代理人不會凭空產生偏見，它的「世界觀」是由三個層面共同塑造的：訓練資料、演算法設計，以及人類回饋與微調。這三個層面環環相扣，任何一環出問題，都可能讓偏見悄悄滲入系統。
訓練資料的歷史包袱
資料是 AI 的糧食，而資料從來不是中立的。網路上的文本、圖片、影片、對話紀錄，都是人類社會的產物，自然承載了人類的歷史偏見。當 AI 大量吸收這些資料時，它就像一個勤奮但缺乏批判力的學生，把資料中的性別比例失衡、種族刻板印象、地域歧視、年齡偏見，一併學了进去。
以性別為例，許多大規模語言模型的訓練語料中，男性工程師、男性執行長、男性科學家的出現頻率遠高於女性。當 AI 被要求「描述一位工程師」時，它傾向產出男性形象；當它被要求「描述一位護理師」時，則傾向產出女性形象。這並非 AI「故意」如此，而是它忠實反映了資料中的統計分布。
更嚴重的是「歷史歧視的累積」。如果一個招聘 AI 的訓練資料來自過去十年的錄取紀錄，而過去十年該公司確實存在性別或族群偏見，那麼 AI 學到的就是「這家公司偏好什麼樣的人」，而不是「什麼樣的人適合這份工作」。於是，歷史偏見被包裝成「數據驅動的決策」，繼續複製下去。
演算法設計的隱性假設
除了資料，演算法的設計本身也可能帶有偏見。這裡的「偏見」不一定是設計者的惡意，而往往是「預設值」與「目標函數」的選擇問題。
舉例來說，一個用來預測「誰會按時還款」的模型，如果目標函數只追求「預測準確率最大化」，它可能會發現「排除某些群體」能提高整體準確率，因為這些群體在歷史資料中的違約率較高。於是，模型為了追求整體效能，犧牲了對少數群體的公平性。這種「效率與公平的取捨」，是 AI 倫理中最經典的難題之一。
此外，特徵工程的選擇也藏有偏見。如果一個系統把「居住地區」或「就讀學校」作為重要特徵，即使這些特徵本身看似中性，它們也可能成為族群或階級的代理變數，讓 AI 在不知不覺中對特定背景的人產生不利判斷。
人類回饋與微調階段的偏差
現代 AI 代理人大多會經過「人類回饋強化學習」（RLHF）的階段，也就是由人類標註員對 AI 的回答進行評分，引導 AI 產出「更符合人類期待」的內容。這個過程本意是讓 AI 更安全、更有用，但如果標註員本身帶有偏見，或標註指引不夠周全，偏見就會被「教」進 AI 裡。
例如，如果標註員傾向認為「女性應該溫柔、男性應該果斷」，那麼當 AI 描述女性時使用較多柔性詞彙，就會被評為「恰當」；反之則被評為「不恰當」。久而久之，AI 就學會了這套性別腳本。又或者，如果某個地區的標註員對特定口音的評價較低，AI 在處理該口音時就可能表現出輕視的語氣。
這說明了很重要的一點：AI 偏見不只是技術問題，更是「人」的問題。只要參與 AI 開發與訓練的人類帶有偏見，偏見就有機會被寫進系統。
三、AI 對哪些人容易產生刻板印象？
AI 偏見不是抽象概念，它會具體地表現在對不同群體的差別對待上。以下我們從性別、種族與族裔、年齡與身心障礙、語言與地域四個面向，來看 AI 代理人最常出現的刻板印象。
性別刻板印象
性別偏見是 AI 領域中被研究得最透徹、也最根深蒂固的偏見之一。從早期的文字探勘研究到最新的生成式模型，都反覆證實了這一點。
在語言層面，AI 經常將「專業、理性、領導」與男性連結，將「溫柔、照顧、情感」與女性連結。當使用者請 AI 推薦「適合的領導人選」時，它可能傾向推薦男性；當使用者請 AI 描述「一位護理師」時，它可能預設為女性。這種偏見在翻譯、摘要、寫作輔助等應用中尤其明顯，因為這些任務高度依賴語言中的性別線索。
在影像層面，早期的影像生成模型經常把「醫生」畫成男性、「護士」畫成女性，把「工程師」畫成男性、「老師」畫成女性。即使到了今天，許多模型在使用者未指定性別時，仍會預設某種性別形象。這不僅反映偏見，也可能在無形中限制使用者對職業與性別的想像。
在招聘與評價層面，研究顯示部分 AI 履歷篩選系統會因為履歷中出現「女性」相關詞彙（如「女子大學」、「女性社團」）而給出較低評價，或因為履歷提到「女性」而降低錄取機率。這類案例在 2018 年 Amazon 的招聘 AI 事件中被廣泛討論，雖然該專案後來被終止，但它揭示了性別偏見在 AI 中的真實存在。
種族與族裔偏見
種族偏見在 AI 中的表現，往往比性別偏見更隱蔽，卻同樣嚴重。它可能出現在人臉辨識、語言辨識、醫療診斷、犯罪風險預測等多個領域。
在人臉辨識方面，多項研究指出，部分商用系統對深色皮膚、女性、年長者的辨識準確率明顯低於淺色皮膚的男性。這意味著這些系統對某些族群「比較看不清」，可能導致門禁、支付、安防等場景中的不公平對待。同樣的問題也出現在語音辨識上：對非裔美國人英語、拉丁裔口音、亞洲口音的辨識準確率，往往低於對「標準」美式英語的辨識。
在醫療領域，曾有研究發現，某些用於判斷「誰需要進一步醫療照護」的演算法，因為使用「醫療支出」作為健康狀況的代理變數，而對非裔病患產生不利結果。原因是歷史上非裔病患的醫療支出較低，但這並非因為他們比較健康，而是因為他們較難獲得醫療資源。AI 把「支出低」誤讀為「健康」，於是減少了對這些病患的照護資源，形成惡性循環。
在司法與治安領域，部分風險評估工具被批評對特定族群給出較高的再犯風險分數，進而影響保釋、量刑等決定。這類案例引發了社會對「演算法正義」的廣泛討論，也讓人們意識到：當 AI 介入攸關人身自由的決策時，偏見的後果可能極為嚴重。
年齡與身心障礙偏見
年齡偏見在 AI 中的表現，主要體現在「預設使用者是年輕人」的設計思維上。許多 AI 代理人的介面、語音互動、推薦邏輯，都以年輕、數位原生世代為主要對象，導致年長者在使用時遭遇更多障礙。例如，語音助理可能對年長者的說話速度、口音、用詞較不適應；推薦系統可能較少向年長者推薦新科技產品或學習資源，無形中擴大了數位落差。
身心障礙偏見則更常被忽略。影像辨識系統可能無法正確辨識使用輪椅、義肢或輔具的人；語音辨識系統可能對聽障者的發音、或對使用手語的族群支援不足；生成式 AI 在描述身心障礙者時，可能過度聚焦於「缺陷」而非「能力」。這些偏見不僅影響服務品質，也可能加深社會對身心障礙者的刻板印象。
語言與地域歧視
語言偏見是 AI 偏見中較少被討論、卻極為普遍的一種。大多數大型語言模型以英語為核心，對其他語言的支援相對薄弱；即使在同一語言內部，也存在「標準語」與「方言」、「口音」之間的位階差異。這導致使用非主流語言或口音的人，在使用 AI 服務時體驗較差，甚至被錯誤理解。
地域歧視則常透過「代理變數」出現。例如，一個信用評分模型可能將「郵遞區號」納入考量，而某些郵遞區號恰好與特定族群或低收入社區重疊，導致這些地區的居民即使個人信用良好，也難以獲得貸款。又或者，一個房地產推薦 AI 可能因為某地區的歷史資料而對該地區給出較低評價，進一步影響該地區的發展機會。
這些偏見的共同點在於：它們都不是針對「個人」的判斷，而是針對「個人所屬群體」的統計推論。AI 把群體的平均特徵，套用到每一個個體身上，這正是刻板印象的核心定義。
四、AI 偏見的實際影響與案例
理解了偏見的來源與對象後，我們需要進一步追問：這些偏見在現實中造成了什麼影響？以下從招聘、醫療與司法、金融三個面向，來看 AI 偏見的實際衝擊。
招聘與人力資源
招聘是 AI 偏見最常被討論的應用場景之一。許多企業導入 AI 履歷篩選、視訊面試分析、人才推薦系統，希望提高效率、降低人為偏見。然而，實際情況往往是：AI 不僅沒有消除偏見，反而把偏見「自動化」了。
前述 Amazon 的案例即為典型。該公司曾開發一套履歷篩選 AI，用以協助招聘工程師。由於過去十年該公司錄取的工程師以男性為主，AI 學到的模式就是「男性履歷較優秀」。它甚至學會貶低含有「女性」字樣的履歷，例如女子大學、女性社團等。雖然該專案後來被放棄，但它清楚說明了：如果訓練資料反映了歷史不平等，AI 就會把不平等當成「標準」。更麻煩的是，求職者往往不知道自己被 AI 刷掉，也無從申訴，形成一種「看不見的歧視」。
視訊面試分析系統也有類似問題。這類系統會分析求職者的表情、語調、用詞，判斷其「適合度」。然而，不同文化背景的人表達自信的方式不同，不同性別的人被期待展現的情緒也不同。AI 若以某一群體的表現為基準，就可能對其他群體產生誤判。例如，某些文化中避免直視鏡頭是尊重的表現，卻可能被 AI 解讀為「缺乏自信」。
醫療與司法
醫療領域的 AI 偏見，直接關係到人的健康與生命。前述「以醫療支出預測健康狀況」的案例，說明了代理變數的危險：AI 以為自己在預測「誰需要照護」，實際上卻在預測「誰比較有錢看醫生」。結果是，最需要幫助的人反而獲得最少資源。
此外，醫學影像辨識也可能存在族群偏見。如果訓練資料以某一族群為主，模型對其他族群的病灶辨識準確率就可能下降。這在皮膚癌辨識中尤為明顯：許多公開資料集的膚色分布嚴重偏向淺色皮膚，導致模型對深色皮膚的病灶辨識能力較差。對病患而言，這可能意味著延誤診斷與治療。
司法領域的風險評估工具，則牽涉到人身自由。美國曾有多個州使用「再犯風險評估」演算法協助法官決定保釋、量刑。調查發現，這些工具對非裔被告給出較高風險分數的機率較高，即使控制其他變數後仍然存在差異。支持者認為這只是統計事實，反對者則指出，這反映了警方執法與歷史資料的偏見，而 AI 只是把偏見「科學化」了。無論立場如何，這類案例都迫使我們正視：當 AI 介入高風險決策時，透明性與可問責性是不可退讓的底線。
金融與貸款
金融是 AI 偏見另一個高風險場域。信用評分、貸款審核、保險定價、投資推薦，都可能因為偏見而對特定群體不利。
信用評分模型若使用「居住地區」「職業類別」「消費模式」等特徵，可能間接反映出族群或階級差異。例如，某些少數族群社區的居民可能因為歷史因素而信用紀錄較少，AI 就難以評估其信用，進而拒絕貸款或提高利率。這形成一種「資料不足→評估不利→更難建立信用」的循環，讓弱勢者更難翻身。
保險定價也有類似問題。如果 AI 使用「健康行為」或「生活型態」資料來定價，而這些資料又與社經地位相關，就可能導致弱勢者保費更高。這引發了公平性與可負擔性的討論：保險的本質是風險分攤，但如果 AI 把風險精算到個人層次，是否會侵蝕「互助」的精神？
這些案例共同說明了一件事：AI 偏見不是「有沒有」的問題，而是「在哪裡、對誰、造成多大影響」的問題。越是在高風險、高不對稱權力的場域，偏見的後果就越嚴重，也越需要被正視。
五、如何偵測與緩解 AI 偏見？
面對 AI 偏見，我們並非束手無策。學術界、產業界與政策制定者已經發展出多種偵測與緩解策略，從技術層面到制度層面，再到使用者層面，都有可以著力之處。
技術層面的改善
第一，資料層面的治理。這是最根本也最有效的方式之一。包括：擴大訓練資料的多樣性，確保不同性別、族群、年齡、語言、地域的人都有足夠代表性；檢查資料中的標註偏見，避免以刻板印象標註；對歷史資料進行「去偏」處理，例如重新加權或移除不當特徵。當然，資料治理不能只靠「加更多資料」，還需要「加對的資料」，並持續監測資料分布的變化。
第二，演算法層面的公平性約束。研究人員已發展出多種公平性指標，例如「人口統計均等」（不同群體的正面結果比例相近）、「機會均等」（不同群體中真正符合條件者的通過率相近）、「預測均等」（預測分數在不同群體間校準一致）等。在模型訓練時，可以將這些指標納入目標函數，或作為後處理的調整依據。不過，公平性指標之間往往存在取捨，沒有單一的「完美解」，需要依應用情境選擇合適的標準。
第三，可解釋性與可稽核性。如果 AI 的決策是黑箱，偏見就難以被發現。因此，發展可解釋 AI（XAI）技術、建立模型稽核機制、保留決策紀錄，都是重要的緩解手段。例如，金融機構可以定期檢查模型對不同群體的通過率差異；醫療機構可以追蹤模型在不同族群病患上的準確率。唯有讓偏見「可見」，才有機會被修正。
第四，對抗性測試與紅隊演練。在 AI 上線前，由多元背景的團隊進行偏見測試，模擬不同群體的使用情境，找出潛在的差別對待。這就像軟體測試中的「壓力測試」，只是測試的對象是公平性而非功能。
制度與治理層面
技術手段有其極限，制度設計才是長遠之計。首先，企業應建立 AI 倫理審查機制，在開發與部署 AI 代理人時，評估其對不同群體的影響，並設置「公平性負責人」或跨部門委員會。其次，政府與國際組織應制定 AI 公平性規範，要求高風險 AI 系統進行偏見評估與揭露，並提供申訴與救濟管道。歐盟的《人工智慧法》即為一例，它將 AI 系統依風險分級管理，對高風險應用課以較嚴格的義務。
此外，資訊透明與公眾參與也很重要。AI 系統的開發者、部署者與受影響者之間，應有對話機制。這不只是「告知」，更是「共決」——讓不同群體有機會表達疑慮、參與設計、監督結果。唯有如此，AI 的治理才不會淪為少數專家的閉門造車。
使用者可以怎麼做
作為一般使用者，我們並非只能被動接受。首先，保持警覺：當 AI 給出的建議或評價與你的實際情況明顯不符時，不要默默接受，可以質疑、反映、要求說明。其次，多元使用：在使用生成式 AI 時，主動要求它考慮不同性別、族群、文化的情境，這有助於暴露模型的偏見，也讓開發者知道使用者在意什麼。第三，支持透明：選擇願意公開 AI 運作方式、提供申訴管道的服務。第四，提升素養：理解 AI 的運作原理與限制，才不會把 AI 的輸出當成「客觀真理」。
最後，也是最重要的：不要把 AI 的偏見當成「機器的問題」而置身事外。AI 偏見反映的是人類社會的偏見，解決它也需要人類社會的集體努力。每一個使用者、每一個開發者、每一個政策制定者，都是解方的一部分。
六、結論：邁向更公平的 AI 未來
AI 代理人的偏見，是一個關於「機器如何學習人類」的故事。它學習了我們的語言、我們的行為、我們的歷史，也學習了我們的偏見。它對某些人有刻板印象，不是因為它「壞」，而是因為它太忠實地反映了我們餵給它的世界。
但這並不意味著我們應該對 AI 偏見視而不見，或乾脆放棄 AI。相反地，正因為 AI 具有規模化、自動化、隱蔽化的特性，我們更需要積極地面對偏見。從資料治理、演算法設計、人類回饋、制度規範到使用者素養，每一個環節都有改善的空間。而且，對 AI 偏見的關注，往往也會促使我們回頭檢視人類社會自身的偏見——這或許是 AI 帶給我們最珍貴的禮物：一面照見自己的鏡子。
未來，AI 代理人只會越來越普及，越來越深入我們的生活。我們希望它是一個公平的夥伴，而不是一個放大偏見的擴音器。要達到這個目標，沒有捷徑，只有持續的覺察、對話與行動。當我們願意正視「AI 也會偏心」這件事，我們就踏出了讓 AI 更公平的第一步。而這一步，值得我們每一個人一起走。
願未來的 AI，不只是聰明的，更是公平的；不只是有效率的，更是有尊嚴的。這不是技術問題，而是我們想要什麼樣的社會的問題。而這個問題的答案，掌握在我們每一個人手中。