バイアスと公平性

AI システムのバイアスは「データの問題」ではなく、収集・ラベリング・学習・デプロイ・フィードバックまでパイプライン全段を通じて累積する構造問題である。公平性は単一の数値で測れる指標ではなく、どの群・どの指標を優先するかという価値選択の問題でもある。本記事はバイアスの源泉と公平性指標の体系、ジェンダー・人種の具体事例、緩和手法と評価ツール、規制との接続、2026 時点のフロンティアを俯瞰する。情報カットオフ ~2025-08、confidence: medium（固有数値・実験結果は [VERIFY] 明示）。

バイアスの源泉

バイアスはパイプラインの各段で異なるメカニズムで発生する。

データ層の三類型は（1）歴史的バイアス——過去の人間の決定（採用・融資・量刑）が訓練データに刻まれており、モデルがその不公正を学習する。（2）代表性・サンプリングバイアス——少数派グループのデータが絶対量で不足し、または収集手段の偏りで系統的に歪む。（3）測定バイアス——特定グループで計測精度が低い代理指標（例：医療コストを健康状態の代理とすること）を使用する。

ラベル層では、アノテータの個人・文化的先入観がラベル定義に混入する。多数決アノテーションは少数意見を消去し、ラベルの定義自体がドメイン支配層の価値観を反映する場合がある。

集計(Aggregation)バイアスは、異質な部分集団を単一モデルで近似するときに生じる。特定グループに適合したモデルが他グループに不適合になる「Aggregation のパラドクス」は統計的 Simpson のパラドクスと構造が同じである。

学習・最適化層では、多数派クラスに最適化された損失関数が少数派の誤差を見えにくくする。Spurious correlation（偽相関）——例えばアクセサリと「女性医師」の共起——をモデルが「特徴」として学習するケースも典型的である。

デプロイ・フィードバックループでは、予測が現実を強化する予言的循環が生じる。予測的警察取締り（Predictive Policing）は特定地域の検挙率を上げることで、その地域のラベルをさらに「危険」に染める。

公平性指標と不可能性定理

公平性の指標は群公平性 (Group Fairness) と個人公平性 (Individual Fairness) の二軸で整理できる。

群公平性の主要定義

個人公平性は「類似した個人には類似した扱いを」という原則で、Dwork et al. (2012) が形式化した。類似性指標の定義が難しく、運用上は反実仮想公平性（Counterfactual Fairness）と組み合わせることが多い。

不可能性定理

Kleinberg et al. (2016) と Chouldechova (2017) は、基本率（base rate）が群間で異なる場合、Calibration と Equalized Odds を同時に満たすことは一般に不可能であることを証明した。COMPAS 再犯スコアを巡る ProPublica（FPR の人種差を問題視）と Northpointe（スコアの Calibration を主張）の論争は、この定理を背景とした指標選択の価値判断の衝突であった。指標の選択は技術問題ではなく、誰の何を守るかという社会的合意の問題である。

ジェンダー・バイアス

単語埋め込みのジェンダー方向

Bolukbasi et al. (2016) は Word2Vec に「man:computer programmer :: woman:homemaker」のようなステレオタイプが埋め込まれていることを示した [VERIFY 類推精度の定量値]。Caliskan et al. (2017) は WEAT（Word Embedding Association Test）で、これが人間の IAT（暗黙連想検査）と統計的に一致することを確認した [VERIFY 相関係数]。

共参照・職業バイアス

Zhao et al. (2018) の WinoBias と Rudinger et al. (2018) の Winogender は、代名詞解決モデルが職業名から性別を推定するバイアスを体系的に測定するデータセットである。「医師が看護師に注射を依頼したとき、彼女は…」という文でモデルが代名詞を誤帰属する傾向は、職業名に付与された社会的性別ステレオタイプを反映する。

機械翻訳・画像生成

性中立言語（ハンガリー語・トルコ語など三人称が性別不問）から英語への翻訳でモデルが職業に基づき “he”/“she” をデフォルト補完するバイアスは、Google 翻訳を含む主要システムで観測されている [VERIFY: 現行バージョンでの残存度合い]。画像生成では「CEO」や「エンジニア」のプロンプトで男性生成が優位になる傾向が報告されている [VERIFY]。

LLM の生成バイアス

LLM の生成テキストでは、職業・性格・能力の帰属に非対称が観測される。「優秀なプログラマを描写して」と「優秀な保育士を描写して」で使われる語彙と属性の差は、ステレオタイプを自動的に再生産する問題を示す。BOLD（Bias in Open-Ended Language Generation Dataset）はこの軸を体系化したベンチマークである。

人種・バイアスと交差性

顔認識の精度格差

Buolamwini & Gebru (2018) の Gender Shades 研究は、商用顔認識システムが肌色（Fitzpatrick スケール）と性別の交差で大きな精度格差を示すことを報告した。肌色の濃い女性（darker-skinned females）での誤差率が最大であった [VERIFY: 具体的誤差率（論文では最大 34.7% vs 0.8% という値が引用されるが要確認）]。この研究は「AI の公平性」への学術的・政策的注目を高める転換点となった。

再犯予測 COMPAS

ProPublica（2016）は Northpointe（現 Equivant）の COMPAS スコアが黒人被告に対して偽陽性率（実際には再犯しなかったのに「高リスク」と判定）が白人被告より高いことを分析した [VERIFY: 誤差率の具体値]。Chouldechova (2017) はこの現象が前述の不可能性定理に根ざすことを理論的に示した。

医療アルゴリズムの人種バイアス

Obermeyer et al. (2019, Science) は米国の医療システムで広く使われるコスト予測アルゴリズムが、医療ニーズの代理として医療コストを使用したため、同程度に病気でも黒人患者のコストが低い傾向（医療アクセスの不平等の反映）により黒人患者を「低リスク」と誤判定していたことを示した [VERIFY: 過小評価されていた黒人患者の割合]。アルゴリズム修正後はケア管理プログラムへの黒人患者紹介率が大幅改善したとされる。

方言・名前ベースバイアス

AAE（African American English）はトーン・語彙・統語で標準アメリカ英語と異なり、毒性検出モデルが AAE のテキストを誤って毒性有りと判定しやすいことが示されている。人名からの差別——同一履歴書で「Emily」vs「Lakisha」で面接返信率が異なるという1990年代の研究は、LLM の推薦システムでも同様の構造が出現しうることを示唆する。

交差性（Intersectionality）

Crenshaw (1989) が提唱した交差性の概念は、単軸（性別のみ、人種のみ）では見えない複合差別を可視化する。AI バイアス研究でも、「肌色が濃い × 女性」のサブグループが単軸評価で埋もれる問題（Gender Shades が典型）が認識されており、多軸・サブグループ評価が実務上の要請となっている。

緩和手法：前処理・学習中・後処理

バイアス緩和は介入タイミングで三段階に分類される。

前処理（Pre-processing）

訓練データへの介入。リウェイト（少数グループのサンプル重みを調整）・リサンプリング・反実仮想データ拡張（Counterfactual Data Augmentation, CDA）により表現バランスを補正する。前処理の利点は任意の学習アルゴリズムへの適用可能性だが、データ改変のトレードオフとして性能低下や新たなバイアス導入のリスクがある。

学習中（In-processing）

学習プロセスへの介入。公平性制約付き最適化（Fairness Constraints）では、公平性指標を制約または正則化項として最適化問題に組み込む。敵対的デバイアス（Adversarial Debiasing）は分類器と弁護士（adversary）を同時訓練し、予測から保護属性を予測できないよう強制する。INLP（Iterative Nullspace Projection）は表現空間から保護属性の線形方向を反復除去する。

後処理（Post-processing）

モデル出力への介入。閾値調整（Threshold Optimization）は群ごとに異なる決定閾値を設定し、Equalized Odds などを事後的に達成する。Fairlearn の ThresholdOptimizer はこの実装の代表例である。後処理の利点はモデル内部に介入不要な点だが、推論時に保護属性へのアクセスが必要な場合がある。

LLM 固有の緩和

LLM では RLHF・Constitutional AI・システムプロンプトによるガードレール・反実仮想拡張が組み合わせて使用される。重要な注意点は、一軸のバイアス改善が他軸を悪化させる「Whack-a-Mole」現象が報告されており、多次元評価が必須である点だ。表現空間からのジェンダー方向の射影除去（Bolukbasi 提案）は下流タスクで他の性別関連情報も損なうリスクが指摘された。

評価ベンチマーク・ツールと規制連結

主要ベンチマーク

ベンチマーク間で結論が分かれることが多く（あるモデルが StereoSet では優秀でも CrowS-Pairs では劣る等）、補完的な複数ベンチ運用が実務上の定石となっている。

ツールキット

• AI Fairness 360 (AIF360, IBM): 70 以上の公平性指標と 11 の緩和アルゴリズム（pre/in/post 全カバー）を提供するオープンソースライブラリ。
• Fairlearn (Microsoft): 後処理の ThresholdOptimizer と学習中の Reductions アプローチを提供。Python 統合に優れる。
• Aequitas (UChicago): 監査レポート生成特化。意思決定者向けの視覚化ダッシュボードを備える。

規制連結

EU AI Act（→ tech-97）の高リスクシステム要件はデータガバナンス・代表性確保・バイアス検査義務を明示している。米国では EEOC（雇用機会均等委員会）が雇用 AI における格差的影響（Disparate Impact）に既存の公民権法を適用する方向を示している。これらの規制対応に AIF360・Fairlearn などのツールが実装基盤となる。

アンチパターン

以下は実務で繰り返し観測される公平性設計の失敗パターンである。

2026 フロンティア

情報カットオフ ~2025-08。以下は 2026-05 時点で外部検証ができていない要確認項目:

（1）マルチモーダルバイアス——テキスト・画像・音声の複数モダリティが絡み合うバイアス評価の標準化手法は未成熟である。画像生成モデルの職業×性別・人種の定量評価ベンチは整備途上とされる。

（2）多言語・文化的バイアス——現行ベンチマーク（StereoSet/CrowS-Pairs 等）は英語中心で、日本語・アラビア語・スワヒリ語等での同等評価基盤は不足している。「公平性」の定義自体が文化依存であるという問題も未解決である。

（3）Agentic 文脈のバイアス——ツール使用・複数ステップの自律エージェントが決定連鎖を経るときのバイアス累積・増幅メカニズムの評価フレームは確立していない。

（4）動画・生成音声——生成動画や音声クローンにおける外見・声質の人種・ジェンダー偏りの評価はほぼ手つかずである。

（5）因果的公平性の実装——Counterfactual Fairness などの因果グラフに基づく公平性定義は理論が整いつつあるが、大規模 LLM への実用的な適用方法は研究段階である。