アルゴリズムバイアス【algorithmic bias】

概要

アルゴリズムバイアスとは、アルゴリズムによる判断や予測において、特定の属性や集団に不利または有利な偏りが生じる現象。意図的に差別するように設計されたわけではなく、学習データの偏りや設計者の無意識的な偏見、見落としなどによって生じる。

統計解析や機械学習を基盤とするシステムは、設計者の与えた過去のデータの傾向から何らかの判断や予測を行う。このとき、データの中に意図せず生じた偏りや、過去の人間による差別的な振る舞いの結果が含まれていると、これを学んだシステムも同様の偏りを再生産し、特定の属性を特権的に高く評価（えこひいき）したり、逆に無視したり不利に取り扱ったりするようになる。

例えば、医療分野で皮膚疾患を診断するAIが、特定の肌の色のデータばかりを学習した場合、そのAIは他の肌の色の患者に対して診断の精度が著しく低くなる可能性がある。また、人材採用で候補者の評価を支援するAIが、男性を多く採用していた過去の履歴データで学習した場合、女性の求職者を女性であるというだけで低評価とする可能性がある。

この問題を緩和するには、学習データの多様性と代表性を確保し、不公平で偏りのあるデータを使っていないか事前に評価する仕組みを用意する必要がある。また、機械学習モデルの設計・開発段階で偏りを検出・是正する技術を導入したり、AI倫理の専門家によるチェック体制を設けるなど、技術面とガバナンス面の両面から様々な手法が提唱されている。

(2025.12.14更新)