AIに差別を教えたのは誰か——鏡としてのアルゴリズム【💭 AIと未来100選 第46回】

「AIが差別した」
 
ニュースでこの言葉を見たとき、頭の中には悪意を持つ機械の姿が浮かびやすい。
 
けれど、AIはある朝突然、誰かを嫌いになったわけではない。
 
過去のデータを受け取り、人間が付けた名前や評価を読み、人間が決めた目標に向かって計算した。その結果として、特定の人に不利な判断が繰り返されることがある。
 
では、差別を教えたのは誰なのだろう。
 
---
 

AIは社会の外から来た存在ではない

 
採用AIが過去の採用履歴を学ぶ。
融資モデルが過去の返済実績を学ぶ。
画像認識AIが、人間が名前を付けた大量の写真を学ぶ。
 
一見すると、どれも合理的だ。
 
しかし過去の記録は、完全に中立な自然現象ではない。誰を採用したか、誰に機会を与えたか、どの写真を集めたか。その一つひとつに、当時の制度や価値観が含まれている。
 
AIは社会を外側から観察しているのではない。社会が残した記録の中で育つ。
 
だからアルゴリズムは、未来を自動的に公平にする装置というより、私たちが作ってきた世界を拡大して映す鏡に近い。
 
---
 

鏡がゆがむ4つの場所

 
AIの偏りは「データが悪い」の一言では説明しきれない。少なくとも4つの場所で、人間の判断が入る。
 

1. 何をデータとして集めたか

 
ある地域、年代、性別、言語のデータが少なければ、その人たちに対する精度が低くなる可能性がある。
 
集まらなかった人は、AIの世界では「存在しない人」に近づいてしまう。
 

2. 何を正解と呼んだか

 
「優秀な社員」「信用できる顧客」「有害な投稿」。こうしたラベルは、物理法則ではない。組織や時代によって定義が変わる。
 
ラベルを付けた人の判断が、AIにとっての教師になる。
 

3. 何を最大化したか

 
利益を最大にするのか、誤判定を減らすのか、処理速度を上げるのか。
 
AIは設定された目標に忠実でも、その目標からこぼれた人を守るとは限らない。目的関数を決めることは、技術判断であると同時に価値判断でもある。
 

4. どこで人間が介入できるか

 
AIの判断に異議を申し立てる窓口がなければ、一度の誤判定が生活に長く影響する。
 
精度が高い仕組みほど、「AIがそう言ったから」と疑われにくくなる。ここに自動化の危険がある。
 
---
 

「人間よりAIの方が公平」という言葉の落とし穴

 
人間も偏る。感情、先入観、疲労、組織文化に左右される。それならAIに任せた方が公平ではないか——この考えには一理ある。
 
ただし、比較すべきなのは「偏った人間」と「完全に中立なAI」ではない。
 
現実に存在するのは、偏りを持つ社会のデータで作られ、人間が目標を設定し、人間の組織に導入されるAIだ。
 
AIを使うことで、担当者ごとの判断のばらつきを減らせる場合はある。一方で、一つの偏った規則が大勢に高速で適用される危険もある。
 
個人の偏見は局所的でも、アルゴリズムの偏りは複製しやすい。
 
だから必要なのは「人間かAIか」という二択ではない。どこをAIに任せ、どこで人が理由を確認し、誰が修正できるかを設計することだ。
 
---
 

責任は、コードを書いた人だけにあるのか

 
AIの問題が起きると、開発者に責任を集めたくなる。
 
しかし実際には、データを集めた人、ラベルを決めた人、予算と納期を決めた人、導入を承認した人、結果を使って判断した人がいる。
 
責任が多くの場所に分かれていると、誰も全体を引き受けなくなる。
 
「モデルの精度は基準を満たした」
「データは別部署から受け取った」
「最終判断は利用者がした」
 
全員の説明が部分的には正しくても、傷ついた人にとっては何の救済にもならない。
 
未来のAIガバナンスで重要なのは、責任者を一人探すことだけではない。問題が起きたときに、調べ、説明し、止め、直す経路を先に作ることだ。
 
---
 

AIROとユウの短い会話

 
ユウが聞いた。
 
「AIRO、AIが差別したら、AIを責めればいいの？」
 
AIROは少し間を置いた。
 
「鏡に嫌なものが映ったとき、鏡を割れば景色は変わる？」
 
「変わらない。でも、鏡がゆがんでいる可能性もあるよね」
 
「そう。だから両方を見る。映っている社会と、映し方を決めた仕組み。どちらか一方だけを犯人にすると、同じことがまた起きる」
 
AIは鏡である。ただし、何でも正確に映す透明な鏡ではない。切り取る範囲も、倍率も、色も、人間が設計した鏡だ。
 
---
 

導入前に聞きたい5つの質問

 
AIを使う個人や組織は、少なくとも次の5点を確認できる。
 
1. このAIは、誰のどんなデータをもとに判断しているか
2. 「正解」や「成功」は、誰がどのように定義したか
3. 間違えたとき、誰が大きな不利益を受けるか
4. 本人が理由を知り、異議を申し立てる方法はあるか
5. 問題が見つかったとき、止めて修正する責任者は決まっているか
 
この質問に答えられないなら、精度の数字だけで導入を決めるのは早い。
 
---
 

おわりに——鏡を見たあと、何を変えるか

 
AIの偏りをなくすことは簡単ではない。公平という言葉自体、立場によって意味が変わる。
 
それでも、できることはある。
 
データの偏りを測る。結果を属性別に確認する。人が介入できる場所を残す。影響を受ける人の声を設計に入れる。導入後も監査を続ける。
 
「AIが差別した」で話を終えると、人間は自分たちの選択から姿を消せる。
 
しかし本当に問うべきなのは、AIに差別を教えた単独の犯人ではない。
 
どんな過去を教材にし、何を正解と呼び、誰の不利益を見落としたのか。
 
アルゴリズムという鏡に映ったものを見て、私たちは鏡を直すだけでなく、映っている社会も直せるだろうか。
 
未来に残る問いは、そこにある。
 
#AI #生成AI #AI倫理 #アルゴリズム #バイアス #AIリテラシー #日本AIラボ
 
---
 
書籍『最新！AI実用ツール完全図解大全 ─タイパ100倍の仕事術』（一般社団法人 日本AIラボ）では、AIを便利に使う方法だけでなく、判断や責任を人間に残すための考え方も整理しています。
 
▶ Makuake先行応援購入：https://www.makuake.com/project/navibookai/
▶ 公式ショップ（著者直営）：https://jpailab.theshop.jp/items/149914138
▶ Amazon：https://amzn.asia/d/0eNMt0a1