AIによる履歴書選考は偏ることがあります。過去の採用から学び、氏名、大学、卒業年といった代理指標を読み取るからです。頼る前に確かめてください。過去の求人で試し、法的に可能な範囲で候補者グループ間の結果を比べ、代理指標となる項目を取り除き、すべての候補者リストと不採用の判断を名前のある担当者が行うようにします。
要点
- 選考の偏りは、たいていモデルの不注意ではなく、データと基準から生まれます。
- どの選考ツールも、実際の候補者に使う前に、すでに採用が決まった求人で試してください。
- 代理指標を探してください。氏名、写真、国籍、卒業年、職歴の空白、大学名です。
- すべての候補者リストと不採用は人が判断し、その理由を本人の言葉で記録します。
- モデル、プロンプト、基準を変えるたびに、テストをやり直してください。
#AIによる選考に、偏りはどのように入り込むのですか
最もよく知られた事例は、今でも示唆に富んでいます。Reuters(Euronews経由、2018年10月)によると、Amazonは試験的な採用ツールの使用を取りやめました。そのツールは、ほとんどが男性だった10年分の採用データで学習した結果、「women's」という語を含む履歴書の評価を下げるようになっていたのです。差別するよう指示した人はいません。過去の歴史がそうさせたのです。
現在の言語モデルは御社の採用実績で学習しているわけではありませんが、それでもパターンを拾います。「適性が高い」順に履歴書を並べるよう頼むと、モデルは自分なりの「高い」の基準を当てはめます。その結果、特定の大学、途切れのない職歴、あるいは必要のない職種での英語の流暢さを優遇することがあります。
#採用でのAIには、どんなルールが適用されますか
ルールは国によって異なるため、これは助言ではなく見取り図として扱ってください。Lewis Silkin(2024年4月)は、EU AI Actが採用と選考に使われるAIを高リスクとして扱い、ほとんどの雇用主は導入者にあたると説明しています。欧州委員会のAI Actサービスデスク(2026年11月確認)は、候補者を絞り込む求人マッチングと順位づけのツールを、高リスクの用途の例として挙げています。
ニューヨーク市では、NYC消費者・労働者保護局のFAQ(2026年11月確認)によると、雇用主と職業紹介機関は、バイアス監査を受けていない自動雇用判断ツールを使用できません。湾岸地域の雇用主も、UAEの個人データ保護法やサウジアラビアのPDPLのもとで候補者のデータを扱います。御社の採用にどれが適用されるかは、法律顧問に確認してください。
選考ツールを使う前に、どうテストすればよいですか
- 先に基準を書く:履歴書を読む前に、その職種に必須の要件を採用責任者と合意しておきます。
- 代理指標となる項目を取り除く:モデルが履歴書を見る前に、氏名、写真、生年月日、国籍、婚姻状況を取り除き、卒業年と職歴の空白も確認します。
- 過去の求人で再現する:すでに採用が決まった求人の匿名化した履歴書でツールを動かし、その候補者リストを採用担当者のものと比べます。
- グループ間で比べる:法律上そのデータを保持できる場合は、候補者グループごとの通過率を比べ、差があれば調べます。
- 入れ替えテスト:それ以外は同じ履歴書で、氏名や大学など一つの項目だけを変え、結果が変わるかを確認します。
- 隠れたテキストを確認する:履歴書の中の白い文字や指示文を探します。これはLLMアプリケーション向けOWASPトップ10がLLM01に位置づけるプロンプトインジェクションのリスクです。
説明のための例です(数字は仮定です)。同程度の資格を持つ二つのグループで、ツールが一方の100件中40件、もう一方の100件中25件を通過させたとします。その差は、苦情が出てからではなく、本番開始の前に説明がつかなければなりません。
常に人が判断すべきことは何ですか
すべての候補者リストと、すべての不採用です。ツールは各履歴書を合意した基準に照らして要約し、その根拠を示します。採用担当者は要約を読み、必要に応じて履歴書を開き、判断します。NIST AIリスクマネジメントフレームワーク(2023年1月)は、人による監督と説明責任をAIリスク管理の一部と位置づけています。採用においてそれは、すべての結果に名前のある判断者がいることを意味します。
もっと簡単な方法で十分なのはどんな場合ですか
四半期に数人しか採用しないなら、自動選考は見送ってください。構造化された評価表、二人の読み手、匿名化した履歴書があれば、モデルを使わずに公平性の利点の大部分を得られます。承認済みのチャットツールで履歴書を要約するのはかまいません。ただし、人の順位づけを頼まないことが条件です。
#Stennirはどこで役に立ちますか
StennirのAIコンサルティングのサービスにはガバナンスが含まれます。診断では、AIが採用のどこに関わっているか、誰が判断するか、何を記録するか、本番開始の前後にどのテストを行うかを整理します。選考の支援を構築する価値がある場合は、AI導入で、代理指標の除去、すべての要約への根拠の提示、各判断への採用担当者の承認を組み込んで構築します。
AIトレーニングでは、選考の出力がどこで間違えるのか、どう疑ってかかればよいのかを採用担当者に教えます。
We are
Stennirは、根拠を示す選考支援を設計してテストし、候補者に関するすべての結果を人が判断する形にします。
We aren't
Stennirは自動採用ツールではなく、特定の法律に基づくバイアス監査人でも、法律事務所でもありません。
人材採用の責任者は次に何をすればよいですか
AIがすでに候補者に関する判断に関わっているすべての場所を書き出してください。ATSで初期設定のまま有効になっているツールも含めます。それぞれについて、誰が判断しているか、何かテストしたかを記録します。オペレーション向けのAI、履歴書選考の実例、導入前に取締役会が確認すべきことをお読みください。そのうえで30分の通話を予約してください。
よくある質問
AIによる選考が、人より公平になることはありますか。
一貫性を高めることはできます。すべての履歴書に同じ基準を当てはめ、疲れることもないからです。ただし、一貫性は公平性ではありません。偏った基準を一貫して使えば、偏ったままです。効果が生まれるのは、合意した基準、代理指標の除去、定期的なテスト、そして結果ごとに人が判断することからです。
当社のATSにはAIによる順位づけが組み込まれています。使っても安全ですか。
ベンダーに、順位づけが何に基づいているか、偏りのテストをしたか、各スコアにどんな根拠を示すかを尋ねてください。そのうえで、過去の求人で御社自身の再現テストを行ってください。ベンダーが順位づけを説明できないなら、要約だけを使い、順位づけは採用担当者に任せてください。
どんな記録を残すべきですか。
職種ごとの基準、使用したツールとプロンプトのバージョン、各候補者についての要約、誰が判断したか、そして本人の言葉で書いた理由です。本番開始前と、変更のたびのテスト結果も残してください。保存期間は御社のデータ保護ルールに従い、法律顧問と取り決めます。
始めるにあたって、当社からは何が必要ですか。
結果に責任を持つ人材採用の責任者、採用ツールに含まれるすべてのAI機能の一覧、採用が決まったいくつかの求人の匿名化した履歴書と判断、そしてデータ保護の担当者です。Stennirはそれらを使って、新しいものを提案する前に、御社がすでに使っているものをテストします。
