過去数年間で、人工知能（AI）は企業が効率を向上させ、意思決定プロセスを改善するための主要なツールとなりました。AIの応用例と高度化は急速に進んでおり、一部の専門家は、AI分野が6か月ごとに新しい製品やアプリケーションによって完全に置き換わると予測しています。これらの変化は、サプライチェーン管理、製品開発、製造、小売、金融業務のプロセスを一変させるでしょう。
AIの活用が急速に進んでいる分野の一つが人事部門であり、特に採用・雇用プロセスにおいて顕著です。企業は長年にわたり、応募書類や履歴書を迅速に評価し、最も魅力的な候補者を特定する方法を模索してきました。そうすることで、成功の可能性が高い人材を選び、採用することが可能になります。この目的のために、AIは非常に効果的なツールとして注目されています。
しかし、AIをスクリーニング・ツールとして使用すると、応募書類や履歴書を評価する際にAIが使用する入力データの影響により、有望な候補者が除外される可能性があります。カリフォルニア州はこの問題に対応するため、採用・雇用プロセスにおける「自動意思決定システム（ADS）」の使用を規制する法律を制定しました。カリフォルニア州行政法局による最終承認を経て、これらの規制は2025年7月1日に施行される予定です。
カリフォルニア州の新しい規制は、既存の差別禁止規制を強化し、ADSの使用が、州法で保護されている応募者や従業員のカテゴリーに基づく差別につながることを禁止しています。これらの保護カテゴリーには、人種、肌の色、性別、ジェンダー、性的指向、性自認または表現、年齢、障害、国籍、市民権、犯罪歴（ただし、その犯罪歴が職務の特定の責務と直接的かつ不利な関係を持つ場合を除く）などが含まれます。
新しい規制では、ADSを「雇用に関する利益について意思決定を行う、または人間の意思決定を支援する計算プロセス」と定義しており、採用、昇進、研修プログラムへの選抜、報酬、解雇などが含まれます。また、同規制によればADSは応募者や従業員に関する評価を行うことができ、予測評価を実施したり、スキル、器用さ、反応速度、その他の能力や特性を測定したり、性格特性、適性、態度、文化的適合性を評価したり、応募者や従業員をスクリーニング、評価、分類、推薦することが可能としています。これらの決定にADSを使用する場合、法律の適用対象となります。
さらに、同規制では、ADSが特定のグループに向けた求人広告や採用資料の配信、履歴書の特定の用語やパターンのスクリーニング、面接時の表情、言葉の選び方、声の分析、第三者から取得したデータの分析に使用される可能性があることも指摘されています。
同規制では、雇用主またはその代理人（採用・雇用プロセスやその他の雇用関連業務において雇用主を代理する第三者を含む）が、AIやその他の選考基準を使用し、法律で保護されている応募者や従業員のクラスに対して差別を行った場合、カリフォルニア州の差別禁止法に違反すると明記されています。また、ADSの使用が保護カテゴリーに対する違法な差別を引き起こした場合、代理人だけでなく雇用主も差別禁止法違反と見なされる可能性があります。
さらに、雇用主はADSの使用を雇用記録の一部として文書化し、すべての雇用記録を4年間保持する義務があります。
同規制によれば、雇用主または代理人が使用するADSが、保護対象のグループに属する応募者や従業員に対して差別的な影響を及ぼす場合、差別が認定される可能性があります。同規制は次のように記しています：「このようなクレームやそれに対する弁護に関係して利用可能なものは、違法な差別を回避するための反バイアステストや同様の積極的な取り組みの証拠、またはその証拠の欠如である。これには、取り組みの品質、有効性、最新性、範囲、テストやその他の取り組みの結果、およびそれに対する対応が含まれる。」
この規定は、雇用主が採用、雇用、その他の雇用関連業務でAIを使用する際には、または雇用主が契約する代理人がこれらの業務を実施または支援するためには、AI使用の前にADSツールがテストまたは評価され、その使用が雇用プロセスにおいて偏りを生じさせないことを確認する必要があることを明記しています。さらに、雇用主はADSの提供者から、そのツールの使用が保護対象のカテゴリーに属する人々に対する差別を引き起こさないことを証明する文書を取得することが推奨されています。
雇用におけるAIの使用は、連邦裁判所や行政機関で差別の申し立てを伴う訴訟の対象となってきました。イリノイ州、メリーランド州、ニューヨーク市などの自治体は、雇用におけるAIの使用に関する法律を制定しており、他の州ではAIの使用を制限する法律が導入されています。また、ほぼすべての州でAIの使用を規制する法案が提案されています。そのため、現在AIの雇用への使用を規制していない州も、近い将来に規制を検討するか、実際に導入する可能性が高いでしょう。
テクノロジーとそれを規制する法律が急速に変化しているため、すべての企業は雇用におけるAIの使用に注目し続け、採用、雇用、その他の雇用プロセスでAIツールを導入する前に、法律の専門家に相談することをお勧めします。