untruth

AIにおける偏見と差別に対して政府機関が力を合わせる

連邦政府の4つの機関、消費者金融保護局(CFPB)、司法省市民権部(DOJ)、労働均等機会委員会(EEOC)、連邦取引委員会(FTC)は、自動システムと人工知能(AI)におけるバイアスと差別に取り組むことを約束する共同声明を発表しました。これらの機関は、AI技術がさまざまな産業に統合されるにつれ、市民の権利、均等な雇用機会、公正な競争、消費者保護を守ることを目指しています。懸念されるのは、バイアスのかかったデータセットに依存する自動システムが違法な差別を「システム化」させる可能性です。声明は、AI技術の使用における透明性と規制の遵守の必要性を強調しています。そのため企業は規制について情報を得て、自社のAIの実践を評価することが重要です。

ーーー

2023年4月25日、連邦政府4機関が、自動化システムや人工知能(AI)における偏見や差別に対する決意を表明する共同声明を発表しました。消費者金融保護局(CFPB)、司法省公民権局(DOJ)、雇用機会均等委員会(EEOC)、連邦取引委員会(FTC)は共同で、イノベーションが個人の権利や規制遵守に取って代わることがないよう求めていきます。具体的には、これらの連邦機関は、市民権、雇用機会均等、公正な競争、消費者保護を守るために、新しいAI技術の導入を引き続き精査していくことになります。

自動化システムとAIは、エンターテインメント、ヘルスケア、雇用、金融サービスなど、さまざまな業界に浸透しています。ソフトウェアやアルゴリズムによるプロセスは、ワークフローの合理化、個人のタスク完了の支援、意思決定の簡素化などに利用できます。しかし、司法省、FTC、EEOC、CFPBは、より多くの公的機関や民間企業が、「仕事、住宅、信用機会、その他の商品・サービスへの公平で平等なアクセスを含む、個人の権利や機会に影響を与えうる重要な決定」を行うために、自動化システムを利用することで起こりうる偏見や差別のリスク

共同声明にあるように、自動化システムやAIは、パターンを特定し、タスクを実行し、予測を行うために、大規模なデータセットに依存しています。しかし、基礎となるデータセットが代表的でない場合、システムは偏った差別的な結果を生み出す可能性があります。また、これらの自動化システムの一部には透明性がないため、ユーザーが結果における潜在的な偏りや差別を特定することが難しく、問題をさらに複雑にしている可能性があります。

実務上の留意点

共同声明は、連邦政府が自動化システムおよびAI対応技術に対する監視を強化していることを確認するものです。例えば、雇用の観点での動きから見られるように、州の規制当局も責任あるイノベーションを施行することを目的とした法律やガイダンスを導入しつつあります。雇用主、医療提供者、技術開発者などは、(1)自動化システムに関する連邦、州、外国の規制の更新を監視し、(2)組織の意図的および不注意なAI利用を評価し、規制を遵守しベストプラクティスを確保すべきでしょう。

参考記事:Government Agencies Join Forces Against Bias and Discrimination in AI

こちらもおすすめ