AIにおける偏見と差別に対して政府機関が力を合わせる

連邦政府の4つの機関、消費者金融保護局(CFPB)、司法省市民権部(DOJ)、労働均等機会委員会(EEOC)、連邦取引委員会(FTC)は、自動システムと人工知能(AI)におけるバイアスと差別に取り組むことを約束する共同声明を発表しました。これらの機関は、AI技術がさまざまな産業に統合されるにつれ、市民の権利、均等な雇用機会、公正な競争、消費者保護を守ることを目指しています。懸念されるのは、バイアスのかかったデータセットに依存する自動システムが違法な差別を「システム化」させる可能性です。声明は、AI技術の使用における透明性と規制の遵守の必要性を強調しています。そのため企業は規制について情報を得て、自社のAIの実践を評価することが重要です。

ーーー

2023年4月25日、連邦政府4機関が、自動化システムや人工知能(AI)における偏見や差別に対する決意を表明する共同声明を発表しました。消費者金融保護局(CFPB)、司法省公民権局(DOJ)、雇用機会均等委員会(EEOC)、連邦取引委員会(FTC)は共同で、イノベーションが個人の権利や規制遵守に取って代わることがないよう求めていきます。具体的には、これらの連邦機関は、市民権、雇用機会均等、公正な競争、消費者保護を守るために、新しいAI技術の導入を引き続き精査していくことになります。

自動化システムとAIは、エンターテインメント、ヘルスケア、雇用、金融サービスなど、さまざまな業界に浸透しています。ソフトウェアやアルゴリズムによるプロセスは、ワークフローの合理化、個人のタスク完了の支援、意思決定の簡素化などに利用できます。しかし、司法省、FTC、EEOC、CFPBは、より多くの公的機関や民間企業が、「仕事、住宅、信用機会、その他の商品・サービスへの公平で平等なアクセスを含む、個人の権利や機会に影響を与えうる重要な決定」を行うために、自動化システムを利用することで起こりうる偏見や差別のリスク

共同声明にあるように、自動化システムやAIは、パターンを特定し、タスクを実行し、予測を行うために、大規模なデータセットに依存しています。しかし、基礎となるデータセットが代表的でない場合、システムは偏った差別的な結果を生み出す可能性があります。また、これらの自動化システムの一部には透明性がないため、ユーザーが結果における潜在的な偏りや差別を特定することが難しく、問題をさらに複雑にしている可能性があります。

実務上の留意点

共同声明は、連邦政府が自動化システムおよびAI対応技術に対する監視を強化していることを確認するものです。例えば、雇用の観点での動きから見られるように、州の規制当局も責任あるイノベーションを施行することを目的とした法律やガイダンスを導入しつつあります。雇用主、医療提供者、技術開発者などは、(1)自動化システムに関する連邦、州、外国の規制の更新を監視し、(2)組織の意図的および不注意なAI利用を評価し、規制を遵守しベストプラクティスを確保すべきでしょう。

参考記事:Government Agencies Join Forces Against Bias and Discrimination in AI

ニュースレター、会員制コミュニティ

最新のアメリカ知財情報が詰まったニュースレターはこちら。

最新の判例からアメリカ知財のトレンドまで現役アメリカ特許弁護士が現地からお届け(無料)

日米を中心とした知財プロフェッショナルのためのオンラインコミュニティーを運営しています。アメリカの知財最新情報やトレンドはもちろん、現地で日々実務に携わる弁護士やパテントエージェントの生の声が聞け、気軽にコミュニケーションが取れる会員制コミュニティです。

会員制知財コミュニティの詳細はこちらから。

お問い合わせはメール(koji.noguchi@openlegalcommunity.com)でもうかがいます。

OLCとは?

OLCは、「アメリカ知財をもっと身近なものにしよう」という思いで作られた日本人のためのアメリカ知財情報提供サイトです。より詳しく>>

追加記事

再審査
野口 剛史

CAFCがArthrex判決の再審と再審en bancを否定

2020年3月23日、CAFCは、PTAB ALJの任命が違憲であると判断したArthrexの上訴において、再審と再審en bancを否定しました。Arthrexは憲法の問題ということもあり、当事者だけでなく様々な団体からAmicus briefが提出されるほど注目されていました。しかし今回の判決で、最高裁で審議されない限りこの案件はこのまま終わりそうです。

Read More »
特許出願
野口 剛史

Government shutdownの教訓

2019年1月25日に、35日間というアメリカの歴史上最も長いGovernment Shutdownが終わりました。今後もGovernment Shutdownは起きることが予想されるので、今回の出来事から今後の知財戦略についての教訓をいくつか紹介します。

Read More »
Uncategorized
野口 剛史

チャットボットで新規顧客の開拓

チャットボットをうまく使えば今までにない形での見込み客とのコミュニティーが可能になってきます。今回はこのチャットボットを使った新しい顧客開拓方法を考えてみました。

Read More »