カリフォルニア州では、AIツールの使用を規制するためにAssembly Bill 331（AB 331）という法案を提示しました。この法案では、AIの開発者および導入者は、2025年からカリフォルニア市民権局に対して、アルゴリズムのテストと報告を年次で行うことが義務付けられます。また、導入者は個人が自動的な意思決定の対象となった場合に通知し、個人がオプトアウトする仕組みを求めています。さらに、公訴人と個人は、違反に対して民事訴訟を提起することができるようになり、慰謝料や弁護士費用の支払いを請求することが可能になります。この法案は、AI関連ビジネスを大きく規制する可能性があり、企業は、このカリフォルニアの動向を見守り、必要に応じて適切な法対応をしていく必要があるでしょう。
ーーー
バイデン政権と欧州連合が、それぞれ「AI権利章典のための青写真（the Blueprint for an AI Bill of Rights）」と「人工知能法（the Artificial Intelligence Act）」を通じてAIの開発を管理しようとしたのに続き、カリフォルニア州もAIツールの使用を規制するための独自の政策に出ました。
カリフォルニア州は、AIの黄金時代の到来を予感させるいくつかの条項を定めており、これは広く企業にとって重要な意味を持ちます。これには、（1）カリフォルニア州規制当局への導入前開示の義務化、（2）年次影響評価の義務化、（3）金銭的損害賠償を伴う私的訴権が含まれます（(1) mandatory pre-deployment disclosures to California regulators, (2) mandatory annual impact assessments and (3) a private right of action with monetary damages.）。
概要
カリフォルニア州の法案であるAssembly Bill 331 (AB 331)は、Business and Professions Codeに新しい章を追加し、2025年から特定のAIの開発者および導入者に対して、毎年カリフォルニア市民権局に対してアルゴリズムのテストと報告を行うことを義務付けるものです。また、「結果的な決定」（“consequential decisions” ）（法案では「自動決定ツール」またはADTと呼ばれる）のための自動処理の対象となった場合、導入者は個人に通知することを義務付け、これらの決定が完全に自動化されている場合、「技術的に可能な場合」個人にオプトアウトする権利を与えることになります。
法案は、公選弁護士、特にカリフォルニア州司法長官、市の弁護士、地方検察官が、AB331の違反の疑いに対して民事訴訟を起こす権限を与えるものです。さらに、2026年1月1日以降、民間人もアルゴリズムによる差別の疑いで導入企業に対して民事訴訟を起こすことができるようになり、賠償金や弁護士費用を受け取ることができるようになります。
最も興味深いのは、このようなコンピューターによる差別に関する因果関係の基準に関する法改正でしょう。初期の草案では、アルゴリズムによる差別に「寄与する形で」ADTを使用することが禁止されていました。最新版では、そのような被害を「もたらす」ADTを違反と再定義しています。
このように、カリフォルニア州は、新しい世界への対応を模索していますが、リスクと利益を管理するために、バランスを調整する余地があるでしょう。
主な追加事項
主な規定は2025年1月1日に施行され、AB331は 「開発者」（“developers” ）と 「導入者」（deployers” ）に適用されます。開発者とは、ADTを設計、コーディング、製造する個人、パートナーシップ、州または地方政府機関、企業であり、「結果的な意思決定」（“consequential decisions” ）を行う、または行う際の支配的要素となることを目的として、AIシステムまたはサービスを大幅に変更するもので、それが自己使用か第三者による使用かにかかわらず、適用されます。一方、導入者とは、自動意思決定ツールを使用して結果的な意思決定を行う個人、パートナーシップ、州または地方政府機関、または企業のことです。
そして、「結果的な意思決定」という用語には、個人の雇用、教育、住宅、必要な公共料金、家族計画、医療、金融サービス、刑事司法制度や法的サービスとのやりとり、投票に重大な影響を与える決定が含まれます。
開発者または導入者は、ADTの目的、利点、データ収集方法、用途、潜在的な悪影響、開発者または導入者のアルゴリズムによる差別防止策を説明する影響評価を、毎年および重要な更新があるたびに行う必要があります。これらの要件は、すべての開発者に適用されますが、従業員数が25人以上、またはADTが前暦年に少なくとも1,000人に影響を与えた開発者のみに適用されます。
また、開発者および導入者は、ガバナンス・プログラムを維持し、コンプライアンスを監督・維持する従業員を指名し、使用するADTの種類とアルゴリズムによる差別の管理方法をまとめた明確なポリシーを公開する必要があるとされています。これらの要件は、すべての開発者にも適用され、また、従業員数が25人以上、または前暦年にADTが少なくとも1,000人に影響を与えた開発者のみに適用されます。
また、技術的に可能であれば、オプトアウトの要求に対応することが求められ、アルゴリズムによる差別をもたらすような方法でADTを使用することは禁止される予定です。
最後に、法案は、カリフォルニア州市民権局が行政罰を科すことを認め、AB331の違反に対して民事訴訟を起こす権限を公選弁護士に与え、2026年からは、アルゴリズムによる差別を理由に事業者に対して訴えを起こす私的権利を提供するとしています。
主要なポイント
AB 331は、ADTを専門に開発する企業の規制をはるかに超えています。これは、小規模な企業を除くすべての企業によるADTの利用を規制するものです。また、この法案が可決されれば、雇用（雇用）、保険、消費者製品（モノのインターネット）など、現在すでに利用されているADTのサービスの一部も法律が適用される可能性もあります。
また、AB 331の下では、民事規制当局は2026年からADTの使用差し止めを求めることができ、個人も2026年から私的訴権を利用できるようになるため、AI事業者は訴訟リスクが大きな事業リスつの１つになるでしょう。
最後に、AB 331のような法律が他州で制定された場合、企業はAIの利用に関して更に複雑な制限が課される可能性があるため、そのようなことに備える必要があります。
参考記事：California lawmakers seek to lead in regulating business uses of AI
