近年、人工知能（AI）技術の急速な発展に伴い、ディープフェイク（Deepfake）と呼ばれる新たな脅威が注目を集めています。ディープフェイクは、AI技術を用いて作成された高度に現実的な偽の動画や音声のことを指します。この技術は、エンターテインメント分野では革新的な可能性を秘めていますが、一方で深刻な社会問題を引き起こす危険性も孕んでいます。
ディープフェイク（Deepfake）とは
ディープフェイクは、AIの一分野であるディープラーニングを利用して、既存の動画や音声に別の人物の顔や声を合成し、あたかもその人物が実際にそのような行動をとったかのように見せかける技術です。
ディープフェイクの種類と応用先
ディープフェイク技術は主に以下の3つの手法に分類され、それぞれにクリエイティブな応用先があります。
フェイススワップ（Face Swap）
フェイススワップは、ある人物の顔を別の人物の顔に置き換える技術です。この技術では、GANsと呼ばれる AI アルゴリズムを使用して、大量の顔画像から特徴を学習し、別の顔に貼り付けます。フェイススワップは、映画やゲームなどのエンターテインメント分野で役者のスタント代役や、エイジングエフェクトなどに活用されています。
リップシンク（Lip Sync）
リップシンクは、ある人物の口の動きを別の音声に同期させる技術です。この技術では、音声信号から口の動きを推定し、本物の口の動きのように見えるよう、ターゲットの顔にリアルに合成します。リップシンクは、映画の吹き替えや歌のミュージックビデオ、教育コンテンツの制作などに活用できる可能性があります。
パペットテクニック（Puppet Technique）
パペットテクニックは、ある人物の体の動きや表情を別の人物に転写する技術です。この技術では、モーションキャプチャデータや表情の特徴点を解析し、別の人物の体に適用します。パペットテクニックは、ゲームキャラクターのアニメーション制作や、バーチャルYouTuberなどのデジタルアバター制作に活用されています。
ディープフェイクの危険性と対策の必要性
これらのディープフェイク技術は、クリエイティブな表現の可能性を広げる一方で、悪用された場合のリスクも高いことが課題となっています。
このようなディープフェイク技術が悪用された場合、その影響は計り知れません。例えば、政治家の発言を捏造したフェイク動画が拡散されれば、選挙結果に重大な影響を及ぼしかねません。また、ディープフェイクポルノと呼ばれる、同意なく個人の顔を性的な動画に合成する行為は、深刻なプライバシー侵害であり、被害者に多大な精神的苦痛を与えます。
さらに、ディープフェイク技術が高度化・普及することで、「真実」の概念そのものが揺らぎ、人々の 現実に対する信頼が損なわれる可能性があります。このようにAIの進歩と共に利便性が向上すると同時に、私達は、ディープフェイクの脅威に対抗するための法的・技術的対策を早急に講じる必要に迫られているのです。
ディープフェイクに対する法的アプローチ
ディープフェイクの悪用に対抗するため、様々な法的アプローチが検討されています。以下に、主要な法的論点を解説します。
パブリシティ権（Right of Publicity）
パブリシティ権は、個人の氏名や肖像等の識別情報を商業的に利用する権利を指します。無断でディープフェイク動画に個人の肖像を使用することは、パブリシティ権の侵害に当たる可能性があります。
名誉毀損（Defamation）
虚偽の情報を流布することで個人の名誉を毀損する行為は、名誉毀損に該当します。ディープフェイク動画が被害者の社会的評価を下げる内容である場合、名誉毀損として法的責任が問われる可能性があります。
プライバシー侵害（Privacy Violations）
個人のプライバシーを侵害するディープフェイク動画の制作や公開は、プライバシー権の侵害に当たります。特に、性的な内容のディープフェイク動画は、被害者の尊厳を著しく損なう行為であり、重大なプライバシー侵害と見なされます。
著作権侵害（Copyright Infringement）
ディープフェイク動画の制作に当たって、他者の著作物を無断で利用した場合、著作権侵害に該当する可能性があります。特に、SNS上のコンテンツの場合、デジタル・ミレニアム著作権法（DMCA）の規定に基づいてコンテンツの削除申請を行うことは、ソーシャルメディアからディープフェイクコンテンツを迅速に削除する一つの方法かもしれません。ただし、フェアユース（公正利用）の要件を満たす場合は、著作権侵害とならない場合もあります。
商標権侵害（Trademark Infringement）
商標権は、商品やサービスの出所を示す標識について、その使用を独占する権利です。ディープフェイク動画内で、商標権を持つ企業や団体の商標を無断で使用した場合、商標権侵害に該当する可能性があります。
ハラスメント（Harassment）
ディープフェイク動画を用いて個人を嫌がらせや脅迫する行為は、ハラスメントに該当します。特に、性的な内容のディープフェイク動画をさらす行為は、深刻なハラスメントであり、刑事責任が問われる可能性もあります。
これらの法的アプローチは、ディープフェイクの悪用に対する一定の抑止力となりますが、技術の進歩に法整備が追いつかない点や、加害者の特定が困難な点など、課題も残されています。
ニュージャージー州の「ディープフェイク」ポルノ訴訟
今年２月にニュージャージー州の連邦裁判所に、人工知能によって生成された「ディープフェイク」ポルノの被害者に対する補償を求める訴訟が提起されました。原告は、ニュージャージー州ウェストフィールドに住む15歳の女子高生です。訴状によると、原告と同じ高校に通う男子生徒が、AIアプリケーションを使用して原告が合意していないヌード画像を作成し、配布したとのことです。
原告の女子生徒は、2023年8月頃にInstagramで被告の男子生徒からフレンドリクエストを受け入れました。その後、被告の男子生徒は原告の洋服を着ている写真をダウンロードし、それを使って裸の画像を生成しました。訴状によると、被告の男子生徒は「ClothesOff」というアプリを使って裸の画像を作成し、Snapchatを通じて他の人と共有したとされています。原告は同年10月20日、両親が学校から連絡を受けたことでこれらの裸の写真の存在を知りました。
ウェストフィールド警察は調査を行いましたが、2024年1月24日、原告と家族は、学校が収集した事実が調査に使用できなかったこと、また、被告の男子生徒と他の潜在的な証人が警察に協力せず、電子機器へのアクセスを拒否したことから、誰も起訴されないことを知らされました。
原告側は、同意なく裸の写真を配布された場合に個人に訴訟費用と15万ドルの回復を認める法律（15 U.S.C. §6851）や、児童ポルノの被害者に民事的救済を提供する法律（18 U.S.C. §2252Aおよび N.J.S.A. 2A:58D-1）に基づき、損害賠償を求めています。また、プライバシーの侵害、過失による精神的苦痛、児童の福祉を危険にさらすことに対する請求も行っています。原告側は、15万ドルの実損害と、補償的損害賠償および懲罰的損害賠償を求めています。
本訴訟の行方は、ディープフェイクポルノに対する法的対応のあり方に大きな影響を与えるものと予想されます。ニュージャージー州の裁判所がどのような判断を下すのか、注目が集まっています。また、本件を契機として、ディープフェイクポルノに対する法整備の必要性が改めて認識されています。被害者の救済と加害者の処罰を可能とする法律の整備が急務であると指摘されています。
関連記事
肖像権をめぐりディープフェイクAIアプリに対して集団訴訟が起こる
著名人の名前、声、写真、肖像権を無断で使用したとして、ディープフェイクアプリ「Reface」の提供元であるNeoCortext社に対して、集団訴訟が提起されました。クレームでは、カリフォルニアの肖像権法に違反したと主張されており、名前、声、署名、写真、肖像権を広告や販売目的で知らずに使用する人は、同意がない場合、損害賠償の対象になると書かれています。今後もこのような訴訟は増えることが予想されるので、企業は生成AIツールが肖像権を誤って侵害しないようにするための積極的な取り組みを行うべきでしょう。…
米国におけるディープフェイク規制の取り組み
米国では、ディープフェイクの悪用に対する法的規制の必要性が高まっています。しかし、連邦レベルでの包括的な法律は存在せず、各州が独自の取り組みを行っているのが現状です。ここでは、カリフォルニア州とテキサス州の事例を見ていきます。
カリフォルニア州の取り組み
カリフォルニア州は、2019年にディープフェイクに関する2つの法律を成立させました。
- AB-730: 選挙期間中のディープフェイク動画の配布を禁止する法律です。この法律は、選挙結果に影響を与える目的でディープフェイク動画を悪用することを防ぐことを目的としています。
- AB-602: ポルノグラフィックなディープフェイク動画の制作・配布を違法とする法律です。この法律は、個人の同意なしに性的な動画にその個人を登場させることを禁止しています。
これらの法律は、ディープフェイクの悪用に対する一定の抑止力となっていますが、技術の進歩に法整備が追いついていないという課題もあります。
テキサス州の取り組み
テキサス州は、2019年に SB-751 を成立させました。この法律は、ディープフェイク動画を使って他人を脅迫したり、ハラスメントしたりすることを禁止しています。また、選挙期間中のディープフェイク動画の配布を違法とする条項も含まれています。
テキサス州の法律は、ディープフェイクを使った個人への攻撃を防ぐことに重点を置いていますが、表現の自由との兼ね合いについては十分な議論が必要とされています。
関連記事
AIなりすまし規制法：ELVIS法がテネシー州で成立
日進月歩のテクノロジー業界において、人工知能（AI）はかつてSFの世界であった技術革新を可能にする強力なツールとなりました。しかし、この技術的恩恵には、特にAIによるなりすましの領域において、独自の課題が伴います。テネシー州は、一般にELVIS法として知られるEnsuring Likeness, Voice, and Image Security Actの導入により、この問題に対処する先駆的な一歩を踏み出しました。この法律は、個人、特にクリエイティブ産業に携わる人々を、AIが生成した無許可の声や似顔絵のなりすましから保護することを目的としています。このブログでは、ELVIS法について掘り下げ、その意味合い、保護、AIと知的財産権に関するより広範な話題について説明します。…
連邦法の不在と課題
現在、米国連邦レベルでは、ディープフェイクを直接規制する法律は存在しません。各州の取り組みは一定の効果を上げていますが、各州の法律の内容や適用範囲はまちまちです。このような連邦法が存在しない状況下では、ディープフェイクに対する法的対応にいくつかの課題が生じています。
- 州間での法的対応の差異：各州の法律の内容や適用範囲が異なるため、ディープフェイクに対する法的対応に一貫性がありません。
- 法執行の困難性：ディープフェイクの制作者や拡散者が州境を越えて活動する場合、州法レベルでの法執行が困難となる可能性があります。
- 被害者支援の限界：連邦法が存在しないため、ディープフェイクの被害者に対する全国的な支援体制の構築が難しくなっています。
これらの課題に対応するためには、ディープフェイクに関する包括的な連邦法の制定が望まれます。連邦法により、全米で一貫したディープフェイク規制が可能となり、法執行の効率化や被害者支援の強化につながることが期待されています。
今までに連邦議会に、ディープフェイクに関する法案が複数提出されていますが、表現の自由との兼ね合いなどの問題から、成立には至っていません。ディープフェイク規制をめぐっては、以下のような課題が挙げられます。
- 表現の自由との兼ね合い：ディープフェイクを規制する法律が、表現の自由を不当に制限してしまう可能性があります。
- 技術の進歩への対応：ディープフェイク技術は急速に進歩しており、法律が技術の進歩に追いつかない可能性があります。
- 法執行の困難性：ディープフェイクの制作者や拡散者を特定することが難しく、法執行が困難となる場合があります。
これらの課題を踏まえつつ、連邦レベルでの包括的なディープフェイク規制の在り方が議論されていますが、残念ながら今のところ法整備への具体的なタイムライン等は存在しません。
関連記事
生成AIの規制と法的課題
生成AIは、テキスト、画像、音楽、ビデオ、コンピュータコードなど、さまざまな領域にわたって、人間が理解できる比較的単純なプロンプトを使用して、一見オリジナルに見えるコンテンツを作成する驚くべき能力を持っています。生成AIの創造力は、既存の市場に革命をもたらし、新たな市場に道を開く可能性を示しています。…
ディープフェイクへの対策
ディープフェイクの脅威に対抗するためには、法的アプローチだけでなく、技術的・社会的な対策も必要です。ここでは、教育とデジタルリテラシーの向上、ディープフェイク検出技術の開発、法整備と規制強化の必要性について述べます。
教育とデジタルリテラシーの向上
ディープフェイクに対抗するには、一般市民のデジタルリテラシーを向上させることが不可欠です。デジタルリテラシーとは、デジタル技術を適切に理解し、活用する能力のことです。具体的には以下のような取り組みが求められます。
- ディープフェイクの仕組みや危険性について、学校教育の場で生徒に教える。
- メディアリテラシー教育を強化し、情報の真偽を見極める能力を育成する。
- ソーシャルメディア上の情報を鵜呑みにせず、複数の情報源を比較検討する習慣を身につける。
デジタルリテラシーの向上は、ディープフェイクだけでなく、フェイクニュースやオンライン上の様々な脅威に対抗するための基盤となります。
ディープフェイク検出技術の開発
ディープフェイク検出技術の開発は、ディープフェイクの脅威に対抗するための重要な柱の一つです。現在、以下のような検出技術の研究が進められています。
- 顔の表情や瞬きなどの微妙な動きを分析することで、ディープフェイク動画を検出する技術。
- 画像や動画のデジタル署名を分析することで、改変の有無を判定する技術。
- AIを用いてディープフェイク動画を自動的に検出するシステムの開発。
これらの検出技術は、ソーシャルメディアプラットフォームや動画共有サイトなどに導入することで、ディープフェイク動画の拡散を防ぐことが期待されます。ただし、検出技術の開発は、ディープフェイク技術の進歩に常に追いつく必要があるという課題もあります。
法整備と規制強化の必要性
ディープフェイクに対する法的規制を強化することは、ディープフェイクの悪用を防ぐための重要な対策の一つです。以下のような法整備と規制強化が求められています。
- 連邦レベルでのディープフェイク規制法の制定。
- プライバシー保護法の強化と、ディープフェイク被害者の救済措置の拡充。
- ソーシャルメディアプラットフォームに対する規制の強化と、ディープフェイク動画への対応の義務化。
ただし、法整備と規制強化に当たっては、表現の自由との兼ね合いに十分配慮する必要があります。また、技術の進歩に合わせて、柔軟に法律を見直していくことも重要です。
ディープフェイクの脅威に対抗するためには、教育、技術、法律の3つの側面からのアプローチが必要不可欠です。これらの対策を適切に組み合わせることで、ディープフェイクの悪影響を最小限に抑えることが期待されます。
まとめ
ディープフェイク技術は、エンターテインメントや教育などの分野で革新的な可能性を秘めていますが、悪用された場合、プライバシー侵害や名誉毀損、政治的操作など、深刻な社会問題を引き起こす危険性があります。米国では、いくつかの州がディープフェイクに関する法律を制定していますが、連邦レベルでの包括的な規制は存在せず、法的対応には課題が残されています。ディープフェイクの脅威に効果的に対抗するためには、教育によるデジタルリテラシーの向上、ディープフェイク検出技術の開発、法整備と規制強化など、多角的なアプローチが必要不可欠です。技術の進歩に合わせて適切な対策を講じることで、ディープフェイクの悪影響を最小限に抑えつつ、その可能性を活かしていくことが重要です。
