ChatGPT事件で架空の判例を提出した弁護人たちが制裁を受ける：本質はAI問題じゃない？

架空の存在しない判例をChatGPTが作り出し、事実確認が取れないまま裁判所に提出した弁護士たちの事件は、法曹界に大きな衝撃を与えました。今回その事件に関する審問と制裁判決があったので、その詳細を解説します。この問題は表面的にはAIツールの誤操作・過信のように見えますが、審問と判決内容を見るとそうではなく、ミスを指摘されたときに隠蔽しようとウソをついたことが本質的な問題です。そのウソがウソを呼び、取り返しのつかないところまで膨れ上がったという、弁護士として（そして人間として）のミスをしたときの対応に問題があり、そこが制裁でも重視されていたことがわかります。

ーーー

以前、ChatGPTが生成した実在しない判例を引用した書類を提出した弁護士をめぐるニューヨーク南部地区での裁判において、この事件を担当する裁判官は、2023年6月8日、満員の法廷を前に緊張した長い審理を行い、2023年6月22日、関与した弁護士に制裁を科す判決を下しました。この事件は、法曹界でAIを使用することの現実的なリスクのいくつかを浮き彫りにして注目を集めましたが、この事件の主要な教訓はAIとは何の関係もない、もっと弁護士としての本質的な問題に関わります。

関連記事：連邦訴訟における不用意なChatGPTの活用で弁護士が非難される事態に

ウソにウソをついていたことが明るみになった審問

2023年6月8日、裁判官は、原告の弁護士2名と彼らが勤務していた法律事務所の行為に対する制裁の是非を問う審問を行いました。法廷は満席となり、傍聴希望者の多くは傍聴席からビデオ中継を見るような状態になっていたそうです。

今回の問題は、原告の第一弁護士が2023年3月1日、被告の棄却申し立てに反対する書類を提出しましたが、それは第二弁護士が書いたもので、存在しない判例の引用が含まれていた、と言うものです。その後、被告が3月15日に提出した宣誓供述書(affidavit)において、これらの判例が見当たらないことを指摘したため、裁判所は4月11日、原告の弁護士に対し、特定された判例を添付した宣誓供述書を提出するよう命じる命令を出しました。

最初の弁護士は4月25日に宣誓供述書を提出し、「ケース」のいくつかを添付し、他は見つけられなかったことを認めましたが、特定されたケースのすべてがChatGPT経由で入手されたものであることは明らかにしませんでした。裁判所が5月4日に、存在しない事例を引用したことで制裁を受けるべきでない理由を示すよう同弁護士に命じる命令を出した後、ようやく最初の弁護士は、2番目の弁護士の関与と、提出書類の作成におけるChatGPTの役割を明らかにしました。

6月8日の審理で、裁判官は2人の弁護士に宣誓の上、長々と質問をしました。質問の多くは、弁護士が数十年の経験を持ち、法的調査を行うための様々な選択肢を知っているという事実を立証することを目的としたものでした。原告側の最初の弁護士は、自分がニューヨーク南部地区の弁護士資格を有しており、2番目の弁護士は有していなかったという理由だけで書類に署名したこと、また、実際に調査を行い、偽の事件に関する書類を起草したパートナーの仕事をチェックする努力を怠ったことを認めました。一人目の弁護士は、判例の存在に疑義を投げかける被告からの最初の提出書類や裁判所の最初の命令を一切読まなかったことを認めました。一人目の弁護士はまた、4月11日に同裁判所が判例のコピーの提出を命じたことに対して回答する期間の延長を求めた際、同裁判所に対して虚偽の陳述をしたことを認めました。その延長請求において、第一弁護士は休暇中であると主張しましたが、実際に休暇中であったのは第二弁護士でした。

原告側の2番目の弁護士は、自分の事務所で利用している法律研究プログラムでは連邦裁判所の判例にアクセスできなかったので、「スーパー検索エンジン」だと思っていたChatGPTを利用したと主張しました。彼は、ChatGPTによって特定された判例を見つけることができなかったことを認めながらも、その判例は未発表のものであるか、自分がアクセスできないデータベースにあるものだと考えていると述べました。判事は、判例が未公開であるという考えに対して、偽の判例の引用の中に「F.3d」が含まれていることを指摘し、2番目の弁護士に「F.3d」の意味を知っているかどうか尋ねました。当初、二人目の弁護士は知らないと答え、おそらく 「連邦管区第三部」という意味だろうと答えました。裁判官からのさらなる質問に対し、彼は後に「F.3d」が連邦公開報告（federal reporter）に掲載された判決を指していることを認め、この判決が実際には未公開ではなかったことを示しました。

その後、第一、第二の弁護士による証言と陳述書の朗読、および両弁護士が勤務する法律事務所の所長による陳述の後、裁判官は第一の弁護士を弁護する代理人と第二の弁護士を弁護する代理人それぞれから最終弁論を聞きました。彼らは第一、第二の弁護士がとった行為は単なる不注意であり、制裁に値する違法行為のレベルには達していないと第一、第二の弁護士を養護する主張を展開します。二人目の弁護士の代理人は、弁護士一般が 「新しいテクノロジーに弱い」ことで有名であることを理由に、問題を抽象化するような発言もしていました。また、この事件がメディア等で大きく報道されたことにより広く世間に知られているため、弁護士たちはすでに「十分な被害」を被っており、制裁は必要ないと主張しました。

裁判官はこれらの主張を受け入れず、2人の代理人が弁論を終える前にそれらの主張をやめるよう命じました。裁判官は、ChatGPTが2人目の弁護士から要求されたことを忠実に実行したことを指摘。2人目の弁護士は、ChatGPTに対し、自分の望む法的主張を裏付ける事例を提供するよう要求し、ChatGPTは、存在しない事例をでっち上げることでこれに応じました。裁判官はまた、被告が3月15日に原告の引用した判例が存在しないことを示す準備書面を提出した事実を強調し、裁判官は被告から通告を受けた後の原告弁護士の行為に注目しました。

やらかしに対する制裁が明るみになった判決

2023年6月22日、裁判所は、2人の弁護士とその事務所に5000ドルの罰金を科す判決を下しました。同裁判官はまた、2人の弁護士に対し、依頼人である原告、およびChatGPTが作成した偽の意見書の著者として名前が記載されていた裁判官に対し、今回の判決、6月8日の審理の記録、および偽のケースを添付した同弁護士による事前の裁判所提出書類のコピーを添付した書簡を書くよう要求しました。裁判官は、「強制された謝罪は誠意ある謝罪ではないので」、弁護士に謝罪を要求することはないと述べ、「謝罪するかどうかの判断は2人の弁護士に委ねられる」と述べました。

審問の最後に述べたとおり、裁判官は、被告から判例が存在しない可能性があると通告された後の弁護士の行為に主に焦点を当てました。判事は、最初の弁護士について、デュー・ディリジェンスをまったく怠り、問題となった判例に関する宣誓供述書の提出期限延長の必要性について法廷に嘘をついたことを非難しました。判事は、両弁護士が4月25日付の宣誓供述書に事件と称するものを添付し、2番目の弁護士がChatGPTを使用したことを明らかにすることなく、「オンライン・データベース」から得た実在の事件であると主張したことは不適切な行為であったと判断しました。

裁判官は、被告や裁判所からの警告は別としても、原告側の弁護士は何か重大な問題があることに気づくべきだった、と指摘しました。その宣誓供述書に添付された事例には、判決を出したとされる裁判所と一致しない裁判官名、判決文自体の中で一貫性のない原告名と法的考え方、文章の途中で突然止まっている判決など、数多くの警告のサインがありました。さらに、二人目の弁護士は、いくつかの判例を探したが見つからず、被告や裁判所も同様に見つけられなかったと信じていることを認めました。それにもかかわらず、弁護士は裁判所に事実を認める代わりに、4月25日の宣誓供述書において、その判決を本物の裁判所の判決としてごまかそうとしました。

以上のことから、裁判官は両弁護士が不誠実に行動したと判断し、制裁が正当であると判断しました。これとは別に、同日、同裁判官は、原告側弁護士の違法行為ではなく、本件は適用される時効により無効であるとして、被告側の却下申し立てを認める命令を下しました。

ミスを犯したときの対応が適切だったら被害は最小限になっていたはず

この状況は、技術がどのように機能し、どのような限界があるのかを理解せずに新しい技術を使用することのリスクを明確に浮き彫りにしています。しかし、結局のところ、このケースはAIの使用というよりも、ミスを犯したときに何をすべきか（あるいは何をすべきでないか）の重要性を示しているのです。

裁判官が指摘したように、裁判所が4月11日に判例のコピーを要求する命令を出した後、弁護士たちが自白し、何が起こったかを認めていれば、この事件は大きく変わっていたでしょう。それどころか、4月25日の宣誓供述書では、これらの事例が実在すると主張し続けることで、自分たちのやったことと、これらの判例の真実性に対する疑念の両方を覆い隠そうとしたのです。しかし、5月4日の裁判所命令に対してChatGPTのことを明らかにした後も、弁護士たちは自分たちの行為を軽んじ、すべては不注意から生じた無実の過ちであるとしました。

6月8日の審問に至るまでの書類と審問そのものにおいて、弁護士の代理人はこの戦略をさらに強化し、この事態は真新しいAIプログラムに関する単なる注意不足と理解不足が招いたものであると主張しました。従って、代理人は、弁護士たちは悪意を持って行動したわけではなく、制裁は正当化されないと主張しました。しかし、4月25日付の宣誓供述書において、原告側弁護士は、被告や裁判所からの疑問の指摘にもかかわらず、本件は真正であると主張し続けました。審理の間、代理人たちが 「空気を読んでいない」ことは明らかであり、このような主張で裁判官をさらに怒らせました。

簡単に言えば、弁護士たちが本当に困ったのは、AIの使用や彼らの不注意ではなかったのです。そうではなく、彼らが起こったことを隠蔽しようとし、その責任を取らなかったことに本質的な問題があるのです。

この事態は訴訟という文脈で起きましたが、先に述べたように、この教訓は、弁護士がどのような分野や業務に携わっていようと、法律実務のあらゆる側面に当てはまります。AIは弁護士が実務に取り入れる強力なツールではありますが、実質的な法律情報を頼りにできるほどには（今のところ）進歩していないのです。

さらに、弁護士は自分の仕事をチェックし、それが正確であることを確認する責任があります。どんなに注意深い弁護士でも、時には間違いを犯します。今回のやらかし事件は、そのような間違いから逃げようとするのではなく、間違いを認めることが重要であることを思い出させてくれます。

参考記事：Update on the ChatGPT Case: Counsel Who Submitted Fake Cases Are Sanctioned