弁護士がChatGPTの架空証人を提出、米ニューメキシコ州最高裁が罰金5000ドル
生成AIが作った文章をそのまま業務に使うと、法律の世界に限らず信頼を丸ごと失う事態になりかねません。今回は殺人事件の控訴審という重大な場面で、その代償が具体的な形になりました。
この記事の要点
何が起きたか
米ニューメキシコ州最高裁は、殺人事件の控訴審資料にAIが生成した架空の証人証言や虚偽の警察証言を盛り込んだとして、弁護士のスティーブン・アーロンズ氏を処分しました。水曜日付の裁定で罰金5000ドルを科し、法廷侮辱と認定しています1。
裁定文によると、問題の資料には「まったくの架空の証人による虚偽の証言」に加え、犯人の服装や外見に関する「虚偽の証言」も含まれていました1。
8月の審理でアーロンズ氏はChatGPTを使用したことを認め、裁判の「鉄壁の要約」を生成してくれると考えていたと説明しています。これに対しシャノン・ベーコン判事は「弁護士、あなたはニュースを見ないのですか。ラジオは聞かないのですか。世の中で何が起きているか、何か読んでいないのですか」と述べ、AIの誤情報に弁護士が頼る問題は「毎日一面を飾る話だ」と指摘しました1。
アーロンズ氏はロイターへの声明で「反省しているが、懲戒委員会がこれを正直な過ちとして考慮してくれることを願う」と述べています1。
背景・解説
生成AIが事実に基づかない情報をもっともらしく作り出す現象は「ハルシネーション」と呼ばれます。文章として自然に見えるため、専門家でも見抜けずにそのまま採用してしまう危険があります。
法律分野では、判例や証言の正確さが判決を左右するため、この種の誤りは深刻な影響を持ちます。記事によれば、AIツールを業務に使う弁護士が増えるのに伴い、裁判所がねつ造・ハルシネーションによる引用を発見する事例も増えているといいます1。
過去にも、ある裁判官が「多数の虚偽・不正確・誤解を招く法的引用と引用文」を含む資料を提出した2つの法律事務所を厳しく批判した事例や、著名人マイク・リンデル氏側の弁護士がAIによる誤引用や架空の引用を資料に盛り込んだとして罰金を科された事例が紹介されています1。
仕事や業務への影響
生成AIが出した文章を裏取りせずに提出すれば、業種を問わず信頼と費用の両方を失います。今回のケースは弁護士という専門職の話ですが、契約書や報告書、提案資料を作る職種すべてに当てはまる教訓です。例えば、従業員30人の建設会社で総務担当者1人が取引先向けの見積根拠資料をChatGPTでまとめ、根拠となる法令や過去事例を確認しないまま提出すれば、取引先からの信用を一度に失う事態になり得ます。
法的な文書に限らず、社内提案書や顧客向け報告書でAIが生成した固有名詞・引用・数値は、担当者が原典に当たって1件ずつ確認すべきです。100人規模の企業であれば、AI生成文書のチェック体制として最低でも作成者以外のもう1人が事実確認する二重チェックの仕組みが必要になります。逆に言えば、確認さえ徹底すれば、生成AIによる文書作成の効率化そのものは否定される話ではありません。
罰金5000ドルという金額は、専門職個人が負う代償としては軽くありません。加えて法廷侮辱という処分は、弁護士としての信用そのものに傷を付けます。企業の実務責任者にとっても、AIが作った文章を「体裁が整っているから正しい」と判断するのは危険です。10人未満の小規模な士業事務所であれば、AI利用のガイドラインを1枚でも作成し、引用元の確認を義務付けるだけで同種のリスクは大きく下げられます。
不確かな点・注意
今回の記事では、アーロンズ氏がChatGPTのどのバージョンを使ったか、また架空の証人や証言がどの程度の分量にわたっていたかは明らかにされていません。
懲戒委員会による最終的な処分内容についても、記事の時点では確定した情報が示されていません。アーロンズ氏本人は「正直な過ち」として考慮してほしいと述べていますが、この主張が今後どのように評価されるかは不明です。
また、記事で触れられている過去の2件の事例法律事務所2社の件、マイク・リンデル氏側弁護士の件についても、詳細な経緯や罰金額以外の処分内容は本記事の出典だけでは分かりません。日本国内の法曹実務における同種のリスクや対応状況についても、この出典からは判断できません。
出典
この記事のつくり方
国内外の情報源（企業の公式発表や、国内外の報道）を巡回して、新しいニュースの候補を集めます。
AIが、選んだ出典だけをもとに記事を書きます。出典に無い数字・日付・発言は作りません。
20を超える決まりの検査と、別のAIによる出典との照らし合わせを通った記事だけを公開します。通らなかった記事は公開しません。
公開した記事には、運営者が目を通しています。誤りに気づいたときは、訂正するか、公開を取り下げます。