AIツールが出した引用はすべて、名前のある弁護士が出典を開き、下書きの主張どおりの内容が書かれていると確認するまで、未確認として扱ってください。それを書面のルールにし、出典にリンクするツールを優先し、チームを教育し、提出前に誰が各引用を確認したかを記録します。本記事は法的な助言ではありません。
要点
- 架空の引用は、一人の不注意からではなく、確認されていない下書きから生まれます。解決策は、全員が従う確認のルールです。
- 複数の法域の裁判所が、存在しない引用を含む書面を提出した弁護士に制裁を科したり、懲戒機関に付託したりしています。
- 専門の法律調査ツールでも、誤った回答や根拠のずれた回答が出ます。有料のツールは確認の代わりにはなりません。
- 署名するパートナーやシニアの弁護士は、AIを使ったかどうかにかかわらず、ジュニアの調査に責任を負います。
- 意味のある研修は、一般的なAI講座ではなく、御社自身の調査業務を使った短く実践的なものです。
架空の引用は、どのようにして提出書面に入り込むのですか
よくある流れです。追い詰められたジュニアの弁護士がチャットボットに先例を尋ね、事件名、裁判所、引用文の揃った整った一覧を受け取り、それを下書きに貼り付けます。どれも本物らしく見えるので、誰も判例を開きません。シニアの弁護士は議論の筋は確認しても、脚注までは見ません。そして相手方や裁判官がその判例を探し、見つけられないのです。
ニューヨーク連邦裁判所のMata対Avianca事件では、弁護士がChatGPTを使って調査し、存在しない判例を提出しました(CNBC、2023年5月)。これが最後の例ではありませんでした。
#裁判所はAIによる引用にどう対応していますか
イングランドでは、高等法院のAyinde判決が架空の先例を含む主張書面を扱い、架空の引用は少なくとも規制当局への付託と無駄な費用の負担命令につながる可能性が高いことを示しました(Linklaters、2025年6月)。
より身近なところでは、DIFC裁判所の大規模言語モデルに関するガイダンスが、当事者に対してAIが生成した内容を早い段階で申告し、その正確性を確認するよう求めています(DIFC裁判所、2023年12月)。出廷するそれぞれの裁判所の規則を確認してください。
有料の法律調査ツールなら、ハルシネーションの心配はありませんか
より安全ではありますが、安全ではありません。Stanfordの研究によると、主要な法律調査ツールでも、ベンチマークの質問の6件に1件以上で、誤った回答や根拠のずれた回答が出ました。根拠のずれとは、引用された出典がその記述を裏付けていないことです(Stanford HAI、2024年5月)。実在する判例が、それを裏付けない主張のために引用されている場合は、作り話の判例よりも見つけにくくなります。
引用確認のルールには、何を書くべきですか
- 一次資料または公式判例集で誰かが開いて確認するまで、どの先例も下書きに入れません。
- 確認者は、判例が存在すること、引用が正しいこと、引用文が原文どおりであること、そしてその判例が主張を裏付けていることを確かめます。
- ファイルの中で、各先例に確認者の名前を記録します。
- 依頼者の案件の調査に公開のチャットボットは使わず、依頼者に関する事実を貼り付けることもしません。
- 署名する弁護士が提出前に確認が済んだことを確かめ、裁判所のAI開示に関する規則に従います。
これは新しいソフトウェアがなくても機能します。案件ファイルに共有のチェックリストを置き、提出時の承認に一行加えるだけで始められます。
実際にこれを防げるのは、どんな研修ですか
一般的なAIの意識向上セッションでは防げません。効果があるのは、御社自身の調査業務を使った短く実践的な練習です。ツールに先例を尋ね、その回答の誤りを見つけます。人は、自分で見つけた架空の判例を覚えているものです。セッションでは、確認のルール、チームに適用される裁判所の規則、どのツールに何を貼り付けてはいけないかを扱います。
会社からAIトレーニングを受けたと答えたAI利用者は39%にとどまりました(Microsoft・LinkedIn Work Trend Index、2024年5月)。法務チームでは、その差が脚注に現れます。
#Stennirはどこで役に立ちますか
StennirのAIトレーニングでは、法務チーム向けのAIオペレータープログラムを、実際の調査と起案の業務を使った役割別のグループで、アラビア語と英語で行います。講師は実務家が務め、利用状況を前後で測り、最後に定着レポートをお渡しします。AIコンサルティングでは、その周りのガバナンスを書面にします。どの作業にどのツールを承認するか、誰が確認するか、何を記録するかです。
調査支援を構築する価値があれば、AI導入で、御社が契約している情報源からのみ先例を返し、それぞれにリンクを付けるツールを用意できます。会社のデータですでにChatGPTを使っている社員の教育方法もあわせてご覧ください。
We are
Stennirは、法務チームが自分たちの業務でAIの出力を確認できるように教育し、誰が何を確認するかのルールを書面にします。
We aren't
Stennirは法律調査の提供者ではなく、御社に代わって引用を確認したり、法律意見を述べたりすることはありません。
マネージングパートナーやゼネラルカウンセルは次に何をすればよいですか
確認のルールを1ページにまとめ、提出時の承認に引用確認の一行を加えてください。そのうえで、起案する人を教育します。コンプライアンスと法務のチームがAIをどう使っているかはコンプライアンス向けのAIでご覧いただけます。無料の準備度診断を受けるか、30分の通話を予約してください。
よくある質問
法律調査でのAIツールの使用を禁止すべきですか。
禁止すると、たいていは利用が個人のアカウントに移り、見えなくなります。より良いルールは、承認済みのツールを定め、公開のチャットボットに依頼者に関する事実を入れることを禁じ、すべての先例を名前のある人が開いて確認するよう求めることです。そうすれば、AIによる起案の速さを保ちながら、引用が確認されないまま残る原因を取り除けます。
ジュニアの弁護士が起案した架空の引用には、誰が責任を負いますか。
書面に署名した弁護士です。法域の職業規則によっては、監督者も責任を問われることがあります。裁判所は、起案した人だけでなく、シニアの弁護士の行為にも目を向けてきました。だからこそ、確認は承認の手順に組み込み、名前を記録しておくべきなのです。
Stennirはこの研修をアラビア語で行えますか。
はい。StennirはAIオペレータープログラムをアラビア語と英語で行い、チーム自身の調査と起案の業務を使い、該当する場合はアラビア語の法律資料を使った演習も含めます。他の言語もご要望に応じて対応します。利用状況を前後で測り、定着レポートは研修のスポンサーにお渡しします。
確認のルールがあっても、どんな問題が起こり得ますか。
出典を開かずにチェック欄に印をつけたり、判例の存在は確かめても主張を裏付けているかは確かめなかったりすることがあります。提出済みの書面からサンプルを抜き出して再確認し、各先例に名前を記録し、作り話の引用だけでなく根拠のずれた引用についても研修することで、その隙間の大部分を埋められます。
