生成AIに騙される弁護士がいまだに相次ぐ――裁判に架空の判例を提出した弁護士には制裁金の勧告 【生成AI事件簿】生成AIのハルシネーションに幻惑？AIチャットボットの回答を鵜呑みにしてはならない | JBpress (ジェイビープレス)

先日、米国で弁護士が生成AIを用いて作成した訴訟の書面に架空の判例が掲載されていたことが判明した。2023年に同様の事件が起きたばかりだが、なぜ生成AIに騙される弁護士が後を絶たないのだろうか。（小林 啓倫：経営コンサルタント） 制裁金を科されたテキサス州の弁護士 先ごろ米国で、弁護士が生成AIチャットボットを用いて作成した訴訟書面に架空の判例が掲載されていたことが判明し、連邦裁判所が約1万5000ドルの制裁金を科すよう勧告するという事件が起きた。 そう聞いて、ずいぶん昔の話をするんだな、と思った方もいるだろう。筆者もこのニュースを聞いたとき、てっきり2023年にニューヨーク州で起きた事件のことかと思っていた。しかし、この事件とはそれとは別物だ。 今回はテキサス州で起きたものであり、発生したのは2024年10月29日のこと。この日、ラファエル・ラミレスという名の弁護士が、自分が担当するある

[yoshihiroueda]

判例を学習させた弁護士向け生成AIのビジネス・チャンスがあると思う。