AI には危険が伴いますので、使用には注意してください。米国弁護士、偽ChatGPT事件引用で処罰

***出典: *金融協会

①ニューヨークの連邦判事は、法律事務所が虚偽の訴訟で引用されたChatGPTが作成した法廷準備書面を引用し、悪質な行為として5,000ドルの罰金を科したとの評決を下した。 ② 技術の進歩は当たり前のことであり、信頼できる人工知能ツールを支援のために使用することは本質的に不適切なことではありません。

ChatGPT のような生成人工知能は人間のオフィス効率を大幅に向上させますが、その「捏造」能力は無視できません。 「林大宇がしだれ柳を逆さまに引っ張り、劉おばあちゃんが酔っ払って江の家のドアを叩く」など、通常の使用法での間違いであれば単なる冗談かもしれませんが、重要な領域や瞬間で間違いがある場合は、悲惨な結果になるかもしれません。

現地時間木曜日、ニューヨークの連邦判事は、法律事務所レビドー・レビドー・アンド・オーバーマンに対し、虚偽の訴訟で引用されたChatGPTが作成した法廷準備書面を引用し、悪質な行為として5,000ドルの罰金を科す判決を下した。

(注:判決文書)

P・ケビン・カステル判事は、当事務所の弁護士2人が引用が虚偽であることを意識的に示すことを避け、「法廷に対して誤解を招く発言をした」と指摘した。

その後、レビドー・レビドー・アンド・オーバーマン社は、弁護士らがこの悪質な誤解を招く判決に「謙虚に」反対すると回答した。 「私たちは善意の間違いを犯しました。ChatGPT が何もないところから作成できるとは予想していませんでした。」

製造

3月、弁護士のピーター・ロドゥカ氏とスティーブン・シュワルツ氏は、クライアントのロベルト・マタに代わって、人工知能によって書かれた法的文書でアビアンカ航空に対して訴訟を起こした。

挙げられた偽の事件には、「ギース対中国南方航空」、「マルティネス対デルタ航空」、「ミラー対ユナイテッド航空」などが含まれると報じられている。しかし、よく調べてみたところ、これらの判決事例は全く見つかりませんでした。

事実に直面して、シュワルツ弁護士は5月末までに、この事件に関する調査を「補足」するためにChatGPTを使用したことを認めざるを得なくなった。シュワルツ氏は、ChatGPTのコンテンツが偽物である可能性があるとは知らなかったと述べた。

カスター氏は、２人の弁護士が書類作成に異議を唱えた後も「責任を放棄」し、「虚偽の意見を主張し続けた」と述べた。

カスター氏は、ロドゥカ氏とシュワルツ氏、および彼らの法律事務所レビドウ・レビドウ・アンド・オーバーマンに対し、それぞれ5000ドルの罰金を支払い、訴訟が捏造されたと思われる判決を裁判官に通知するよう命じた。

カスター判事はマンハッタン連邦地方裁判所の判決文の中で、「謝罪の強要は誠実な謝罪ではないため、裁判所は謝罪を求めない。謝罪するかどうかの決定は当事者にある」と述べた。

人工知能を使用することに何も問題はありません

木曜日の別の命令で、裁判官はアビアンカ航空の訴訟棄却の申し立てを認めた。原告のマタさんは、2019年8月にエルサルバドル発ニューヨーク行きの飛行機内で膝に金属パレットが当たり重傷を負ったと主張している。

カステルズ氏は、マタ氏の訴訟は国際航空旅行に関する法的請求を認めるモントリオール条約で定められた２年間の訴訟期間の満了後に起こされたと主張した。

カステルズ氏は、弁護士が法的文書の作成にAIを使用したことを「自白」した場合、処罰されない可能性があると述べた。

しかし、文書について質問した後も、2人の弁護士は依然として精力的に弁護し、文書とその内容について虚偽で誤解を招く発言をしており、「悪意」を示している。

「法廷書類の調査と草案作成において、優秀な弁護士は、必要に応じて、下級弁護士、法学生、契約弁護士、法律百科事典、Westlaw、LexisNexis などのデータベースに支援を求めるだろう」と判決には書かれている。

キャスター氏はまた、「技術の進歩は当たり前のことであり、信頼できる人工知能ツールを支援に使用することに本質的に何の問題もない。しかし、既存の規則では、提出する書類の正確性を保証するために弁護士に門番を課している。」と書いている。