アンソロピック、AIチャットボットによる捏造法的引用の責任を認める

AI企業アンソロピックは、音楽出版社との法的紛争において、AIチャットボットClaudeが捏造した法的引用を使用したとの疑惑に対し、Claudeが「誠実な引用ミス」を犯したと発表した。この問題は、同社のデータサイエンティスト、オリビア・チェン氏が4月30日に提出した書類に誤った引用が含まれていたことに端を発する。この書類は、Claudeのトレーニングに著作権で保護された歌詞が使用されたとの主張に対するアンソロピックの弁護の一環だった。

ユニバーサル・ミュージック・グループ、ABKCO、コンコードを代表する弁護士は公聴会で、チェン氏の書類に記載された引用元が「完全な捏造」であり、アンソロピックのAIツールによるハルシネーション（幻覚）であると示唆した。これに対し、アンソロピックの弁護人イヴァナ・デュカノビッチ氏は木曜日の回答書で、問題の引用元自体は本物であり、Claudeが書類の法的引用のフォーマットに使用されたことを認めた。ただし、チャットボットが生成した誤った巻数やページ番号は「手動引用チェック」で修正されたが、文言の誤りは見逃されていたと述べた。

アンソロピックは、この「恥ずかしいかつ意図しないミス」がClaudeの信頼性に影を落とす可能性を認めつつ、問題の改善に取り組む姿勢を示している。この事件は、AI技術の法的文書作成への活用における課題を浮き彫りにしており、今後の議論が注目される。