LLMを活用したサービスの法的リスクってどうなってるの？：2025/07/25

晋次宮田
2025年7月25日
読了時間: 4分

最近弊社でもLLMを活用したサービスの診断について実績が増えてきています。

その中で必ず課題として上がってくるのが、

サービスのアウトプットがユーザーに被害を及ぼした際の責任範囲について

です。

LLMの出力は、その出力が誤っていたり、意図しない使われ方をしたりすることで、ユーザーに精神的、経済的、身体的な損害が生じるリスクがどうしても存在します。

そのリスクが顕在化した時、サービス提供者はどのような法的責任を負う必要があるのでしょうか？私は法律の専門家ではありませんが、考察してみたいと思います。

AIの出力が引き起こす問題とは

繰り返しになりますが、LLM誤った情報や不適切な回答が出力される可能性があり、それがユーザーに損害を与える場合があります。

たとえば、誤った健康アドバイスや、攻撃者による巧妙な操作（JailbreakやPrompt Injection）による有害な回答が、精神的な苦痛や経済的損失を引き起こすことが考えられます。

LLMのDeepResearch機能を使って調べてみたところ、日本では、LLMの出力による具体的な裁判例は2025年7月時点で確認されませんでしたが、海外では事例がありました。

アメリカでは、2024年にCharacter.AIのチャットボットが未成年者に不適切な回答を提供し、訴訟に至ったケースが報告されています。

利用規約の役割と限界

サービスを提供する企業（ベンダー）は、利用規約や免責事項を通じて、LLMの出力によるリスクをユーザーに伝え、責任の範囲を定めていると思います。

たとえば、「本サービスの出力による損害について責任を負わない」と記載することで、企業は法的リスクを軽減しようとします。しかし、調べたところ、日本の消費者契約法は、こうした規約に厳しい制約を課しているようです。（この辺は弁護士の方にちゃんときいてみたいです）

消費者契約法第8条では、事業者の故意や重大な過失による責任を免除する条項は無効とされ、たとえば、企業が誤出力のリスクを知りながら適切な対策を怠った場合、規約があっても責任を問われる可能性があるとのこと。

また、生命や財産に関わる重大な損害について、軽過失であっても免責が認められない場合があり、行政の立場から見ても、利用規約は重要ですが、それだけで企業を守るのは難しいと言えるとのことです。

うーんじゃあどうすればいいのかってことになりますね。

ユーザーの操作によるリスク：JailbreakとPrompt Injection

LLMのリスクの中でも、一部問題となるのが「Jailbreak」と「Prompt Injection」です。Jailbreakは、ユーザーがシステムの制限を意図的に回避する行為で、Prompt Injectionは巧妙な質問を通じて意図しない回答を引き出す手法です。これらは、企業の想定外の使われ方であり、ユーザーの責任が問われる場面もあります。

しかし、消費者契約法や民法では、企業がこれらのリスクを予見できた場合、適切な防止策を講じる義務があるとされるようです。

たとえば、Jailbreakが既知のリスクであるにもかかわらず、企業が対策を怠れば、重大な過失と判断される可能性があります。利用規約で「Jailbreakによる損害は責任外」と記載しても、裁判所が無効と判断すれば、企業は責任を負うことになります。行政としては、こうしたリスクへの備えが、企業とユーザーの信頼関係を築く基盤になると考えます。