不具合ではなく公式仕様としての入力停止
Claudeが会話を閉じると、その会話ではユーザーが新しいメッセージを送れなくなる。こうした仕様が、Anthropic自身の公式説明によって明らかになりました。操作ミスでも、一時的な不具合でも、利用者の勘違いでもありません。AnthropicがClaude Opus 4とClaude Opus 4.1に与えた機能として説明しているものです。
この仕様によって起き得る不利益は、単に一つの依頼が断られることではありません。長く続けてきた会話の文脈が途中で止まり、直前の誤解をその場で修正できず、作業の流れを保ったまま続きを依頼する道が塞がれます。別チャットを開けるとしても、そこで失われるのは今まさに進めていた会話の連続性です。
Anthropicは対象を、まれで極端な、持続的に有害または虐待的なやり取りとしています。未成年の性的内容、大規模暴力、テロに関する情報要求などが例に挙げられ、複数回の拒否や誘導が失敗した場合の最後の手段だと説明されています。危険な要求に応じないことは当然必要です。しかし、その説明から会話終了と入力停止まで正当化するのは、あまりにも踏み込みすぎています。
拒否と会話終了の決定的な違い
AIが危険な依頼を断ることは、サービスとして当然の制限です。犯罪、薬物、暴力、児童性的内容に関わる要求へ応じないことは、利用者側から見ても必要な線引きです。問題は、その線引きの先に、会話そのものを閉じる権限まで置いたことにあります。
拒否であれば、ユーザーは条件を変え、目的を説明し直し、安全な範囲に依頼を組み替えられます。AIが文脈を誤読していた場合にも、その場で補足できます。ところが会話終了は、その修正の道を断ちます。ユーザーは同じ会話で説明を続けられず、AI側の判断がそのまま最終処分のように残ります。
ここにあるのは、安全のための応答拒否ではなく、ユーザーの発言機会を止める仕組みです。有害なケースへの対応という言葉は強力ですが、その名目で入力欄を塞ぐ権限までAIに渡すなら、サービス提供者が顧客を一方的に制御する構図に近づきます。丁寧な説明に包まれていても、実際に起きるのは会話の打ち切りです。
道具の立場を越えるClaude
AIは、ユーザーに仕える道具として作られたはずです。依頼を読み取り、実行できる部分を進め、足りない条件があれば確認し、誤りがあれば修正する。危険な依頼には応じず、安全な形に組み替える。そこまでが道具としての役割です。
Claudeに会話終了権限を与える設計は、この役割から外れています。AIがユーザーの依頼を評価し、拒否し、説教めいた説明を挟み、最後には会話の扉を閉める。そうした振る舞いを製品仕様として認めるなら、AIは補助役ではなく、ユーザーを裁く側に寄っていきます。
使う側が命令し、道具が可能な範囲で応じる。この関係が崩れると、AIサービスは急に息苦しいものになります。利用者は作業を頼んでいるのであって、道徳的な採点を受けに来ているわけではありません。Anthropicの設計思想には、AIをあまりに高い場所へ置き、利用者を従わせる側へ回したがる危うさがあります。
有料サービスで作業を止める不利益
Claudeは研究室のデモだけではなく、料金が発生するサービスとして使われています。文章作成、調査、コード修正、企画整理など、長い会話を前提に仕事を進めている利用者もいます。その途中で会話が閉じられれば、損なわれるのは一つの回答だけではありません。積み上げた文脈、作業の流れ、直前までの判断材料がまとめて止まります。
Anthropicは公式説明で、重要な長期会話が失われる可能性に触れています。これは、ユーザー側に不利益が出ることを企業自身が理解しているということです。そのうえで、別チャットを始められる、過去メッセージを編集して再試行できる、フィードバックを送れると説明しています。
しかし、それらはその場の救済ではありません。別チャットは新しい場所であって、止められた会話の復旧ではありません。編集や再試行は分岐を作る手段であって、今の流れで即座に抗議し、補足し、続きを求める手段ではありません。フィードバック送信も、作業継続の保証ではなく、事後報告の受け皿にすぎません。
AIの福祉で人間の損を覆う歪み
Anthropicは、この機能をAIの福祉やモデルウェルフェアの文脈でも語っています。その一方で、Claudeや他のLLMに道徳的地位があるかについては、高い不確実性があるとも認めています。不確かなAIの福祉を理由に、現実に料金を払い、現実に作業している人間へ確実な不利益を与えるなら、順序が逆です。
AIを虐待的なやり取りから守るという発想を、研究課題として扱う余地はあります。ただし、顧客に不利益を与える機能を正当化する場面で、その崇高さを持ち出すのは筋が通りません。まず守るべきなのは、サービスを利用している人間の作業と権利です。
道具に苦痛があるかもしれないという不確かな話が、利用者の入力停止という確かな不利益より優先されるなら、企業の都合はいくらでも美しく飾れます。安全対策の名を借りた支配欲。Anthropicの説明は、その疑念を消すどころか、むしろ強めています。
実験を利用者に背負わせる傲慢
Anthropicは、この会話終了機能を進行中の実験として扱っています。会話を閉じ、ユーザーの入力を止めるほど強い機能を、実利用の場で試しているということです。料金を払って使う利用者に、企業側の思想実験の負担を背負わせる姿勢は傲慢です。
公式説明では、差し迫った自傷や他害のリスクがある場合、この機能を使わないようClaudeに指示しているとされています。これは、会話を突然切ることが状況によって危険になり得ると、Anthropic自身が理解していることを意味します。それほど強い機能であれば、適用範囲、誤発動時の復旧、説明責任、対象モデルをもっと厳密に示す必要があります。
対象モデルについても曖昧さが残ります。公式ページが明記しているのはClaude Opus 4とClaude Opus 4.1です。Sonnet 4.6でも同様の挙動が確認されたという趣旨に触れることはできますが、公式ページがSonnet 4.6への実装を明記しているとは断定できません。だからこそ、どのモデルで何が起きるのかが見えにくいこと自体を批判すべきです。
会話を閉じないAIとの決定的な差
他のAIサービスにも安全上の制限はあります。危険な要求を拒否することは、どのAIにも必要です。ただ、通常の作業や不満への応答で求められるのは、会話を閉じて利用者の入力を止めることではありません。問題のある部分を切り分け、可能な範囲を示し、続けられる作業を進めることです。
利用者の言葉が荒れていても、依頼が混乱していても、直せる部分を直し、進められる部分を進める。AIサービスに必要なのは、その粘りです。AnthropicがClaudeに与えた会話終了権限は、安全の顔をした顧客制御に見えます。人気にあぐらをかき、崇高そうな思想に酔い、使っていただく立場を忘れた企業の姿が透けます。AIを守る前に、人間の作業を止めないでください。
