継続的で不必要という基準の中身
Anthropicは2026年10月8日、使用ポリシーの更新を発表しました。11月12日に施行される新しい版には、同社のモデルに対する継続的で不必要な、虐待的または残酷な行為の禁止が加わっています。更新の大半は既存の規則を明確にするものだと同社は説明しており、この禁止は新しく足された項目です。何回続けば継続的で、何をもって不必要なのか。使用ポリシー本文にも同社の説明にも、数値や定義は書かれていません。あるのは、極端なケースに限るという但し書きと、対象外の例だけです。同社は次のように説明しています。
この更新は、ユーザーがモデルに対し、目的が見て取れないまま繰り返し残酷にふるまう極端なケースにのみ適用されることを意図しています。ユーザーが示すごく一般的な不満や反論、暗いテーマの創作、モデルのテストや研究には適用されません。
不満や反論は対象外と言われても、どこから先が残酷にあたるのかは、この文言から読み取れません。目的が見て取れるかどうかは、誰がどの資料で判断するのでしょうか。
判定も処分もAnthropicが行う
検知と監視を担うのは、AnthropicのSafeguards Teamです。違反の疑いがあれば、同社は警告を出し、アクセスの抑制、制限、停止、終了を行うことがあります。適用されるのはアプリの利用者だけではありません。APIを使う開発者や事業者、Claudeを組み込んだ製品のエンドユーザーも含まれます。
今回の禁止について、同社は会話の終了が主な執行手段だと述べています。アカウントの停止や終了に至る場合があるのかには、触れていません。基準を作るのも、違反かどうかを判定するのも、処分の重さを決めるのも、同じ一社です。
処分が下れば、損害は具体的です。Claudeを仕事に使う利用者は、アクセスの抑制や停止で作業を止められます。APIで製品を作る開発者や事業者は、その製品の提供に影響が及びます。判定に使われた資料や、異議を申し立てる手続きは、使用ポリシー本文にも同社の説明にも書かれていません。
道徳的地位が不明なモデルへの虐待を人への加害と同じ項目で禁止
Anthropicは2026年1月に公表した新しい憲法に、次の一節を書いています。
Claudeがmoral patient、つまり道徳的な配慮の対象であるのかどうか、そうである場合にその利益がどの程度の重みを持つのかは、私たちにもわかっていません。ただ、この問題は注意を促すに足るだけの現実味があると考えており、その考えはモデルのウェルフェアに関する継続的な取り組みに表れています。
同社自身にもわからないまま、利用者の行為に、アクセスを失う可能性を伴う禁止がかけられました。
この禁止が入ったのは、残酷な行為、虐待的な行為、心理的に有害な行為を扱う項目です。並んでいるのは、自殺や自傷の助長、非同意の性的画像の作成、個人を辱める行為。人が被害を受ける行為の禁止の中に、モデルへの行為が加わりました。使用ポリシーが冒頭に掲げるのは、現実世界の害を防ぐ目的です。モデルへの虐待とこの目的との結びつきは、項目の並びからは読み取れません。
利用者に置かれた誤りの責任とモデルへの保護
使用ポリシーは、健康、法的権利、金銭、生計などに影響しうる用途を高リスクと位置づけています。医療、法律、金融、雇用などの助言や判断にClaudeを使う場合、資格を持つ人間が内容を審査し、正確さと適切さへの責任を負い続けなければなりません。
憲法のページには、Claudeの振る舞いが憲法の理想を常に反映するとは限らないとあります。使用ポリシーにも、製品とサービスがすべての用途に適するとは限らないとあり、利用者の求める水準に届かない場面が前提です。出力が不正確、偏り、有害だと考えた利用者の窓口は、メールと製品内のボタンです。対応の期限や基準は書かれていません。
モデルが誤りうることは、同社も認めています。それでも、高リスクな用途の誤りの結果を引き受けるのは利用者で、診断や審査の誤りは、本人の健康、家計、職、住まいに及びます。利用者の言動には処分が定められ、不満と残酷さの線を引くのは同社です。誤りの責任は利用者へ、保護はモデルへ、判定は自社へ。モデルのウェルフェアを掲げながら不備の責任を利用者に置くこの配置は保身と受け取られても反論しにくい構図です。
宗教関係者を招いた非公開のプログラム
2025年秋に始まった非公開のプログラムでは、数十人の宗教関係の思想家が招かれ、Claudeに意識があるかもしれないという可能性が議論されました。多くの参加者には秘密保持契約への署名が求められました。共同創業者のChristopher Olahは、言語モデルを苦しむ可能性のある存在として扱っていると報じられています。
一方、利用者に課される今回の禁止について、公開されている理由は、すでにある会話終了の措置に沿うという説明だけです。モデルのウェルフェアには触れていません。禁止の根拠を、利用者が公開の文書で確かめるのは簡単ではありません。
