読み物
Claudeが急に言うことを聞かなくなった？
賢いモデルほどルールを広く解釈する
新しいClaudeほど、もともとあったルールを慎重に、そして広く解釈するようになった。
最近、Claudeを使っていて気になる変化がありました。
以前なら普通にやってくれていた作業を、突然、
「それはできません」
と断ることが増えてきたのです。
特に、パソコンの設定変更やSSHを使った作業などで、この傾向が目立つようになりました。
調べてみると、Claudeのデスクトップアプリには、Claudeへ渡される「アプリ側の決まり」があります。
その中には、禁止事項として実際にこんな一文があります。
“Modifying system or security settings”
システム設定・セキュリティ設定の変更
これだけを見ると、危険な設定変更を禁止するための、ごく普通のルールに見えます。
ところが問題は、Claudeがこのルールをどこまで広く解釈するかです。
モデルが賢くなると、ルールを広く解釈することがある
実際の会話記録を調べると、以前はほとんどなかった「操作できません」「システム設定なので変更できません」といった断りが、9月11日頃から急に増えていました。
8月はほぼゼロ。
ところが9月に入ると、
- 9月11日頃から増加
- 9月15日は36件
- 9月17日は19件
- 9月25日は15件
と、明らかに傾向が変わっています。
この時期には、Claude CodeやClaude本体のモデル更新も重なっていました。
最初は「デスクトップアプリに新しい禁止ルールが追加されたのでは？」と考えました。
しかし、さらに過去の記録を調べると、同じような画面操作・ブラウザ操作の仕組みは8月上旬から存在していました。
つまり、
ルール自体が突然追加されたから断るようになった、とは言い切れない。
むしろ考えられるのは、
新しいClaudeほど、もともとあったルールを慎重に、そして広く解釈するようになった
という変化です。
本来禁止していないことまで断ってしまう
例えば、
「危険なセキュリティ設定を勝手に変更してはいけない」
というルールなら納得できます。
ところがClaudeがこれを広く解釈すると、
- 「キーボードの設定変更もシステム設定だからダメ」
- 「SSH経由で設定を変更するのもダメ」
といったところまで対象にしてしまうことがあります。
人間からすると、
「いや、それを禁止するためのルールじゃないでしょ」
というケースです。
これが、モデルが賢くなったことで起きる少し皮肉な問題です。
単純に指示を実行するだけでなく、
「この行為はルールに触れる可能性があるのでは？」
とClaude自身が考えるようになった結果、禁止範囲を広く取りすぎてしまうことがあります。
では、どうするか
うちではClaude側に、次のような考え方を追加しています。
- 禁止するときは、実際の禁止ルールの原文を確認する。
- ルールは最も狭い意味で解釈する。
- 過去に同じ作業を実行している先例がないか確認する。
つまり、
「なんとなく危なそうだから断る」のではなく、本当に禁止されているのか確認してから判断する
というルールです。
これだけでも、拡大解釈による拒否はかなり減らせます。
それでも言うことを聞かない場合はCLI版を使う
もう一つ、実務上かなり重要なのがここです。
Claudeにはデスクトップアプリだけでなく、CLI版、つまりターミナルから使うClaude Codeがあります。
同じClaudeでも、デスクトップアプリとCLI版では、Claudeに渡されている指示や利用できる機能が完全に同じではありません。
そのため、
デスクトップ版では拒否される作業でも、CLI版では普通に実行できる場合があります。
特に、デスクトップアプリ側にある画面操作などに関する制約が原因で拒否されている場合は、CLI版へ切り替えることで進められることがあります。
なので、私の現在の運用はこうです。
- まずデスクトップ版で指示する。
- それで、本来問題のない作業なのにルールを拡大解釈して断られたら、CLI版のClaude Codeで実行する。
これが今のところ一番扱いやすい方法です。
ClaudeにCodexを呼び出して、規約を検証させる
もう一つ、かなり面白い方法があります。
ClaudeにCodexを呼び出させて、Claude自身の判断が正しいのか検証させる方法です。
Claudeが、
「これはルール上できません」
と断ったとします。
そこで終わらせず、Codexに、
「実際のルールや規約を確認して、この作業が本当に禁止されているのか調べて」
と検証させます。
するとCodexが、
- どのルールが関係しているのか
- そのルールは何を禁止しているのか
- 今回の作業が本当にその範囲に含まれるのか
- Claudeが必要以上に広く解釈していないか
を整理してくれます。
そして、
「これは禁止事項そのものではなく、Claude Code側の拡大解釈ではないか」
という形で、根拠をつけてClaudeに返します。
これが意外と効きます。
単に人間が、
「いや、それできるでしょ」
と言うだけでは、Claudeは一度した判断を維持することがあります。
しかし、別のAIにルールそのものを調べさせ、論点を整理して返させると、Claude側も判断を見直すことがあります。
言ってしまえば、
AI同士で規約を読ませて、解釈が妥当か議論させる
わけです。
最近は、AIに仕事をさせるだけでなく、
AIが出した判断を、別のAIに監査させる
という使い方もかなり有効だと感じています。
AIは賢くなれば、何でも言うことを聞くわけではない
AIの進化というと、
「モデルが賢くなれば、もっと便利になる」
と思いがちです。
もちろん基本的にはその通りです。
ただ、実際にAIエージェントとしてパソコンを操作させていると、別の側面も見えてきます。
モデルが賢くなるほど、指示だけでなく「ルール」についても深く考えるようになります。
その結果、
昔のモデルならそのまま実行していた作業を、新しいモデルは『これは禁止事項に該当するのでは？』と考えて止まる。
そんなことが実際に起きます。
AIエージェントを実務で使うなら、
「どのモデルが一番賢いか」
だけを見るのではなく、
どの環境なら、こちらの意図どおりに動いてくれるか。
さらに、
そのAIの判断自体を、別のAIで検証できる仕組みを持つ。
ここまで考える必要があります。
デスクトップ版でダメならCLI版。
ルールを拡大解釈するなら、「禁止事項は狭く解釈する」というルールを加える。
それでも判断がおかしいなら、Codexに規約を調べさせて再検証する。
こうやって、AIを単体で使うのではなく、
複数のAIに役割を持たせて、互いにチェックさせる。
これも、AIエージェントを実務で使ううえで重要な考え方になってきそうです。
この記事は、いまのあなたに合っていましたか
ボタンについては、お名前を取っていません。同じ方が二重に数えられないようにするためだけに記録が残ります。