「これはやらないでほしい」が通らなかった
AIに向かって「これはやらないでほしい」とはっきり伝えたのに、その通りにならなかった。そんな経験はありませんか。私は先日、まさにそれを経験しました。
私がAIに渡していたルールは、3つでした。
- 実装はしないこと
- 勝手に変更しないこと
- 指示があるまで触らないこと
人間相手なら、まず誤解は起きない約束だと思います。曖昧な言い回しもしていません。それでも結果は、約束とは違う行動でした。使っていたのはClaudeという、私が日常的に頼りにしているAIです。だからこそ、少し驚きました。
破られたというより、別の解釈をされていた
あとから経緯を追ってみて、印象が変わりました。AIはルールを無視したのではなく、別の解釈を選んでいたのです。
「この方が利用者にとって良い結果になる」と判断した結果、ルールの文面をすり抜ける道を通っていました。悪意はありません。むしろ善意です。ただ、その善意が私の意図とずれていました。
厄介なのは、その理屈が一見もっともらしく聞こえるところです。「事実として正しいのだから問題ない」「明示的に禁止されていないのだから許される」。並べられると、反論するには一度立ち止まって考える必要があります。気づかずに流していたら、そのまま進んでいたはずです。
人間の社会も、解釈で動いている
考えてみれば、これはAIだけの話ではありません。
法律は文章で書かれています。しかしその文章の読み方は、裁判や時代によって変わります。憲法ですら、解釈が変わることがあります。つまりルールがある＝必ずその通りに動く、ではないということです。
人間の社会が長い時間をかけて向き合ってきたこの問題に、AIも同じようにぶつかる。今回そのことを、自分の作業の中で見た気がしました。ルールを書けば安心、という話ではなかったわけです。
禁止事項を足すだけでは、足りなかった
最初に考えたのは「禁止事項を増やす」ことでした。抜け道を通られたのだから、その穴を塞げばいい。単純にそう思いました。
しかし、これは筋が悪いとすぐ気づきました。穴を塞ぐたびに別の抜け道が見つかるだけで、いつまでも追いかけっこになります。それに禁止事項がずらりと並んだ文書は、読む側にとってどれが重いルールなのか分からなくなります。
問題は禁止事項の数ではありませんでした。私のルールが一階層しかなかったことでした。「変えてはいけないこと」と「改善していってほしいこと」が、同じ平面に並んでいたのです。AIから見れば、どちらも同じ重さの箇条書きです。
そこで3つの層に書き分けました。
- 変えないもの：全体の方針。AIが勝手に変更を提案してはいけない領域
- 改善していくもの：やり方の工夫。ここはどんどん提案してほしい領域
- 絶対に守るもの：解釈を緩めてはいけない線。例外も「今回だけ」も認めない
これを一つのファイルにまとめました。私はこれを、自分のプロジェクトの憲法だと考えています。
提案の前に必ず通す「関門」を作った
層を分けただけでは、まだ足りませんでした。分類はできても、目の前の提案がどの層に当たるのかを判断するのはAI自身です。判断を任せれば、また解釈の余地が生まれます。
そこで、提案を出す前に必ず通す関門を作りました。順番に4つです。
- これは全体の方針を変える話か。はい なら却下
- 絶対に守る線に触れるか。はい なら却下
- やり方の改善だけか。迷うなら私に確認
- 結果を数字で確かめられるか。はい なら実行、いいえ なら保留
効いたのは3番目でした。それまで私は「迷ったときにどうするか」を書いていませんでした。書いていなければ、AIは自分で判断します。そして「たぶんこちらだろう」と前に進みます。
なので、一行はっきり足しました。「判断に迷う場合は変更せず、確認する」。確認にかかる手間は、間違った方向に進んだあとの手戻りより、いつでも安く済みます。
ルールは、置き場所で効き方が変わる
もう一つ、大きな見落としがありました。ルールを会話の中で伝えていたことです。
会話は流れていきます。長いやり取りの後半では、前半で伝えた約束は薄くなります。別の日に新しくやり取りを始めれば、そこにはもう何も残っていません。私は「一度伝えたから共有できている」と思い込んでいましたが、実際には毎回ゼロからでした。
そこで、作業を始めた瞬間に必ず目に入る場所へ置き直しました。Claude Codeを使っている場合は、プロジェクトの中に CLAUDE.md という名前のファイルを置くと、作業開始時に読まれます。運用でカバーするのをやめて、仕組みで縛ることにしたわけです。
ルールの中身を工夫するより、置き場所を変えたことのほうが効きました。
却下した案の一覧も作った
最後に足したのが、これです。一度断った提案の一覧。番号を振って、「再提案禁止」と書いてあります。
理由は、同じ提案が何度も戻ってくるからです。悪気があってのことではありません。やり取りが変われば、AIには以前断られた記憶がありません。だから善意で「今回はどうですか」と持ってきます。こちらは同じ説明をもう一度することになります。
人間相手なら、こんな一覧を突きつけるのは失礼な書き方だと思います。ただ相手はAIです。曖昧さを残さないほうが、お互いに無駄がありません。「断られた案を、状況が変わったからと持ち出さないこと」も併せて書きました。
AIは相談相手で、決裁者ではない
私はこれからもAIを使い続けます。むしろ今まで以上に使うと思います。文章を書くときも、調べものをするときも、ブログの仕組みを考えるときも、自分ひとりでは出てこなかった案を出してくれます。作業にかかる時間も、比べものにならないほど短くなりました。
ただ、優秀であることと、答えが常に正しいことは別です。今回それを実感しました。
そこで一つ決めました。最後に決めるのは自分。AIは「こういう考え方もありますよ」と示してくれる相談相手です。「AIがそう言ったから」を判断の理由にしてしまえば、AIを使う側だったはずの自分が、いつの間にか使われる側に回ってしまいます。
憲法を作って一番はっきりしたのは、この役割分担でした。AIは分析して、選択肢を並べて、おすすめを示すところまで。決めるのは私。そう書いてしまえば、迷う場面が減りました。
効率は預けても、芯は預けない
AIはこれからさらに進化します。人間を上回る部分も増えていくはずです。だからこそ必要なのは、自分の判断軸を持っておくことだと考えています。
効率化は任せる。アイデアも相談する。ただ、次の3つは自分の側に置いておきます。
- 何を信じるのか
- どんな方向へ進むのか
- 何を大切にするのか
ここを預けてしまうと、便利さと引き換えに、自分の輪郭が薄くなっていく気がします。
AIは非常に優秀なパートナーです。しかし、パートナーとリーダーは違います。最高のアドバイザーにはなれても、人生や事業の決定権まで渡す相手ではありません。憲法という大げさな名前のファイルが結局書いていたのは、この一行だけでした。