AIが「手を動かす」ようになって、怖さの種類が変わった

少し前まで、AIといえばChatGPTのように「質問すると文章で答えてくれるもの」でした。間違った答えが返ってきても、使わなければそれで済みます。

ところが、いま私が毎日使っている Claude Code（クロード・コード） は違います。パソコンの中のファイルを読み、プログラムを動かし、WordPressに記事を送ることまでできます。このブログの下書き作りや、別サイトのAIニュースの下書きも、毎朝Claude Codeが自動で進めてくれています。

便利さは想像以上でした。ただ、使い始めてすぐに気づいたことがあります。

「AIが間違える」と「AIが間違ったまま実行してしまう」は、まったく別の怖さだ ということです。

文章の間違いは直せば済みます。でも、大事なファイルを消された、パスワードを外に送られた、未完成の記事が公開された──こうしたことは、あとから取り消せません。

そこで、AIに作業を任せる前に、「ここから先は触らせない・させない」というルールを書き出しました。長年、お客様のサーバーやWordPressを預かってきた立場として、ここは慎重にならざるを得ません。

この記事では、実際に使っている7つのルールを紹介します。

そもそも、AIにルールをどう伝えるのか

Claude Codeには、CLAUDE.md（クロード・エムディー） という「指示書」のファイルを置く仕組みがあります。ここに書いたことは、AIが作業を始めるたびに読み込まれます。

例えるなら、新しく来たアルバイトさんの机に貼っておく「この店のルール」の紙です。毎回口で言わなくても、紙に書いておけば守ってもらえる。私はこの紙に、全部の作業に共通するルールを書いています。

さらに、毎日のブログ下書きのように決まった仕事には、仕事ごとの「手順書」も用意しています。

ルール1：パスワードや鍵のファイルは「読ませない」

最初に書いたのがこれです。

• .env（パスワードなどの設定をまとめたファイル）
• 秘密鍵（.key や .pem という名前のファイル）
• アプリの署名に使う鍵のファイル

これらは「読むこと自体」を禁止しています。AIが中身を知らなければ、間違って外に出すこともありません。

WordPressへの投稿にはパスワード（アプリケーションパスワード）が必要ですが、これは別のファイルに分けて保存し、投稿用のプログラムだけが読む ようにしています。AIは「プログラムを動かす」だけで、パスワードそのものは見ない、という形です。

鍵は「渡す」のではなく「使わせる」

これは、昔からある考え方と同じです。WordPressの wp-config.php に認証用のキーを設定するのも、パスワードを人の目に触れさせないための工夫でした。AIの時代になっても、守るべきものは変わりません。

ルール2：外へ送るコマンドは使わせない

次に禁止したのは、インターネットにデータを送れるコマンドです（curl や wget など）。また、パソコンに設定されている環境変数（パスワードが入っていることがある）を画面に出すコマンドも使わせません。

ネットで調べものをするときは、内容を読むだけの専用の道具を使ってもらいます。「読む」と「送る」を分ける のがポイントです。

ルール3：機密は会話に貼らない、ログは隠してから

エラーが出たとき、つい画面の表示をそのままAIに見せたくなります。でも、エラーの中にパスワードやメールアドレスが混ざっていることがあります。

そこで、「機密ファイルの中身を会話に貼らない」「ログを貼る前に機密情報を伏せる」と決めました。これはAIへのルールであると同時に、自分自身へのルール でもあります。

ルール4：「公開」ボタンは人間が押す

ブログの記事は、AIが作るのは 下書きまで です。公開は必ず私が内容を確認してから行います。

AIの文章は整っていますが、事実と違うことを自信たっぷりに書くことがあります。そのまま世に出てしまえば、信用を失うのは私です。最後の一押しを人間に残しておくことで、安心して任せられるようになりました。

ルール5：削除しない、既存のものを書き換えない

毎日の手順書には「新しい下書きを作ることだけ。公開・削除・既存記事の更新はしない」と書いています。

さらに、自分用の行動ルールとして、次のような「言い換え」も決めています。

| やりたくなること | 代わりにやること |
|---|---|
| 削除する | いったん別の場所に移す |
| 上書きする | 古い版を残してから書く |
| 公開する | 下書きにする |
| 送信する | 送る内容を見せて、確認してもらう |

どれも「あとで元に戻せるほうを選ぶ」という考え方です。ホームページの修復の仕事で、「バックアップさえあれば何とかなる」という場面を何度も見てきたからこそ、ここはこだわっています。

ルール6：お客様の情報は記事に使わない

このパソコンには、仕事で扱うお客様のデータもあります。AIはフォルダの中を読めてしまうので、「顧客データ・売上・個人情報・取引先のサイト名は記事に使わない、読まない」とはっきり書いています。

さらに、ブログ用とAIニュース用で 作業するフォルダを分けて、出力が混ざらないようにしました。人間の仕事でも、書類を置く場所を分けるのは基本ですね。

ルール7：分からないことは「【要確認】」と書かせる

最後は、少し毛色の違うルールです。

AIにブログを書かせると、私が体験していないことまで「体験談」として書いてしまうことがあります。もっともらしいので、うっかりすると見逃します。

そこで、作り話は禁止、推測で補った部分には必ず【要確認】と書く ことにしました。実はこの記事にも、何か所か【要確認】が入った状態で下書きが届いています。私はそこを読んで、自分の言葉に直してから公開します。

実際に使ってみて感じたこと

ルールを決めてから、AIに任せることへの不安がだいぶ減りました。

面白いのは、ルールがあると、AIのほうも「これは禁止されているので、代わりにこうします」と言ってくれることです。言われたことを守ろうとする姿は、真面目な新人さんのようです。

ただし、ルールを書いたから絶対に安全、というわけではありません。AIは指示を読み違えることもありますし、ルールの書き方があいまいだと抜け道ができます。大事なファイルのバックアップを取っておく、パスワードは必要最小限の権限で発行する、といった昔ながらの備えは、これまでどおり続けています。

60代になって思うのは、新しい道具ほど「最初の約束ごと」が大事だということです。インターネットが広まった頃も、ブログやSNSが出てきた頃も、トラブルの多くは「便利だから、つい全部任せた」ところから始まっていました。AIも同じだと感じています。

まとめ

1. パスワードや鍵のファイルは読ませない（プログラムに「使わせる」だけ）
2. 外へ送るコマンドは使わせない（「読む」と「送る」を分ける）
3. 機密は会話に貼らない、ログは伏せてから見せる
4. 公開ボタンは人間が押す（AIは下書きまで）
5. 削除・上書きより「元に戻せるほう」を選ぶ
6. お客様の情報は使わない、フォルダも分ける
7. 推測は【要確認】と書かせ、作り話をさせない

AIに仕事を任せるのは、もう特別なことではなくなりつつあります。だからこそ、「何を任せるか」より先に 「何を任せないか」 を決めておくことをおすすめします。紙1枚分のルールから始めれば十分です。

---