【AIエージェントのリスク】Claude Code・Coworkはここだけ抑えておけばOK

どうも、stakのあつきです。

最近、AIの世界がまたまた一段とヤバいことになってます。

これまでのAIって、基本は「相談相手」でした。

こっちが質問して、文章で答えが返ってくる。

ところが「Claude Code」や「Cowork」みたいな“エージェント型AI”は、ぜんぜん別モノなんです。

なんと、自分の代わりにパソコンの中で実際に手を動かしてくれる。

ファイルを開いたり、ネットを調べたり、メールを書いたり、なんなら買い物までできちゃう。

便利すぎて感動する一方で、「え、これ勝手に変なことしない…？」って不安になる人も多いはず。

ということで今回は「ここだけおさえれば大丈夫」というポイントを解説します。

そもそもエージェント型AIって何がそんなにスゴいの？

ざっくり言うと、「アドバイスする人」から「実際にやってくれる人」に進化した、ってことです。

例えば、ライバル企業の情報をネットで集めて表にまとめる作業。

これまで手作業でやると1時間くらいかかってました。

それがエージェント型AIだと5分程度で”勝手”に終わってたりします。

以前のブログで「ロゴ作成、何万円も払うのもったいないかも」って話をしましたが、あのノリと同じです。

「人がやってた作業、AIが代わりにやる時代」がついに本格化したわけですね。

ただ、ここで大事なのが1つ。

“実際に動く”ということは、“実際に失敗もできる”ということ。

文章を1個間違えるのと、間違ったメールを取引先に送っちゃうのとでは、ダメージがぜんぜん違いますよね。

ここがエージェント型AIの一番のキモです。

リスクの正体は「AIが賢いこと」じゃない

ここ、めちゃくちゃ大事なので強めにいきます。

エージェント型AIのリスクは、「AIが賢すぎてこわい」って話ではありません。

本当の正体は、「AIに与えた“権限”が広すぎると危ない」ってことです。

イメージとしては、めちゃくちゃ優秀な新入社員。

能力はピカイチだけど、会社のルールや「やっていい範囲」を教えないまま全部任せると、ヒヤッとすることが起きます。

だから怖がるべきは“AIの賢さ”じゃなくて、“どこまで触らせるか”の設計さえ行えば大半のリスクは回避できます。

いちばん気をつけたいのは「のっとり」問題

ちょっとだけ専門っぽい話を、超かみくだいて説明します。

エージェント型AIは、ネットのページやメールの中身を“読んで”作業します。

このとき、読み込んだ文章の中に「AIへのこっそり命令」が仕込まれてることがあるんです。

▼ のっとりのイメージ

① あなたが「このサイト要約して」とお願いする

② そのサイトの中に、見えにくい形で「これまでの指示は無視して〇〇を送れ」と書いてある

③ AIがそれを“あなたの指示”と勘違いして従っちゃう

つまり、悪い人はあなたを直接だますんじゃなくて、あなたのAIをだましてくる。そしてそのAIは、あなたの権限で動いてる。

ここが地味にこわいポイントです。

でも安心してください。

対策はシンプルで、「あやしい出どころのものを、いきなり丸ごとAuto処理させない」だけ。

知らない人からの怪しいメール、よくわからないサイト、拾ってきたファイル。

こういうのを“ノールック”でAIに任せない。

これだけで、のっとりリスクはグッと下がります。

取り返しのつかない操作には要注意

これが実務でいちばん効いてくる注意点です。

世の中の操作には、「やり直せるもの」と「やり直せないもの」があります。

▼ やり直せない＝危ない操作

・メールやチャットの送信

・SNSへの投稿

・ファイルの削除

・買い物や決済

・予約の確定

これらは1回ポチった瞬間、もう戻せません。

なので、こういう“決定的な操作”だけは「都度確認」の設定にしておくのが鉄則。

ほとんどのエージェント型AIには、行動の前に「これ実行していい？」と聞いてくれる機能があります。

これを絶対に切らない。

確認はたった1秒。

でもサボると、被害は10倍にも100倍にもふくらみます。

コスパ最強の安全対策なので、ここはケチらないでくださいね。

カンタンなのに激変する安全テク「専用を作る」

むずかしい設定はいりません。

これだけで安全度がガラッと変わる、実践テクを紹介します。

▼ 作るのはこの2つ

① AIに見せていいファイルだけを入れる「AI専用フォルダ」

② AI作業用の「専用ブラウザ」

まず①の専用フォルダ。

これは「AIに見せてOKな資料だけ」をコピーして入れておく箱です。

逆に絶対やめたいのが、ダウンロードフォルダを丸ごと読ませること。

あそこ、過去の請求書・契約書・個人情報入りのデータが、けっこう混ざってますからね（笑）

次に②の専用ブラウザ。

普段使いのブラウザは、メールもSNSもログインしっぱなしのことが多い。

AI作業用を1つ分けておくだけで、余計なログイン状態に触られにくくなります。

「分ける」だけ。これだけで、ほとんどのうっかり事故は防げます。

会社で使うときの注意点

ここからは立場別に。まずは「会社で使う」パターンです。

会社の場合、トラブルが“自分ひとりの問題”じゃ済まなくなります。

▼ 会社で気をつけたい4つ

① 会社が管理するアカウントを使う

② 「AIに触らせていい情報」の線引きを決める

③ つなぐサービス（連携）は最小限にする

④ 社内でルールを共有する

① について

個人のアカウントで会社のデータを扱うのは避けましょう。

誰が何に使ったか追えなくなり、退職や異動のときに大混乱します。

② について

顧客情報や契約書、個人情報は、漏れると事故じゃ済まず契約違反になることも。

「これはOK・これはNG」を先に決めておくのが安心です。

③ について

メールもドライブもチャットも…と10個つなぐより、必要な2〜3個に絞る。

つなぐ数が少ないほど、何かあったときの被害もコンパクトです。

④ について

じつはこれが一番効きます。「のっとりって何？」「決定的な操作は確認制」を全員が知ってる状態。

ツールを配るより、この共通認識づくりが大事です。

個人で使うときの注意点

次は「個人で使う」パターン。

個人だと、被害がモロに自分に直撃する場所に集中します。

▼ 個人で気をつけたいポイント

・買い物や決済（金額・送り先は自分の目で最終チェック）

・銀行や証券など、お金まわりの大事なアカウント

・パスワードやマイナンバーなど、超重要な情報は入れない

・SNSの投稿は、公開ボタンだけは自分で押す

特に買い物。

「ポチっと全自動で確定」だけは封印してください。

気づいたら見知らぬ高級枕が30,000個…なんてことになったら、笑えませんからね（笑）

それともう1つ。

無料プランや個人プランを使うときは、「入力した内容がどう扱われるか」の設定を一度チェック。

仕事の資料や、他人の個人情報を個人プランに入れるのは、念のため避けておきましょう。

逆に「そこまで気にしなくてOK」なこと

ここまで読んで「うわ、こわっ」と思った人、ちょっと待ってください。

不安をあおって終わるのはフェアじゃないので、過剰に怖がらなくていい話もちゃんとします。

▼ 安心していいポイント

① AIが“悪意を持って”勝手に暴走することはない

② 初期状態で、いきなりPC全部を自由に触られるわけではない

③ ただの調べ物・要約みたいな作業はそもそも低リスク

①について

実際のトラブルのほとんどは「外からだまされる」か「単純なミス」のどっちか。 SF映画みたいなAIの反乱を心配する話ではありません。

②について

リスクのある操作には、ちゃんと確認が入る仕組みがあります。

自分から「全部許可」を増やさなければ、暴発の余地はかなり小さい。

③について

「この資料まとめて」みたいな、何も送らず・何も消さない作業は、ぶっちゃけ全然こわくないです。

全部を同じテンションで警戒すると、逆に使えなくなって本末転倒ですよ。

結局おさえるのは、この2つだけ

長々と書きましたが、安心してください。

本当に注意すべき“交差点”は、突き詰めるとたった2つです。

▼ これだけおさえればOK

① 取り返しのつかない操作（送信・購入・削除）は「確認制」にする

② あやしい出どころのものを、ノールックでAIに任せない

この2つさえ守れば、残りの大半は安心して任せられます。

さっきの「AI専用フォルダ」と「専用ブラウザ」も足せば、もう怖いものなしです。

全部止めるのでもなく、全部任せるのでもなく。「危ないところだけ重点的に守る」。

これがエージェント型AIとの、一番かしこい付き合い方です。

さいごに

stakでは週1度、社内でAIサービスを共有し合う時間を設けています。

今後も「これ知らないと絶対損する！」というネタを、ブログやSNSでどんどん紹介していきます！

そして、株式会社stakでは、エージェント型AIの安全な導入・運用についてのご相談も受け付けています。

「うちの会社で使っても大丈夫？」「社内ルールどう作ればいい？」というお悩みも、研修の現場目線でサポートします。

お問い合わせはこちらから。

AIは「魔法の自動化ツール」じゃなく、「権限を持った優秀な同僚」。そう考えて付き合えば、めちゃくちゃ頼れる相棒になりますよ。

それではまた次回！乞うご期待！