リスクの全体像：4つの経路で考える
AI利用のセキュリティリスクは、漠然と「危ない」と捉えるのではなく、経路で分けると対策が立てやすくなります。実務上、押さえるべき経路は4つです。
| 経路 | 何が起きるか | 典型例 |
|---|---|---|
| 入力による情報流出 | 機密や個人情報がAIサービスに送られ、管理外の場所に保存・学習利用される | 顧客リストを貼り付けて要約を依頼する |
| アカウントの穴 | 認証の弱さや権限の放置から、AIツール内の履歴・データに不正アクセスされる | 退職者のアカウントが残り続ける |
| シャドーAI | 会社が把握していないツールが業務に使われ、上記2つが管理外で起きる | 個人契約アプリでの業務相談 |
| 出力経由のリスク | AIの出力に含まれる誤情報・権利侵害・不適切な内容が、確認なしで外部に出る | 誤った数字を含む資料の送付 |
重要なのは、これらの多くが悪意ではなく善意と便利さから起きることです。従業員は仕事を速く終えるために情報を入力し、便利なツールを自分で見つけてきます。だからこそ、対策は「悪意の検知」ではなく、「善意の行動が安全になる設計」——安全な道を用意し、そちらを通りやすくすること——が中心になります。
以降、経路ごとに対策を見ていきます。なお、出力の品質・確認体制はAI出力の品質をどう担保するかで詳述しているため、本記事は主に情報を守る側の3経路に重心を置きます。
入力による流出を防ぐ：設定と区分の二段構え
最も基本のリスクが、入力による情報流出です。対策は、サービス側の設定と入力する側のルールの二段構えで考えます。
サービス側の設定でまず確認すべきは、次の3点です。
- 学習利用の停止 — 入力データがAIの学習に使われない設定・プランになっているか。法人向けプランでは標準的に提供される
- データの保存と削除 — 入力履歴がどこに保存され、削除できるか。保持期間を管理者が制御できるか
- 管理機能 — 組織の管理者が、利用状況の把握・メンバーの追加削除・設定の一括管理をできるか
この3点を満たす法人プランを会社として契約することが、入力リスク対策の土台です。個人プランの寄せ集めでは、設定の統制も利用の把握もできません。
その上で、入力する側のルールとして、情報の3区分（入力可・条件付き可・不可）を定めます。区分の設計はAI利用ガイドラインの作り方で詳述した通りです。セキュリティの観点から補足すると、「条件付き可」の条件をツールの承認状態と紐づけることが実務の要点です。「承認済みツールなら社内情報まで可」という一文が、設定の整ったツールへ利用を誘導する仕掛けとして働きます。
取引先から預かった情報は、自社の判断だけで入力可否を決められない場合があります。秘密保持契約に第三者提供・外部委託の制限があるなら、外部AIサービスへの入力がそれに触れないかを整理してください。判断に迷う場合は、預かり情報は一律「入力不可」に倒すのが安全です。
アカウントと権限の管理：地味だが最も確実な防御
AIツールも、他のクラウドサービスと同じくアカウントが守りの最前線です。特別な技術は不要で、次の基本を徹底するだけでリスクは大きく下がります。
- 多要素認証を必須にする — パスワードだけの運用をやめる。管理者アカウントは特に必須。ほとんどの法人プランで設定できる
- アカウントの台帳を持つ — 誰がどのツールのアカウントを持つかを管理部門が一覧で把握する。棚卸しは四半期に一度
- 退職・異動時の即時処理 — 退職日にアカウントを停止する手順を、入退社の事務フローに組み込む。「後でやる」が最大の穴になる
- 権限は最小限に — 管理者権限は必要な人だけに。全員管理者の運用は、事故時の影響範囲を最大化する
- 連携権限の見直し — AIツールに与えたストレージやチャットへのアクセス権限を定期的に確認し、使っていない連携は解除する
見落とされがちなのが最後の連携権限です。AIツールは、文書の読み取りやチャットへの投稿のために、他のサービスへのアクセス権限を求めることがあります。便利な半面、そのツールが侵害されたときの被害範囲は連携の分だけ広がります。「このツールにこの権限は本当に必要か」を、接続時と定期棚卸しの両方で問う習慣が、被害の連鎖を断ちます。
また、AIツールのアカウント情報を狙うフィッシング(偽のログイン画面など)も現実の脅威です。「ログインを求めるメールのリンクは踏まず、ブックマークからアクセスする」という従来からの基本動作を、AIツールにも適用することを周知してください。
シャドーAIへの対応：禁止より把握と誘導
シャドーAI——会社が把握していないAI利用——は、入力ルールもアカウント管理も届かない死角です。しかし、対応を誤ると悪化します。発見のたびに厳しく罰すれば、利用は隠れ、把握はさらに難しくなるからです。
現実的な対応は、把握・受け皿・誘導の3段階です。
把握。まず、責めない前提を明示した上で、利用実態のアンケートを取ります。「どんなツールを、何に使っているか。困っていることは何か」。この情報は、リスクの把握であると同時に、現場のニーズの調査でもあります。シャドー利用が多い業務は、公式ツールが応えられていない業務です。
受け皿。把握したニーズに対して、承認済みツールと申請の道を用意します。「新しいツールを使いたいときは、この窓口に申請すれば数日で判断する」という軽い手続きが機能していれば、現場は隠れて使う理由を失います。申請の判断基準(データの扱い・管理機能・費用)を公開しておくと、現場が事前に自己判定でき、さらに速くなります。
誘導。公式ツールを、シャドー利用より便利にします。テンプレートの整備、教育、相談窓口——社内教育の仕組みがそのままシャドーAI対策になります。人は便利な方に流れます。公式の道が便利であることが、最も持続的な統制です。
この3段階を回した上で、それでも残る「個人アカウントでの機密入力」のような明確な危険行為に対してだけ、禁止と是正を明確に適用する。統制は最後の一手に取っておくのが、実効性のある順番です。
中小企業で回すチェック体制：年間の点検サイクル
専任のセキュリティ担当がいない組織でも、次の定期点検を回せば、AI利用の守りは実用水準に保てます。
- 月次（運用定例の中で5分） — 新しく使い始めたツールの有無、ヒヤリ事例の共有、退職・異動に伴うアカウント処理の漏れ確認
- 四半期 — アカウント台帳の棚卸し（不要アカウント・過剰権限・放置された連携の削除）、利用状況と契約の突き合わせ
- 半期 — 利用ガイドラインの見直し、主要ツールの規約・設定変更の確認（サービス側の仕様変更で学習利用の設定が変わっていないか）
- 年次 — 全従業員向けのセキュリティ教育の更新、外部専門家によるスポット点検（可能なら）
このサイクルの多くは、AI運用体制の定例に載せられます。セキュリティを独立した業務にせず、既にある運用の議題に組み込むことが、続けるための現実解です。
最後に強調したいのは、AI利用のセキュリティは利用の敵ではなく、利用を拡大するための土台だという視点です。守りが整っているから、より重要な業務にAIを使える。事故が起きないから、経営層は投資を続けられる。セキュリティの整備は、活用のブレーキではなくアクセルを踏むための足場です。この位置づけを組織で共有できれば、対策は「やらされ仕事」から「活用戦略の一部」に変わります。
よくある質問
無料のAIツールを業務で使うのは、やはり危険ですか?
「無料だから危険」ではなく、「設定と管理ができないから危険」が正確です。無料プランの多くは、入力データの学習利用を止められない・管理者機能がない・履歴の統制ができない、という制約があります。公開情報だけを扱う用途なら無料でも実害は小さいですが、業務情報を入力する用途では、学習利用を停止でき管理機能のある法人プランを原則としてください。
入力してしまった情報は取り消せますか?
サービスによりますが、完全な取り消しは難しいと考えるべきです。履歴の削除機能があっても、既に処理されたデータの扱いはサービスの規約と実装に依存します。だからこそ対策は事後より事前——入力前の区分の徹底——に置くべきです。万一、重要な機密や個人情報を入力してしまった場合は、履歴を削除した上で、推進役に報告し、影響(何の情報が・どのサービスに・どの設定で)を記録してください。個人情報の場合は漏えいとしての対応要否の判断が必要になります。
セキュリティチェックシートを取引先から求められました。AI利用について何を書けばいいですか?
整理すべきは、利用しているAIサービスの一覧、入力データの区分ルール、学習利用の停止設定、アクセス管理(多要素認証・退職時処理)、事故時の報告体制の5点です。本記事の対策を実施していれば、そのまま回答の材料になります。逆に、この質問に答えられない状態は、対策の穴を示すサインです。取引先からの要求は、自社の体制を整える良い機会と捉えてください。
社内のパソコンでAIサイトへのアクセスを一律ブロックすべきですか?
推奨しません。ブロックは私物スマートフォンでのシャドー利用に置き換わるだけで、リスクを見えない場所に移すだけの結果になりがちです。有効なのは、承認済みツールへのアクセスは許可し、明確に危険なサービス(データの扱いが不透明なもの)だけを制限する選別的な運用です。技術的な制限は、受け皿と教育が整った後の補助手段と位置づけてください。
AIを使った攻撃(フィッシングメールの巧妙化など)への備えも必要ですか?
必要です。AIによって、不自然な日本語で見分けられた従来のフィッシングは、自然な文面に進化しています。対策の軸は従来と同じ——送信元の確認、リンクを踏まない習慣、多要素認証、そして「急がせる依頼ほど疑う」文化——ですが、「文面の不自然さで見分ける」という古い判別法に頼らないよう、教育を更新してください。振込先変更や認証情報の要求は、メール以外の経路で本人確認する運用が最も確実です。
事故が起きたときの初動は、何を決めておくべきですか?
決めておくべきは4点です。第一に報告先(推進役または管理部門の窓口を一本化)。第二に初動の型(何の情報が・どのサービスに・いつ・どの設定で入ったかの記録、履歴の削除、必要ならアカウントの一時停止)。第三に判断のエスカレーション基準(個人情報や取引先の預かり情報が関わる場合は経営層と専門家に即時連絡)。第四に再発防止の振り返り(個人の注意ではなく、どの仕組みが機能しなかったかの分析)。事故対応は起きてから考えると必ず後手に回ります。1枚の初動メモを作っておくだけで、対応の質は大きく変わります。
経営層がセキュリティ対策に予算をつけてくれません
対策の大半は、実は追加予算をほとんど要しません。多要素認証・台帳・退職時処理・区分ルールは、既存の人員の運用でできます。費用が発生するのは主に法人プランへの移行ですが、これは「セキュリティ費」ではなく「業務でAIを使うための基本料金」として説明する方が通ります。その上で、情報漏えいが起きた場合の対応コスト(顧客対応・信用毀損・取引停止)との比較を一枚で示せば、判断材料としては十分です。
この記事のまとめ
- リスクは入力による流出・アカウントの穴・シャドーAI・出力経由の4経路で捉えると対策が立つ
- 多くは悪意でなく善意と便利さから起きる。安全な道を用意し通りやすくする設計が対策の中心
- 入力対策は法人プランの設定(学習停止・管理機能)と情報3区分の二段構え。預かり情報は厳しく
- 多要素認証・台帳・退職時の即時停止・最小権限・連携権限の棚卸しという基本が最も確実な防御
- シャドーAIは把握→受け皿→誘導の順で対応し、禁止は明確な危険行為に絞る
- 月次5分から年次までの点検サイクルを運用定例に組み込む。セキュリティは活用拡大の土台