生成AIの社内展開が進むほど、セキュリティ事故の入口は増えます。いま問題になっているのは、便利さの裏で起きる機密データの持ち出しやコンプライアンス違反、そしてプロンプトを悪用した攻撃です。さらにAIエージェントの普及で、人の操作を介さずにツール同士が連携し、影響範囲が一気に広がるリスクも現実味を帯びています。
この記事では、TechCrunchのEquityポッドキャストで語られた論点を起点に、生成AI導入で見落としがちなAIセキュリティ課題を、IT担当者向けに解説します。
なぜ従来のセキュリティだけでは足りないのか
生成AIは、入力した情報がそのまま外へ出るリスクに加えて、AIが参照するデータの中に悪意ある指示が混ざることでも事故が起きます。NISTも、直接のプロンプト注入だけでなく、参照データ側に仕込む間接的なプロンプト注入があり得ることを示しています。
さらにOWASPは、LLMアプリの主要リスクとしてプロンプト注入や出力の不適切な取り扱いを挙げています。つまりAIを業務に組み込むほど、攻撃面はアプリ連携とデータ連携に沿って広がります。
シャドーAI 企業が見えないまま増える利用
シャドーAIとは、会社が許可していないAIツールや個人アカウントでの利用が、業務の中で常態化する状態です。これが厄介なのは、禁止してもゼロになりにくいことと、データ流出の発見が遅れやすいことです。
実際、生成AIによるデータポリシー違反は前年から大きく増え、未管理の個人アカウント利用がリスクを押し上げていると報告されています。TechCrunchでも、企業がシャドーAI利用を通じて機密情報を漏らすことが課題だと整理されています。
シャドーAI対策の最優先は ブロックより可視化
やることはシンプルです。全てを止めるより、まず現実を把握します。
- 利用の可視化：どの部署が どのAIに どんなデータを入れているかを把握する。DLPやCASBなどで入力とアップロードを観測できる状態にします。
- 公式ルートを便利にする：禁止だけだと抜け道が残るので、社内で使えるAIを用意し、SSOなどで誘導します。
- 入力してよい情報の具体例を整備：抽象ルールは守られません。個人情報、認証情報、ソースコード、顧客資料など、例と判断基準をセットにします。
AIエージェントが増やす もう一段のリスク
AIエージェントは、チャットで答えるだけでなく、社内ツールを操作して作業を進めます。ここでリスクが跳ね上がる理由は2つです。
- 権限が強いほど被害が拡大する：メール ファイル CRM チケット管理などにアクセスできると、誤動作や誘導で影響範囲が広がります。
- 人が見ないまま処理が進む：TechCrunchでは、AIエージェント同士が人の監督なしにやり取りする世界のリスクが語られています。
AIエージェントを守る領域は、従来の人のID管理に加えて 非人間IDとツールアクセスの統制になります。WitnessAIの資金調達報道でも、企業がAIエージェントのデータとインフラをどう守るかが焦点だとされています。
よくある攻撃と事故パターン
1.プロンプト注入で不正な指示を実行させる
OWASPが最上位リスクとして挙げる領域です。入力文や参照文書に混ぜた指示で、AIに禁止行為をさせる方向へ誘導します。
2.出力を信じて下流で実行してしまう
たとえばAIが生成したコマンドや設定値を、そのまま運用手順に反映してしまう事故です。OWASPは不適切な出力処理が下流の脆弱性につながるとしています。
3.エージェントの過剰権限で横展開が起きる
エージェントが複数SaaSを横断して動くほど、ひとつの誤誘導が全体へ波及します。人の承認が無い自動実行はとくに危険です。
IT担当者向け 実装優先順位つきチェックリスト
まず30日でやること
・生成AI利用の可視化 入力とアップロードの観測を開始
・社内で使うAIの公式ルートを決める SSOとログ取得を前提にする
・禁止データの具体例リストを作る 現場が迷うところを潰す
次の90日でやること
・AIエージェントは最小権限にする まず読み取り中心から始める
・重要操作は承認必須にする 支払い 送信 削除 公開など
・出力の取り扱いルールを決める そのまま実行しない 検証工程を入れる
・参照データの安全設計 間接プロンプト注入を前提に分離とフィルタを検討
シャドーAIとAIエージェント時代に IT担当者が押さえるべき統制ポイント：まとめ
シャドーAIは 現場の便利さが勝つと自然に増えます。AIエージェントは 権限と自動実行で影響範囲が広がります。だからこそ、ブロック一辺倒ではなく 可視化 公式ルート整備 権限の最小化 ログと承認という順で土台を作ることが重要です。TechCrunchが指摘する通り、機密漏洩やコンプライアンス違反、プロンプト起点の攻撃は これからの業務AIで避けて通れない論点になります。
