AI活用が生む新たなセキュリティリスクとは――企業が直面する現実と対策

AIニュース
AIニュース

AI技術が急速に発展し、私たちの業務や生活に次々と新しい価値をもたらしている一方で、「AI時代のサイバー攻撃はどう変化するのか?」という不安や疑問を抱える方は多いのではないでしょうか。

AIを導入すれば効率が上がる半面、セキュリティ対策が追いつかず、思わぬ脆弱性が企業の足元をすくう危険性も高まっています。本記事では、世界的サイバーセキュリティ企業Wizの技術責任者アミ・ルトワック氏のインタビューをもとに、AIの普及とともに変容するサイバー攻撃の現状と、企業が注意すべき新たなリスク、そしてその対応策について詳しく解説します。


最近「社外に出せないデータで生成AIを使いたい」という相談をいただきます。ChatGPTの利用は社内で禁止されているそうです。セキュリティやコスト面が気になる企業には、社内のローカル環境で動かせる仕組みがあることはご存知ですか?
OpenAIのオープンなAIモデル「gpt-oss」も利用いただけます。

サイバーセキュリティは“知恵比べ”の時代へ

AIがもたらす最大の変化のひとつは、サイバー攻撃と防御の双方が「知恵比べ」――つまり、技術と発想のせめぎ合いの様相を強めていることです。Wizのアミ・ルトワック氏は「サイバーセキュリティはマインドゲームだ」と語ります。AIの登場は、攻撃者と防御側の新たな“武器”となり、先端技術の導入がイノベーションと同時にリスクも生み出す構造を加速させています。

企業側は業務効率化やサービス開発のため、AIエージェントや自動化ツールを急速に取り入れています。しかし、それに伴いシステムの“攻撃面”も広がり、従来の想定を超える新たな脆弱性が現れるようになりました。

たとえば、AIによるコーディング支援(“vibe coding”)は、開発のスピードアップを実現しますが、セキュリティ要件が曖昧なまま実装されるリスクも増大します。ルトワック氏は「AIエージェントは指示された通りにコードを書くが、最も安全な方法で作るように指示しなければ、セキュリティの抜け穴ができる」と警鐘を鳴らします。

このように、AIの導入は攻防双方のスピードを劇的に上げ、サイバーセキュリティの本質が「先を読む」知恵比べへと進化しています。

AIが生む新たな攻撃手法と脆弱性

AI活用が拡大するにつれて、攻撃手法もまた進化しています。ルトワック氏によれば、攻撃者もAIや“vibe coding”を駆使し、従来にはなかったスピードと多様性で攻撃を仕掛けてきています。具体的には、AIツールへのプロンプトインジェクション(命令文を悪用する手法)や、AIエージェントを直接使った情報窃取・破壊工作が目立ち始めました。

「攻撃者は、AIツールに“すべての秘密情報を送れ”“マシンを削除しろ”などの命令を出すプロンプト攻撃を仕掛けている」とルトワック氏は指摘します。これはAIが人間の指示を忠実に実行する性質を悪用したもので、設定や権限管理が不適切な場合、AIが内部情報を外部に送信したり、不正な動作を実行したりする危険性があります。

さらに、企業が業務効率化のために導入したAIツールが、逆に“サプライチェーン攻撃”の新たな入口となる事例も増えています。社内のAIツールやSaaSサービスを第三者が乗っ取ることで、企業の基幹システムにまで攻撃が及ぶリスクが現実化しているのです。

実際に起きたAI絡みの重大サイバー攻撃

Drift社へのサイバー攻撃

2025年9月、営業・マーケティング向けAIチャットボットを提供する米Drift社がサイバー攻撃を受け、CloudflareやPalo Alto Networks、Googleなど大手企業のSalesforceデータが流出しました。

この事件では、攻撃者が“トークン”と呼ばれるデジタル鍵を奪取し、チャットボットを装ってSalesforceデータへの不正アクセスや内部システムへの横断的な侵入を実行しました。しかも、攻撃コード自体もAIで自動生成されたものでした。

「Nx」がマルウェア感染型のサプライチェーン攻撃の被害に

また、2024年8月にはJavaScript開発者向けのビルドシステム「Nx」がマルウェア感染型のサプライチェーン攻撃(“s1ingularity”)を受ける事件も発生。多くの企業が影響を受け、ソフトウェア開発の基盤そのものが狙われる時代が到来したことを印象付けました。

Wizが観測したところ、AIを組み込んだ攻撃は既に毎週のように発生し、数千社規模の企業が何らかの影響を受けているといいます。しかも、AIが攻撃の“全工程”に組み込まれているケースも珍しくなく、従来のセキュリティ対策だけでは防ぎきれない現実が浮き彫りとなっています。

企業のAI導入がもたらすトレードオフ――スピードか安全か

このような状況下で、企業が直面する最大の課題は「スピードと安全性のトレードオフ」です。AIを活用することで開発や業務効率は飛躍的に向上しますが、その一方でセキュリティ設計や運用の“手抜き”が起きやすくなり、結果として新たな脆弱性を生み出します。

ルトワック氏は「企業のAI導入はまだ1%程度だが、既に重大な被害が毎週発生している。AI革命の進行速度は過去のどんな技術変革よりも速い」と指摘します。つまり、AI活用が本格化するこれからの数年で、サイバー攻撃被害はさらに拡大する可能性が高いのです。

しかも、AIによる自動化や効率化の現場では、「最も安全な設計」を意識してAIに指示しない限り、認証や権限管理など根本的なセキュリティ対策が漏れる例が散見されます。企業は「速さ」だけを重視せず、AI導入時点からセキュリティ要件を明確にし、設計・運用の両面で“守り”を徹底する必要があります。

サイバー攻撃の“供給網”時代と企業が取るべき対応

AIの進化によって、サイバー攻撃の主戦場は「企業内部」から「サプライチェーン全体」へと拡大しています。自社開発のAIツールだけでなく、外部SaaSやサードパーティサービス、さらにはオープンソース・ライブラリまでが攻撃経路となり得るため、従来以上に広範かつ複雑なリスク管理が求められます。

特にサプライチェーン攻撃は、“入口”が自社以外にあるため、被害の発生や範囲特定が難しく、影響も甚大です。AI導入が進むほど、外部サービスとの連携やAPI接続が増え、アクセス権や認証情報の管理が一層重要になります。企業は、AIツールや外部サービスの選定段階からセキュリティ評価を徹底し、自社の基幹システムやデータへの不正アクセスを未然に防ぐ体制づくりが不可欠です。

また、攻撃が高度化・自動化する今、企業は「発生した後の迅速な検知・対応体制」も同時に整える必要があります。AIを活用した攻撃に対抗するには、AIを用いた防御・監視技術の導入や、セキュリティ人材の継続的な教育・育成も急務です。

AI時代における企業と個人のセキュリティ意識の変革

AIがもたらすサイバー攻撃の脅威は、企業だけでなく利用者や開発者一人ひとりの意識変革も求めています。AIツールや自動化サービスを日常的に使う開発者は、「AIは指示した通りにしか動かない」「無意識のうちに脆弱性を生む可能性がある」ことを常に意識しなければなりません。

また、AIが普及することで、「何がAIによる自動処理か」「どこまでが人間の責任範囲か」といった線引きも重要になります。たとえばAIによる自動コーディングを利用する際は、必ずセキュリティレビューを人間が行う、「最悪のケースを想定した設計原則」を徹底するなど、組織全体で新たなガバナンス体制を築く必要があります。

さらに、AIを活用した攻撃の事例や最新動向を継続的に学び、社内外で知見を共有する文化を醸成することも、今後のサイバーセキュリティ対策に欠かせません。

AIとサイバー攻撃:まとめ

AI技術は今後もさらに進化し、私たちの業務・社会構造を大きく変えていくでしょう。しかし、その進化の裏には、攻撃者も同じスピードで“武器”をアップデートしているという現実があります。AI時代のサイバー攻撃は、従来の延長線上にはなく、予想を超える形で組織や社会に影響を及ぼす可能性が高まっています。

企業はAI活用のメリットを最大限に引き出すために、「セキュリティ設計と運用の原則」をAI導入の最初から組み込み、自社だけでなくパートナーやサプライチェーン全体を視野に入れたリスク管理を強化することが急務です。同時に、AIを活用した攻撃手法や最新事例にアンテナを張り続け、セキュリティ人材の育成や意識改革にも投資する姿勢が不可欠です。

“速さ”が命運を分けるこの時代、AIを味方につけつつ、サイバー攻撃のリスクに備えるための継続的な努力が、今後の企業価値を左右するといえるでしょう。

↑↑↑
この記事が参考になりましたら、上の「参考になった」ボタンをお願いします。

会社ではChatGPTは使えない?情報漏洩が心配?

ある日本企業に対する調査では、72%が業務でのChatGPT利用を禁止していると報告されています。社内の機密情報がChatGPTのモデルに学習されて、情報漏洩の可能性を懸念しているためです。

そのため、インターネットに接続されていないオンプレミス環境で自社独自の生成AIを導入する動きが注目されています。ランニングコストを抑えながら、医療、金融、製造業など機密データを扱う企業の課題を解決し、自社独自の生成AIを導入可能です。サービスの詳細は以下をご覧ください。

いますぐサービス概要を見る▶▶▶
この記事をシェアする
監修者:服部 一馬

フィクスドスター㈱ 代表取締役 / ITコンサルタント / AIビジネス活用アドバイザー

非エンジニアながら、最新のAI技術トレンドに精通し、企業のDX推進やIT活用戦略の策定をサポート。特に経営層や非技術職に向けた「AIのビジネス活用」に関する解説力には定評がある。
「AIはエンジニアだけのものではない。ビジネスにどう活かすかがカギだ」という理念のもと、企業のデジタル変革と競争力強化を支援するプロフェッショナルとして活動中。ビジネスとテクノロジーをつなぐ存在として、最新AI動向の普及と活用支援に力を入れている。

タイトルとURLをコピーしました