【5分ニュース】AIを守るセキュリティ市場、2027年に68.7％増の予測

前提知識

AIシステムを守るセキュリティ製品は、AIの利用場面やモデル、利用ルールを対象にする製品群だ。調査会社Gartnerは、この市場が2027年に前年比68.7％増になると予測した。AIを使う業務では、従来の製品だけでなく、AI特有の攻撃を見分ける備えが必要になる。

狙った目的・効用

Gartnerの予測では、市場規模は2026年の28億3500万ドルから、2027年には47億8300万ドルへ増える。4分野は、AIを使うソフトの安全を扱うAIアプリケーションセキュリティ、AIモデルを守るAIモデルセキュリティ、利用ルールや監査を扱うAIガバナンスプラットフォーム、AIと外部サービスの接続を管理するAIゲートウェイである。2027年の予測額はAIアプリケーションセキュリティが8億5100万ドルで4分野中最大となる。以前は従来のセキュリティ製品でAI利用も守る考え方が中心だったが、本文はAIモデルの保護、監査、運用の制御を組み合わせる必要があるとしている。AIエージェントには、権限設定の不備やプロンプトインジェクションが脅威になる。プロンプトインジェクションは、AIへの指示に不正な命令を混ぜ、想定外の動きを起こさせる手口だ。MicrosoftのAIエージェント向けゼロトラスト戦略ツールは、AIエージェントの開発から運用までにある危険を整理する例として紹介された。ただし、同ツールの正式名称や提供時期、機能の詳しい内容は今回の情報では示されていない。

活用チェックポイント

• 情報システム部門は、Microsoft 365 CopilotやChatGPTを含む社内利用中のAIを一覧にできるか？
• AIエージェントの管理者は、利用者ごとの閲覧、作成、送信の権限を画面上で確認できるか？
• 業務部門は、AIエージェントが外部サービスへ接続する際に使うアカウントと権限を特定できるか？
• セキュリティ担当者は、AIへの入力に外部文書やメールを使う業務で、不正な指示への対処手順を決めているか？
• 監査担当者は、AIエージェントが実行した操作と参照した情報を後から確認できる記録があるか？

関連記事

同じ製品・同じコーナーから選びました。

• 今朝のAI活用ネタ

  【5分ニュース】日本企業のAI導入が実証実験で止まりやすい2つの構造

  ITサービスとコンサルティングを提供する日本TCSは、生成AIの実証実験（PoC）が本番実装へ進みにくい背景に、業務とITの知識が分かれた構造と人材構成の変化があると説明した。PoCは、導入前に技術や使い道を小さく試す実証実験である。AIを業務で使うには、企業固有の業務システム、データ、仕事の流れを理解して組み込む必要があるという。

• 今朝のAI活用ネタ

  【5分ニュース】Waymoがロボタクシー車内に会話AIを試験導入

  自動運転タクシーを提供するWaymoは、乗客向け会話アシスタント「Gemini in Waymo」をOjai robotaxi オーハイ地域のロボタクシー体験で始めた。乗客は車内画面から、空調の操作や乗車中の質問を音声か自然な言葉で頼める。Gemini in Waymoは運転を担わず、Waymo 車両を制御して運転判断を行う仕組みと分けて動く。

• 今朝のAI活用ネタ

  【5分ニュース】企業AIのリスクは、AI同士の接続経路にある

  企業AIで使うAIエージェント（指示を受けて他の仕組みを動かすAI）は、単体よりも相互の接続が増えたときに管理が難しくなる。APIを管理するソフト企業の最高経営責任者は、AIの数ではなく接続経路の増加が主なリスクだと主張する。ソフト同士が機能を呼び出す窓口や既存の業務システムをAIが連鎖して呼ぶためである。

• 今朝のAI活用ネタ

  【5分ニュース】OpenAIがブラジルで商業運営を開始

  対話型AIサービスを提供するOpenAIは、ブラジルで商業運営を始めた。サンパウロの現地チームが、企業や開発者、研究者、公共機関との協力を進める。ChatGPTは文章作成や質問への応答を行うAIである。Codexは、プログラム作成を支援するAIである。

製品・業務から探す