AI導入の落とし穴
【落とし穴】AI利用の拡大で、シャドーAI対策が欠かせない理由
前提知識
企業がAIサービスやAIエージェントを業務で使うなら、未承認の利用も含めた新しい安全対策が欠かせない。シャドーAIとは、会社が業務利用を認めず、利用実態も把握していないAIサービスを社員が使う状態である。AIエージェントとは、指示に応じて業務を自動で進めるAIである。
3行サマリー
- 企業の現場ではAI利用が広がり、Microsoft Copilot、Google Gemini、ChatGPTを会社公認で採用する例も増えている。
- 登坂恒夫氏は、シャドーAI、AIエージェントによる業務自動化、自社でのAIモデル構築をまとめて安全対策の対象にすべきだと述べる。
- 未確認のAIに個人情報や機密情報を入力したり、誤情報を業務で使ったりすると、情報漏洩や品質低下、権利侵害につながるおそれがある。
落とし穴
危険：未承認のAIサービスを社員が使い、個人情報や機密情報を入力すると、その情報が会社の管理外で扱われて情報漏洩につながるおそれがある。さらに、確認していない出力を業務に使うと、誤情報による品質低下や信頼低下、著作権や知的財産権の侵害による法的な問題が起きうる。
防ぎ方：情報システム部門は、利用を認めるAIサービスと利用条件を利用部門へ明示する。業務担当者は、未承認のAIを使う必要がある場合に、利用前に会社へ相談できる手順を確認する。
背景
フォーティネットジャパン（ネットワークと情報を守る製品・サービスを提供する企業）の登坂恒夫氏は、AI活用を進める企業には新たな安全対策の方針が必要だと提言した。以前は企業のAI利用が広がり始めた段階だったが、今回は会社公認のクラウド業務サービスとしてMicrosoft Microsoftの業務向け生成AI、Google Googleの生成AI、OpenAIの対話型生成AIを採用する企業が増えているという。一方で、会社が利用規約や出力の品質を確認していないシャドーAIでは、個人情報や機密情報の入力による情報漏洩、プライバシー法などへの違反、アカウント乗っ取りやマルウェア感染の危険が高まるとしている。誤情報は業務品質の低下や企業への信頼低下を招き、意図しない著作権や知的財産権の侵害は法的な問題につながると登坂氏は指摘する。
出典
関連記事
-
セキュリティ・権限・監査
【落とし穴】本番のAIエージェントは、記憶・評価・ツール連携で止まりやすい
AIエージェントは、利用者の指示に応じて情報を調べたり、外部サービスを動かしたりするAIである。本番環境では、会話の記憶、出力の評価、外部ツールとの連携を別々に設計しなければ、動作確認済みの試作品でも障害を起こし得る。記事著者は、多くのAIエージェントが記憶のずれ、評価不足、ツール連携の弱さで本番運用に失敗すると主張している。
-
今朝のAI活用ネタ
【5分ニュース】AIエージェントの権限管理を見直す動き
AIエージェントは、社内の情報を探すだけでなく、与えられた権限で業務の操作まで行うAIである。メールを読み、データベースを照会し、システム同士をつなぐ仕組みを呼び出せるため、権限と承認の管理が欠かせない。Google Cloudは、セキュリティを開発段階から組み込む方法と、AIエージェントをまとめて監督する仕組みを示した。
-
今朝のAI活用ネタ
【5分ニュース】複数のAIエージェントは役割と引き継ぎを設計して動かす
複数のAIエージェントを同じ業務やコードに使う場合は、個々の性能だけでなく協調の設計が要る。グラフ・エンジニアリングとは、AIエージェントの担当、作業の分け方、引き継ぎ、確認、人が承認する地点を構成として決める考え方である。記事は、協調には共有の機械可読な作業記録（AIが読み書きできる共通の作業台帳）が必要だと述べている。