拡大する生成AI活用と企業のリスク：AIセキュリティの必要性

平田様より、AI Defenseに関する取り組みについてご紹介いただきました。

AIのリスクとセキュリティの重要性

AIは、非決定論的な技術的性質を持ちます。つまり同じ入力でも同じ出力を出すとは限りません。さらに、AIモデルは多様に存在します。
こうした従来のIT技術とは異なる新たなリスクが現れたと言えます。
AIのリスクには「セーフティ(品質面や倫理面のリスク)」と「セキュリティ(情報漏洩や悪用などのリスク)」に大別され、
その両面からの対策が企業や組織には必要です。特に平田氏は、ここ数年は、AIガバナンスの観点から、誤情報や有害なコンテンツなどのセーフティ・リスクに関する対策が先行してきた。しかし、AI活用の拡大とAIエージェント時代の到来によって、セキュリティ・リスクへの対策がより重要になり、企業もその対策が急務となる」ことを強調されました。

AI Defenseの機能概要について

「AI Defense」は、AIの安全な活用と開発を支援するための包括的なセキュリティ・ソリューションです。

・AIアプリケーションの使用管理：

　社内から外部の生成AIサービスへの接続を可視化・制御する機能。

　社員がChatGPTやDeepSeekなどに社内情報を入力してしまうことで起こる情報漏洩リスクを防ぐ仕組みが提供されている。

・AIアプリケーションの開発支援：

　AWS、GCP、Azureなどのマルチクラウド環境に分散するAIモデルを可視化し、AIに対するレッドチーミングを自動化した機能によりモデルの脆弱性を評価。

　運用時にはリアルタイムでプロンプトの入出力をモニタリングし、ポリシーに則った対処を実行するガードレールを提供。

　これらの機能により開発から運用まで一貫したセキュリティ対策が可能になる。

リスク評価技術とガバナンスの取り組み

AI Defenseの中核技術として、特に注目したいのが「レッドチーミング」の自動化です。
これは、AIモデルに対する攻撃シナリオを自動生成・評価する技術であり、「Tree of Attacks with Pruning」などの手法を用いて、AIに対してどのようなプロンプトがリスクを引き起こすかを体系的に検証します。これにより、開発者が想定していない脆弱性を事前に検知し、対策を講じることが可能になります。
また、運用時に提供されるリアルタイム・モニタリングを備えたガードレール機能は、NVIDIA NeMo Guardrailsとの連携も可能となり、企業の個別ニーズに応じたより強固なセキュリティが実現されると紹介されました。

さらに、CiscoはAI Defenseの提供にとどまらず、OWASP、MITRE、NISTなどの国際標準化をリードする団体に、CiscoのAIセキュリティ専門家が参画しています。そして、ここ日本でもAIガバナンス協会を通じて企業・政府・アカデミアが連携しAIガバナンスの社会実装の推進に貢献していくとのことです。

簡単なご登録で当日の動画をご覧いただけます

今回ご紹介したシスコシステムズ 平田様のセミナーは、下記のフォームよりご登録いただくとオンデマンド動画をご覧いただけるURLを送付いたします。見逃してしまった方や参加者の方でもう一度ご覧になりたい方は、この機会にぜひご登録ください！

お問合せはこちら