1.プロンプトに潜むリスク

生成AIのLLM（大規模言語モデル）を活用する際、プロンプトに含まれる機密情報が意図せず外部に漏洩するリスクがあります。特に、ソースコードや内部APIの情報などが、AIチャットボットに送信されることで、外部に漏洩する事例が報告されています。このような場合、悪意のある攻撃者に情報が悪用される可能性があり、法的トラブルに発展することもあります。

2.プロンプトインジェクション

プロンプトインジェクションとは、AIモデルに対して不正な指示を与えることで予期しない動作を引き起こす攻撃手法です。具体例として、秘密鍵の情報を守る設定をしていたにもかかわらず、プロンプトの言語を変更するなどの方法でその制限を回避し、情報が漏洩するケースが挙げられます。

3.ファインチューニングのリスク

ファインチューニングとは、特定のドメインに対する出力を改善するための再学習手法ですが、ここにもリスクが潜んでいます。学習用データに個人情報が含まれていると、その情報がAIチャットボットの出力として漏洩する可能性があります。特に、データが外部と共有される場合、個人情報漏洩のリスクはさらに高まります。

3-1. テキストの匿名化（Private AI）

Private AIは、テキストデータに含まれる個人情報を自動で検出し、マスキングまたは擬似データに置き換えるテキスト匿名化ソリューションです。従来の正規表現ベースの方法と異なり、マシンラーニングを用いて文脈から個人情報を識別し、高精度で対応します。これにより、生成AIのプロンプトに含まれる個人情報が匿名化され、安全な状態でLLMに送信されます。

3-2. Security ＆ Trustプラットフォーム（ DeepKeep ）

DeepKeepは、生成AIやコンピュータビジョンモデルに関するセキュリティリスクや信頼性の問題を解決するためのプラットフォームです。具体的には以下の4つの機能を持ちます。

• **リスクアセスメント**
  自動化されたペネトレーションテストでモデルやデータの脆弱性を評価。
• **予防**
  リスクアセスメントの結果に基づき、具体的なセキュリティ強化策を提示。
• **検知**
  リアルタイムの脅威検知と異常値の検出により、即座に問題へ対応。
• **緩和策**
  AIファイアウォールを使って脅威を検知した場合の素早いアクセス制限とアラート発報。

これらの機能により、AIシステムが外部からの攻撃やデータの不正利用に強く、安全に運用されることをサポートします。