ワークフォースによる生成AIのセキュアな利用

CloudflareのSASEプラットフォームは、従業員、契約社員、およびその他のユーザーがChatGPTのような生成AIツールと連携する方法を保護するために、可視性と利用制御を提供。例えば、Cloudflareは、AIツールの分類、設定ミスの検出、IDベースのアクセスポリシーの適用、機微データの入出力制限を通じて、可視性を拡張し、リスクを軽減。

シャドーAIとは、通常IT部門またはセキュリティ部門が承認していないAIツールの無許可使用を意味します。CloudflareのSASEプラットフォームは、ユーザーとアプリ間のトラフィックを可視化するため、企業は許可されていないツールの使用を特定・分析し、それらがもたらすリスクを評価し、許可、ブロック、隔離、またはその他の保護を適用するポリシー実施が可能になります。

AIセキュリティ態勢管理（AI-SPM）は、脆弱性、コンプライアンスの問題、データ漏洩などのリスクを監視および軽減するためのプロアクティブなアプローチです。Cloudflareのクラウドアクセスセキュリティブローカー（CASB）は、APIを通じて承認済みの生成AIツールを継続的に監視し、設定ミスや保存データの露出を検出します。データ損失防止（DLP）とSecure Web Gateway（SWG）を組み合わせることで、シャドーAIの利用状況を把握し、ユーザーのプロンプトやモデルの応答をリアルタイムに検査して保護します。これにより組織は、AIモデルとの対話中に発生し得る機密データの流出の防止、すべての生成AIアプリケーションの詳細なアクセス制御ポリシーの適用、AIデータライフサイクル全体を通したリスク管理を実現できます。

プロンプト保護とは、CloudflareがGenAIツールへのユーザー入力を検知・ブロック・記録し、データ漏洩や悪意のある活動のリスクを軽減する仕組みです。Cloudflareは、各ユーザープロンプトについて、セキュリティポリシーを適用する前に、プロンプトの内容とコンテキストの両方を分析することができます。例えば、プロンプトにPII（個人情報）、ソースコード、財務情報、または健康情報などの機微データが含まれている場合、管理者はDLPポリシーを設定して、そのプロンプトをブロックし、ログに記録します。Cloudflareは、AIプロンプトにおけるユーザーの意図を検出し、ジェイルブレイクの試み、悪意のあるコードのリクエスト、PIIの抽出などのリスクの高いアクションを防止します。