Understanding security & privacy on Amazon Bedrock, featuring Remitly

セッション概要

• タイトル：Understanding security & privacy on Amazon Bedrock, featuring Remitly
• 日付：2024年12月4日(水)
• Venue：Convention Promenade | Latour 2
• スピーカー：
  • Ankur Sinha(CTO, Remitly, Remitly)
  • Raj Pathak(Principal Solutions Architect, Amazon Web Services)
  • Qingwei Li(Principal AI/ML SA, AWS)
• 業界：Cross-Industry Solutions
• 概要：Amazon Bedrock のセキュリティ、データプライバシー、ガバナンス、および規制管理は、生成された AI アプリケーションを保護するのに役立ちます。具体的には、RemitlyがAmazon Bedrockのセキュリティ機能を使用して、カスタマーサポートプラットフォームを介して顧客にサービスを提供する方法を確認できます。

はじめに

データを扱う企業（ほとんどすべて）の最大の関心事は、データを安全に処理する方法です。特に、最近生成型AIが注目されているだけに、セキュリティやデータプライバシーがより重要性が高まっています。 AWSもセキュリティとデータのプライバシーが非常に重要なトピックであることを強調しており、それには多くのコントラストがありました。そのため、今回のセッションで Amazon Bedrock のセキュリティと、データのプライバシーと生成された AI アプリケーションを構築する際に確認する必要があることを確認します。

産業調査によると、セキュリティは依然としてさまざまな規模の組織で主な関心事になっています。コミュニケーション、プライバシー、データ保護などの項目は、毎年調査で主要な関心事として表示されます。

生成型AIセキュリティの3つのステップ

1. モデル自体のセキュリティ
   • モデル提供者は、データを処理、修正、フィルタリングして学習されたモデルが安全であるように管理する必要があります。
     
2. モデルアクセスのセキュリティ
   • 誰がデータにアクセスできるかを認証し、必要な権限を付与されたかを管理する必要があります。
     
3. 生成型AIアプリケーションの全体的なセキュリティ
   • モデルにデータを学習させる前に、データがどれだけ安全に保護されているかを評価・確認し、また、モデルが結果を出力した後は、その出力が組織のAIポリシーに準拠していることを確認する必要があります。

Amazon Bedrock のセキュリティ

Amazon Bedrockのセキュリティは非常に重要な事項です。まず、Bedrockはユーザーの推論およびトレーニングデータを保存しません。 データが保存されないため、漏洩する可能性もありません。 Bedrockが保存するデータは、課金関連指標などさまざまなメタデータを含む運営指標のみです。

入力されるデータだけでなく、出力される内容においてもセキュリティ機能が適用されます。Bedrockが提供する代表的な出力関連のセキュリティ機能にはGuardrailがあります。

・Amazon Bedrock Guardrail
Amazon BedrockはGuardrailという機能を提供します。
Guardrailはほとんどの有害なコンテンツをフィルタリングすることができます。有害コンテンツブロックのほか、75%以上の幻覚現象をフィルタリングします。

Bedrock Guardrailsは自動推論チェック機能もサポートしています。この機能は、LLMによって生成された応答の正確性を数学的に検証し、ハルシンニングによるエラーを防ぐのに役立ちます。

生成型AIアプリケーションのセキュリティに関する考慮事項

生成型AIアプリケーションで考慮すべきセキュリティは次のとおりです。

1. 機密ユーザーデータやPIIを保護するためにどのような措置を講じるべきか
2. すべてのFMの相互作用が完全に分離され、正しく記録されているか
3. アプリケーション全体で一貫したデータとネットワークのセキュリティ制御を維持するにはどうすればよいですか
4. 有害なトピックや攻撃からユーザーを保護するにはどうすればよいですか
5. ユーザーごとに正しい対話が行われていることを認証して承認する方法

プロンプトエンジニアリングによるセキュリティ

プロンプトはモデルと対話するためのインターフェースであり、プロンプトエンジニアリングはLLMの推論結果を向上させるために非常に重要です。プロンプトエンジニアリングで最適化されたプロンプトを使用する場合、同じLLMにも2倍以上のパフォーマンスの違い（精度、セキュリティなど）がある可能性があります。 99％は不足しているセキュリティ関連の内容で非常に重要な部分を担当しています。

まとめ

このように、Amazon Bedrockは、さまざまなセキュリティ対策を通じて、LLM学習に使用されるデータから推論プロセスで発生する可能性のある問題、最終出力プロセスで発生する可能性のある問題を事前に防止します。
特に、多様で強力な機能を提供するGuardrailとAutomated Reasoning Checkを活用すれば、回答出力においてはほぼ完全にブロックされることが確認できました。
多様な生成型AIアプリケーションがリリースされ、これを活用するユーザーの熟練度も発展するにつれて、逆にシステムを攻撃して情報を抽出する試みも増えています。今後の生成型AIアプリケーションの重要な部分は、潜在的な脅威を事前にブロックし、サービス自体の信頼性を高め、機密情報を扱うユーザーが安心して使用できるようにするものと考えられます。

記事 │MEGAZONECLOUD AI & Data Analytics Center(ADC) Data Engineering 2 Team チョン・ジソン マネージャー