Deploy generative AI applications on enterprise data with Amazon Q

Pulisher : Cloud Technology Center パク・ソジョン
Description : Amazon Qの紹介セッション

はじめに

このセッションは、リインベントキノートでAmazon Qが紹介された後、新たに開催されたセッションです。このセッションの申込者も非常に多く、同じ内容で複数回行われるほど人気があり、改めてGenAIの人気を実感しました。 私も同様にAmazon Qについて知り、どのように実務に活用できるかを知りたいと思い、このセッションに参加しました。

Opportunity

マッキンゼーのデータによると、GenAIが25%の業務を自動化させることができ、これにより人が毎日2時間程度を節約することができるそうです。GenAIは活用可能な範囲も広大で、マーケティング、会計、リテールなど様々な産業で幅広く活用可能です。

GenAI Challenge

GenAIが革新的な技術であることは間違いありませんが、それでも顧客はGenAIを使用する際に課題に直面することもあります。 第一に、正確性です。顧客は、最新の社内データに基づいて正確な答えを回答してもらいたいのですが、パブリックコンテンツに基づいて訓練されたモデルは、このような答えを提供することができないでしょう。 また、ファクトチェックが不可能な幻覚現象も発生する可能性があります。二つ目はセキュリティ＆管理です。参考にしてはいけないデータを参照したり、回答に使ってはいけない特定の単語が含まれていないかなどの状況に対する管理が必要です。 特にenterpriseにはこのような管理がより重要でしょう。 最後は価値伝達のためのタイムラインです。GenAIアプリケーションを作成するためには多くのプロセスと時間が必要です。

Amazon Q

これらの課題を解決するために、Amazon Qが誕生しました。 これはビジネスニーズに合わせてカスタマイズして使用することができます。会社のデータに基づいてコンテンツ生成、質問応答などが可能です。 また、様々な分野の専門知識を扱うことができ、構築面でも17年のAWSデータを基にAWS上のアプリ開発支援が可能です。

Amazon QをQuickSight内で活用すれば、自然言語で既存のダッシュボードについて質問することができ、新しいダッシュボードを構築してもらうこともできます。 また、Contact Centerの相談者がより正確で迅速な回答を提供できるように支援することができます。

Amazon Qが前述したチャレンジをどのように解決できるのか気になるところです。 正確性の場合、RAGを活用してエンタープライズデータに基づいて正確な回答を提供し、fact-check機能を通じて、その回答がどこから根拠を得たのかを示します。このように様々な機能が回答の正確性を高めます。

セキュリティ面では、AWS側ですでにビルトイン最適化を行っているため、顧客側であまりセキュリティ＆管理面で新しい設定をする必要はありません。 また、アクセス制御リストを提供し、参照できるドキュメントを制限し、応答ガードレールを設定できるため、特定のトピックごとに異なる処理を行うことができます。

顧客に価値を提供するためには、迅速なサービス提供が重要です。Amazon Qはビルトインベクターインデックスが提供され、エンベッディングとデータソースを管理するプロセスと時間を削減し、より早く顧客にサービスを提供することができます。

key Features

Amazon Qは以下のような主な機能を提供します。

Actions execution using plugin: SaaSアプリと連動して、そのアプリに対するアクションを実行できます。EX) Jiraチケット内の会話の要約

・Conversational interface: 対話型インターフェースを提供し、会話履歴を保存して文脈に合った回答を提供します。回答結果については、ファクトチェックのために参考したソースを表示し、ファイルのアップロードも可能にする予定です。

・Security: 有害な回答に対するガードレールを設定することができ、特定の単語やフレーズを回答に含まないようにブロック可能です。

・Admin console: 組み込みのベクターインデックスを簡単に管理し、組み込みのSSOアプリケーションを活用することができます。

Demo

セッションの最後に簡単なデモを見ることができました。デモのシナリオは、ソフトウェア会社のセールスマネージャーが営業機会や顧客について知るためにAmazon Qを使用する設定でした。データはSFDCでインデックス化され、セールスマネージャーが顧客の概要、pain point、クレジット提供履歴などの内容を質問すると、Amazon Qが関連する回答を提供しました。

vsCodeは一般的によく使われるオープンソース基盤のIDEツールです。 このvsCodeでUIを活用したノーコード基盤のIaCを始めることができます。AWS Application ComposerはCloudformationコードをUIでドラッグアンドドロップだけで作ってくれるサービスで、開発者たちが簡単にインフラをIaCで管理できるように出てきたサービスです。このようなサービスがvsCodeでサポートされるという事実は、当該Composerで作ったYamlファイルに対する作成と管理、そして当該vsCodeで製作されたコードが一箇所で管理しやすくなったことが大きな意味を持っています。

DEで直接AWS Application Composerを使用して最新のアプリケーションを視覚的に構築し、Amazon CodeWhispererを使用してインフラをコードテンプレートとして繰り返し開発することができます。使用するためにはプラグインをインストールする必要があり、AWS Toolkitプラグインが既にインストールされている場合は、プラグインをアップデートした後、Application Composerを使用することができます。

セッションを終えて

個人的に仕事や学習を進めながらAWSアーキテクチャについて知りたいことがある時、ChatGPTをよく使っていましたが、Amazon Qは17年のAWS関連データを学習したというので、Amazon Qを使うとより正確で役立つ回答を得られ、業務効率も大幅に向上すると思われます。