MEGAZONEブログ
AWS re:Invent 2024 ＜Breakoutセッションレポート #GBL206-JA＞
re:Inventではじめて日本語のセッションに参加いたしました。
スピーカーはAWS黒川亮さんと、AWS CommunityHeroの御田 稔さんで、生成AIのこれまでの事とこれから起きることについてお話しされておりました。
最後は、パネルディスカッション形式で今年発表された生成AIサービスについてもお話しされ、非常に内容の濃いセッションでした。
御田さん執筆の「AmazonBedrock生成AIアプリ開発入門」を最近読んでいるので、非常に勉強になりました。
セッション概要
- タイトル
- Unleashing the power of generative AI on AWS for your business [Japanese]
- スピーカー
- Rio Kurokawa
- Principal Go-to-Market Specialist, Amazon Web Service Inc.
- Minoru Onda
- Technology Evangelist, KDDI Agile Development Center Corporation
- Rio Kurokawa
- 概要(公式)
このセッションは日本語で行われます。まず、ジェネレーティブ AI の観点から AWS re:Invent 2024 を振り返ります。次に、AWS ヒーロー「みのるん」こと KDDI アジャイル開発センターの恩田稔が、実際のビジネスアプリケーションとビジネスのためのテクノロジーの観点から、ビルダーの経験を共有します。最後に、2025 年に何が起こるのかを学びます。
2024年の生成AIの振り返り
- 2023年はPoCが繰り返された
- 四半期毎に新しいモデルが出るので、サイクルが合わなかった
- 新しいモデルの検証をしている間にさらに新しいモデルが登場して、実際に実装するまでは至らなかった
- 2024年の実装の年として、生成AIを業務の一部として取り入れていく
生成AI導入企業のTopランカー
なぜこれらの企業は生成AIの導入に積極的に取り組めたのか
１. TOP企業はセンシティブなデータの取り扱いが多く、すでに生成AIに置いてデータをセキュアに取り出し扱える状態になっていることが多い
２. 最小限の成果で先行して実施し、成功体験を積み重ねていく
特に2番目は他のセッションでも同様のお話をされていたので、重要だなと再認識しました。
ゲスト公演
ゲストとして、AWS CommunityHeroの御田さんが、ユーザー側の視点で、生成AIに関してお話しされておりました！
御田さんは、KDDIアジャイル開発センター(KAG)に在籍しており、社内の生成AIを活用した社内プロジェクトのご紹介がありました。
- ビジつく！
- 新規事業の壁打ち役として「デザイン思考」の基礎を教えてくれるアプリ
- AWS Bedrockのプレビュー中にclaude 3.5 sonnetの基盤をモデルを活用し、約1ヶ月で企画し開発を実施
- かぐたん
- Slackで利用可能なChatbotを開発
- 社内の従業員がチャットアプリを個人で使ってしまうシャドーITのリスクを懸念して、本アプリのインフラをコード化して管理し、グループ会社へ展開
- 議事録パックン
- 営業向けの生成AIアプリ
- 会議の録画データ投げるといい感じに議事録を作成してくれる
- 次回の商談に向けたの提案書の骨子を作成
- 本部長AI
- こちらも営業むけ生成AIアプリ
- 本部長AIが作成した提案書レビューをしてくれる
議事録パックンは営業職としてはなんて画期的なツールなのかと、感動しました！！
AWSの生成AIサービスの素晴らしいところ
１. 生成AIをビルディングブロックの一つとして活用できる
AWSでは様々なサービスがビルディングブロックとして提供されており、ユーザーはそれらを組み合わせて自由にアプリケーションを開発できる。
２. 高度な機能がマネージドサービスとして簡単に使える
生成AIで商用アプリケーションを開発しようとすると「RAG」や「エージェント」など応用的な機能を実装したくなるが、それらをAWSはマネージドサービスで提供している
３. 開発者を確保しやすくWeb上の知見も豊富
AWSではユーザーコミュニティーが多く、アウトプットが活発なためWebで検索すれば技術ナレッジに多くヒットするため安心
AmazonBedrockを利用するのは楽しい！！そんな思いを強く感じました！
また、新機能は海外リージョンからローンチされることから、海外リージョンの積極的に活用することをおすすめされておりました！
海外リージョンの利用の際は、レイテンシーの問題やセキュリティが懸念事項になる可能性があります。ただ！
- モデルのAPIを呼ぶ際のレイテンシーに大きな差はない
- AWSのサービス同士ならリージョン間通信もAWS設備内に閉じて暗号化が可能
今年でた新サービスについて
黒川さんと御田さんのパネルディスカッションがありました！
今回のre:Inventのアップデートの中で気になるもののコメントがありました！
- Amazon bedrock metadata filtering
- RAGを利用する際に、社内の拡張データにメタデータを付与して、これまでは検索クエリの中でメタデータを付与していて実装されていたが、これが自動化する機能がアップグレード
- Amazon Bedrock Intelligent Prompt Routing
- これまでAmazonBedrockエージェントから基盤モデルとしてclaudeを利用していた場合、例えば検索だけならHikuを呼ぶようなことができなかった
- これをクエリの複雑さをAmazonBedrockが判断して自動的に最適な基盤モデルを選択することが可能
- 現時点でこの複雑さの判断をするベースが英語なため日本語は対応していない
- ただ、日本語も近日中に対応するというコメントあり！
- Amazon Kendra generative AI Index
- RAGで触っているとKendra高いかもという瞬間があった
- 今回のタイミングでKendraの大幅値下げと機能も向上
- こちらも現在は英語のみ対応
- Amazon Bedrock Knowledge Bases now supports GraphRAG
- 本サービスはAWSとしても優先度が高く設定されているサービス
- 今年中にリリースするようAmazonから指示があった
- 配送時のラストワンマイルまでAIを使って指示できたら、より顧客体験につながる分析が可能になると
- これまではNeptune使って既存のデータLamaインデックス等を駆使し実装していたが、この辺りを自動化してくれる
- LLM-as-a-judge capabilities in Amazon Bedrock
- RAGアプリのAIが評価してくれる
- 既存ではPythonコード等で実装する必要があったが、この辺りを自動化してくれる
- AWS Education Equity Initiative
- これから生成AIを触る次世代に向けてのプラットフォーム
- 今回のアップデートからマネージドコンソールのUIが変更
- SageMaker AI：既存のSageMaker
- SageMaker Platform：次世代のSageMaker
今回のセッションは日本語ということもあり、セッションの内容の理解もでき、かつ、生成AI、AmazonBedrockに非常にワクワクさせられました！
まだ勉強中の身ではありますが、帰国後、早速AmazonBedrockを触ってみたいと思います！
まずはやってみる！これが何より重要ということを本セッションに関わらず、AWSの生成AIのセッションを聞いていてとても感じました！
