AWS re:Invent 2024 Swami Sivasubramanian Keynote

講演概要

Title:  Dr. Swami Sivasubramanian Keynote
Date: 2024年 12月 4日(水)
Venue:  Venetian
Speaker:
Raji Arasu (EVP/CTO, Autodesk)
Shawn Malhotra (CTO, Rocket Companies)
Dr. Swami Sivasubramanian (VP, AI and Data, AWS, AWS)
Shannon Kalisky (AWS)
Amit Jain (CEO, Luma AI)

はじめに

技術発展を通じて、新しい時代が開かれる過程を話し合いながら、生成型AI（Generative AI）の発展について話し合いました。
デプロイなどの新しい可能性について、さまざまなAWSテクノロジーをどのように活用できるかについて話しました。今日のKeynoteセッションを通じて、AIの未来とこれにより、より創造的で効率的な作業が可能になることが分かりました。

AI融合とイノベーションの時代

生成型AI（Generative AI）は、数十年の研究と発展に基づいて新たな飛躍を遂げています。パーセプトロン、非マップ学習、トランスとクラウドベースのデータの組み合わせがAIの進化を加速しています。

AIツールとインターフェースは効率と創造性を高めます。カスタマーサービスはパーソナライズされたレスポンスを生成し、マーケティング担当者は大規模なコンテンツを作成し、開発者はソフトウェア開発を簡素化しています。

AIは生産性を高め、創造性を拡張し、実質的な価値を提供します。 AWSはこれをサポートし、顧客の成長を支援しています。

SageMaker AIとHyperPod

SageMaker AIは、ビッグデータ分析、SQL分析、機械学習、Generative AIを統合したプラットフォームで、データの準備からモデルの開発、トレーニング、展開までのプロセスを簡素化します。 HyperPodは自動復旧とトレーニング計画の自動化によってモデルトレーニングをサポートし、最大40％のコストを節約できます。

SageMakerは、大規模なモデルトレーニングで発生する複雑さと問題を解決し、顧客が効率的かつ信頼性の高いモデルの開発と運用を支援します。

SageMaker HyperPod

SageMaker HyperPodはトレーニング作業の負担を軽減し、自動復旧とリソース管理を利用してモデル開発をスピードアップする機能を提供します。 Writer.ai、Perplexity、Thomson Reuters、Salesforceなどの主要企業がこれを活用して、複雑なモデルトレーニングの問題を解決しています。 HyperPodは柔軟なトレーニング計画でコンピューティングリソースを最適化し、トレーニング時間を短縮して効率を最大化します。

SageMaker HyperPod HyperPod flexible training plans

Amazon SageMaker HyperPod flexible training plans は、コンピューティング要件とトレーニングスケジュールのみを定義することで、残りを自動的に処理する柔軟なトレーニングプランを提供します。 EC2容量ブロックを活用して最適なトレーニングプランを作成し、クラスタ設定とモデルトレーニングタスクを自動化し、データサイエンスチームの作業時間を大幅に短縮します。
効率的なチェックポイントと自動回復機能により、トレーニング中断時にも手動介入なしに継続的に作業を進めることができ、動的なリソース環境でも効率的なコンピューティングリソース管理を可能にします。

SageMaker HyperPort Task Governance

コンピューティングリソースの効率的な管理が困難な環境では、Amazonは動的リソース割り当てとリアルタイム分析でリソース使用率を90％以上向上させ、SageMaker HyperPort Task Governanceを使用してタスク管理を自動化してコストを最大40％削減します。

AI apps from AWS partners now available in Amazon SageMaker

SageMakerはComet、DeepChecksなどのAIパートナーアプリケーションと統合し、MLOpsのライフサイクルをサポートし、トレーニング、評価、監視、セキュリティを簡素化します。
完全に管理された環境を提供し、統合プロセスを短縮し、モデル開発を加速します。
データセキュリティの問題も解決され、VPC外部共有なしでパートナーアプリと安全に統合できます。
これにより、顧客は効率とセキュリティの両方を備えたMLモデル開発環境を活用できます。

AutodeskのSageMaker AIの活用と3Dデザインの革新

Autodeskは、AWSのSageMaker AIを活用して3D Generative AIテクノロジを開発しています。代表プロジェクトである「ベルニーニ」は、テキスト、スケッチ、ボクセル、ポイントクラウドなど、さまざまな入力データを使用して複雑なAIモデルを開発し、2Dと3D CAD幾何学を生成するために活用されます。

このプロセスでは、DynamoDBを使用して数十億のオブジェクトを処理するためのデータモデルを構築し、AWSと協力して高いスループットと低遅延を実現しました。 SageMakerで機械学習環境を最適化した結果、展開時間が半分に短縮され、AIの生産性が30％向上しました。

Amazon Bedrockの開発と新モデルの追加

Amazon Bedrock は、アプリケーション開発者が Generative AI アプリケーションを簡単に構築および拡張できるようにする、完全に管理されたサービスです。さまざまなモデルオプションを提供することで、開発者は各課題に適した最適なモデルを選択して活用できます。

Amazonは最新のイノベーションを提供するために継続的に投資しており、Mistral AI、MetaのLlama、Stability AI、Antropicの最先端モデル、AmazonのNovaモデルなどをサポートしています.内部チームでもすでにいくつかのモデルを活用しており、初期の結果は非常に肯定的で印象的です。

今後、より多くの顧客が使用できるようにモデルの拡張を継続する予定であり、来年はPoolsideの新しいモデルがBedrockに追加される予定だそうです。

stability.aiのStable Diffusion 3.5

stability.aiのStable Diffusion 3.5モデルがBedrockに追加され、SageMaker HyperPortで訓練された強力なテキスト画像生成モデルを提供できるようになりました。

Luma AI

Luma AIはすぐにBedrockに追加され、AIを活用した高品質のビデオ生成技術で重要な進歩を遂げました。 Luma Ray 2デジタルモデルは、テキストと画像を活用して高品質でリアルなビデオを作成し、デザインとマーケティングのワークフローを劇的に向上させます。

このモデルは、構成、色、カメラ、アクションを革新的に制御することができ、ブランドのアイデンティティをビデオに自然に反映することができます。また、キャラクターとストーリーの一貫性を保ちながら、リアルタイムの速度で分単位のビデオ制作が可能になりました。

Amazon Bedrock Marketplace

このマーケットプレイスは、主要プロバイダーの100以上の最新の特化ベースのモデルを提供しています。 Bedrockコンソールを使用すると、さまざまなモデルを統合された環境で簡単にナビゲート、テストし、開発ワークフローを簡素化できます。

Amazon Bedrock supports prompt caching

一度生成されたトークンエンコーディングをドキュメント全体にキャッシュすることで、後でプロンプトで再処理しないため、入力トークン処理プロセスを省くことができます。簡単な方法を提供したいと思いました

。遅延時間を短縮するだけでなく、コストも削減できます。 Bedrock API を使用するか、Playground UI で直接試して、どのくらいのコストを削減できるかを確認できます。 ％、コストを最大90％削減できます。

Amazon Bedrock Intelligent Prompt Routing

この機能は、プロンプトをモデルファミリ内からさまざまなベースモデルに自動的にルーティングして、コストと応答品質を最適化するのに役立ちます。ユーザーは必要なモデルを選択し、要求ごとにコストと遅延時間のしきい値を設定できます。

Bedrockは、最も少ないコストで最高の応答を提供する可能性が高いモデルに要求を動的にルーティングします。このIntelligent Prompt Routing機能により、精度を維持しながらコストを最大30％削減できます。これらの機能を活用することで、さまざまなユースケースで推論最適化を簡単に実装できるようになったそうです。

Amazon Kendra

Bedrock Knowledge BasesはRAGワークフローのための強力な基盤を提供しますが、膨大な企業データソースで効率的で正確な検索を実装することは容易ではありません。ここでAmazon Kendraが解決策になります。

Kendraは機械学習を活用したインテリジェント検索サービスで、より関連性の高いデータを見つけるのに役立ちます。さらに、ベクトル埋め込みを作成および管理し、意味を理解する機能により、アプリケーションの検索精度を向上させることができます。 Kendraは、40を超える企業データソースと接続できる組み込みコネクタも提供しています。

Amazon Kendra Generative AI Index

顧客は基本的に最適な埋め込みモデルを選択し、ベクトル次元を最適化し、検索精度を微調整するためのベクトルインデックスを望んでいました。また、知識ベースと全体生成型AIスタックとのスムーズな統合も可能なKendra Generative AI Indexが新たにリリースされました。

この機能は、40を超える企業データソースと接続できるコネクタをサポートし、Bedrockとドラッグ用のマネージドブラウザを提供します。 Bedrockの知識ベースとして活用でき、エージェント、プロンプトフロー、ガードレールなどの機能により、生成型AIアシスタントを簡単に構築できるという。

Amazon Bedrock Knowledge Bases now supports GraphRAG

この新機能は、Amazon Neptuneを使用して自動的にグラフを作成し、さまざまなデータ
ソース間の関係を結び付けることで、個別のグラフ専門知識がなくても、より包括的な生成型AIアプリケーションを作成できます。
とソース情報を明確に表示することで説明力を高め、事実検証を容易にします。作成できるようになったそうです。

Amazon Bedrock Data Automation

この機能により、非定型マルチモーダルコンテンツを自動的に構造化されたデータに変換し、生成型AIアプリケーションに活用することができます。コーディングは不要であり、まるで非定型データのための生成型AIベースのETLツールだと考えればよい。

この機能は、マルチモーダルコンテンツを自動的に抽出、変換、処理し、単一のAPIを使用して目的の出力を作成したり、スキーマに合わせて並べ替えたり、分析に使用するデータを簡単に変換してロードしたりできます。また、Bedrock Data Automationは信頼スコアを提供し、応答を元のコンテンツに基づいて作成し、虚構的な結果のリスクを減らすと言われています。

Amazon Bedrock Guardrails Multimodal toxicity detection

Bedrock Guardrailsに画像データをサポートする有害性検出機能が追加されました。これにより、安全なマルチモデル生成型AIアプリケーションを構築できます。たとえば、オンライン広告分類会社は、嫌悪、暴力、不適切な画像コンテンツなどの有害な画像をユーザーとの対話からブロックする可能性があります。

このアップデートは、画像コンテンツをサポートするすべてのBedrockモデルとそれに含まれる詳細調整モデルにも適用されます。将来的には、モデルの選択から責任あるAIの活用まで、これらのツールと機能は、より多くの問題を解決し、自動化のための新しい可能性を開く重要な要素になるでしょう。

Amazon Bedrockでは、モデルの選択から自動化管理エージェントまで継続的に進化しています。

Amazon Q Developer now tops the SWE Bench

Amazon Q AgentはSWE Benchで54のソフトウェア開発問題を解決し、最高のパフォーマンスを記録しました。これは7ヶ月前より2倍以上改善された結果です。

Amazon Q Developer is now available in SageMaker Canvas

SageMaker CanvasでQを使用できるようになりました。自然言語で問題を説明すると、PythonコーディングなしでQがMLモデル構築プロセスを段階的に案内します。

Amazon Q in QuickSight Scenarios

Amazon QとQuickSightは、ビジネス分析のスピードを大幅に向上させると述べています。 Amazon Qはデータレイクで迅速なSQL分析とビッグデータ処理を可能にし、SageMaker AIでモデルトレーニングを加速し、BedrockはAIベースの新しい経験を提供します。
これらのツールとデータ、そしてAIの融合は、次世代のAmazon SageMakerを通じて分析と機械学習のワークフローを合理化しました。

AWS Education Equity Initiative

2023年に発表されたAI Readyは、世界中の200万人以上に無料でAI技術教育を提供しています。 AWS AI および ML 奨学金と Amazon Future Engineer プログラムにより、それぞれ 2,800 万ドルと 4,600 万ドルの奨学金を提供し、疎外層学習者が最先端の AI 技術を学ぶことができます。
AWSトレーニング公平性イニシアチブは、1億ドルのクラウドコンピューティングクレジットとAWSエキスパートの技術指導を提供し、デジタル学習ソリューションの構築を支援します。
このプログラムはCode.orgと協力して学生のプロジェクト評価を自動化し、教師が学生の個人指導にもっと時間を費やすのを支援します。

まとめ

今回のKeynoteは、技術革命に次ぐAIであり、Amazon SageMaker、Amazon BedrockとAmazon Q、そしてこれらを融合した多くの新機能が紹介されました。

基本モデル訓練のための強力なツールから生成型AIの生産性革新まで、ライト兄弟の飛行機の歴史が始めたように、歴史的な転換点に立っているようです。特に、コードを知らなくてもスキーマと結果を分析して最適なqueryを組み立てるのか、いくつかのシナリオベースで微調整しながら使用するQuickSightなど、こんなものがあればいいのが大挙新機能で発売されたようです。

今後、私たちが想像するほど、そしてそれ以上のAI関連機能が発売されると思われ、継続的に帰宅が注目されます。

---

執筆：MEGAZONECLOUD Cloud Technology Center,Global Pre-Sales Team　イ・ヨンジン チーム長