The power of cloud network innovation

Pulisher : Enterprise Managed Service Group ワン・ヒョンシク
Description : AWSネットワーキングの歴史と今日までにどのように発展してきたかを紹介するセッション

はじめに

すべてのインフラアーキテクチャで最も重要なポイントはネットワーク構成です。
内部インターフェイス間の通信でも、外部との通信でも非常に重要な部分ですが、その内容についてのセッションであり、既存の構成されたネットワーク環境でどのような変化を与えることができるのか、多くのAWS Networkサービスの中でどのようなサービスを通じて革新を語るのか、具体的な内容にフォーカスします。

セッションの概略紹介

AWSのネットワークは、AWSがクラウドコンピューティングのコミットメントを果たすための基盤となっています。
この講演では、Amazon EC2ネットワークおよびコンピューティングサービス担当副社長のDave Brownと一緒に、AWSネットワークの歴史を振り返り、AWSネットワークの成長と革新が今日までどのように続いているのか、そして創造性を発揮し、可能性のある分野への飛躍を可能にする方法を紹介します。 実例と裏話を交えながら、DaveはAWSのコアネットワーキングインフラストラクチャ、VPCネットワーキング、AI/ML向けのデータセンターネットワーキング、セキュリティ、グローバル接続の最新イノベーションについて詳しく説明します。

Amazondmsクラウドの構築を開始したとき、トラフィックを持続させ、パフォーマンス、安定性、またはデータがセキュリティの危険性にさらされることを気にする必要がないようにしたいと考えていました。
世界中を航行する船や、AWSがデータを運ぶ海底のダークファイバーケーブルを通じて、ネットワークはコラボレーションとアイデアのやり取りを可能にします。 そしてそれは地域を超えたコミュニティを生み出します。

AWSはネットワーク容量を継続的に拡大しています。
・過去3年間で総ネットワーク容量を2倍に増やしました。
・世界中で74ゼタバイトの企業データが生成され、ネットワークに対する需要が急増し続けています。（最近ではNFLスーパーボウルのライブストリーミングを4Kに移行）

過去3年間でAWSの総ネットワーク容量は倍増しました。
AWSは世界中に24のリージョンと80の可用性ゾーンを運営しています。
各リージョンは複数の可用性ゾーンで構成されています。

AWSリージョンは、特定の国または地域にある物理的なデータセンターの集まりです。
各リージョンは、少なくとも3つの可用性ゾーンで構成されています。
可用性領域は互いに離れているため、物理的な災害から保護されます。

AWSは2006年に最初のリージョンを開設して以来、世界中に24のリージョンを追加開設しました。
現在、24のリージョンは以下の国にあります。
・米国：8、カナダ：8： 2、ヨーロッパ：10、アジア太平洋：4、中東・アフリカ：0
・AWSは引き続き新しいリージョンを立ち上げる予定です。
2023年には、ニュージーランド、カナダ、タイ、マレーシアに新しいリージョンを立ち上げる予定です。

AWSのグローバルネットワークは低レイテンシーを実現します。
これは、お客様がアプリケーションとデータをリアルタイムで利用できることを意味します。
たとえば、AWSはロサンゼルスからオレゴン州までの遅延時間を往復の約25ミリ秒に短縮しました。
これは、ロサンゼルスで撮影した動画をリアルタイムで編集できることを意味します。

AWS Nitroシステムは、AWSがEC2インスタンスのスケーラビリティ、パフォーマンス、可用性を向上させるために使用するハードウェアアクセラレーションプラットフォームです。
AWS Nitroシステムを使用することで、AWSは次のようなメリットを得ることができました。

・毎秒100GBのネットワークスループットから毎秒3200GBのネットワークスループットに、ネットワークスループットを32倍に増加することができます。
・ネットワーク帯域幅を1ギガビットから100ギガビットに100倍増加。
・25GB/秒のストレージスループットから100GB/秒のストレージスループットになり、ストレージスループットを4倍に向上させました。

AWSはNVIDIAと協力して、新しいP5インスタンスをリリースしました。

・P5インスタンスは、16ペタフロップスの混合精度性能、640GBの高帯域幅メモリ、3,200個のNVIDIA H100 GPUを搭載しています。
・P5インスタンスは、機械学習（ML）モデルのトレーニング時間を最大6倍高速化し、MLモデルのトレーニングコストを最大40%削減します。

AWS Nitroシステムは、AWSがEC2インスタンスのパフォーマンスを大幅に向上させることを可能にしました。 例えば、AWSはNitroシステムを使用して、毎秒100GBのネットワークスループットから毎秒3200GBのネットワークスループットまで、ネットワークスループットを32倍に増加させました。
また、AWSはNitroシステムを使用して、ネットワーク帯域幅を1ギガビットから100ギガビットに100倍増加させました。AWS Nitroシステムは、AWSがより強力なインスタンスタイプを提供することも可能にしました。
たとえば、AWSはNitroシステムを使用してP5インスタンスをリリースしました。 P5インスタンスは、毎秒3200ギガビットのネットワークスループットを提供する単一のEC2インスタンスです。AWS Nitroシステムは、AWSのクラウドコンピューティングプラットフォームの重要な要素です。Nitroシステムは、AWSがEC2インスタンスの拡張性、パフォーマンス、可用性を向上させ、より強力なインスタンスタイプを提供できるようにしました。

従来のTCPの限界

従来のTCPは、ネットワーク全体でパケットを振ってフローを選択し、そのフローのルーターセットを選択します。この方式は、ネットワークが接続されるとパフォーマンスが低下する可能性があります。
例えば、インスタンスが混雑したり、経路に単一のルーターがある場合があります。このような場合、そのフローのすべてのパケットがそのルーターを通過しなければならないため、パフォーマンスが低下します。

SRDはHPCおよびAIML分野で使用されており、当初は超大規模でダークメタルのEC2インスタンスでのみ利用可能でしたが、現在はすべてのマイクロインスタンスで利用できるようになりました。
・AWSはENA Expressをリリースし、ENAネットワークアダプタのパフォーマンスを向上させました。
・ENA Expressは、ENAとSRDを組み合わせて遅延を低減し、ネットワークの信頼性を向上させ、EC2インスタンス内で顧客が許容できる帯域幅消費を増やします。
・SRDは、複数のリンクを介してパケットを送信し、順序がずれたパケットを再組み立てするプロトコルです。
・SRDはネットワーク利用率を約20%に大幅に増加させ、ネットワークインフラストラクチャコストを下げることができます。

現在、58の新しいインスタンスがENA Express (SRD) をサポートするようになりました。

セッションを終えて

インフラアーキテクチャにおいて、ネットワークは非常に重要な部分を占めています。このセッションでは、発表者が言うネットワーク革新の重要性とAWSネットワーキングの速い発展速度を体感することができ、特にENA ExpressのSRD(Scalable Reliable Datagram)プロトコルを使用すると、EC2基準でBandwidthが従来の5Gbpsから25Gbpsに増加し、追加費用なしで帯域幅及び性能向上が期待でき、今後適用することで性能向上が期待できる部分だと思います。
まとめると、今回のアップデートでENA Express対象インスタンスが追加され、ENA Expressを有効にすると、ENA待ち時間を簡単に減らすことができます。 また、ENA Expressの利用は無料です。これまでは特定のインスタンスが対象でしたが、今回のアップデートで対象インスタンスが拡大されました。