クラウドが圧倒されると、それはエッジコンピューティングになります。

オーストラリアのニューサウスウェールズ州（NSW）州の海岸線に沿って、無人偵察機の群れが浮かんでおり、水域の安全を維持しています。 今年の初め、無人偵察機は、州の極北海岸のライフガードが、激しい波に苦しんでいた2人のティーンエイジャーを救助するのを助けました。

ドローンは人工知能（AI）とマシンビジョンアルゴリズムを搭載しており、ビデオフィードを常に分析し、注意が必要なアイテム、たとえばサメや迷ったスイマーを強調表示します。 これは、Googleフォトが写真を並べ替えることを可能にするテクノロジーと同じ種類であり、ホームセキュリティカメラが見知らぬ人を検出し、生鮮食品が有効期限に近づくと警告するスマート冷蔵庫です。

ただし、これらのサービスとデバイスはAI機能のためにクラウドへの常時接続を必要としますが、NSWドローンは、ディープラーニング計算をローカルで実行できるニューラルコンピューティングチップのおかげで、強固なインターネット接続の有無にかかわらず、画像検出タスクを実行できます。

これらのチップは、当社のソフトウェア搭載デバイスがクラウドへの常時リンクなしで少なくともいくつかの重要な機能を実行できるようにするエッジコンピューティングの革新の成長傾向の一部です。 エッジコンピューティングの台頭は、新旧の問題の解決に役立ち、次世代のスマートデバイスへの道を開いています。

クラウドの負担を軽減

過去20年で、クラウドは正当な理由でアプリケーションをホストする事実上の方法になりました。

「クラウドを非常に魅力的なものにしているのは、実行したいアクティビティを開始するコストをオフロードする傾向があることです」とIBM WatsonのCTOであるロブ・ハイは言います。 「クラウドにより、人々は…インフラストラクチャ作成のコストをかけることなく、今日の本当の問題を解決できます。」

ユビキタスなインターネット接続とほぼ無数のクラウドアプリケーション、サービス、および開発プラットフォームにより、アプリケーションの作成と展開の障壁が大幅に緩和されました。 IBM、Google、Amazonなどのクラウドプロバイダーの膨大なリソースは、些細なビジネスアプリケーションの開発だけでなく、膨大な量の計算とストレージを必要とする複雑なソフトウェアの開発を促進しました。AIと機械学習アルゴリズム、ストリーミングとAR （拡張現実）アプリケーション。

しかし、これらの進歩は課題も生み出しました。使用するアプリケーションのほとんどは、クラウドに接続されていないと機能しません。 これには、冷蔵庫やサーモスタット、ドアロック、監視カメラ、車、ドローン、気象センサーなどのソフトウェアだけでなく、コンピューターや電話で実行されるほとんどのアプリケーションが含まれます。

モノのインターネット（IoT）の出現により、ソフトウェアを実行してデータを生成するデバイスが増えており、そのほとんどは、そのデータを保存および処理するためにクラウドへのリンクを必要とします。 そのデータをクラウドに送信するために必要な電力と帯域幅の量は膨大であり、データを保存するために必要なスペースは、最も強力なクラウドの巨人のリソースにも挑戦します。

「これらのシステムで収集しているデータはたくさんあります。エッジであろうと、IoTデバイスであろうと、その他の場所であろうと、ほとんど気にする必要はありません」とHigh氏は言います。 しかし、すべての決定をクラウドで行う必要がある場合、そのデータはすべて、ネットワークを介してクラウドサーバーに送信し、スクラブおよびフィルター処理する必要があります。

例として、Highは、ジェットエンジンを監視し、各飛行中に数百ギガバイトのステータスおよびパフォーマンスデータを収集する数百のセンサーを含む現代の飛行機に名前を付けています。 「集約全体で分析したい場合、そのデータのどれだけが本当に重要なのでしょうか？おそらくほんの一部です」とHigh氏は言います。 「あなたがしている他の何かのためにそれが必要でないとき、なぜソースでそれを取り除くだけではありませんか？」

Highが示唆することをクラウド外で行うことは以前はほとんど不可能でしたが、低電力、低コストのSystem-on-Chip（SoC）プロセッサの進歩により、エッジデバイスにより多くの計算能力が与えられ、彼らの計算負荷の一部を肩代わりさせましたリアルタイム分析の実行やデータのフィルタリングなどのエコシステム。

「エッジ環境には非常に多くのデータがあるため、クラウドコンピューティング機能の一部をエッジデバイスの計算能力に組み込むことは理にかなっています」とHigh氏は言います。

プライバシーの問題

エッジコンピューティングの利点は、クラウドリソースの解放に限定されません。

Movidius（Intel）の新テクノロジーグループ兼ゼネラルマネージャーであるRemi El-Ouazzaneは、エッジコンピューティングが大きな違いを生むもう1つの例として、市販のセキュリティカメラを挙げています。 これらのカメラは、信号機、空港、建物の入り口にあり、24時間体制でネットワークを介して高品質のビデオを録画およびストリーミングしています。

「サーバーまたはデータセンターに戻す必要のあるデータが少ないほど、ローカルでより多くのスクラビングと微調整が可能になり、ストレージと転送の観点から総所有コストが向上します」とEl-Ouazzane氏は言います。

つまり、カメラに独自のビデオフィードを分析し、注意が必要なビデオのフレームまたは長さを判断し、そのデータのみをサーバーに送信する機能を提供します。

これらのカメラが自宅、オフィス、または私的な場所に設置されている場合、クラウドへの接続も潜在的なセキュリティ上の懸念になります。 ハッカーとセキュリティ研究者は、家電とクラウドサーバー間の接続を危険にさらして、機密のビデオフィードを傍受することができました。 データをローカルで解析することで、自宅、私生活、サービスプロバイダーの間にビデオコンジットを用意する必要がなくなります。

2016年にIntelに買収されたMovidiusは、音声認識やコンピュータービジョンなどのAIタスクに特化したコンピューターチップを製造するいくつかのスタートアップの1つです。 同社はビジョン処理ユニット（VPU）を製造しています。これは、クラウドに送り返すことなく、デジタル画像のコンテキストを分析および「理解」するニューラルネットワークを実行する低電力プロセッサです。

Movidius Myriad 2は、電力に制約のある環境向けに作られた常時オンのビジョンプロセッサです。

「カメラが見ているもののセマンティクスを理解するとき、カメラができることまたはできないことに関するルールを課す能力は、非常に簡単なタスクになります」とエル・ウアザネは言います。 「特定の時間に、犬がソファの前でカーペットを横切ったことを知るためだけに、実際に次の12時間リビングルームをキャプチャする必要はありません。」

他の企業は、ユーザーのプライバシーを保護するために、専用のAIを活用したエッジコンピューティングの使用を検討しています。 たとえば、Apple iPhone XはA11 Bionicチップを搭載しており、AIタスクをローカルで実行できるため、ユーザーのマグショットをクラウドに送信せずに複雑な顔認識を実行できます。

エッジでのAI処理が増えると、AIアプリケーションを使用するためにユーザーが大企業と共有するデータ量を減らす必要がある分散型人工知能への道が開かれます。

レイテンシーの削減

ビッグクラウドプロバイダーのもう1つの問題は、データセンターが大都市の外にあり、アプリケーションを使用する人々やデバイスから数百マイル離れていることです。

多くの場合、クラウドとの間でやり取りされるデータに起因する遅延により、パフォーマンスが低下したり、致命的な結果が生じたりする可能性があります。 これは、衝突を避けようとするドローンや不均一な地面に着陸すること、または自動運転車が障害物や歩行者にぶつかっているかどうかを判断することです。

ディープニューラルネットワークとコンピュータービジョンのMovidiusの軽量実装により、GPUなどの電力消費ハードウェアが実現不可能なドローンなどのモバイルエッジデバイスに適したチップになります。 ドローンは、AI計算への低遅延アクセスが必要であり、オフライン設定で機能し続ける必要があるため、特に興味深い研究です。

エッジコンピューティングがドローンエクスペリエンスの向上に役立っている別の領域としてのジェスチャー検出。 「目標は、多くの人がドローンにアクセスできるようにすることです。ジェスチャーは、人々がそれらを使用するための良い方法のようです。ドローンに何らかのタスクを実行するようにジェスチャーする場合、レイテンシが重要になります」

救助隊員や救急隊員に重量級のドローンサービスを提供するSkylift Globalなどのスタートアップにとって、AIとコンピューティングリソースへの低遅延アクセスは、お金と命を救うことができます。 「データ取り込みコストを大幅に削減し、ネットワークレイテンシを削減し、セキュリティを強化し、ストリーミングデータをリアルタイムの意思決定に変換するのに役立ちます」とSkyliftのCEO兼創設者であるアミールエマディは述べています。

最初の対応者に物資を配達するには、一瞬の決定が必要です。 「たとえば、山火事と戦う時間が長くなればなるほど、状況を改善するのに費用がかかります。ドローンが接続性を失っても、エッジでリアルタイムの意思決定ができ​​るようになると、より多くの時間を節約できます。生活、お金、時間」とエマディは言います。

ほぼリアルタイムの計算を必要とする他のドメインは、拡張現実および仮想現実のアプリケーションと自動車両です。 「これらはすべて経験ベースのコンピューティング環境です。それらは人々の周りで発生します」と、開発者が高度に分散したハードウェアにアクセスできるようにすることに焦点を当てたニューヨークを拠点とする新興企業PacketのCEO、Zachary Smith氏は言います。

ユーザーの動きに追いつかないARまたはVRアプリケーションは、めまいを引き起こすか、エクスペリエンスが没入感のあるリアルになるのを妨げます。 また、コンピュータービジョンと機械学習アルゴリズムに大きく依存している自動運転車が主流になると、待機時間はさらに大きな問題になります。

「30ミリ秒の遅延は、Webページの読み込みには関係ありませんが、車が60mphで左に曲がるか右に曲がって小さな女の子に衝突しないかを判断するためには本当に重要です」とスミスは言います。

エッジの課題に対応

コンピューティングをエッジに近づける必要があるにもかかわらず、すべてのデバイスに専用のハードウェアを搭載することが最終的な解決策ではない可能性がある、とスミスは認めています。 「すべてのコンピューターを車に搭載するだけではないのか、それはライフサイクルをどれだけ速く制御できるかという進化と関係があると思う」と彼は言う。

「ハードウェアを世界に投入すると、通常は5〜10年間存続します」とスミス氏は言いますが、これらの経験に基づいたユースケースを支える技術は6〜12か月ごとに進化しています。

複雑なサプライチェーンを持つ大企業でも、ハードウェアの更新に苦労することがよくあります。 2015年、フィアットクライスラーは5年前に暴露されたセキュリティの脆弱性を修正するために140万台の車両をリコールする必要がありました。 そして、大手半導体メーカーのIntelは、ハッカーに何億ものデバイスをさらすという設計上の欠陥に対処しようとしている。

MovidiusのEl-Ouazzaneはこれらの課題を認めています。 「毎年さまざまな製品を変更する必要があることはわかっています。毎年、より多くのインテリジェンスをエッジにもたらし、顧客にアップグレードを依頼するからです」と彼は言います。

継続的なリコールを回避し、顧客がエッジハードウェアを長期間使用できるようにするため、Movidiusはプロセッサに追加のリソースと容量を詰め込みます。 「今後数年間、これらの製品のアップグレードを実行する能力が必要です」とEl-Ouazzane氏は言います。

スミスの会社であるパケットは、異なるアプローチを使用しています。ユーザーに近い都市に展開できるマイクロデータセンターを作成します。 同社は、開発者に非常に低遅延の計算リソースを提供できます。実際のハードウェアをエッジに配置しなくても、ユーザーに到達できる範囲内で利用できます。

「世界中のすべての都市の開発者がアクセスできるハードウェアを配置するためのインフラストラクチャ配信メカニズムが必要になると私たちは信じています」とスミス氏は言います。 同社はすでに15か所で事業を展開しており、最終的には数百の都市に拡大する予定です。

しかし、Packetの野望は、GoogleやAmazonのような企業が運営する広大な施設のミニチュアバージョンを作成することよりもさらに進んでいます。 スミスが説明するように、パブリッククラウドでは特殊なハードウェアの展開と更新は実行できません。 Packetのビジネスモデルでは、メーカーと開発者は会社のエッジデータセンターに特殊なハードウェアを展開し、必要に応じて迅速に更新および更新できると同時に、ユーザーがコンピューティングリソースに超高速でアクセスできるようにします。

Packetの顧客の1人であるHatchは、Angry Birdsを作成したモバイルゲーム会社Rovioからのスピンオフです。 同社は、エッジコンピューティングサーバーでAndroidを実行し、低遅延のAndroidデバイスを使用するユーザーに低遅延のマルチプレイヤーゲームストリーミングサービスを提供しています。

「世界中のこれらすべての市場でかなり専門的なARMサーバーが必要です」とスミス氏は言います。 「彼らは私たちのサーバー製品の構成をカスタマイズしており、ヨーロッパの8つのグローバル市場に配置し、まもなく20または25の市場になるでしょう。彼らにとってAmazonのように感じますが、ヨーロッパのすべての市場でカスタマイズされたハードウェアを実行できます」

理論的には、Hatchはパブリッククラウドで同じことを実行できますが、コストがかかるため非効率的なビジネスになります。 「CPUあたり100ユーザーを配置するのとCPUあたり10, 000ユーザーを配置するのとでは違いがあります」とスミス氏は言います。

スミスは、このモデルが次のソフトウェア革新を推進する開発者世代にアピールすると信じています。 「私たちが注力しているのは、クラウドで育ったソフトウェア世代と特殊なハードウェアプリミティブをどのように接続するかです」とスミス氏は言います。 「私たちは、MacBookを開いて中を覗くことさえできないユーザーについて話している。それは、ハードウェア/ソフトウェアスタックを革新しようとしている人だ」

雲は消散しますか？

エッジデバイスが複雑な計算タスクを実行できるようになると、クラウドの未来は危険にさらされますか？

「私にとって、エッジコンピューティングはクラウドコンピューティングの自然で論理的な次の進歩です」とIBM Watson's Highは言います。

実際、2016年、IBMは開発者がエッジとクラウドの間でタスクをシームレスに分散できる一連のツールを展開しました。特に、IoTエコシステムでは、エッジデバイスが直接の環境に関する多くのデータを既に収集しています。 そして2016年後半、別の主要なクラウド開発プラットフォームであるAmazon Web Servicesは、IoT開発者がクラウドアプリケーションの一部をエッジデバイスで実行できるようにするサービスであるGreengrassを発表しました。

これはいずれも、クラウドがなくなることを意味します。 「多くの作業がまだエッジで行われている場合でも、クラウドで行う方が良いことがたくさんあります」とHigh氏は言います。 これには、さまざまなソースからのデータの集約や、巨大なデータセットを使用した大規模な分析の実行などのタスクが含まれます。

「これらのエッジデバイスで使用するAIアルゴリズムでモデルを作成する必要がある場合、これらのモデルの作成とトレーニングは依然として非常に大規模な計算集約的な問題であり、多くの場合、これらのエッジデバイスで利用できるものをはるかに超える計算能力が必要です」言う。

El-Ouzzaneは同意します。 「AIモデルをローカルでトレーニングする能力は非常に限られています」と彼は言います。 「ディープラーニングの観点から見ると、トレーニングには座る場所が1つしかなく、クラウド内にあり、大きなデータセットを処理するのに十分な計算リソースと十分なストレージを確保できます。」

また、El-Ouazzaneは、エッジデバイスにミッションクリティカルなタスクとタイムクリティカルなタスクを割り当てるユースケースをプロビジョニングし、クラウドが遅延に依存しないより高度な推論を処理します。 「私たちはクラウドとエッジの間の連続性の世界に住んでいます。」

「エッジコンピューティングとクラウドコンピューティングの間には非常に共生的かつ相乗的な関係があります」とHigh氏は言います。