MEGAZONE

MEGAZONEブログ

AI acceleration at the edge(sponsored by Intel)
AI/ML re:Invent 2023

AI acceleration at the edge(sponsored by Intel)

Pulisher : Cloud Technology Center キム・ジホ
Description : Intelの技術を活用して、エッジでのAIソリューションを構築し、拡張する方法について紹介しました。

このセッションは、インテルのドメイン特化型ツールキットを活用して、企業が最小限のデータでモデルを構築し、ソリューションを大規模に展開する方法についての情報を得るために選択しました。 このセッションでは、エッジコンピューティングでのカスタマーエクスペリエンスの最適化、予測、在庫管理など、さまざまな分野でAIテクノロジーを適用してビジネスパフォーマンスを向上させる方法について学びます。

OnLogic、Arduino、ai.ioなどのお客様や業界の専門家が、農業、製造業、自動車業界において、顧客体験の最適化、予測、在庫管理を通じて、エッジで強力なビジネス成果を達成した実例を紹介します。

本セッションでは、Intelのテクノロジーを活用したエッジでのAIソリューションの構築と拡張についてご紹介します。IntelのセールスエンジニアであるAlexander Whitesが登壇し、主なアジェンダは以下の通りです。

AIが様々なビジネスや業務に革命的な影響を与えることについて議論し、競争に打ち勝つための重要性を強調します。

Bringing AI to the Edge

クラウド、エンタープライズ、トラディショナルエッジ、インダストリアルエッジ、リモートエッジ、クライアントワークステーションなど、さまざまな配置場所を探ります。適切なハードウェアアーキテクチャを選択することの重要性を強調します。

AIワークロードの展開における歴史的な課題を取り上げ、Intelの新しいソフトウェアツール(Intel Gettyなど)を紹介し、モデル生成を高速化し、複数のアーキテクチャに柔軟に展開できるようにします。

また、Federated Learningのような、歴史的、地理的、規制上の要件があるセグメントでの迅速な適応を支援するツールなど、現在台頭しているツールやテクノロジーについても説明します。

セキュリティ面では、SGXやTDXのようなテクノロジーを使用して、エッジプラットフォームを保護する方法について説明します。セキュリティを多角的にアプローチすることで、ワークロード、オペレーティングシステムだけでなく、プラットフォーム全体を安全にする方法について説明します。SGXやTDXのような技術を使用して安全なエンクレーブを作成できることを強調し、サプライチェーンセキュリティの重要性を強調します。

最後に、コンピュータ・ビジョン技術がエッジ推論の需要をどのように牽引しているか、そしてコンピュータ・ビジョンがさまざまな業界でどのようなイノベーションをもたらす可能性があるかについて説明します。

このセッションでは、IntelのGPUを活用したエッジでの完全なメディア・パイプラインの構築の成功事例とその結果を紹介し、エッジでのAIワークロードの高速化に役立つIntel Flex Series 140 GPUについて説明します。

Intelは、GPUアクセラレーションにより、エッジで完全なソリューションアーキテクチャを構築しています。RTSPカメラストリームをシステムに取り込み、GPUでデコードし、ビデオ処理とOpenVINOモデルの実行により、自動車などを認識します。 その後、GPUでV1を活用して効率的なネットワーク伝送を行い、KVSとグリーングラスを使用してWebRTCストリームを生成し、エッジデバイスのプロビジョニングと制御を行います。

これにより、クラウドネイティブ環境とエッジ要素を効果的に接続し、熱やほこりなどの環境要件を考慮し、安定的に多年間運用可能なエッジハードウェアを加速します。

IntelのGPUアクセラレーションによるエッジソリューションの包括的なアーキテクチャを学ぶことができました。エッジとクラウドの有機的な統合、安定性の強化、そして効率的なビデオ処理のような様々な活用方法を理解し、今後、様々な産業分野で適用できることが期待されます。

ブログ一覧

この記事の読者はこんな記事も読んでいます