アカマイ×Neural Magic、ディープラーニングAIの強化に向けて提携
2024年4月8日（月）17時9分 マイナビニュース
Akamai Technologies(アカマイ)はこのほど、Neural Magicと、Akamaiの分散コンピューティングインフラでディープラーニング機能を強化するための戦略的パートナーシップを発表した。
これにより、CPUベースのサーバ上でディープラーニング機能を効率的に稼働させる高性能プラットフォームが提供される。Neural Magicのソフトウェアは、クラウドコンピューティング、セキュリティ、コンテンツ配信向けのプラットフォームと組み合わせて利用可能となる。
○パートナーシップの概要
Neural Magicのソリューションは、高価なGPUリソース上ではなく、コスト効率の高いCPUベースのサーバ上でディープラーニングモデルを実行可能となる。このソフトウェアは、CPU推論エンジンとして利用可能な自動モデルスパース化テクノロジーを使用してAIワークロードを高速化しアカマイの機能を補完する。
これにより、企業はアカマイの分散されたコンピューティングインフラ全体に機能を展開し、データ集約型AIアプリケーションのレイテンシーを低減するとともに、パフォーマンスを向上させることが可能だとしている。
さらに、このパートナーシップはエッジAI推論に関するイノベーションの促進にも役立ち、アカマイとNeural Magicの組み合わせることで、エッジの近くで大量の入力データが生成され、データソースの近くに低コストの処理能力とセキュリティを配置するアプリケーションに適するという。
アカマイが2月に発表したGeneralized Edge Compute(Gecko)は、クラウドコンピューティング機能を大規模なエッジネットワークに組み込む新しい取り組みであり、このようなアプリケーションやワークロードのサポートに役立つとのこと。
これにより、CPUベースのサーバ上でディープラーニング機能を効率的に稼働させる高性能プラットフォームが提供される。Neural Magicのソフトウェアは、クラウドコンピューティング、セキュリティ、コンテンツ配信向けのプラットフォームと組み合わせて利用可能となる。
○パートナーシップの概要
Neural Magicのソリューションは、高価なGPUリソース上ではなく、コスト効率の高いCPUベースのサーバ上でディープラーニングモデルを実行可能となる。このソフトウェアは、CPU推論エンジンとして利用可能な自動モデルスパース化テクノロジーを使用してAIワークロードを高速化しアカマイの機能を補完する。
これにより、企業はアカマイの分散されたコンピューティングインフラ全体に機能を展開し、データ集約型AIアプリケーションのレイテンシーを低減するとともに、パフォーマンスを向上させることが可能だとしている。
さらに、このパートナーシップはエッジAI推論に関するイノベーションの促進にも役立ち、アカマイとNeural Magicの組み合わせることで、エッジの近くで大量の入力データが生成され、データソースの近くに低コストの処理能力とセキュリティを配置するアプリケーションに適するという。
アカマイが2月に発表したGeneralized Edge Compute(Gecko)は、クラウドコンピューティング機能を大規模なエッジネットワークに組み込む新しい取り組みであり、このようなアプリケーションやワークロードのサポートに役立つとのこと。
関連記事（外部サイト）
