NTT、郊外型データセンター活用した省電力リアルタイムAI分析技術を開発

日本電信電話（以下、NTT）は2月20日、IOWN（Innovative Optical and Wireless Network）構想の一環として、Red Hat、NVIDIA、富士通の協力のもとでIOWN技術を用いて郊外型データセンタを活用したリアルタイムAI（Artificial Intelligence：人工知能）分析を省電力化する技術を開発したことを発表した。
○実証実験の概要
今回、AI分析基盤として、APN（All-Photonics Network）による低遅延・ロスレス通信と、DCI（Data Centric Infrastructure：データセントリック基盤）におけるデータ処理高速化手法を活用。大規模データの収集に関するオーバヘッドを最小限に抑え、大都市圏内に設置されたセンサーからデータを収集し、郊外型のデータセンターにおけるAI分析が可能となる。
実証実験におけるAI分析基盤はAI推論のデータ処理を高速化しており、従来ネットワークにおけるプロトコル処理のオーバヘッドを削減する。また、CPUによる制御オーバヘッドを抑えつつ、アクセラレータ内でAI分析処理を完結させることで電力効率を改善している。
Kubernetesベースのハイブリッドクラウド向けアプリケーションプラットフォームRed Hat OpenShiftは、GPUといったアクセラレータの複雑性を隠蔽するためのKubernetes Operatorの仕組みを備えており、データ処理高速化が適用されたワークロードを郊外型データセンターなど複数サイトに柔軟かつ容易に配備できるようになるとのことだ。
○実証実験の結果
今回の実証実験では、横須賀市におけるセンサー設置拠点と武蔵野市の郊外データセンターをAPNで接続し、AI分析基盤を評価した。両地点間の光ファイバーの距離はおよそ100キロメートル。
センサーとして多くのカメラ接続を模擬した状態で従来のAI分析処理を適用した結果と比較したところ、実証環境のAI分析基盤では、センサー設置拠点でデータを受信してから郊外型データセンタでAI分析を完了するまでの遅延時間を最大60%削減できたとのことだ。また、郊外型データセンターにおいてカメラごとのAI分析に要する消費電力を最大で40%削減できることを確認している。
加えて、このAI分析基盤はGPUの数を増設することで、CPUボトルネックを生じさせることなくより多くのカメラを収容可能となる。その結果、1000台カメラの収容を想定した見積りにおいて最大で60%の消費電力削減が見込めるという。