Arm、最大4TOPSの処理性能をエッジに提供するNPU「Ethos-U85」などを発表

英Armは英国時間の4月9日、NPU「Ethos-U85」および「Corstone-320」を発表した。これに先立ち国内で事前説明会が開催されたので、その内容を元にご紹介する(Photo01)。
まずEthos-U85についてであるが、名前の通り同社のNPUの中でも、Cortex-Mと組み合わせるMicroNPUと呼ばれる部類のハイエンド製品に相当する(Photo02)。
特徴としては以下のようなと変更点があるとされる(Photo03)。
128MAC〜2048MACまでMAC数をスケーラブルに拡張可能。最大構成で4TOPSとあるので、恐らく1GHzでの駆動を想定していると思われる
従来のEthos-U55/U65がCNN/RNNの動作を前提にしていたのに対し、Ethos-U85ではこれに加えTransformer Modelの動作も考慮に入れて、そのためのサポートを追加
Weight Bufferに関して、従来より大容量化すると共により効率のより圧縮方法をサポート
ちなみにサポートするデータ型などは従来と変更無いとの事であった。またこのEthos-U85はCortex-MだけでなくCortex-Aなどと組み合わせることも想定している、との事であった。まぁローエンドアプリケーションプロセッサにMicroNPUというのは確かに都合が良いかもしれない。
次にCorstone-320であるが、こちらはそのEthos-U85を核としたものとなる(Photo05)。
興味深いのは「Mali-C55」が含まれている事で、これまでカメラを利用してのちょっとしたエッジAI(というかEndpoint AI)をCortex-Aベースで構築していた形になるが、Cortex-M85はProcessor Powerもかなり高いために、今後はこうしたアプリケーションがCortex-Mベースに切り替わる事を想定しており、これを前提にISP(Image Signal Processor)も統合したという話であった。
ただ、例えば現状OpenCVがCortex-Mで動く訳ではない(似たようなCortex-M上で動くライブラリを使う事は可能だと思う、という返事だった)ので、現状例えばRasPiにカメラを載せて使っている用途をそのまま置き換える目的と言うよりは、今後出てくる新しいカメラ+MLの用途向けといった形を想定している模様だ。
ソフトウェア環境としては、Corstoneに付属する形でドライバ類を含むBSP(Board Support Package)やPlatform Softwareなど一式が提供されるが、これに加えてArm Virtual HardwareやFVP(Fixed Virtual Platform)、それとFPGAによるエミュレーション環境が提供されるので、早ければライセンスを取得した翌日にはもうソフトウェアの開発をスタートできることになる(Photo06)としており、これにより開発期間の短縮が可能としている。
ところで今回この発表を行った理由であるが、4月9日より独ニュルンベルクで開催されるembedded world 2024でMCUベンダー各社がこのEthos-U85やCorstone-320を利用した製品を発表するためと思われる。現時点ではAlif SemiconductorとInfineon TechnologiesがEthos-U85を使う事が明らかになっている。これ以外のメーカーもやはりCortex-M85やEthos-U85を搭載した製品をこの期間中に発表するものと思われる。
このEthos-U85およびCorstone-320は、すでにリードカスタマーへのライセンス提供はスタートしている。AFA(Arm Flexible Access)ではまだ対応していないが、恐らく来年位には追加されるのではないか？　との事であった。