NVIDIAがWindowsのAI推論をより簡単かつ高速化できる「TensorRT for RTX」を開発 Windows 11でプレビュー
2025年5月20日(火)13時45分 ITmedia PC USER
NVIDIA TensorRT for RTX
TensorRT for RTXはWindows MLに組み込めることが特徴で、Windows MLの標準API(ライブラリ)である「DirectML」と比べると最大2倍のパフォーマンスを発揮できるという。Tensorコアを統合した全てのNVIDIA製GPU(「RTX」という名称が含まれているもの)に対応していることも特徴だ。
Windows MLの一部として提供されるため、推論エンジンを事前にコンパイルする必要がないことや、ライブラリを事前にダウンロードしておく必要がないことがメリットだ。
NVIDIAによるとTensorRT for RTXは一部の開発者に先行提供されており、フィードバックの結果も良好だという。開発者がより気軽にTensorRTを活用でき、一般ユーザーが気軽に生成AIのメリットを得られる手段として普及が進む可能性がある。