NVIDIAがWindowsのAI推論をより簡単かつ高速化できる「TensorRT for RTX」を開発　Windows 11でプレビュー

　NVIDIAは5月20日（米国太平洋夏時間）、Windowsに特化したAI推論ライブラリ「NVIDIA TensorRT for RTX」を開発したと発表した。Microsoftが提供するWindows 11向け「Windows ML」の一部としてプレビュー提供が始まっており、6月中にはNVIDIAからもSDK（開発者キット）が提供される予定だ。

【その他の画像】

　TensorRT for RTXはWindows MLに組み込めることが特徴で、Windows MLの標準API（ライブラリ）である「DirectML」と比べると最大2倍のパフォーマンスを発揮できるという。Tensorコアを統合した全てのNVIDIA製GPU（「RTX」という名称が含まれているもの）に対応していることも特徴だ。

　Windows MLの一部として提供されるため、推論エンジンを事前にコンパイルする必要がないことや、ライブラリを事前にダウンロードしておく必要がないことがメリットだ。

　NVIDIAによるとTensorRT for RTXは一部の開発者に先行提供されており、フィードバックの結果も良好だという。開発者がより気軽にTensorRTを活用でき、一般ユーザーが気軽に生成AIのメリットを得られる手段として普及が進む可能性がある。