Armadilloフォーラム

Armadillo-IoT G4:NPUとONNXRuntimeを使用した推論実行について

kan-ogawa

2023年2月1日 17時40分

いつもお世話になっております。
kan-ogawaです。

ONNXRuntimeとNPUを使用して推論実行を行いたいと考え、下記マニュアルの「9.1.12.1. ONNX Runtime を使う」を参考に推論実行してみたところ、添付ファイルunsupportedエラーが出力されました。
こちらのエラーはNPUの指定方法が間違っているのか、推論に実行したONNXファイルが間違っているのか、どちらに問題があるのでしょうか?
※コンテナ作成時に必要な「/dev/galcor」の設定は行っております。

https://manual.atmark-techno.com/armadillo-iot-g4/armadillo-iotg-g4_pro…

初歩的な質問で申し訳ございませんが、ご教授いただけますと幸いです。

ファイル ファイルの説明
onnx_エラー.png
コメント

at_makoto.sato

2023年2月1日 18時37分

佐藤です。

推論実行に使われているデータ(yolox_nano_416x416.onnx)に含まれている slice/resizeオペレータが、
NPU を使用した推論では非サポートのようです。
もし、可能であれば tflite ファイルに変換して tensorflow liteで推論するとよいかもしれません。

kan-ogawa

2023年2月2日 15時29分

佐藤さん

ご教授ありがとうございます。
ONNXファイルでもサポート対象のモデルが存在するということですね。

tfliteでもう一度試してみます。