1 はじめに

CX事業本部の平内（SIN）です。

Amazon SageMager Neo（以下、Neo）を使用すると、既存のモデルをコンパイル（最適化）し、精度を低下させることなく、他のクラウドやエッジで実行出来るようになります。

参考：Amazon SageMaker Neo モデルを一度トレーニングすれば、最大 2 倍のパフォーマンスでどこでも実行可能

今回は、以前、作成した商品を検出するイメージ分類（SageMakerの組み込みアルゴリズム）のモデルをNeoで最適化し、RaspberryPi(Model 4)にセットアップしたDLR(DeepLarningRuntime)で使用してみました。

作業にあたっては、下記の記事を参考にさせて頂きました。

2 Neoによる最適化

Neoによるコンパイルは、SageMakerコンソールの推論 > コンパイルジョブ から、コンパイルジョブの作成で行います。

「アーティファクトの場所」は、利用する既存のモデルのパスを指定します。 「データ入力設定」及び「機械学習フレームワーク」は、イメージ分類の場合「{“data”:[1,3,224,224]}」及び、「MXNet」となります。

#aws #クラウド #ia #sagemaker