ユーティリティ機能のサンプルコード

ユーティリティ機能のサンプルコードです。

• C#
• VB

---

C# 版

• CPU 推論のデバイス切り替え: L.14- ChangeOVDevice()
• 読み込み済みモデルの最適化済みモデルとしての保存: L.160- SaveOptimizedModel()

using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
using FVIL;
using FVIL.Data;
using FVIL.PDL;
 
namespace SamplesCS
{
    public partial class Program
    {
        static void ChangeOVDevice(String modelPath, String imagePath)
        {
            try
            {
                var has_license = Model.CheckLicense();
                if (false == has_license) { throw new Exception("no license"); }
 
                // 準備
 
                // モデルファイルの読込を含むコンストラクタ ( インスタンスを作成して LoadModel() をする場合と同等 )
                Model model = new Model(modelPath);
 
                // モデルの推論バックエンドの確認
                Console.WriteLine($"backend: {model.ModelBackend}");
 
                // デバイス変更は CPU 推論のみの対応なので、それ以外であれば抜ける
                if(ModelBackend.OpenVINO != model.ModelBackend)
                {
                    Console.WriteLine("not support device-change");
                    return;
                }
                
                // 推論対象画像の読込
                CFviImage image = new CFviImage(imagePath);
 
                // 多視点のモデルの入力画像
                List<CFviImage> images = null;
 
                // 推論対象画像の有効性確認
                // 多視点の場合、入力画像配列を準備
                switch (model.ModelCategory)
                {
                    case ModelCategory.Classification:
                    case ModelCategory.AnomalyDetection:
                    case ModelCategory.SemanticSegmentation:
                    case ModelCategory.PanopticSegmentation:
                    case ModelCategory.ObjectDetection:
                        {
                            var is_valid_img = model.IsValidImage(image);
                            if (false == is_valid_img) { throw new Exception("invalid image"); }
                        }
                        break;
                    case ModelCategory.MultiViewCNN:
                    case ModelCategory.MultiViewAD:
                        {
                            images = new List<CFviImage>();
                            for (var i_image = 0; i_image < model.NumViews; i_image++)
                            {
                                images.Add(image);
                            }
                            var is_valid_img = model.IsValidImages(images);
                            if (false == is_valid_img) { throw new Exception("invalid image"); }
                        }
                        break;
                    case ModelCategory.Unknown:
                    default: throw new NotImplementedException($"unmatch model-category={model.ModelCategory}");
                }
 
                // CPU 推論のデバイスを切り替えて実行、処理速度を出力
 
                // 計測用のストップウォッチ
                System.Diagnostics.Stopwatch sw = new System.Diagnostics.Stopwatch();
 
                // 列挙体に定義された全てのデバイスを切り替え
                foreach (OVDevice device in Enum.GetValues(typeof(OVDevice)))
                {
                    // モデル読み込み時にデバイスを選択: 読み込み済みのもののデバイスのみを変更することはできない
                    model.LoadModel(modelPath, device);
 
                    // 種別にあわせた実行と処理時間の計測: 初回は遅いので空打ちして 2 回目を計測
                    for (var i = 0; i < 2; i++)
                    {
                        var is_sw_enable = (1 == i);
 
                        if (is_sw_enable) { sw.Start(); }
                        switch (model.ModelCategory)
                        {
                            case ModelCategory.Classification:// 画像分類
                                {
                                    // 推論実行
                                    var scores = model.PredictClassification(image);
                                }
                                break;
                            case ModelCategory.AnomalyDetection:// アノマリー検出
                                {
                                    // 閾値を任意に設定して推論実行 ( double から float キャストに注意 )
                                    var threshold = 10.0;
                                    var tuple = model.PredictAnomaly(image, (float)threshold);
                                }
                                break;
                            case ModelCategory.MultiViewCNN:// 多視点画像分類
                                {
                                    // 推論実行
                                    var scores = model.PredictMultiViewCNN(images);
                                }
                                break;
                            case ModelCategory.MultiViewAD:// 多視点アノマリー検出
                                {
                                    // 閾値を任意に設定して推論実行 ( double から float キャストに注意 )
                                    var threshold = 10.0;
                                    var tuple = model.PredictMultiViewAD(images, (float)threshold);
                                }
                                break;
                            case ModelCategory.SemanticSegmentation:// セマンティックセグメンテーション
                                {
                                    var segm_result_image = model.PredictSemanticSegmentation(image);
                                }
                                break;
                            case ModelCategory.PanopticSegmentation:
                                {
                                    var segm_result_iamge = model.PredictPanopticSegmentation(image);
                                }
                                break;
                            case ModelCategory.ObjectDetection:// 物体検出
                                {
                                    // 推論実行
                                    var detections = model.PredictObjectDetection(image);
                                }
                                break;
                            case ModelCategory.Unknown:
                            default: throw new NotImplementedException($"unmatch model-category={model.ModelCategory}");
                        }
                        if (!is_sw_enable) { continue; }
 
                        sw.Stop();
 
                        Console.WriteLine($"device={device}: {(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}msec");
                    }
                }
            }
            catch (CFviException ex)
            {
                Console.WriteLine($"ErrorCode={ex.ErrorCode}, Message={ex.Message}");
                Console.WriteLine(ex.StackTrace);
            }
            catch (Exception ex)
            {
                Console.WriteLine($"Message={ex.Message}");
                Console.WriteLine(ex.StackTrace);
            }
        }
 
        static void SaveOptimizedModel(String loadModelPath, String saveModelPath)
        {
            try
            {
                var has_license = Model.CheckLicense();
                if (false == has_license) { throw new Exception("no license"); }
 
                // モデルファイルの読込を含むコンストラクタ ( インスタンスを作成して LoadModel() をする場合と同等 )
                Model model = new Model(loadModelPath);
 
                // モデルの推論バックエンドの確認
                Console.WriteLine($"backend: {model.ModelBackend}");
 
                // 動作環境に最適化されたモデルを保存する機能はは GPU 推論のみの対応なので、それ以外であれば抜ける
                if (ModelBackend.TensorRT != model.ModelBackend)
                {
                    Console.WriteLine("not support optimized-model-save");
                    return;
                }
 
                // 読み込み済み ( 動作環境に最適化された ) モデルの保存
                model.SaveOptimizedModel(saveModelPath);
 
                // モデル読み込み時間の比較
                var sw = new System.Diagnostics.Stopwatch();
 
                // 元のモデルファイル
                sw.Start();
                model.LoadModel(loadModelPath);
                sw.Stop();
                Console.WriteLine($"original model: {(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}msec");
 
                // 最適化済みとして保存したモデルファイル
                sw.Start();
                model.LoadModel(saveModelPath);
                sw.Stop();
                Console.WriteLine($"optimized model: {(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}msec");
            }
            catch (CFviException ex)
            {
                Console.WriteLine($"ErrorCode={ex.ErrorCode}, Message={ex.Message}");
                Console.WriteLine(ex.StackTrace);
            }
            catch (Exception ex)
            {
                Console.WriteLine($"Message={ex.Message}");
                Console.WriteLine(ex.StackTrace);
            }
        }
    }
}

---

VB 版

• CPU 推論のデバイス切り替え: L.9- ChangeOVDevice()
• 読み込み済みモデルの最適化済みモデルとしての保存: L.122- SaveOptimizedModel()

Imports System
Imports System.Collections.Generic
Imports FVIL
Imports FVIL.Data
Imports FVIL.PDL
 
Namespace SamplesCS
    Partial Public Class Program
        Private Shared Sub ChangeOVDevice(modelPath As String, imagePath As String)
            Try
                Dim has_license = PDL.Model.CheckLicense()
                If False = has_license Then
                    Throw New Exception("no license")
                End If
 
                ''' ------------
                ' 準備
                ''' ------------
 
                ' モデルファイルの読込を含むコンストラクタ ( インスタンスを作成して LoadModel() をする場合と同等 )
                Dim model As Model = New Model(modelPath)
 
                ' モデルの推論バックエンドの確認
                Console.WriteLine($"backend: {model.ModelBackend}")
 
                ' デバイス変更は CPU 推論のみの対応なので、それ以外であれば抜ける
                If ModelBackend.OpenVINO <> model.ModelBackend Then
                    Console.WriteLine("not support device-change")
                    Return
                End If
 
                ' 推論対象画像の読込
                Dim image As CFviImage = New CFviImage(imagePath)
 
                ' 多視点のモデルの入力画像
                Dim images As List(Of CFviImage) = Nothing
 
                ' 推論対象画像の有効性確認
                ' 多視点の場合、入力画像配列を準備
                Select Case model.ModelCategory
                    Case ModelCategory.Classification, ModelCategory.AnomalyDetection, ModelCategory.SemanticSegmentation, ModelCategory.PanopticSegmentation, ModelCategory.ObjectDetection
                        Dim is_valid_img = model.IsValidImage(image)
                        If False = is_valid_img Then
                            Throw New Exception("invalid image")
                        End If
                    Case ModelCategory.MultiViewCNN, ModelCategory.MultiViewAD
                        images = New List(Of CFviImage)()
                        For i_image = 0 To model.NumViews - 1
                            images.Add(image)
                        Next
                        Dim is_valid_img = model.IsValidImages(images)
                        If False = is_valid_img Then
                            Throw New Exception("invalid image")
                        End If
 
                    Case Else
                        Throw New NotImplementedException($"unmatch model-category={model.ModelCategory}")
                End Select
 
                ''' ------------
                ' CPU 推論のデバイスを切り替えて実行、処理速度を出力
                ''' ------------
 
                ' 計測用のストップウォッチ
                Dim sw As Stopwatch = New Stopwatch()
 
                ' 列挙体に定義された全てのデバイスを切り替え
                For Each device As OVDevice In [Enum].GetValues(GetType(OVDevice))
                    ' モデル読み込み時にデバイスを選択: 読み込み済みのもののデバイスのみを変更することはできない
                    model.LoadModel(modelPath, device)
 
                    ' 種別にあわせた実行と処理時間の計測: 初回は遅いので空打ちして 2 回目を計測
                    For i = 0 To 1
                        Dim is_sw_enable = 1 = i
 
                        If is_sw_enable Then
                            sw.Start()
                        End If
                        Select Case model.ModelCategory
                            Case ModelCategory.Classification ' 画像分類
                                ' 推論実行
                                Dim scores = model.PredictClassification(image)
                            Case ModelCategory.AnomalyDetection ' アノマリー検出
                                ' 閾値を任意に設定して推論実行 ( double から float キャストに注意 )
                                Dim threshold = 10.0
                                Dim tuple = model.PredictAnomaly(image, threshold)
                            Case ModelCategory.MultiViewCNN ' 多視点画像分類
                                ' 推論実行
                                Dim scores = model.PredictMultiViewCNN(images)
                            Case ModelCategory.MultiViewAD ' 多視点アノマリー検出
                                ' 閾値を任意に設定して推論実行 ( double から float キャストに注意 )
                                Dim threshold = 10.0
                                Dim tuple = model.PredictMultiViewAD(images, threshold)
                            Case ModelCategory.SemanticSegmentation ' セマンティックセグメンテーション
                                Dim segm_result_image = model.PredictSemanticSegmentation(image)
                            Case ModelCategory.PanopticSegmentation
                                Dim segm_result_iamge = model.PredictPanopticSegmentation(image)
                            Case ModelCategory.ObjectDetection ' 物体検出
                                ' 推論実行
                                Dim detections = model.PredictObjectDetection(image)
                            Case Else
                                Throw New NotImplementedException($"unmatch model-category={model.ModelCategory}")
                        End Select
                        If Not is_sw_enable Then
                            Continue For
                        End If
 
                        sw.Stop()
 
                        Console.WriteLine($"device={device}: {sw.ElapsedTicks / Stopwatch.Frequency * 1000}msec")
                    Next
                Next
            Catch ex As CFviException
                Console.WriteLine($"ErrorCode={ex.ErrorCode}, Message={ex.Message}")
                Console.WriteLine(ex.StackTrace)
            Catch ex As Exception
                Console.WriteLine($"Message={ex.Message}")
                Console.WriteLine(ex.StackTrace)
            End Try
        End Sub
 
        Private Shared Sub SaveOptimizedModel(loadModelPath As String, saveModelPath As String)
            Try
                Dim has_license = PDL.Model.CheckLicense()
                If False = has_license Then
                    Throw New Exception("no license")
                End If
 
                ' モデルファイルの読込を含むコンストラクタ ( インスタンスを作成して LoadModel() をする場合と同等 )
                Dim model As Model = New Model(loadModelPath)
 
                ' モデルの推論バックエンドの確認
                Console.WriteLine($"backend: {model.ModelBackend}")
 
                ' 動作環境に最適化されたモデルを保存する機能はは GPU 推論のみの対応なので、それ以外であれば抜ける
                If ModelBackend.TensorRT <> model.ModelBackend Then
                    Console.WriteLine("not support optimized-model-save")
                    Return
                End If
 
                ' 読み込み済み ( 動作環境に最適化された ) モデルの保存
                model.SaveOptimizedModel(saveModelPath)
 
                ' モデル読み込み時間の比較
                Dim sw = New Stopwatch()
 
                ' 元のモデルファイル
                sw.Start()
                model.LoadModel(loadModelPath)
                sw.Stop()
                Console.WriteLine($"original model: {sw.ElapsedTicks / Stopwatch.Frequency * 1000}msec")
 
                ' 最適化済みとして保存したモデルファイル
                sw.Start()
                model.LoadModel(saveModelPath)
                sw.Stop()
                Console.WriteLine($"optimized model: {sw.ElapsedTicks / Stopwatch.Frequency * 1000}msec")
            Catch ex As CFviException
                Console.WriteLine($"ErrorCode={ex.ErrorCode}, Message={ex.Message}")
                Console.WriteLine(ex.StackTrace)
            Catch ex As Exception
                Console.WriteLine($"Message={ex.Message}")
                Console.WriteLine(ex.StackTrace)
            End Try
        End Sub
    End Class
End Namespace