複数のモデルを並列実行するサンプルコード

複数のモデルを並列実行するサンプルコードです。

modelNames と imageSizes に指定されるモデルで iterNum 回推論を行うタスクをそれぞれ作成します。
作成したタスクたちを一斉に開始して並列実行し、すべてのタスクの完了を待ちます。

• C#
• VB

---

C# 版

• ModelDirectory (L.27): モデルファイルたちが格納されたフォルダ ( 事前定義 )
• ImageDirectory (L.28): 画像ファイルたちが格納されたフォルダ ( 事前定義 )
• 引数 imageSizes: 画像サイズ
  • 対応する画像: test_img_{img_size}.PNG が ImageDirectory に格納されているものとします
  • ※ 多視点画像分類と多視点アノマリー検出では本来異なる複数枚の画像を入力しますが、ここでは簡単のため test_img_{img_size}.PNG を視点数と同じ枚数だけ複製した画像を入力します
• 引数 modelNames: モデル名称
  • 対応するモデル: {model_name}_{img_size}.wilpdl が ModelDirectory に格納されているものとします

using System;
using System.Collections.Generic;
using System.Linq;
using System.Text;
using System.Threading.Tasks;
using System.IO;
using System.Diagnostics;
using FVIL;
using FVIL.Data;
using FVIL.PDL;
 
namespace SamplesCS
{
    partial class Program
    {
        static void UseMultiModel(List<String> modelNames, List<Int32> imageSizes, Int32 iterNum)
        {
            var has_license = Model.CheckLicense();
            if (false == has_license) { throw new Exception("no license"); }
 
            // それぞれのモデルと画像を準備してタスクのリストに格納
            List<Task> tasks = new List<Task>();
            foreach (var model_name in modelNames)
            {
                foreach (var img_size in imageSizes)
                {
                    var model_path = Path.Combine(ModelDirectory, $"{model_name}_{img_size}.wilpdl");
                    var image_path = Path.Combine(ImageDirectory, $"test_img_{img_size}.PNG");
 
                    // 匿名関数でタスクを作成
                    var task = new Task(() =>
                    {
                        var str_id = $"{model_name}_{img_size}";
                        var sw = new Stopwatch();
 
                        // アノマリー検出のときのみ使用
                        var threshold = 10.0;
                        CFviImage anomaly_map = null;
 
                        // MVCNN のときのみ使用
                        List<CFviImage> images = null;
 
                        var contents = str_id + ", initializing...";
                        try
                        {
                            // 準備
                            Console.WriteLine(contents);
 
                            // モデルファイルの読込
                            Model model = new Model(model_path);
 
                            // 推論対象画像の読込
                            CFviImage image = new CFviImage(image_path);
 
                            // 推論対象画像の有効性確認
                            var is_valid_img = model.IsValidImage(image);
                            if (false == is_valid_img) { throw new Exception("invalid image"); }
 
                            // モデル種別に応じた準備
                            switch (model.ModelCategory)
                            {
                                case ModelCategory.Classification:
                                    break;
                                case ModelCategory.AnomalyDetection:
                                    anomaly_map = new CFviImage(image.HorzSize, image.VertSize, ImageType.UC8, 1);
                                    break;
                                case ModelCategory.MultiViewCNN:
                                    images = new List<CFviImage>();
                                    for(var i_img=0; i_img < model.NumViews; i_img++)
                                    {
                                        images.Add(new CFviImage(image, false));
                                    }
                                    break;
                                case ModelCategory.MultiViewAD:
                                    images = new List<CFviImage>();
                                    for (var i_img = 0; i_img < model.NumViews; i_img++)
                                    {
                                        images.Add(new CFviImage(image, false));
                                    }
                                    break;
                                case ModelCategory.SemanticSegmentation:
                                case ModelCategory.PanopticSegmentation:
                                case ModelCategory.ObjectDetection:
                                    break;
                                case ModelCategory.Unknown:
                                default: throw new NotImplementedException($"unknown model-category={model.ModelCategory}");
                            }
 
                            // ループ実行開始
                            
                            contents = str_id + ", start";
                            Console.WriteLine(contents);
                            // 本体
                            for (var i = 0; i < iterNum; i++)
                            {
                                contents = str_id + $", {i:000}";
                                switch (model.ModelCategory)
                                {
                                    case ModelCategory.Classification:// 画像分類
                                        {
                                            // 計測開始
                                            sw.Start();
 
                                            // 推論実行
                                            var scores = model.PredictClassification(image);
 
                                            // 計測終了
                                            sw.Stop();
 
                                            // 結果の文字列
                                            contents = $"{(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}";
                                            for (var i_score = 0; i_score < scores.Length; i_score++)
                                            {
                                                contents += $", {scores[i_score]}";
                                            }
                                        }
                                        break;
                                    case ModelCategory.AnomalyDetection:// アノマリー検出
                                        {
                                            // 計測開始
                                            sw.Start();
 
                                            // 推論実行
                                            var tuple = model.PredictAnomaly(image, (float)threshold, anomaly_map);
 
                                            // 計測終了
                                            sw.Stop();
 
                                            // 結果の文字列
                                            contents = $"{(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}";
                                            contents += ", " + (tuple.Item1 ? "anomaly" : "normal") + $", {tuple.Item2}";
                                        }
                                        break;
                                    case ModelCategory.MultiViewCNN:// 多視点画像分類
                                        {
                                            // 計測開始
                                            sw.Start();
 
                                            // 推論実行
                                            var scores = model.PredictMultiViewCNN(images);
 
                                            // 計測終了
                                            sw.Stop();
 
                                            // 結果の文字列
                                            //contents += $", {sw.ElapsedMilliseconds:000}";
                                            contents = $"{(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}";
                                            for (var i_score = 0; i_score < scores.Length; i_score++)
                                            {
                                                contents += $", {scores[i_score]}";
                                            }
                                        }
                                        break;
                                    case ModelCategory.MultiViewAD:// 多視点アノマリー検出
                                        {
                                            // 計測開始
                                            sw.Start();
 
                                            // 推論実行
                                            var tuple = model.PredictMultiViewAD(images, (float)threshold, anomaly_map);
 
                                            // 計測終了
                                            sw.Stop();
 
                                            // 結果の文字列
                                            contents = $"{(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}";
                                            contents += ", " + (tuple.Item1 ? "anomaly" : "normal") + $", {tuple.Item2}";
                                        }
                                        break;
                                    case ModelCategory.SemanticSegmentation:// セマンティックセグメンテーション
                                        {
                                            // 計測開始
                                            sw.Start();
 
                                            // 推論実行
                                            var segm_result_image = model.PredictSemanticSegmentation(image);
 
                                            // 計測終了
                                            sw.Stop();
 
                                            // 結果の文字列
                                            contents = $"{(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}";
                                        }
                                        break;
                                    case ModelCategory.PanopticSegmentation:// パノプティックセグメンテーション
                                        {
                                            // 計測開始
                                            sw.Start();
 
                                            // 推論実行
                                            var segm_result_image = model.PredictPanopticSegmentation(image);
 
                                            // 計測終了
                                            sw.Stop();
 
                                            // 結果の文字列
                                            contents = $"{(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}";
                                        }
                                        break;
                                    case ModelCategory.ObjectDetection:// 物体検出
                                        {
                                            // 計測開始
                                            sw.Start();
 
                                            // 推論実行
                                            var detections = model.PredictObjectDetection(image);
 
                                            // 計測終了
                                            sw.Stop();
 
                                            // 結果の文字列
                                            contents = $"{(Double)sw.ElapsedTicks / (Double)System.Diagnostics.Stopwatch.Frequency * 1000}";
                                            contents += $", {detections.Count()}";
                                        }
                                        break;
                                    case ModelCategory.Unknown:
                                    default: throw new NotImplementedException($"unknown model-category={model.ModelCategory}");
                                }
 
                                Console.WriteLine(contents);
                                sw.Reset();
                            }
                        }
                        catch (Exception ex)
                        {
                            contents = str_id + ", error" + ex.Message;
                            Console.WriteLine(contents);
                            Console.WriteLine(ex.StackTrace);
                            return;
                        }
 
                        contents = str_id + ", finish";
                        Console.WriteLine(contents);
                    });
 
                    tasks.Add(task);
                }
            }
 
            // 全てのタスクの開始
            foreach(var task in tasks)
            {
                task.Start();
            }
            // 全てのタスクの終了待ち
            Task.WaitAll(tasks.ToArray());
        }
    }
}

VB 版

• ModelDirectory (L.22): モデルファイルたちが格納されたフォルダ ( 事前定義 )
• ImageDirectory (L.23): 画像ファイルたちが格納されたフォルダ ( 事前定義 )
• 引数 imageSizes: 画像サイズ
  • 対応する画像: test_img_{img_size}.PNG が ImageDirectory に格納されているものとします
  • ※ 多視点画像分類と多視点アノマリー検出 では本来異なる複数枚の画像を入力しますが、ここでは簡単のため test_img_{img_size}.PNG を視点数と同じ枚数だけ複製した画像を入力します
• 引数 modelNames: モデル名称
  • 対応するモデル: {model_name}_{img_size}.wilpdl が ModelDirectory に格納されているものとします

Imports System
Imports System.Collections.Generic
Imports System.Linq
Imports System.Threading.Tasks
Imports System.IO
Imports System.Diagnostics
Imports FVIL
Imports FVIL.Data
Imports FVIL.PDL
 
Namespace SamplesCS
    Partial Class Program
        Private Shared Sub UseMultiModel(modelNames As List(Of String), imageSizes As List(Of Integer), iterNum As Integer)
            Dim has_license = Model.CheckLicense()
            If False = has_license Then
                Throw New Exception("no license")
            End If
 
            ' それぞれのモデルと画像を準備してタスクのリストに格納
            Dim tasks As List(Of Task) = New List(Of Task)()
            For Each model_name In modelNames
                For Each img_size In imageSizes
                    Dim model_path = Path.Combine(Program.ModelDirectory, $"{model_name}_{img_size}.wilpdl")
                    Dim image_path = Path.Combine(Program.ImageDirectory, $"test_img_{img_size}.PNG")
 
                    ' 匿名関数でタスクを作成
                    Dim task = New Task(Sub()
                                            Dim str_id = $"{model_name}_{img_size}"
                                            Dim sw = New Stopwatch()
 
                                            ' アノマリー検出のときのみ使用
                                            Dim threshold = 10.0
                                            Dim anomaly_map As CFviImage = Nothing
 
                                            ' MVCNN のときのみ使用
                                            Dim images As List(Of CFviImage) = Nothing
 
                                            Dim contents = str_id & ", initializing..."
                                            Try
                                                '''''''''''
                                                ' 準備
                                                '''''''''''
                                                Console.WriteLine(contents)
 
                                                ' モデルファイルの読込
                                                Dim model As Model = New Model(model_path)
 
                                                ' 推論対象画像の読込
                                                Dim image As CFviImage = New CFviImage(image_path)
 
                                                ' 推論対象画像の有効性確認
                                                Dim is_valid_img = model.IsValidImage(image)
                                                If False = is_valid_img Then
                                                    Throw New Exception("invalid image")
                                                End If
 
                                                ' モデル種別に応じた準備
                                                Select Case model.ModelCategory
                                                    Case ModelCategory.Classification
                                                    Case ModelCategory.AnomalyDetection
                                                        anomaly_map = New CFviImage(image.HorzSize, image.VertSize, ImageType.UC8, 1)
                                                    Case ModelCategory.MultiViewCNN
                                                        images = New List(Of CFviImage)()
                                                        For i_img = 0 To model.NumViews - 1
                                                            images.Add(New CFviImage(image, False))
                                                        Next
                                                    Case ModelCategory.MultiViewAD
                                                        images = New List(Of CFviImage)()
                                                        For i_img = 0 To model.NumViews - 1
                                                            images.Add(New CFviImage(image, False))
                                                        Next
                                                    Case ModelCategory.SemanticSegmentation, ModelCategory.PanopticSegmentation, ModelCategory.ObjectDetection
                                                    Case Else
                                                        Throw New NotImplementedException($"unknown model-category={model.ModelCategory}")
                                                End Select
 
                                                '''''''''''
                                                ' ループ実行開始
                                                '''''''''''
 
                                                contents = str_id & ", start"
                                                Console.WriteLine(contents)
                                                ' 本体
                                                For i = 0 To iterNum - 1
                                                    contents = str_id & $", {i:000}"
                                                    Select Case model.ModelCategory
                                                        Case ModelCategory.Classification ' 画像分類
                                                            ' 計測開始
                                                            sw.Start()
 
                                                            ' 推論実行
                                                            Dim scores = model.PredictClassification(image)
 
                                                            ' 計測終了
                                                            sw.Stop()
 
                                                            ' 結果の文字列
                                                            contents = $"{sw.ElapsedTicks / Stopwatch.Frequency * 1000}"
                                                            For i_score = 0 To scores.Length - 1
                                                                contents += $", {scores(i_score)}"
                                                            Next
                                                        Case ModelCategory.AnomalyDetection ' アノマリー検出
                                                            ' 計測開始
                                                            sw.Start()
 
                                                            ' 推論実行
                                                            Dim tuple = model.PredictAnomaly(image, threshold, anomaly_map)
 
                                                            ' 計測終了
                                                            sw.Stop()
 
                                                            ' 結果の文字列
                                                            contents = $"{sw.ElapsedTicks / Stopwatch.Frequency * 1000}"
                                                            contents += ", " & If(tuple.Item1, "anomaly", "normal") & $", {tuple.Item2}"
                                                        Case ModelCategory.MultiViewCNN ' 多視点画像分類
                                                            ' 計測開始
                                                            sw.Start()
 
                                                            ' 推論実行
                                                            Dim scores = model.PredictMultiViewCNN(images)
 
                                                            ' 計測終了
                                                            sw.Stop()
 
                                                            ' 結果の文字列
                                                            'contents += $", {sw.ElapsedMilliseconds:000}";
                                                            contents = $"{sw.ElapsedTicks / Stopwatch.Frequency * 1000}"
                                                            For i_score = 0 To scores.Length - 1
                                                                contents += $", {scores(i_score)}"
                                                            Next
                                                        Case ModelCategory.MultiViewAD ' 多視点アノマリー検出
                                                            ' 計測開始
                                                            sw.Start()
 
                                                            ' 推論実行
                                                            Dim tuple = model.PredictMultiViewAD(images, threshold, anomaly_map)
 
                                                            ' 計測終了
                                                            sw.Stop()
 
                                                            ' 結果の文字列
                                                            contents = $"{sw.ElapsedTicks / Stopwatch.Frequency * 1000}"
                                                            contents += ", " & If(tuple.Item1, "anomaly", "normal") & $", {tuple.Item2}"
                                                        Case ModelCategory.SemanticSegmentation ' セマンティックセグメンテーション
                                                            ' 計測開始
                                                            sw.Start()
 
                                                            ' 推論実行
                                                            Dim segm_result_image = model.PredictSemanticSegmentation(image)
 
                                                            ' 計測終了
                                                            sw.Stop()
 
                                                            ' 結果の文字列
                                                            contents = $"{sw.ElapsedTicks / Stopwatch.Frequency * 1000}"
                                                        Case ModelCategory.PanopticSegmentation ' パノプティックセグメンテーション
                                                            ' 計測開始
                                                            sw.Start()
 
                                                            ' 推論実行
                                                            Dim segm_result_image = model.PredictPanopticSegmentation(image)
 
                                                            ' 計測終了
                                                            sw.Stop()
 
                                                            ' 結果の文字列
                                                            contents = $"{sw.ElapsedTicks / Stopwatch.Frequency * 1000}"
                                                        Case ModelCategory.ObjectDetection ' 物体検出
                                                            ' 計測開始
                                                            sw.Start()
 
                                                            ' 推論実行
                                                            Dim detections = model.PredictObjectDetection(image)
 
                                                            ' 計測終了
                                                            sw.Stop()
 
                                                            ' 結果の文字列
                                                            contents = $"{sw.ElapsedTicks / Stopwatch.Frequency * 1000}"
                                                            contents += $", {detections.Count()}"
                                                        Case Else
                                                            Throw New NotImplementedException($"unknown model-category={model.ModelCategory}")
                                                    End Select
 
                                                    Console.WriteLine(contents)
                                                    sw.Reset()
                                                Next
                                            Catch ex As Exception
                                                contents = str_id & ", error" & ex.Message
                                                Console.WriteLine(contents)
                                                Console.WriteLine(ex.StackTrace)
                                                Return
                                            End Try
 
                                            contents = str_id & ", finish"
                                            Console.WriteLine(contents)
                                        End Sub)
 
                    tasks.Add(task)
                Next
            Next
 
            ' 全てのタスクの開始
            For Each task In tasks
                task.Start()
            Next
            ' 全てのタスクの終了待ち
            Call Task.WaitAll(tasks.ToArray())
        End Sub
    End Class
End Namespace