サンプルコード ( 多視点画像分類 )

多視点画像分類のサンプルコードです

• 最も単純なサンプルコード: L.6- smp_mvcnn_simple()
• ベンチマークを計測するサンプルコード: L.119: smp_mvcnn_benchmark()
• FIE の関数を前処理として行うサンプルコード: L.247: smp_mvcnn_with_fie()

#pragma once
#include "samples.h"
#include "oal_aloc.h"
#include <string>
 
int smp_mvcnn_simple(const char*model_name, const char* img_folder)
{
    INT ret = F_ERR_NONE;
    H_MODEL hmodel = NULL;
    MODEL_CATEGORY model_category;
    MODEL_BACKEND model_backend;
    INT n_views = 0;
    FHANDLE* hsrcs = NULL;
    INT ch, w, h;
    FLOAT* scores = NULL;
    size_t n_scores;
 
    // FIEライブラリの使用前に必ずコールする必要があります。
    fnFIE_setup();
 
 
    //------- ここから -------//
 
    // ライセンスチェック
    ret = fnPDL_check_license();
    printf_s("lic : %d\r\n", ret);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // ハンドルの生成
    hmodel = fnPDL_create_handle();
    if (NULL == hmodel) {
        ret = F_ERR_NOMEMORY;
        printf_s("failed to create handle\r\n");
        goto finally;
    }
    else { printf_s("handle created\r\n"); }
 
    // モデル読込
    ret = fnPDL_load_model(model_name, hmodel);
    printf_s("load: %d\r\n", ret);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // モデルの種別の確認
    ret = fnPDL_get_model_category(hmodel, &model_category);
    printf_s("par : %d  category=%d\r\n", ret, model_category);
    if (F_ERR_NONE != ret) { goto finally; }
    if (MULTI_VIEW_CNN != model_category) {
        ret = F_ERR_INVALID_OBJECT;
        printf_s("unmatch model\r\n");
        goto finally;
    }
 
    // モデルの推論バックエンドの確認
    ret = fnPDL_get_model_backend(hmodel, &model_backend);
    printf_s("ret : %d  backend=%d\r\n", ret, model_backend);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // モデルの期待する画像パラメータの確認
    ret = fnPDL_get_input_image_size(hmodel, &ch, &w, &h);
    printf_s("par : %d  ch=%d  w=%d  h=%d\r\n", ret, ch, w, h);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // モデルの視点数の取得
    ret = fnPDL_get_how_many_views(hmodel, &n_views);
    printf_s("# of views=%d\r\n", n_views);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // 入力画像配列のメモリ確保と画像読込
    hsrcs = (FHANDLE*)fnOAL_calloc(n_views, sizeof(FHANDLE));
    if (NULL == hsrcs) {
        ret = F_ERR_NOMEMORY;
        printf_s("malloc error\r\n");
        goto finally;
    }
    else {
        INT i_img = 0;
        for (i_img = 0; i_img < n_views; i_img++) {
            std::string image_path = std::string(img_folder) + std::to_string(i_img) + ".bmp";
            ret = fnFIE_load_bmp(image_path.c_str(), &(hsrcs[i_img]), F_COLOR_IMG_TYPE_UC8);
            printf_s("img ( #=%d ): %d\r\n", i_img, ret);
            if (F_ERR_NONE != ret) { goto finally; }
        }
    }
 
    // 推論実行
    ret = fnPDL_predict_multi_images(hmodel, n_views, hsrcs, &scores, &n_scores);
    printf_s("pred: %d\r\n", ret);
    if (F_ERR_NONE != ret) { goto finally; }
    if (NULL != scores && 0 < n_scores) {
        INT i_score;
        printf_s("    # of scores = %zd\r\n", n_scores);
        for (i_score = 0; i_score < n_scores; i_score++) {
            printf_s("    label%d: %.6e\r\n", i_score, scores[i_score]);
        }
    }
    printf_s("\r\n");
 
finally:
    // ハンドルの破棄
    fnPDL_dispose(hmodel);
 
    //------- ここまで -------//
 
 
    // 終了処理
    if (NULL != hsrcs) {
        INT i_img = 0;
        for (i_img = 0; i_img < n_views; i_img++) {
            fnFIE_free_object(hsrcs[i_img]);
        }
        fnOAL_free(hsrcs);
    }
    if (NULL != scores) { fnOAL_free(scores); }
    fnFIE_teardown();
 
    return ret;
}
 
int smp_mvcnn_benchmark(const char*model_name, const char* img_folder, const int bench_iter)
{
    // benchmark 用
    std::chrono::system_clock::time_point start, end;
 
    INT ret = F_ERR_NONE;
    H_MODEL hmodel = NULL;
    MODEL_CATEGORY model_category;
    INT n_views = 0;
    FHANDLE* hsrcs = NULL;
    INT ch, w, h;
    FLOAT* scores = NULL;
    size_t n_scores;
 
    // FIEライブラリの使用前に必ずコールする必要があります。
    fnFIE_setup();
 
    // ライセンスチェック
    ret = fnPDL_check_license();
    printf_s("lic : %d\r\n", ret);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // ハンドルの生成
    hmodel = fnPDL_create_handle();
    if (NULL == hmodel) {
        ret = F_ERR_NOMEMORY;
        printf_s("failed to create handle\r\n");
        goto finally;
    }
    else { printf_s("handle created\r\n"); }
 
    // モデル読込
    ret = fnPDL_load_model(model_name, hmodel);
    printf_s("load: %d\r\n", ret);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // モデルの種別の確認
    ret = fnPDL_get_model_category(hmodel, &model_category);
    printf_s("par : %d  category=%d\r\n", ret, model_category);
    if (F_ERR_NONE != ret) { goto finally; }
    if (MULTI_VIEW_CNN != model_category) {
        ret = F_ERR_INVALID_OBJECT;
        printf_s("unmatch model\r\n");
        goto finally;
    }
 
    // モデルの期待する画像パラメータの確認
    ret = fnPDL_get_input_image_size(hmodel, &ch, &w, &h);
    printf_s("par : %d  ch=%d  w=%d  h=%d\r\n", ret, ch, w, h);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // モデルの視点数の取得
    ret = fnPDL_get_how_many_views(hmodel, &n_views);
    printf_s("# of views=%d\r\n", n_views);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // 入力画像配列のメモリ確保と画像読込
    hsrcs = (FHANDLE*)fnOAL_calloc(n_views, sizeof(FHANDLE));
    if (NULL == hsrcs) {
        ret = F_ERR_NOMEMORY;
        printf_s("malloc error\r\n");
        goto finally;
    }
    else {
        INT i_img = 0;
        for (i_img = 0; i_img < n_views; i_img++) {
            std::string image_path = std::string(img_folder) + std::to_string(i_img) + ".bmp";
            ret = fnFIE_load_bmp(image_path.c_str(), &(hsrcs[i_img]), F_COLOR_IMG_TYPE_UC8);
            printf_s("img ( #=%d ): %d\r\n", i_img, ret);
            if (F_ERR_NONE != ret) { goto finally; }
        }
    }
 
 
    //------- 計測ループ ここから -------//
 
    printf_s("--- start ---\r\n");
    printf_s("number, elapsed[msec], scores\r\n");
    for (int i = 0; i < bench_iter; i++) {
        double elapsed;
 
        // 開始時刻
        start = std::chrono::system_clock::now();
 
        // 推論実行
        ret = fnPDL_predict_multi_images(hmodel, n_views, hsrcs, &scores, &n_scores);
 
        // 完了時刻
        end = std::chrono::system_clock::now();
 
        if (F_ERR_NONE != ret) {
            printf_s("pred. err: %d\r\n", ret);
            break;
        }
 
        // 推論時間 [msec]
        elapsed = std::chrono::duration_cast<std::chrono::microseconds>(end - start).count() / (double)1000;
 
        // コンソールに出力
        printf_s("%04d, %.3e", i, elapsed);
        for (int i_score = 0; i_score < n_scores; i_score++) {
            printf_s(", %.6e", scores[i_score]);
        }
        printf_s("\r\n");
    }
    printf_s("--- finish ---\r\n");
    printf_s("\r\n");
 
    //------- 計測ループ ここまで -------//
 
finally:
    // ハンドルの破棄
    fnPDL_dispose(hmodel);
 
    // 終了処理
    if (NULL != hsrcs) {
        INT i_img = 0;
        for (i_img = 0; i_img < n_views; i_img++) {
            fnFIE_free_object(hsrcs[i_img]);
        }
        fnOAL_free(hsrcs);
    }
    if (NULL != scores) { fnOAL_free(scores); }
    fnFIE_teardown();
 
    return ret;
}
 
int smp_mvcnn_with_fie(const char*model_name, const char* img_folder)
{
    INT ret = F_ERR_NONE;
    H_MODEL hmodel = NULL;
    MODEL_CATEGORY model_category;
    INT n_views = 0;
    FHANDLE* hsrcs = NULL;
    FHANDLE* hfiltereds = NULL;
    INT ch, w, h;
    FLOAT* scores = NULL;
    size_t n_scores;
 
    // FIEライブラリの使用前に必ずコールする必要があります。
    fnFIE_setup();
 
    // ライセンスチェック
    ret = fnPDL_check_license();
    printf_s("lic : %d\r\n", ret);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // ハンドルの生成
    hmodel = fnPDL_create_handle();
    if (NULL == hmodel) {
        ret = F_ERR_NOMEMORY;
        printf_s("failed to create handle\r\n");
        goto finally;
    }
    else { printf_s("handle created\r\n"); }
 
    // モデル読込
    ret = fnPDL_load_model(model_name, hmodel);
    printf_s("load: %d\r\n", ret);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // モデルの種別の確認
    ret = fnPDL_get_model_category(hmodel, &model_category);
    printf_s("par : %d  category=%d\r\n", ret, model_category);
    if (F_ERR_NONE != ret) { goto finally; }
    if (MULTI_VIEW_CNN != model_category) {
        ret = F_ERR_INVALID_OBJECT;
        printf_s("unmatch model\r\n");
        goto finally;
    }
 
    // モデルの期待する画像パラメータの確認
    ret = fnPDL_get_input_image_size(hmodel, &ch, &w, &h);
    printf_s("par : %d  ch=%d  w=%d  h=%d\r\n", ret, ch, w, h);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // モデルの視点数の取得
    ret = fnPDL_get_how_many_views(hmodel, &n_views);
    printf_s("# of views=%d\r\n", n_views);
    if (F_ERR_NONE != ret) { goto finally; }
 
    // 入力画像配列のメモリ確保と画像読込
    hsrcs = (FHANDLE*)fnOAL_calloc(n_views, sizeof(FHANDLE));
    if (NULL == hsrcs) {
        ret = F_ERR_NOMEMORY;
        printf_s("malloc error\r\n");
        goto finally;
    }
    else {
        INT i_img = 0;
        for (i_img = 0; i_img < n_views; i_img++) {
            std::string image_path = std::string(img_folder) + std::to_string(i_img) + ".bmp";
            ret = fnFIE_load_bmp(image_path.c_str(), &(hsrcs[i_img]), F_COLOR_IMG_TYPE_UC8);
            printf_s("img ( #=%d ): %d\r\n", i_img, ret);
            if (F_ERR_NONE != ret) { goto finally; }
        }
    }
 
    // 読み込んだ画像をそのまま推論する
 
    // 推論実行
    ret = fnPDL_predict_multi_images(hmodel, n_views, hsrcs, &scores, &n_scores);
    printf_s("pred: %d\r\n", ret);
    if (F_ERR_NONE != ret) { goto finally; }
    if (NULL != scores && 0 < n_scores) {
        INT i_score;
        printf_s("    # of scores = %zd\r\n", n_scores);
        for (i_score = 0; i_score < n_scores; i_score++) {
            printf_s("    label%d: %.6e\r\n", i_score, scores[i_score]);
        }
    }
 
    // フィルタをかけた画像を推論する
 
    // ここでは単純な平均化フィルタ
    hfiltereds = (FHANDLE*)fnOAL_calloc(n_views, sizeof(FHANDLE));
    if (NULL == hfiltereds) {
        ret = F_ERR_NOMEMORY;
        printf_s("malloc error ( filtered images )\r\n");
        goto finally;
    }
    else {
        INT i_img = 0;
        for (i_img = 0; i_img < n_views; i_img++) {
            hfiltereds[i_img] = fnFIE_img_root_alloc(F_IMG_UC8, ch, w, h);
            if (NULL == hfiltereds[i_img]) {
                ret = F_ERR_NOMEMORY;
                printf_s("malloc error ( filtered images )\r\n");
                goto finally;
            }
        }
    }
    {
        INT i_img = 0;
        for (i_img = 0; i_img < n_views; i_img++) {
            FHANDLE hsrc = hsrcs[i_img];
            FHANDLE hdst = hfiltereds[i_img];
            ret = fnFIE_average(hsrc, hdst, 0, 0);
            if (F_ERR_NONE != ret) { goto finally; }
        }
    }
 
    // 推論実行
    ret = fnPDL_predict_multi_images(hmodel, n_views, hfiltereds, &scores, &n_scores);
    printf_s("pred(average): %d\r\n", ret);
    if (F_ERR_NONE != ret) { goto finally; }
    if (NULL != scores && 0 < n_scores) {
        INT i_score;
        printf_s("    # of scores = %zd\r\n", n_scores);
        for (i_score = 0; i_score < n_scores; i_score++) {
            printf_s("    label%d: %.6e\r\n", i_score, scores[i_score]);
        }
    }
    printf_s("\r\n");
 
finally:
    // ハンドルの破棄
    fnPDL_dispose(hmodel);
 
    // メモリの破棄
    if (NULL != hsrcs) {
        INT i_img = 0;
        for (i_img = 0; i_img < n_views; i_img++) {
            fnFIE_free_object(hsrcs[i_img]);
        }
        fnOAL_free(hsrcs);
    }
    if (NULL != hfiltereds) {
        INT i_img = 0;
        for (i_img = 0; i_img < n_views; i_img++) {
            fnFIE_free_object(hfiltereds[i_img]);
        }
        fnOAL_free(hfiltereds);
    }
    if (NULL != scores) { fnOAL_free(scores); }
 
    // 終了処理
    fnFIE_teardown();
 
    return ret;
 
}