zhifu gao
2023-04-24 331d57253ae25dd42c8e14930dee30cd8d2affa6
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
#pragma once 
 
class CRapidPuncOnnx {
private:
 
    CRpTokenizer m_Tokenizer;
 
 
    vector<const char*> m_szInputNames;
    vector<const char*> m_szOutputNames;
public:
 
 
    CRapidPuncOnnx(const char* szModelDir, int nNumThread);
 
    ~CRapidPuncOnnx();
 
    void LoadModel(const std::string& model_dir, int nNumThread);
    Ort::Env env = Ort::Env(ORT_LOGGING_LEVEL_ERROR, "CRapidPuncOnnx");
    Ort::SessionOptions sessionOptions = Ort::SessionOptions();
    Ort::MemoryInfo m_memoryInfo = Ort::MemoryInfo::CreateCpu(OrtArenaAllocator, OrtMemTypeDefault);
    Ort::Session* m_session;
    vector<int>  Infer(vector<int64_t> InputData);
    string AddPunc(const char* szInput);
};