lyblsgo
2023-04-24 17aeb722956e493a3ec624087e1aa481e0c0d4ff
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
#pragma once 
 
class CTTransformer {
/**
 * Author: Speech Lab of DAMO Academy, Alibaba Group
 * CT-Transformer: Controllable time-delay transformer for real-time punctuation prediction and disfluency detection
 * https://arxiv.org/pdf/2003.01309.pdf
*/
 
private:
 
    CTokenizer m_tokenizer;
    vector<string> m_strInputNames, m_strOutputNames;
    vector<const char*> m_szInputNames;
    vector<const char*> m_szOutputNames;
 
    std::shared_ptr<Ort::Session> m_session;
    Ort::Env env_;
    Ort::SessionOptions session_options;
public:
 
    CTTransformer(const char* sz_model_dir, int thread_num);
    ~CTTransformer();
    vector<int>  Infer(vector<int64_t> input_data);
    string AddPunc(const char* sz_input);
};