hnluo
2023-04-17 24f73665e2d8ea8e4de2fe4f900bc539d7f7b989
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
#pragma once
 
 
#ifndef PARAFORMER_MODELIMP_H
#define PARAFORMER_MODELIMP_H
 
namespace paraformer {
 
    class ModelImp : public Model {
    private:
        int fft_size=512;
        float *fft_input;
        fftwf_complex *fft_out;
        fftwf_plan plan;
 
        Vocab* vocab;
        vector<float> means_list;
        vector<float> vars_list;
        const float scale = 22.6274169979695;
 
        void apply_lfr(Tensor<float>*& din);
        void apply_cmvn(Tensor<float>* din);
        void load_cmvn(const char *filename);
 
        string greedy_search( float* in, int nLen);
 
        std::unique_ptr<Ort::Session> m_session;
        Ort::Env env_;
        Ort::SessionOptions sessionOptions;
 
        vector<string> m_strInputNames, m_strOutputNames;
        vector<const char*> m_szInputNames;
        vector<const char*> m_szOutputNames;
 
    public:
        ModelImp(const char* path, int nNumThread=0, bool quantize=false);
        ~ModelImp();
        void reset();
        string forward_chunk(float* din, int len, int flag);
        string forward(float* din, int len, int flag);
        string rescoring();
 
    };
 
} // namespace paraformer
#endif