docs

游雁

2023-10-19 b9bcf1f093c3053fdc4e2cf4a1d38e27bbf429fb

 funasr/runtime/onnxruntime/src/tokenizer.h

@@ -1,6 +1,15 @@
/**
 * Copyright FunASR (https://github.com/alibaba-damo-academy/FunASR). All Rights Reserved.
 * MIT License  (https://opensource.org/licenses/MIT)
*/

#pragma once
#include <yaml-cpp/yaml.h>
#include "cppjieba/DictTrie.hpp"
#include "cppjieba/HMMModel.hpp"
#include "cppjieba/Jieba.hpp"

namespace funasr {
class CTokenizer {
private:

@@ -8,10 +17,15 @@
   vector<string>   m_id2token,m_id2punc;
   map<string, int>  m_token2id,m_punc2id;

   cppjieba::DictTrie *jieba_dict_trie_;
    cppjieba::HMMModel *jieba_model_;
   cppjieba::Jieba jieba_processor_;

public:

   CTokenizer(const char* sz_yamlfile);
   CTokenizer();
   ~CTokenizer();
   bool OpenYaml(const char* sz_yamlfile);
   void ReadYaml(const YAML::Node& node);
   vector<string> Id2String(vector<int> input);
@@ -21,7 +35,13 @@
   string Id2Punc(int n_punc_id);
   vector<int> Punc2Ids(vector<string> input);
   vector<string> SplitChineseString(const string& str_info);
   vector<string> SplitChineseJieba(const string& str_info);
   void StrSplit(const string& str, const char split, vector<string>& res);
   void Tokenize(const char* str_info, vector<string>& str_out, vector<int>& id_out);

   bool IsPunc(string& Punc);
   bool seg_jieba = false;
   void SetJiebaRes(cppjieba::DictTrie *dict, cppjieba::HMMModel *hmm);
   void JiebaInit(std::string punc_config);
};

} // namespace funasr