Merge pull request #956 from alibaba-damo-academy/chenmengzheAAA-patch-4

chenmengzheAAA

2023-09-14 2a66366be4c2715870e4859fd5a5db6e8a9dc00a

 funasr/runtime/onnxruntime/src/tokenizer.h

@@ -6,6 +6,7 @@
#pragma once
#include <yaml-cpp/yaml.h>

namespace funasr {
class CTokenizer {
private:

@@ -29,5 +30,7 @@
   vector<string> SplitChineseString(const string& str_info);
   void StrSplit(const string& str, const char split, vector<string>& res);
   void Tokenize(const char* str_info, vector<string>& str_out, vector<int>& id_out);

   bool IsPunc(string& Punc);
};

} // namespace funasr