chong.zhang
2023-05-23 62f490ef6f2bc9250a51ad06c6c72d2b9adbd0c0
funasr/runtime/onnxruntime/src/tokenizer.h
@@ -6,6 +6,7 @@
#pragma once
#include <yaml-cpp/yaml.h>
namespace funasr {
class CTokenizer {
private:
@@ -31,3 +32,5 @@
   void Tokenize(const char* str_info, vector<string>& str_out, vector<int>& id_out);
};
} // namespace funasr