Merge branch 'main' of https://github.com/alibaba-damo-academy/FunASR

nichongjia-2007

2023-06-30 012903e42ec890ab5c50137beb365c3d94e731d1

 funasr/runtime/onnxruntime/src/funasrruntime.cpp

@@ -23,9 +23,9 @@
      return mm;
   }

   _FUNASRAPI FUNASR_HANDLE  CTTransformerInit(std::map<std::string, std::string>& model_path, int thread_num)
   _FUNASRAPI FUNASR_HANDLE  CTTransformerInit(std::map<std::string, std::string>& model_path, int thread_num, PUNC_TYPE type)
   {
      funasr::PuncModel* mm = funasr::CreatePuncModel(model_path, thread_num);
      funasr::PuncModel* mm = funasr::CreatePuncModel(model_path, thread_num, type);
      return mm;
   }

@@ -51,6 +51,9 @@
      int flag = 0;
      funasr::FUNASR_RECOG_RESULT* p_result = new funasr::FUNASR_RECOG_RESULT;
      p_result->snippet_time = audio.GetTimeLen();
      if(p_result->snippet_time == 0){
            return p_result;
        }
      int n_step = 0;
      int n_total = audio.GetQueueSize();
      while (audio.Fetch(buff, len, flag) > 0) {
@@ -90,6 +93,9 @@
      int n_total = audio.GetQueueSize();
      funasr::FUNASR_RECOG_RESULT* p_result = new funasr::FUNASR_RECOG_RESULT;
      p_result->snippet_time = audio.GetTimeLen();
      if(p_result->snippet_time == 0){
            return p_result;
        }
      while (audio.Fetch(buff, len, flag) > 0) {
         string msg = recog_obj->Forward(buff, len, flag);
         p_result->msg += msg;
@@ -114,6 +120,9 @@

      funasr::FUNASR_VAD_RESULT* p_result = new funasr::FUNASR_VAD_RESULT;
      p_result->snippet_time = audio.GetTimeLen();
      if(p_result->snippet_time == 0){
            return p_result;
        }
      
      vector<std::vector<int>> vad_segments;
      audio.Split(vad_obj, vad_segments, input_finished);
@@ -143,6 +152,9 @@

      funasr::FUNASR_VAD_RESULT* p_result = new funasr::FUNASR_VAD_RESULT;
      p_result->snippet_time = audio.GetTimeLen();
      if(p_result->snippet_time == 0){
            return p_result;
        }
      
      vector<std::vector<int>> vad_segments;
      audio.Split(vad_obj, vad_segments, true);
@@ -152,14 +164,28 @@
   }

   // APIs for PUNC Infer
   _FUNASRAPI const std::string CTTransformerInfer(FUNASR_HANDLE handle, const char* sz_sentence, FUNASR_MODE mode, QM_CALLBACK fn_callback)
   _FUNASRAPI FUNASR_RESULT CTTransformerInfer(FUNASR_HANDLE handle, const char* sz_sentence, FUNASR_MODE mode, QM_CALLBACK fn_callback, PUNC_TYPE type, FUNASR_RESULT pre_result)
   {
      funasr::PuncModel* punc_obj = (funasr::PuncModel*)handle;
      if (!punc_obj)
         return nullptr;
		
      FUNASR_RESULT p_result = nullptr;
      if (type==PUNC_OFFLINE){
         p_result = (FUNASR_RESULT)new funasr::FUNASR_PUNC_RESULT;
         ((funasr::FUNASR_PUNC_RESULT*)p_result)->msg = punc_obj->AddPunc(sz_sentence);
      }else if(type==PUNC_ONLINE){
         if (!pre_result)
            p_result = (FUNASR_RESULT)new funasr::FUNASR_PUNC_RESULT;
         else
            p_result = pre_result;
         ((funasr::FUNASR_PUNC_RESULT*)p_result)->msg = punc_obj->AddPunc(sz_sentence, ((funasr::FUNASR_PUNC_RESULT*)p_result)->arr_cache);
      }else{
         LOG(ERROR) << "Wrong PUNC_TYPE";
         exit(-1);
      }

      string punc_res = punc_obj->AddPunc(sz_sentence);
      return punc_res;
      return p_result;
   }

   // APIs for Offline-stream Infer
@@ -172,6 +198,11 @@
      funasr::Audio audio(1);
      if (!audio.LoadPcmwav(sz_buf, n_len, &sampling_rate))
         return nullptr;
      funasr::FUNASR_RECOG_RESULT* p_result = new funasr::FUNASR_RECOG_RESULT;
      p_result->snippet_time = audio.GetTimeLen();
      if(p_result->snippet_time == 0){
            return p_result;
        }
      if(offline_stream->UseVad()){
         audio.Split(offline_stream);
      }
@@ -179,8 +210,7 @@
      float* buff;
      int len;
      int flag = 0;
      funasr::FUNASR_RECOG_RESULT* p_result = new funasr::FUNASR_RECOG_RESULT;
      p_result->snippet_time = audio.GetTimeLen();

      int n_step = 0;
      int n_total = audio.GetQueueSize();
      while (audio.Fetch(buff, len, flag) > 0) {
@@ -216,6 +246,11 @@
         LOG(ERROR)<<"Wrong wav extension";
         exit(-1);
      }
      funasr::FUNASR_RECOG_RESULT* p_result = new funasr::FUNASR_RECOG_RESULT;
      p_result->snippet_time = audio.GetTimeLen();
      if(p_result->snippet_time == 0){
            return p_result;
        }
      if(offline_stream->UseVad()){
         audio.Split(offline_stream);
      }
@@ -225,8 +260,6 @@
      int flag = 0;
      int n_step = 0;
      int n_total = audio.GetQueueSize();
      funasr::FUNASR_RECOG_RESULT* p_result = new funasr::FUNASR_RECOG_RESULT;
      p_result->snippet_time = audio.GetTimeLen();
      while (audio.Fetch(buff, len, flag) > 0) {
         string msg = (offline_stream->asr_handle)->Forward(buff, len, flag);
         p_result->msg+= msg;
@@ -277,6 +310,15 @@
      return p_result->msg.c_str();
   }

   _FUNASRAPI const char* CTTransformerGetResult(FUNASR_RESULT result,int n_index)
   {
      funasr::FUNASR_PUNC_RESULT * p_result = (funasr::FUNASR_PUNC_RESULT*)result;
      if(!p_result)
         return nullptr;

      return p_result->msg.c_str();
   }

   _FUNASRAPI vector<std::vector<int>>* FsmnVadGetResult(FUNASR_RESULT result,int n_index)
   {
      funasr::FUNASR_VAD_RESULT * p_result = (funasr::FUNASR_VAD_RESULT*)result;
@@ -295,6 +337,14 @@
      }
   }

   _FUNASRAPI void CTTransformerFreeResult(FUNASR_RESULT result)
   {
      if (result)
      {
         delete (funasr::FUNASR_PUNC_RESULT*)result;
      }
   }

   _FUNASRAPI void FsmnVadFreeResult(FUNASR_RESULT result)
   {
      funasr::FUNASR_VAD_RESULT * p_result = (funasr::FUNASR_VAD_RESULT*)result;