c++ grpc&onnxruntime support multi threads

lyblsgo

2023-04-11 6e37612b61094e0ab08b38d35f588c2b17eae267

 funasr/runtime/grpc/paraformer_server.h

@@ -15,7 +15,7 @@
#include <chrono>

#include "paraformer.grpc.pb.h"
#include "librapidasrapi.h"
#include "libfunasrapi.h"


using grpc::Server;
@@ -35,7 +35,7 @@
{
    std::string msg;
    float  snippet_time;
}RPASR_RECOG_RESULT;
}FUNASR_RECOG_RESULT;


class ASRServicer final : public ASR::Service {
@@ -45,6 +45,6 @@
  public:
    ASRServicer(const char* model_path, int thread_num, bool quantize);
    grpc::Status Recognize(grpc::ServerContext* context, grpc::ServerReaderWriter<Response, Request>* stream);
    RPASR_HANDLE AsrHanlde;
    FUNASR_HANDLE AsrHanlde;
   
};