Yabin Li
2023-08-08 b454a1054fadbff0ee963944ff42f66b98317582
refs
用户 Yabin Li <wucong.lyb@alibaba-inc.com>
星期二, 八月 8, 2023 11:17 +0800
提交者 GitHub <noreply@github.com>
星期二, 八月 8, 2023 11:17 +0800
提交b454a1054fadbff0ee963944ff42f66b98317582
目录 7506a1d1b1652cbaf810df1bf2b2a9936e6ea976 目录 | zip | gz
parent 57968c2180bc3217102878246af0a4c6e5a76ff8 查看 | 对比
update online runtime, including vad-online, paraformer-online, punc-online,2pass (#815)

* init

* update

* add LoadConfigFromYaml

* update

* update

* update

* del time stat

* update

* update

* update

* update

* update

* update

* update

* add cpp websocket online 2pass srv

* [feature] multithread grpc server

* update

* update

* update

* [feature] support 2pass grpc cpp server and python client, can change mode to use offline, online or 2pass decoding

* update

* update

* update

* update

* add paraformer online onnx model export

* add paraformer online onnx model export

* add paraformer online onnx model export

* add paraformer online onnxruntime

* add paraformer online onnxruntime

* add paraformer online onnxruntime

* fix export paraformer online onnx model bug

* for client closed earlier and core dump

* support GRPC two pass decoding (#813)

* [refator] optimize grpc server pipeline and instruction

* [refator] rm useless file

* [refator] optimize grpc client pipeline and instruction

* [debug] hanlde coredump when client ternimated

* [refator] rm useless log

* [refator] modify grpc cmake

* Create run_server_2pass.sh

* Update SDK_tutorial_online_zh.md

* Update SDK_tutorial_online.md

* Update SDK_advanced_guide_online.md

* Update SDK_advanced_guide_online_zh.md

* Update SDK_tutorial_online_zh.md

* Update SDK_tutorial_online.md

* update

---------

Co-authored-by: zhaoming <zhaomingwork@qq.com>
Co-authored-by: boji123 <boji123@aliyun.com>
Co-authored-by: haoneng.lhn <haoneng.lhn@alibaba-inc.com>
39个文件已修改
18个文件已添加
1 文件已重命名
8个文件已删除
6385 ■■■■ 已修改文件
.gitignore 3 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/export/export_model.py 21 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/export/models/__init__.py 7 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/export/models/decoder/sanm_decoder.py 155 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/export/models/e2e_asr_paraformer.py 151 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/export/models/encoder/sanm_encoder.py 7 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/export/models/modules/multihead_att.py 8 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/export/models/predictor/cif.py 21 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/docs/SDK_advanced_guide_online.md 8 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/docs/SDK_tutorial_online.md 2 ●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/grpc/CMakeLists.txt 87 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/grpc/Readme.md 220 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/grpc/build.sh 15 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/grpc/paraformer-server.cc 438 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/grpc/paraformer-server.h 88 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/grpc/rebuild.sh 12 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/grpc/run_server.sh 12 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/bin/CMakeLists.txt 16 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/bin/funasr-onnx-2pass-rtf.cpp 310 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/bin/funasr-onnx-2pass.cpp 217 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/bin/funasr-onnx-offline-rtf.cpp 3 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/bin/funasr-onnx-online-asr.cpp 174 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/bin/funasr-onnx-online-rtf.cpp 278 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/bin/funasr-onnx-online-vad.cpp 2 ●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/include/audio.h 34 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/include/com-define.h 21 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/include/funasrruntime.h 22 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/include/model.h 12 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/include/offline-stream.h 6 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/include/tpass-online-stream.h 20 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/include/tpass-stream.h 31 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/audio.cpp 282 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/commonfunc.h 3 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/ct-transformer-online.cpp 9 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/fsmn-vad-online.cpp 7 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/fsmn-vad-online.h 2 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/funasrruntime.cpp 149 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/model.cpp 57 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/paraformer-online.cpp 551 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/paraformer-online.h 111 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/paraformer.cpp 218 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/paraformer.h 66 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/precomp.h 6 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/tpass-online-stream.cpp 29 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/onnxruntime/src/tpass-stream.cpp 87 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/Readme.md 70 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/grpc_client.py 17 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/grpc_main_client.py 128 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/grpc_main_client_mic.py 112 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/grpc_main_server.py 68 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/grpc_server.py 132 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/paraformer_pb2.py 30 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/paraformer_pb2_grpc.py 66 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/proto/paraformer.proto 33 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/requirements.txt 2 ●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/grpc/requirements_client.txt 4 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/onnxruntime/demo_paraformer_online.py 30 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/onnxruntime/funasr_onnx/paraformer_online_bin.py 309 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/python/onnxruntime/funasr_onnx/utils/frontend.py 22 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/websocket/CMakeLists.txt 4 ●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/websocket/funasr-wss-client-2pass.cpp 430 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/websocket/funasr-wss-server-2pass.cpp 419 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/websocket/funasr-wss-server.cpp 2 ●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/websocket/readme.md 12 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/websocket/websocket-server-2pass.cpp 369 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史
funasr/runtime/websocket/websocket-server-2pass.h 148 ●●●●● 对比 | 查看 | 原始文档 | blame | 历史