| | |
|---|
| | | |
|---|
| | | | 时间 | 详情 | 镜像版本 | 镜像ID | |
|---|
| | | |------------|---------------|---------------------------------|--------------| |
|---|
| | | | 2024.01.25 | 优化vad数据处理方式，大幅降低峰值内存占用；内存泄漏优化 | funasr-runtime-sdk-en-cpu-0.1.3 | c00f9ce7a195 | |
|---|
| | | | 2024.01.03 | 修复已知的crash问题及内存泄漏问题 | funasr-runtime-sdk-en-cpu-0.1.2 | 0cdd9f4a4bb5 | |
|---|
| | | | 2023.11.08 | runtime结构变化适配 | funasr-runtime-sdk-en-cpu-0.1.1 | 27017f70f72a | |
|---|
| | | | 2023.10.16 | 1.0 发布 | funasr-runtime-sdk-en-cpu-0.1.0 | e0de03eb0163 | |
|---|
| | | |
|---|
| | |
|---|
| | | 通过下述命令拉取并启动FunASR runtime-SDK的docker镜像： |
|---|
| | | ```shell |
|---|
| | | sudo docker pull \ |
|---|
| | | registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-en-cpu-0.1.1 |
|---|
| | | registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-en-cpu-0.1.4 |
|---|
| | | mkdir -p ./funasr-runtime-resources/models |
|---|
| | | sudo docker run -p 10097:10095 -it --privileged=true \ |
|---|
| | | -v $PWD/funasr-runtime-resources/models:/workspace/models \ |
|---|
| | | registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-en-cpu-0.1.1 |
|---|
| | | registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-en-cpu-0.1.4 |
|---|
| | | ``` |
|---|
| | | |
|---|
| | | ### 服务端启动 |
|---|
| | |
|---|
| | | --download-model-dir /workspace/models \ |
|---|
| | | --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \ |
|---|
| | | --model-dir damo/speech_paraformer-large_asr_nat-en-16k-common-vocab10020-onnx \ |
|---|
| | | --punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx > log.out 2>&1 & |
|---|
| | | --punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx > log.txt 2>&1 & |
|---|
| | | |
|---|
| | | # 如果您想关闭ssl，增加参数：--certfile 0 |
|---|
| | | |
|---|
| | |
|---|
| | | --model-dir damo/speech_paraformer-large_asr_nat-en-16k-common-vocab10020-onnx \ |
|---|
| | | --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \ |
|---|
| | | --punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx \ |
|---|
| | | --decoder-thread-num 32 \ |
|---|
| | | --io-thread-num 8 \ |
|---|
| | | --port 10095 \ |
|---|
| | | --certfile ../../../ssl_key/server.crt \ |
|---|
| | | --keyfile ../../../ssl_key/server.key > log.out 2>&1 & |
|---|
| | | --keyfile ../../../ssl_key/server.key > log.txt 2>&1 & |
|---|
| | | ``` |
|---|
| | | **run_server.sh命令参数介绍** |
|---|
| | | ```text |
|---|
| | | --download-model-dir 模型下载地址，通过设置model ID从Modelscope下载模型 |
|---|
| | | --model-dir modelscope model ID 或者 本地模型路径 |
|---|
| | | --quantize True为量化ASR模型，False为非量化ASR模型，默认是True |
|---|
| | | --vad-dir modelscope model ID 或者 本地模型路径 |
|---|
| | | --vad-quant True为量化VAD模型，False为非量化VAD模型，默认是True |
|---|
| | | --punc-dir modelscope model ID 或者 本地模型路径 |
|---|
| | | --punc-quant True为量化PUNC模型，False为非量化PUNC模型，默认是True |
|---|
| | | --itn-dir modelscope model ID 或者 本地模型路径 |
|---|
| | | --port 服务端监听的端口号，默认为 10095 |
|---|
| | | --decoder-thread-num 服务端启动的推理线程数，默认为 8 |
|---|
| | | --io-thread-num 服务端启动的IO线程数，默认为 1 |
|---|
| | | --decoder-thread-num 服务端线程池个数(支持的最大并发路数)， |
|---|
| | | 脚本会根据服务器线程数自动配置decoder-thread-num、io-thread-num |
|---|
| | | --io-thread-num 服务端启动的IO线程数 |
|---|
| | | --model-thread-num 每路识别的内部线程数(控制ONNX模型的并行)，默认为 1， |
|---|
| | | 其中建议 decoder-thread-num*model-thread-num 等于总线程数 |
|---|
| | | --certfile ssl的证书文件，默认为：../../../ssl_key/server.crt，如果需要关闭ssl，参数设置为0 |
|---|
| | | --keyfile ssl的密钥文件，默认为：../../../ssl_key/server.key |
|---|
| | | ``` |
|---|
