| | |
| | | - 配置2: (X86,计算型),16核vCPU,内存32G,单机可以支持大约64路的请求 |
| | | - 配置3: (X86,计算型),64核vCPU,内存128G,单机可以支持大约200路的请求 |
| | | |
| | | 详细性能测试报告([点击此处](./benchmark_onnx_cpp.md)) |
| | | |
| | | 云服务厂商,针对新用户,有3个月免费试用活动,申请教程([点击此处](./aliyun_server_tutorial.md)) |
| | | |
| | | ## 快速上手 |
| | | |
| | | ### 服务端启动 |
| | | |
| | | `注意`:一键部署工具,过程分为:安装docker、下载docker镜像、启动服务。如果用户希望直接从FunASR docker镜像启动,可以参考开发指南([点击此处](./SDK_advanced_guide_offline_zh.md)) |
| | | |
| | | 下载部署工具`funasr-runtime-deploy-offline-cpu-zh.sh` |
| | | |
| | | ```shell |
| | | curl -O https://raw.githubusercontent.com/alibaba-damo-academy/FunASR/main/funasr/runtime/deploy_tools/funasr-runtime-deploy-offline-cpu-zh.sh; |
| | | # 如遇到网络问题,中国大陆用户,可以用个下面的命令: |
| | | # 如遇到网络问题,中国大陆用户,可以使用下面的命令: |
| | | # curl -O https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/shell/funasr-runtime-deploy-offline-cpu-zh.sh; |
| | | ``` |
| | | |
| | | 执行部署工具,在提示处输入回车键即可完成服务端安装与部署。目前便捷部署工具暂时仅支持Linux环境,其他环境部署参考开发指南([点击此处](./SDK_advanced_guide_zh.md)) |
| | | 执行部署工具,在提示处输入回车键即可完成服务端安装与部署。目前便捷部署工具暂时仅支持Linux环境,其他环境部署参考开发指南([点击此处](./SDK_advanced_guide_offline_zh.md)) |
| | | ```shell |
| | | sudo bash funasr-runtime-deploy-offline-cpu-zh.sh install --workspace /root/funasr-runtime-resources |
| | | ``` |
| | | |
| | | ### 客户端测试与使用 |
| | | |
| | | 运行上面安装指令后,会在/root/funasr-runtime-resources(默认安装目录)中下载客户端测试工具目录samples, |
| | | 运行上面安装指令后,会在/root/funasr-runtime-resources(默认安装目录)中下载客户端测试工具目录samples(手动下载,[点击此处](https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/sample/funasr_samples.tar.gz)), |
| | | 我们以Python语言客户端为例,进行说明,支持多种音频格式输入(.wav, .pcm, .mp3等),也支持视频输入(.mp4等),以及多文件列表wav.scp输入,其他版本客户端请参考文档([点击此处](#客户端用法详解)) |
| | | |
| | | ```shell |
| | | python3 wss_client_asr.py --host "127.0.0.1" --port 10095 --mode offline --audio_in "../audio/asr_example.wav" --output_dir "./results" |
| | | python3 funasr_wss_client.py --host "127.0.0.1" --port 10095 --mode offline --audio_in "../audio/asr_example.wav" |
| | | ``` |
| | | |
| | | ## 客户端用法详解 |
| | |
| | | 若想直接运行client进行测试,可参考如下简易说明,以python版本为例: |
| | | |
| | | ```shell |
| | | python3 wss_client_asr.py --host "127.0.0.1" --port 10095 --mode offline --audio_in "../audio/asr_example.wav" --output_dir "./results" |
| | | python3 funasr_wss_client.py --host "127.0.0.1" --port 10095 --mode offline --audio_in "../audio/asr_example.wav" |
| | | ``` |
| | | |
| | | 命令参数说明: |
| | |
| | | --port 10095 部署端口号 |
| | | --mode offline表示离线文件转写 |
| | | --audio_in 需要进行转写的音频文件,支持文件路径,文件列表wav.scp |
| | | --output_dir 识别结果保存路径 |
| | | --thread_num 设置并发发送线程数,默认为1 |
| | | --ssl 设置是否开启ssl证书校验,默认1开启,设置为0关闭 |
| | | ``` |
| | | |
| | | ### cpp-client |
| | |
| | | --server-ip 为FunASR runtime-SDK服务部署机器ip,默认为本机ip(127.0.0.1),如果client与服务不在同一台服务器,需要改为部署机器ip |
| | | --port 10095 部署端口号 |
| | | --wav-path 需要进行转写的音频文件,支持文件路径 |
| | | --thread_num 设置并发发送线程数,默认为1 |
| | | --ssl 设置是否开启ssl证书校验,默认1开启,设置为0关闭 |
| | | ``` |
| | | |
| | | ### Html网页版 |
| | |
| | | sudo bash funasr-runtime-deploy-offline-cpu-zh.sh stop |
| | | ``` |
| | | |
| | | ### 释放FunASR服务 |
| | | |
| | | 释放已经部署的FunASR服务。 |
| | | ```shell |
| | | sudo bash funasr-runtime-deploy-offline-cpu-zh.sh remove |
| | | ``` |
| | | |
| | | ### 重启FunASR服务 |
| | | |
| | | 根据上次一键部署的设置重启启动FunASR服务。 |
| | |
| | | sudo bash funasr-runtime-deploy-offline-cpu-zh.sh update [--host_port | --docker_port] <port number> |
| | | sudo bash funasr-runtime-deploy-offline-cpu-zh.sh update [--decode_thread_num | --io_thread_num] <the number of threads> |
| | | sudo bash funasr-runtime-deploy-offline-cpu-zh.sh update [--workspace] <workspace in local> |
| | | sudo bash funasr-runtime-deploy-offline-cpu-zh.sh update [--ssl] <0: close SSL; 1: open SSL, default:1> |
| | | |
| | | e.g |
| | | sudo bash funasr-runtime-deploy-offline-cpu-zh.sh update --decode_thread_num 32 |
| | |
| | | |
| | | ## 服务端启动过程配置详解 |
| | | |
| | | ##### 选择FunASR Docker镜像 |
| | | ### 选择FunASR Docker镜像 |
| | | 推荐选择1)使用我们的最新发布版镜像,也可选择历史版本。 |
| | | ```text |
| | | [1/5] |
| | |
| | | ``` |
| | | |
| | | |
| | | ##### 设置宿主机提供给FunASR的端口 |
| | | ### 设置宿主机提供给FunASR的端口 |
| | | 设置提供给Docker的宿主机端口,默认为10095。请保证此端口可用。 |
| | | ```text |
| | | [2/5] |
| | |
| | | The port in Docker for FunASR server is 10095 |
| | | ``` |
| | | |
| | | ### 设置SSL |
| | | |
| | | 默认开启SSL校验,如果需要关闭,可以在启动时设置 |
| | | ```shell |
| | | sudo bash funasr-runtime-deploy-offline-cpu-zh.sh --ssl 0 |
| | | ``` |
| | | |
| | | ## 联系我们 |
| | | |
| | | 在您使用过程中,如果遇到问题,欢迎加入用户群进行反馈 |
| | | |
| | | |
| | | | 钉钉用户群 | 微信 | |
| | | |:----------------------------------------------------------------------------:|:-----------------------------------------------------:| |
| | | | <div align="left"><img src="../../../docs/images/dingding.jpg" width="250"/> | <img src="../../../docs/images/wechat.png" width="232"/></div> | |
| | | |
| | | |
| | | ## 视频demo |
| | | |