shixian
2024-12-05 e71546b06d0bddd30adf7edde9db7bee52b42b9f
1
2
3
4
5
6
7
8
9
# method2, inference from local path
from funasr import AutoModel
 
model = AutoModel(
    model="iic/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-pytorch"
)
 
res = model.export(type="onnx", quantize=False, opset_version=13, device='cuda')  # fp32 onnx-gpu
# res = model.export(type="onnx_fp16", quantize=False, opset_version=13, device='cuda')  # fp16 onnx-gpu