funasr1.0 streaming

游雁

2024-01-12 38524b21d9bcbe6c0523a03b24d19326008a9b19

 funasr/tokenizer/build_tokenizer.py

@@ -29,7 +29,7 @@
    delimiter: str = None,
    g2p_type: str = None,
    **kwargs,
) -> AbsTokenizer:
):
    """A helper function to instantiate Tokenizer"""
    if token_type == "bpe":
        if bpemodel is None: