shixian.shi
2024-01-12 0c75e62c6e06e056ca9671bd6f8c9b0c5738fd51
funasr/tokenizer/sentencepiece_tokenizer.py
@@ -9,7 +9,7 @@
class SentencepiecesTokenizer(AbsTokenizer):
    def __init__(self, model: Union[Path, str]):
    def __init__(self, model: Union[Path, str], **kwargs):
        self.model = str(model)
        # NOTE(kamo):
        # Don't build SentencePieceProcessor in __init__()