update funasr.text -> funasr.tokenizer fix bug export

游雁

2023-11-23 dc682db808eb5f425f0dbed4c5e7feb0a334955f

 funasr/utils/whisper_utils/tokenizer.py

@@ -5,7 +5,12 @@

import numpy as np
import torch
from transformers import GPT2TokenizerFast
try:
    from transformers import GPT2TokenizerFast
except ImportError:
    raise ImportError(
        "transformers was not installed. Please install transformers first."
        )

LANGUAGES = {
    "en": "english",