update tokenizer.h

雾聪

2023-11-09 b0c108279275a5c0011dfcf76b3e725b3263209b

 funasr/utils/whisper_utils/tokenizer.py

@@ -5,7 +5,12 @@

import numpy as np
import torch
from transformers import GPT2TokenizerFast
try:
    from transformers import GPT2TokenizerFast
except ImportError:
    raise ImportError(
        "transformers was not installed. Please install transformers first."
        )

LANGUAGES = {
    "en": "english",