add paraformer-16k-en finetune pipeline

北念

2023-10-31 9aa3a4d0226943e5b3d0fee54f697164ec90cfa2

 funasr/utils/whisper_utils/tokenizer.py

@@ -5,7 +5,12 @@

import numpy as np
import torch
from transformers import GPT2TokenizerFast
try:
    from transformers import GPT2TokenizerFast
except ImportError:
    raise ImportError(
        "transformers was not installed. Please install transformers first."
        )

LANGUAGES = {
    "en": "english",