aishell example

游雁

2024-02-19 ce4235b1c83752841a8c3506da28f08607b56361

 funasr/tokenizer/char_tokenizer.py

@@ -3,6 +3,7 @@
from typing import List
from typing import Union
import warnings
import re

from funasr.tokenizer.abs_tokenizer import BaseTokenizer
from funasr.register import tables
@@ -14,6 +15,8 @@
        non_linguistic_symbols: Union[Path, str, Iterable[str]] = None,
        space_symbol: str = "<space>",
        remove_non_linguistic_symbols: bool = False,
      split_with_space: bool = False,
      seg_dict: str = None,
        **kwargs,
    ):
        super().__init__(**kwargs)
@@ -31,6 +34,11 @@
        else:
            self.non_linguistic_symbols = set(non_linguistic_symbols)
        self.remove_non_linguistic_symbols = remove_non_linguistic_symbols
      self.split_with_space = split_with_space
      self.seg_dict = None
      if seg_dict is not None:
         self.seg_dict = load_seg_dict(seg_dict)
	

    def __repr__(self):
        return (
@@ -41,6 +49,12 @@
        )

    def text2tokens(self, line: Union[str, list]) -> List[str]:
		
      if self.split_with_space:
         tokens = line.strip().split(" ")
         if self.seg_dict is not None:
            tokens = seg_tokenize(tokens, self.seg_dict)
      else:
        tokens = []
        while len(line) != 0:
            for w in self.non_linguistic_symbols:
@@ -60,3 +74,34 @@
    def tokens2text(self, tokens: Iterable[str]) -> str:
        tokens = [t if t != self.space_symbol else " " for t in tokens]
        return "".join(tokens)


def load_seg_dict(seg_dict_file):
   seg_dict = {}
   assert isinstance(seg_dict_file, str)
   with open(seg_dict_file, "r", encoding="utf8") as f:
      lines = f.readlines()
      for line in lines:
         s = line.strip().split()
         key = s[0]
         value = s[1:]
         seg_dict[key] = " ".join(value)
   return seg_dict

def seg_tokenize(txt, seg_dict):
   pattern = re.compile(r'^[\u4E00-\u9FA50-9]+$')
   out_txt = ""
   for word in txt:
      word = word.lower()
      if word in seg_dict:
         out_txt += seg_dict[word] + " "
      else:
         if pattern.match(word):
            for char in word:
               if char in seg_dict:
                  out_txt += seg_dict[char] + " "
               else:
                  out_txt += "<unk>" + " "
         else:
            out_txt += "<unk>" + " "
   return out_txt.strip().split()