嘉渊
2023-05-31 af3f3dd5fd82823eaf64c0523b8c1b0fc79a8d8e
funasr/models/target_delay_transformer.py
@@ -6,14 +6,15 @@
import torch.nn as nn
from funasr.modules.embedding import SinusoidalPositionEncoder
#from funasr.models.encoder.transformer_encoder import TransformerEncoder as Encoder
from funasr.punctuation.sanm_encoder import SANMEncoder as Encoder
#from funasr.modules.mask import subsequent_n_mask
from funasr.train.abs_model import AbsPunctuation
from funasr.models.encoder.sanm_encoder import SANMEncoder as Encoder
class TargetDelayTransformer(AbsPunctuation):
class TargetDelayTransformer(torch.nn.Module):
    """
    Author: Speech Lab of DAMO Academy, Alibaba Group
    CT-Transformer: Controllable time-delay transformer for real-time punctuation prediction and disfluency detection
    https://arxiv.org/pdf/2003.01309.pdf
    """
    def __init__(
        self,
        vocab_size: int,