zhifu gao
2024-05-16 d3da0760a5f9cdd92ec8159f8d829c4d066afbf2
funasr/models/rwkv_bat/rwkv.py
@@ -76,6 +76,7 @@
        x = x + self.dropout_ffn(ffn)
        return x, state
class RWKVDecoderLayer(torch.nn.Module):
    """RWKV module.