update data2vec pretrain: add clipping

jmwang66

2023-02-06 9befa9e508d5ca95cb5faa29cd20d23e04e525c9

1
2
3
4
5
6
7
8
9
10
11
12
e.g.    for example
dr.    doctor
mr.    mister
mrs.    misses
st.    saint
7-eleven    seven eleven
es3    e s three
s&p    s and p
ASAP    a s a p
AT&T    a t and t
LLP    l l p
ATM    a t m