fix loss normalization for ddp training

haoneng.lhn

2023-12-08 ace42e5043be992c3a324fc637ba0594f10ad3b6

1
2
3
4
5
6
7
8
9
10
11
12
e.g.    for example
dr.    doctor
mr.    mister
mrs.    misses
st.    saint
7-eleven    seven eleven
es3    e s three
s&p    s and p
ASAP    a s a p
AT&T    a t and t
LLP    l l p
ATM    a t m