fix loss normalization for ddp training

haoneng.lhn

2023-12-07 4152cf4615e234b9892703a8e088cdd51937fc13

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
exa    E
péta    P
téra    T
giga    G
méga    M
kilo    k
hecto    h
déca    da
déci    d
centi    c
milli    m
micro    µ
nano    n
pico    p
femto    f
atto    a