fix loss normalization for ddp training

haoneng.lhn

2023-12-07 4152cf4615e234b9892703a8e088cdd51937fc13

1
2
3
4
5
6
7
8
9
10
11
12
chez    @
at    @
à    @
arobase    @
point    .
barre oblique    /
tiret    -
tiret bas    _
souligné    _
sous-tiret    _
blanc souligné    _
underscore    _