fix loss normalization for ddp training

haoneng.lhn

2023-12-08 ace42e5043be992c3a324fc637ba0594f10ad3b6

1
2
3
4
5
6
7
8
9
.com    punkt com
.uk    punkt uk
.fr    punkt fr
.net    dot net
.br    punkt br
.in    punkt in
.ru    punkt ru
.de    punkt de
.it    punkt it