Baidu otwiera ERNIE 5.5 Flash Base: model 280B bez post-treningu i z ostrzejszą licencją
Baidu opublikowało wagi ERNIE-5.5-Flash-Base, rzadkiego modelu MoE z 280 mld parametrów, z czego 14 mld jest aktywnych na token. To surowy checkpoint po pre-treningu, a licencja jest bardziej restrykcyjna niż przy ERNIE 4.5.
Read More