21年,悟道”模型的参数规模达到1.75万亿,是GPT-3的10倍,打破了之前由Google Switch Transformer预训练模型创造的1.6万亿参数记录。 同时,它还是首个在100%国产超算上训练的万亿模型。