关于蒸馏，真的会对差不多参数体量的模型性能有很大提升吗？

我只能理解用大参数模型蒸馏出小参数模型，可以显著提升小参数模型的能力。

但我一直有个疑问，现在的开源权重模型已经到万亿参数了，就 a 家说的那几亿调用的数据，拿来用真的能对模型训练起到明显的作用吗？