缩放定律
-
Meta FAIR 发布新缩放定律 Skaling:挑战 Chinchilla,计算成本可降 10 倍
Meta FAIR 发布新缩放定律 Skaling,直指 DeepMind Chinchilla 忽略了模型规模与数据量之间的耦合关系。新定律在 76% 测试场景中预测更准,中位精度提升 2.2 倍,并可将训练规划计算成本削减约 10 倍。
Meta FAIR 发布新缩放定律 Skaling,直指 DeepMind Chinchilla 忽略了模型规模与数据量之间的耦合关系。新定律在 76% 测试场景中预测更准,中位精度提升 2.2 倍,并可将训练规划计算成本削减约 10 倍。