跳到正文
事件追踪已归档

Transluce发布微调效果预测缩放律研究

首次报道 最新进展 1 篇报道,1 个来源

事件综述根据 1 篇报道整理,11月7日更新

Transluce 训练不同规模的 Qwen3.5 监督模型,在给定微调数据集、提示词和基座模型回答的条件下预测微调后 Qwen3.5-2B 的回答,发现预测性能随监督模型规模与训练数据量呈幂律提升。 Transluce 称存在两个例外:与被监督模型同源的监督模型表现优于更大模型,且性能存在非零损失下限。研究还显示,预测性能可泛化到更难的分布外数据集。

综述由模型根据报道生成,细节以各篇原文为准。

进展时间线

北京时间,最早在上
  1. TransluceTransluce发布微调效果预测缩放律研究

    阅读这篇报道

全部报道

1 篇,点开看摘要
Transluce 研究微调效果预测的规模定律:监督模型性能随模型与数据规模呈幂律提升Transluce预印本未入选

Transluce 训练不同规模的 Qwen3.5 监督模型,在给定微调数据集、提示词和基座模型回答的条件下预测微调后 Qwen3.5-2B 的回答,发现性能随模型与数据规模呈幂律提升。例外是与被监督模型同源的监督模型表现优于更大模型,且性能存在非零损失下限。研究还显示预测性能可泛化到更难的分布外数据集。

阅读这篇报道