ServiceNow 发布 AutoSynthData:面向企业智能体的训练数据自动生成框架
ServiceNow CoreAI 推出 AutoSynthData,利用目标模型的失败案例和更强教师的成功轨迹,自动识别能力缺口并生成、验证用于后训练的新任务。
推荐理由:ServiceNow CoreAI 团队分享了 AutoSynthData 框架,通过模型失败诊断与教师验证生成企业级智能体训练数据,提供了从能力缺口到高质量合成数据集的完整工程路径。
ServiceNow CoreAI 推出 AutoSynthData,利用目标模型的失败案例和更强教师的成功轨迹,自动识别能力缺口并生成、验证用于后训练的新任务。
推荐理由:ServiceNow CoreAI 团队分享了 AutoSynthData 框架,通过模型失败诊断与教师验证生成企业级智能体训练数据,提供了从能力缺口到高质量合成数据集的完整工程路径。
Allen AI 发布 Olmo-core 3,这是一套专为扩展混合专家(MoE)模型训练而重新设计的开源基础设施,旨在支持万亿参数规模并保持计算效率。该框架将底层并行策略从完全分片数据并行(FSDP)切换为基于分布式数据并行(DDP)的系统,在初步测试中使 470 亿参数 MoE 模型的吞吐量提升了约 2.7 倍。
NVIDIA 指出随着语言模型规模扩大,密集架构的训练与推理成本日益高昂。混合专家(MoE)架构通过激活少量子网络来处理每个 token,为生物基础模型提供了更高效的扩展路径。
作者基于 Surya Narreddi 的项目,使用 TRL 和 OpenEnv 在 Hugging Face 上完整复现了通过强化学习训练大语言模型编写 p5.brush JavaScript 代码以生成水彩画的过程。
推荐理由:完整开源了用强化学习让模型画水彩的复现方案,包含环境搭建、奖励设计和训练细节。