Together AI 推出后训练服务,支持自定义训练循环
决策简报
Brief- 发生了什么
- Together AI 发布 Together Post-Training 服务,支持通过 SFT 和 RL 在有专属 GPU 分配的环境中训练自定义模型。
- 为什么重要
- GitHub 相关变化会影响地区可用性、合规成本和供应商风险。
- 影响谁
- Qwen
- 建议动作
- 升级或复核变更版本
- 地区可用性
- 暂未验证地区可用性差异。
关键事实
- Together AI 发布 Together Post-Training 服务,支持通过 SFT 和 RL 在有专属 GPU 分配的环境中训练自定义模型。 [src-together]
- 训练循环完全由用户定义、GPU 按分钟计费、多 LoRA 实验可共享同一份算力,这让需要反复迭代 RL 实验的团队不必自建训练基础设施。 [src-together]
由事件证据自动生成。
Together AI 推出 Together Post-Training 服务,用户可通过 SFT 监督数据或 RL 环境奖励构建自定义模型。服务提供 Model Resource(独占 GPU 分配)和 Training Session 两级抽象,每个 Session 包含负责前向/反向与权重更新的 Trainer 实例,以及执行策略 rollouts 的 Generator 实例。支持 LoRA、多 LoRA 适配器共享 GPU,以及部分模型的全权重训练;内置交叉熵、GRPO、CISPO、DPPO 等损失函数,也允许在本地计算自定义损失并把梯度发回 Trainer。首批支持 Muse Spark Open、GLM 5.3、Kimi K3、Qwen 3.8-27B。 定价按 GPU 分钟计费,前八周 B200 优惠价为每 GPU 小时 9 美元。SFT 场景可将 Generator 数量设为 0 以降低开销,多 LoRA 实验共享同一 Model Resource 也让参数扫描不必为每个配置单独预留 GPU。 对做 agentic RL 的团队来说,异步 RL 和针对多轮 rollouts 的缓存与路由优化能减少等待;训练完成后可在单个 GPU 部署中切换多 LoRA 适配器对比效果,并支持把检查点合并为 FP4 精度部署。已有 Tinker API 脚本的用户改一行 import 即可迁移。
摘要依据:已读全文详摘依据上方标注的来源范围整理,内容以原文为准。
来源
- Together AI
Open-model hosting, inference, and fine-tuning infrastructure for builders.
- Together AI
留言
登入后即可留言,和其他 builder 交换实测心得。
还没有留言,抢头香。