AI图鉴

AI图鉴首页 › AI 资讯 › 共同训练后:前沿级模型塑造,适合你的方式

共同训练后:前沿级模型塑造,适合你的方式

来源:Together AI · 发布时间:10-19 · 由 AI图鉴每小时自动聚合

列车后开放的LLMs如Qwen,GLM和Kimi进入你拥有的自定义模型,带有SFT或RL. 你写训练圈。 共同管理着艰难的基础设施。

我们正在推出 " 共同培训后 ",这是在我们平台上建立定制模式的新服务,既通过RL提供环境奖励,又通过SFT提供监督数据。 这一服务旨在为您提供灵活而高效的模型塑造,而无需承担沉重的下层负担。

共同开展培训后工作,很容易确定培训周期,同时我们合作优化下方的系统和基础设施,以达到模式质量和培训速度。 现在没有什么能挡住你和独一无二的模特儿

定制模型的价值

2026年,针对你AI工作量的培训定制模式不再是一个特色话题。 公司积极探索降低成本,提高具体任务绩效。 许多AI-native和AI-forward组织不是通过上下文或利用工程来固定模型行为并提高其效率,而是在培训专家agents,以成本和运行时间的一小部分来匹配前沿模型的质量。 除此之外,培训模式本身也会产生更大的自主权和灵活性:由此形成的检查站可以部署在任何地点、进一步完善甚至在当地使用。

在"一起"中,我们希望赋予每个AI开发者以能力,尽可能方便地获得完成任务的最佳模型。 后训练一个伟大的模型需要很多关于数据解析、培训算法和评价协议的迭代。 除此之外,RL的基础设施越来越复杂,在“效率优化”和“阻碍你运行的沉默错误”之间有细线。 可靠和大规模地为大型模型这样做是其自身的一套挑战。

边疆实验室有整个团队解决上述每个问题。 由于同时应对所有挑战是一项巨大的投资,许多可以从培训后受益的公司从来就没有开始,也没有开始和停顿。 集训后处理所有优化和基础设施而不受阻碍,我们前方部署的团队与……合作我们的客户帮助完成端到端的工作流程。 这让每个研究者或领域专家都专注于他们最擅长的,而我们则关注其他的。

一眼看一眼后培训

随着后培训的复杂性继续演变,围绕后培训的工具也应不断演变。 共同后训练为ML开发者提供了一套熟悉的常见抽象,以及对每个实验所使用的资源的控制,同时保证罩下的所有计算都是快速的,成本高效的,最重要的是正确的。

我们建立了我们的服务为您的实验提供最高程度的灵活性。 你可以运行LoRA训练,包括多个共享相同GPU容量的LoRA适配器,以及用于选定型号的全重实验。 与我们的微调服务形成对比的是,"共同训练后"的整个训练循环由你来定义。 您可以使用任何适合您设置的最佳数据、环境或代理工具,并在整个培训过程中添加您需要的任何步骤(如记录或外部基准)。 整个工作流程如下:

所有实验都是在Model Resources上进行的——GPU分配是完全属于你的,而不是与其他人的优先权请求竞争。 每个模型资源可以举办一个或几个培训班,每个培训班对应使用同一基模型的单一实验(例如一组LoRA适配器). 这意味着你得到最好的推出和训练性能,因为你从不与其他用户的请求竞争,执行相同的硬件。 同时,专用的GPU分配意味着可以在适应大型知识密集型任务时运行全重微调,超越LoRA.

一旦分配模型资源并开始会话,就可以执行训练循环的每个步骤。 每期培训班都有一个培训员实例,负责向前/后退步骤和更新权重,以及用于执行政策推出的发电机实例。 对于每一个模型,我们大力优化培训和推出的性能,确保所有操作都快速,在数字上相互配合。 在SFT的情况下,可以以0发电机启动模型资源,以节省成本。 您决定将导师参数发送到生成器的点;我们也支持同步的RL,用于在任何时候都高使用两个组件的GPU,特别是长剂推出。

虽然我们支持一些标准损失(从跨大陆和GRPO到CISPO和DPPO),我们也允许在本地计算一个自定义训练目标,并将其梯度发送给训练员计算更新。

集训后发布与一系列领先的开放量级模型,包括Muse Spark Open,GLM 5.3,Kimi K3,以及Qwen 3.8-27B. 我们将在未来几周扩大选择范围,确保您既能使用能力最高的前沿LLMs,也能使用高效的小型模型。

质量、业绩和效率

下放培训后基础设施的内部权力可能是一项令人生畏的决定。 我们的团队有在复杂的机器学习系统中捕捉无声bug的第一手经验,从推动RL研究的前沿到训练服务过数百万用户的LLMs. 我们理解,最好的培训堆是给你最好的模型,而建设这种基础设施需要在所有组成部分认真实施和共同设计。

由于这些原因,我们把产出模型的质量作为我们开发这项服务的北星。 影响RL结果的问题的一个臭名昭著的例子是训练引擎和推论引擎之间的调和:如果相同的模型重量由于数字不匹配而产生略微不同的输出,整个运行可能表现不佳甚至崩溃。 我们通过培训和推论,利用 " 推出游轮回放 " 和我们关于培训稳定性的研究所推动的先进优化等标准技术,消除许多政策流转来源。

除了模型质量之外,我们还努力使每个运行都尽可能快和高效,因为后训练需要多个迭代:运行完成得越快,成本越低,你得到测试的想法就越多。 RL的大部分时间都花在制作推论上,我们的推出引擎利用同样的优化与我们的服务堆。 对于多转弯的agents,智能缓存和路由将冗余计算最小化,同时保持内存成本的界限。 在训练方面,优化了平行主义和顺序包装,同时加速了SFT和RL两个步骤。

结合后训练,你每个实验大小到它需要的,不付更多。 如果你的实验被推出的货币束缚了你可以要求样本复制品的确切数量 LoRA的几个实验可以共享一个模型资源,因此进行扫描并不意味着为每个设置保留更多的GPU. 我们每GPU分钟花费每个模型资源,然而,由于我们许多优化我们的专用和多LoRA服务堆,培训的总成本下降低于象征性定价当你扩大实验。

培训后优化部署

当培训后试验完成后,也许必须同时运行每个产生的模型,以比较其产出。 我们现在支持多LoRA适配器在专用模型推论中服务:你不是为每次运行开始单独的生产部署,而是可以在方便的时候将适配器互换为单一的GPU部署,帮助你降低服务成本。

最后,将模型转换为生产中最高的吞吐量,意味着它有可能以较低的精度、不同的硬件配置以及不同的内核与推出生成相比执行。 通过算法和系统改进相结合,我们确保每个训练检查站保留服务质量,即使在从多LoRA采样转换为FP4精度的完全性能综合推论后也是如此。

开始

为了开始你训练后的第一次实验安装最新的SDK 并读取文件我们亦提供一些烹饪书籍,这些烹饪本提供了使用GRPO进行标准GSM8K 基准测试培训的例子,将DPO作为自定义损失执行,或者在同一模型资源内培训多个LoRA适配器。 如果你已经有一个使用培训后服务如Tinker API的设置,我们也提供了一种简单的迁移方法。 你可以替换你的剧本中的一行,其他的都可以保持不变:

阅读我们的叮当移民指南学习更多。

AI-本土公司今天如何使用 " 共同培训后 "

在发布之前,我们与一些组织合作,推动定制模式的前沿。 在过去几个月里,我们允许他们尽早获得我们的服务;我们收到的反馈对于开发现在每个人都可以使用的产品来说是宝贵的。 听取各小组本身的意见:

“我们从第一天起就对共同培训后平台有丰富的经验。 高度的控制和灵活性让我们在几个小时内开始进行真正的RL实验。 服务效率很高,使我们能够在同一GPU容量上同时进行5次RL实验。 " 共同研究小组在整个培训过程中是一个杰出的合作者,为我们提供关于模式选择、培训技术、奖励职能和培训效率的反馈。

- Anthony Li,Deel数据科学副主任

“在Jack & Jill,我们建造了两个AI agents:专业的Jack,我们用“共同训练后”来进行训练,登机很简单,他们的团队帮助设计了我们的实验,他们的前方部署的工程师们写了剧本,使我们获得了第一结果。 使用开源模式

— 奥利弗·诺曼德,杰克·吉尔创始工程师

“我们自4月份培训后,随着最新的迭代,无缝自动登机使得快速发布全程代理RL运行变得容易。 实践证明,培训后服务具有特别的直觉性、灵活性和影响力,可以扩大复杂的代理工作量。”

- Adit Jain,研究员,Collinear AI

与培训后共同建设

将前沿模式定制化为可靠、灵活、高效的服务。 下一步是让你好好利用在头8个星期,我们正在提供 " 共同培训后 ",价格降低为每GPU小时9美元,使用B200。 学习如何开始今天的工作

你不必独自行动。 对于想要搭档的公司,我们的前方部署的工程师与你的团队一起工作在训练后的整个生命周期。 他们首先会帮助选择合适的开放模式和 agent 工具,与您合作开发您的数据和培训环境

如果你愿意与Google合作为你的组织训练模式,请随意接触我们。

本文由 AI图鉴自动抓取并翻译,版权归原作者所有;如需查看原文请点下方链接。

相关 AI 工具

1Panel AI 网关

1Panel AI 网关为内部 AI 应用和模型调用提供统一接入入口,支持模型代理、席位管理、用量统计、智能

SiliconFlow

生成式AI计算基础设施平台

AutoResearch

AutoResearch 面向 AI 建模科研,串联文献探索、研究想法、模型实现、GPU 实验、图表整理和论

BigModel

智谱推出的企业级大模型开放平台(MaaS)

相关免费羊毛

Comet

Comet 浏览器送 1 个月 Perplexity Pro

Hyperbolic

注册送 $1 永久免费额度

Kimi 开放平台

新用户实名送 15 元代金券

Leonardo.ai

免费版:每日 150 积分

同源资讯

Meta Muse Spark Open 在Together AI上现场直播

Together AI · 10-15

阅读原文(together.ai)

标题、摘要与正文均来自该信源的公开页面,版权归原作者所有;本站自动聚合与翻译,仅作出处跳转。

← 返回 AI 资讯列表AI工具图鉴首页

返回 AI图鉴首页 · 提交工具 · 商务合作 · 关于本站 · 586 款 AI 工具分类导航 · 每日 AI 热门项目与动态