TOOL
Unsloth 零成本微调 Qwen3-8B
Unsloth将VRAM使用量减少了70%。这就是为什么你现在可以在免费的Google Colab笔记本上训练Qwen3。
TOOL
Unsloth将VRAM使用量减少了70%。这就是为什么你现在可以在免费的Google Colab笔记本上训练Qwen3。
TOOL
过去几年,训练大型语言模型 (LLM) 就像一个封闭的社区——只有拥有庞大 GPU 集群和数百万美元预算的公司才能进入。
MODEL-ZOO
在本指南中,我们将逐步讲解如何为定制DeepSeek OCR模型,仅需60 个训练步骤即可实现显著的性能提升。
TOOL
我关注NVIDIA的Blackwell架构发布已经有一段时间了,所以当看到Unsloth也加入了对Blackwell的支持时,我决定尝试单个GPU究竟能做到什么程度。
MODEL-ZOO
如果你曾经尝试过微调语言模型,你很可能问过自己和我最初一样的问题:“好吧……我应该选哪个模型?”
MODEL-ZOO
Gemma 3 270M是一个超高效的本地AI模型。今天,让我们学习如何微调这个模型,让它在下棋和预测下一步动作方面变得非常聪明。
APPLICATION
即使是非常强大的LLM也可能很难可靠地完成复杂的多轮代理任务。有趣的是,我们发现使用一种叫做GRPO(群体相对策略优化)的强化学习算法来训练代理可以使它们更加可靠!
MODEL-ZOO
在RidgeRun.ai,我们开始开发自己的小规模、本地运行的函数调用模型,有几个重要的原因。
APPLICATOIN
使用你自己的社交网络评论来微调一个LLM,并在(相对)廉价的硬件上运行所有微调。
MODEL-ZOO
当大家都在竞相构建基于 ChatGPT 的应用程序时,精明的开发人员正在悄悄发现这个新轻量级 Gemma-3 的微调能力,这是一个隐藏的宝石,可以将通用人工智能转化为你的专业数字专家。
APPLICATION
大型语言模型(LLMs)与医疗保健的交叉点带来了令人兴奋的机会,但也带来了独特的挑战。在本教程中,我们将探讨如何使用分组相对策略优化(GRPO)——一种最近由DeepSeek团队引入的有前途的新强化学习技术——来适应阿里巴巴的Qwen-3B模型以用于医学推理。 为什么这很重要: * 🏥 患者安全第一:医学AI中的幻觉可能是危险的。 * 💡 领域专业化:通用LLMs难以处理临床推理。 * ⚡ 效率:我们的3B参数模型可以在消费级GPU上运行。 推理模型如O3和DeepSeek R1在许多具有挑战性的基准测试中显示了前所未有的改进。它们改变了监督微调的趋势,转向实际的强化学习(RL)。我们在深度学习领域的许多突破都来自RL,例如AlphaGo,因为模型能够通过与不同的现实场景互动来学习,而这些场景在监督微调中往往难以提供示例。 如果你想了解更多关于推理模型或更多历史细节,我强烈推荐Maarten的文章[2]。DeepSeek工作的美妙之处在于他们实现了一个实用的框架,用于使用GRPO对LLM进行微调。根据Maarten的文章: 这个算法背后的直觉是,它使所有导致正确或错
MODEL-ZOO
我们采用了一个微小的 0.5B 参数模型,在我们的家庭实验室中向它投入了一些 GRPO,并设法教会它一些相当不错的推理技能。