TOOL
用Unsloth训练自己的R1推理模型
DeepSeek 的 R1 研究揭示了一个“顿悟时刻”，其中 R1-Zero 通过使用群组相对策略优化 (GRPO) 自主学习分配更多思考时间而无需人工反馈。你就可以使用 Unsloth和Qwen2.5 (1.5B) 在仅 7GB 的 VRAM 上重现 R1-Zero 的“顿悟时刻”。
UNSLOTH
MODEL-ZOO
DeepSeek-R1 671B本地运行指南
原始的 DeepSeek R1 是一个 6710 亿参数的语言模型，由 Unsloth AI 团队进行了动态量化，大小减少了 80%（从 720 GB 减少到 131 GB），同时保持了强大的性能。
MODEL-ZOO
DeepSeek-R1微调指南
在这篇博文中，我们将逐步指导你在消费级 GPU 上使用 LoRA（低秩自适应）和 Unsloth 对 DeepSeek-R1 进行微调。
TOOL
Unsloth大模型微调简明教程
在本文中，我们将介绍使用 Unsloth 库训练和微调语言模型的过程。我们将分解所提供代码的每个部分，解释其功能和用途。
TOOL
Unsloth+Ollama低成本定制LLM
我们将探讨如何利用 Ollama 进行高效的模型部署，深入研究量化的世界，并掌握使用最少资源进行微调的艺术。
MODEL-ZOO
视觉语言模型LoRA微调指南
在本文中，我们将探讨如何使用Unsloth、WandB等强大的工具组合来微调 Meta AI 的 Llama-3.2–11B-Vision 模型，并使用vLLM进行模型服务和推理。
MODEL-ZOO
Llama 3.2 Vision医学图像微调
今天，我将带你了解一个令人兴奋的项目：微调 Meta 的 Llama 3.2 Vision 模型来分析放射图像。
MODEL-ZOO
Qwen2.5-Coder 模型微调教程
本文介绍如何在Continue代码助手的开发数据记录基础上，使用 Unsloth 微调Qwen2.5-Coder 7B模型，以完善其代码自动完成能力。
MODEL-ZOO
Llama-3.1微调实现函数调用
本文探讨如何使用 Unsloth微调 Llama-3.1–8B 模型以实现函数调用功能，并使用 vLLM 进行高性能模型推理和服务。
LIBRARY
Unsloth：大模型微调利器
训练时间一直是微调的最大障碍之一。这就是 Unsloth 的用武之地，声称可以使 LLM 训练速度提高 30 倍。
TOOL
15个顶级LLMOps工具
我们已经不再局限于改进大型语言模型 (LLM)，而是专注于使用它们来创建有助于企业的 AI 应用程序。这就是大型语言模型操作 (LLMOps) 工具发挥作用的地方，它简化了创建完全自动化系统的过程，用于构建和部署 LLM 解决方案投入生产。 在本文中，我们将介绍不同的工具，如 LLM API、微调框架、实验跟踪工具、LLM 集成生态系统、向量搜索工具、模型服务框架、部署平台和可观察性工具。每种工具都各有特色，旨在解决与 LLM 相关的特定问题。 1、什么是 LLMOps？ LLMOps 是一个新兴领域，专注于生产环境中大型语言模型的运营管理。它本质上是专门针对语言和其他多模态模型的 MLOps（机器学习操作）。 LLMOps 涵盖大型语言模型的整个生命周期，包括数据收集、模型训练或微调、测试和验证、集成、部署、优化、监控和维护以及协作。通过构建项目和自动化流程，LLMOps 可帮助你减少错误并有效扩展 AI