TRANSFORMERS

LIBRARY

AI工程师必备的7个开发框架

我至今仍记得那个夜晚，我意识到自己一直以来都在走弯路。这七个框架彻底改变了我构建人工智能系统的方式。

MODEL-ZOO

Gemma 3 270M本地微调指南

Gemma 3 270M是一个超高效的本地AI模型。今天，让我们学习如何微调这个模型，让它在下棋和预测下一步动作方面变得非常聪明。

MODEL-ZOO

用Unsloth微调Gemma-3

当大家都在竞相构建基于 ChatGPT 的应用程序时，精明的开发人员正在悄悄发现这个新轻量级 Gemma-3 的微调能力，这是一个隐藏的宝石，可以将通用人工智能转化为你的专业数字专家。

MODEL-ZOO

VPTQ低位LLM量化算法

在 MMLU 等任务上，使用 VPTQ 的 2 位量化几乎实现了与原始 16 位模型相当的性能。此外，它能够在单个 GPU 上运行 Llama 3.1 405B，同时使用的内存比 70B 模型少！

MODEL-ZOO

蒸馏DeepSeek-R1到自己的模型

在本博客中，我们将介绍如何使用LoRA等技术将 DeepSeek-R1 的推理能力蒸馏到较小的模型（如 Microsoft 的 Phi-3-Mini）中。

MODEL-ZOO

复现DeepSeek-R1的顿悟时刻

在这篇博文中，我们想使用群组相对策略优化 (GRPO) 和倒计时游戏重现 DeepSeek-R1 的小“顿悟时刻”。

MODEL-ZOO

DeepSeek LLM微调指南

在本指南中，我们将介绍使用监督微调 (SFT) 和 Hugging Face 数据集对 DeepSeek LLM 进行微调的过程，并提供针对特定领域数据集进行训练的分步代码演示。

MODEL-ZOO

ModernBERT微调实现文本分类

ModernBERT 是最近发布的传统 BERT 模型的改进版本，本文将深入研究针对文本分类任务对 ModernBERT 进行微调。

MODEL-ZOO

PaliGemma2微调优化图像理解

通过使用自定义数据集（例如知名的 VQA）对 PalliGema2 进行微调，可以在高度特定的任务上实现最先进的性能，以连续且可扩展的方式弥合文本和视觉理解之间的差距。

TOOL

MLflow大模型部署指南

在本博客中，我们将介绍如何使用自定义 Python 函数 (pyfunc) 使用 MLflow 部署大型语言模型 (LLM)，该函数允许我们处理具有特殊要求的模型。

MODEL-ZOO

Llama3微调优化关系提取

在 Llama3–70B 的帮助下，我们构建了一个旨在进行关系提取的监督微调数据集。然后，我们使用该数据集对 Llama3–8B 进行微调，以增强其关系提取能力。

MODEL-ZOO

StarCoder私有代码库微调

在本文中，我们将展示如何在私有代码库上微调StarCoder，以增强其上下文感知能力并提高模型对组织需求的实用性。