MOE

MODEL-ZOO

DeepSeek R1架构和训练过程图解

为了让一切变得简单，我们将使用手绘流程图和简单的计算来帮助从头开始澄清DeeoSeek-R1的核心概念。

MODEL-ZOO

DeepSeek-R1内部工作原理

在这篇文章中，让我们从什么是 DeepSeek-R1 模型开始，深入了解它的内部工作原理。

MODEL-ZOO

专家混合模型 (MoE)快速指南

专家混合 (MoE) 已成为一种流行的提高 LLM 效率的架构组件。在这篇博文中，我们将探讨研究人员在实现专家完美混合的道路上所采取的步骤。

MOEE

MoEE 混合专家嵌入模型

混合专家 (MoE) LLM 可以作为嵌入模型，应用多种以嵌入为重点的任务，而无需进一步微调。