暴力搜索的隐藏成本，以及ANN、IVF和HNSW如何将查询时间从100秒降低到10毫秒。

通过SFT、RKD和DPO将你的专业形象提炼到小型语言模型（SLM）中。

SFT、RLHF、DPO、GRPO、LoRA、PPO、QLoRA、RLVR。这些不是独立的技术。它们是一个单一的进步序列。每个都是因为前一个碰到了瓶颈而被发明出来的。本文完整介绍这个链条，帮助你做出正确选择。

是时候探索为什么CPU和GPU在处理量化数据方面有着根本不同的特性，以及byteshape.com的研究团队如何揭露了量化世界中的一个静默丑闻：某些格式偷偷地为GPU优化，它们会悄悄地破坏你的CPU性能。

彩票假设（LTH）指出，大多数神经网络可以剪枝高达 90% 的参数而不会损失性能。这意味着，与其训练一个庞大而复杂的模型，不如训练一个更小、更高效且性能同样出色的模型。

我们可以让标准的、非前沿的LLM比推理模型更好，而无需任何额外的训练。

当今人工智能领域最大的谎言是“自我修正”证明了大型语言模型（LLM）能够推理。但事实并非如此。