大多数人以为水印意味着在内容中塞入隐藏代码，几个不可见字符或鬼鬼祟祟的空白，像条形码一样藏进去。Claude水印并不是那样工作的。

Kimi K3 的混合线性注意力能够经受住前沿规模训练的考验，并展现出强大的长程行为表现，同时大幅减少了导致持久化智能体成本高昂的缓存增长。

小而智能，还很快

AI生成的代码正在推动工程团队采用更强的规约、证明工具和分层保证机制。

我们是否有可能以100%的确定性知道某件事？

没有人编写这些规则。梯度下降自己找到了它们——一个隐藏的三角算法、一个自学的复制电路，以及一个从未有人绘制过的游戏棋盘，并将它们留在了权重中，研究人员现在可以将它们读出来。这里有三个真实的发现，其中两个是我从零开始复制的。

解密LLM运行时：从零开始构建自定义C++/CUDA推理引擎的教程，了解裸机AI实际如何工作，并在途中遇到同步错误。

模块逐一讲解语言模型如何真正工作和构建（附代码）

一个从零开始的RL定价引擎，一个由心理驱动的购物者模拟群体，以及最终击败手工调整启发式引擎的训练之旅。

推测解码是机器学习中罕见的特性——在不损失输出质量的情况下实现加速。本文将介绍其工作原理，以及EAGLE-3如何将其推向极致。

在这篇博文中，我将解释ROC曲线展示了什么，AUC的含义，以及如何正确解读和使用它们。

在这篇帖子中，我将解释这项更新解决的缓存复用问题、为什么当前开源 LLM 模型让回退（rewinding）变得更困难，以及新的磁盘-backed 缓存是如何工作的。

学习如何掌握 XGBoost、CatBoost 和 LightGBM 等提升决策树模型的贝叶斯超参数优化，同时防止过拟合并提高模型泛化能力。

在不使用任何模块从零探索和构建 LLM 的过程中，我从最低但非常重要的层级开始——基于字符的分词。

令人不安的事实是，一些OCR系统看起来比实际更聪明，因为语言帮助它们填补了空白。 但当页面不再可预测时，真正的视觉阅读就变得难以伪造。

如何通过真实代码理解现代LLM的架构——从nanoGPT（300行代码，忠实还原2019年论文中的GPT-2）开始，逐步走过导致LLaMA 3的四个刻意变更。每个替换都附有技术动机、代码差异和部署运营影响。

本章涵盖多头注意力、多查询注意力、分组查询注意力和多头潜在注意力——现代LLM如何管理生成文本的内存成本的演进。