ALGORITHM
传统机器学习与现代AI
“AI”,更具体地说大语言模型/基础模型,是神经网络,这是一个可以追溯到 1943 的机器学习概念,当时由于二战计算挑战(如破译密码),很多基础 AI 研究浮出水面。
ALGORITHM
“AI”,更具体地说大语言模型/基础模型,是神经网络,这是一个可以追溯到 1943 的机器学习概念,当时由于二战计算挑战(如破译密码),很多基础 AI 研究浮出水面。
ALGORITHM
只需要一个 JSON 文件、一个评分系统,以及从零信任开始的纪律,你就能实现自我改进的智能体。
ALGORITHM
暴力搜索的隐藏成本,以及ANN、IVF和HNSW如何将查询时间从100秒降低到10毫秒。
ALGORITHM
通过SFT、RKD和DPO将你的专业形象提炼到小型语言模型(SLM)中。
ALGORITHM
SFT、RLHF、DPO、GRPO、LoRA、PPO、QLoRA、RLVR。这些不是独立的技术。它们是一个单一的进步序列。每个都是因为前一个碰到了瓶颈而被发明出来的。本文完整介绍这个链条,帮助你做出正确选择。
ALGORITHM
一篇通俗易懂的解读,带你了解这项可能:如何在保持精度的同时将 LLM 内存占用降低 6 倍。
ALGORITHM
当我说 "逆向SynthID"时,我指的是这个想法:检测内容中的SynthID水印,以及 从内容中消除SynthID水印。
ALGORITHM
来自纽约大学和其他顶级机构专家的最新研究提出了一种受人类生物学启发的解决方案,称为时序正则化。通过强制AI的内部轨迹变得更加平直,从而使机器人和自主系统更容易规划到达目标的路径。
ALGORITHM
是时候探索为什么CPU和GPU在处理量化数据方面有着根本不同的特性,以及byteshape.com的研究团队如何揭露了量化世界中的一个静默丑闻:某些格式偷偷地为GPU优化,它们会悄悄地破坏你的CPU性能。
ALGORITHM
在这篇博客中,我们将学习和理解GRPO算法与AI智能体的关系,然后创建一个多智能体系统并使用GRPO训练它。
ALGORITHM
彩票假设(LTH)指出,大多数神经网络可以剪枝高达 90% 的参数而不会损失性能。这意味着,与其训练一个庞大而复杂的模型,不如训练一个更小、更高效且性能同样出色的模型。
ALGORITHM
Transformer 架构最初是为解决自然语言处理领域的复杂任务而提出的。然而,我们不能简单地套用标准的Transformer架构,就指望它在所有模态下都能达到最先进的水平。