ALGORITHM
Mamba 解密
注意力并非你所需要的一切。事实证明,有时候你需要一条蛇。
ALGORITHM
注意力并非你所需要的一切。事实证明,有时候你需要一条蛇。
ALGORITHM
Mamba-3不仅仅是增量改进。它反映了一个更深层的转变——转向能够在现实世界系统中大规模运行的推理优化模型。
ALGORITHM
我打赌还有另一种新架构等待发现,其带来的增益将与 Transformer 相对于 LSTM 的提升一样大。
AI
模型不再等待你微调它们。它们自己在做。
INDUSTRY
上下文学习(ICL)对于答案或答案片段已经存在于某处的问题是足够的。但对于需要真正发现的问题(如新数学)、对抗性场景(如安全),或者知识过于隐晦而无法用语言表达的情况,有一个强有力的论点是,模型需要一种在部署后将知识和经验直接更新到参数中的方法。
INDUSTRY
科技领域的顶级思想家对2026年进行了展望。今年的贡献者来自 Applied Intuition、Instacart 和 NVIDIA 等公司的创始人,Canva 和 OpenAI 等公司的领导者,以及 a16z、Emergence 和 USV 等公司的风险投资家。
JOB MARKET
市场已经变了。"会Python"现在只是入场券,不是竞争优势。以下是两个月面试、拒绝和几个令人意外的offer的真实数据。
RAG
构建一个真正的音视频RAG系统曾是转写管道的噩梦。Google的新多模态嵌入模型让它变得异常简单……
APPLICATION
在建议任何人自托管LLM之前,我会先推荐以下几项措施。
TOOL
对于前端开发者来说,HyperFrames 不像是在学习一款视频编辑器。它更像是用熟悉的工程工具来解决一个动效问题。这比我见过的大多数代码驱动的视频系统都要自然得多。
MODEL-ZOO
两个中国开源模型目前占据全球 SWE-Bench Pro 排行榜榜首:Kimi K2.6 为 58.6%,GLM-5.1 为 58.4%。从纸面上看它们打平了。我花了 18 小时让两个模型通过相同的 15 个生产编程任务。结果发现 0.2 分的差距是整个对比中最小的差距。
SIDE HUSTLE
无聊就是壁垒。利用它。