本地 LLM
Transformers 现在能直接跑 llama.cpp 的 GGUF 量化模型了
本地推理最常用的 GGUF 量化格式,现在可以在 transformers 里直接加载了。Hugging Face 复用 llama.cpp 的 ggml Metal 内核并优化生成循环,在 MacBook Pro M2 Max 上把性能做到接近 llama.cpp——本文完整编译:三行加载代码、OpenAI 兼容服务、实测数字与当前限制。
本地 LLM
本地推理最常用的 GGUF 量化格式,现在可以在 transformers 里直接加载了。Hugging Face 复用 llama.cpp 的 ggml Metal 内核并优化生成循环,在 MacBook Pro M2 Max 上把性能做到接近 llama.cpp——本文完整编译:三行加载代码、OpenAI 兼容服务、实测数字与当前限制。
AI Agent
一个退款工单,9 次工具调用全部合规,数据库终态却是错的。微软 ThinkingBox 用"终态 + 重复 20 次"重新定义智能体评测:121,680 次有效试验中,近八成失败的模型其实"看起来像成功"。本文完整编译:pass@1 / pass@20 / 20/20 的区别、一致性成本,以及失败特征。
本地 LLM
一个 24B 的 MoE 模型,每个 token 只激活 2B 参数,却能在工具调用上超过参数多约 50% 的对手——Liquid AI 的 LFM2.5-24B-A2B 专为"在自己硬件上持续运行智能体"设计。本文完整编译官方发布:架构、五阶段后训练(含 Agentic RL)、16 项基准、端侧与 GPU 速度、以及 transformers / 智能体框架接入。
本地 LLM
想要的小模型不存在,就自己造一个。用 Hugging Face 的 ML Intern 智能体,作者在两天里造了 6 个模型:柑橘病害 VLM、角色 LoRA、相机角度 LoRA、0.8B 口袋改写器、4 步出图模型……总算力约 103 美元。附提示写法与成本表。
AI Agent
上下文是一种有限资源,存在"注意力预算"。本文完整编译 Anthropic 工程博客:有效上下文的解剖(系统提示/工具/示例/历史)、运行时 just-in-time 检索、以及长程任务的压缩、结构化笔记与子智能体架构。
MCP
AI 模型很强,却被数据孤岛困住。MCP 用一个开放标准,把 AI 与数据源、工具的连接从"碎片化集成"变成"一次接入、多端复用"。本文完整编译 Anthropic 发布公告与官方文档:架构、能力、生态与落地。
PLC
通用 AI 为什么写不好 PLC 代码?厂商 Copilot、"工厂级"平台分别适合什么场景?本文完整编译施耐德与 PLCs.ai 的行业分析:规模化危机、8 个结构性差异、横评对比表,以及博途场景的落地路径。
AGENTIC ENGINEERING
我终于让文档工作流跑通了!现在每一次相关变更都会创建一个新的 PR,把改动同步到 README、wiki、Copilot 的 instructions.md 以及 changelog 中。
PLC
我们让 WorkBuddy 通过 TiaLink 操作本机的博途 V19,实现一条 S7-1500 输送线分拣控制程序。
INDUSTRY
在现代 AI 时代,递归自我改进有两条研究路线:弱 RSI 与强 RSI。
ALGORITHM
在这篇综述中,我们将研究近期关于 LLM 代理 RL 训练的工作,并为构建功能完善、性能优越的智能体强化学习系统总结实用的设计原则。
JOB MARKET
构建 AI 智能体的经历让我明白:为什么仅有更好的模型,并不能带来 AI 员工。