LLM

MODEL-ZOO

VPTQ低位LLM量化算法

在 MMLU 等任务上，使用 VPTQ 的 2 位量化几乎实现了与原始 16 位模型相当的性能。此外，它能够在单个 GPU 上运行 Llama 3.1 405B，同时使用的内存比 70B 模型少！

APPLICATION

LLM温度参数简明教程

如果你过去曾与 AI 助手或 LLM（大型语言模型）互动过，可能已经注意到一个名为温度 ( temperature)的参数。

MODEL-ZOO

从零实现2B参数LLM

我们将使用 Pile 数据集从头开始训练一个 20 亿参数的 LLM。结果，我们得到了一个 LLM，它在响应中输出完美的语法和标点符号，较短的上下文有意义，但不是整个响应。

APPLICATION

LLM增强的Web抓取

在网络抓取过程中，通过集成 LLMs 可以在很大程度上优化流程。我们需要从网页获取 HTML 代码，并将其馈送到 LLM，LLM 从中提取出它所指的对象。

APPLICATION

AI Agent 是什么：架构、工具与实现一次讲清

代理是扩展LLM能力的程序，使其能够观察、推理并自主行动，使用各种工具完成任务。在本文中，我们将探讨AI代理的世界，涵盖其架构、核心组件以及在实际应用中的实现。

APPLICATION

基于LLM的IoT项目实践

几年前，我曾想过，“我可以使用 Alexa 来管理物理设备吗？”我创建了一个简单的演示项目，向我的业余无线电朋友展示。

APPLICATION

打造智能家居的AI代理

近十年来，我一直在研究智能家居 API。我购买了许多系统，构建了多个版本的集成 API、移动应用程序和聊天机器人，但它们从未完全实现真正的目标——像钢铁侠系列中的 JARVIS 一样的真正的AI驱动的家。

MODEL-ZOO

LLM微调综合指南

训练和微调模型是一项昂贵的苦差事，如果可以的话，你真的应该避免它，把省下的钱花在去阿鲁巴岛或任何你喜欢的度假胜地的旅行上。

APPLICATION

大模型训练/微调硬件指南

在本综合指南中，我们深入研究了训练和微调 LLM 所需的基本硬件设置，从普通的 7B/8B 模型到尖端的 70B 模型，以帮助你实现 AI 抱负。

MODEL-ZOO

PaliGemma2微调优化图像理解

通过使用自定义数据集（例如知名的 VQA）对 PalliGema2 进行微调，可以在高度特定的任务上实现最先进的性能，以连续且可扩展的方式弥合文本和视觉理解之间的差距。

APPLICATION

AI驱动的Web抓取和数据分析

在本指南中，我们将学习如何将网页抓取与人工智能相结合，以构建一个强大的工具，用于免费大规模收集和分析数据。让我们开始吧！

LIBRARY

Stagehand：Web自动化AI框架

Stagehand 是 Playwright 的 AI 继任者，提供三个简单的 API（act、extract 和 observer），为自然语言驱动的 Web 自动化提供构建模块。