Tagged

LLM

A collection of 126 posts

APPLICATION

LLM原生应用开发指南

在过去两年中，我帮助组织利用LLMs构建创新应用。通过这些经验，我开发了一套经过实战检验的方法来创建创新解决方案，并在本文中分享。

APPLICATION

Andrej Karpathy：LLM使用指南

AI科学家Andrej Karpathy更多地讨论了LLM的实际应用，而没有深入技术细节。最适合非数据科学家。

LIBRARY

6个最好用的LLM应用开发框架

在开发LLM应用和MAS时，我们需要验证LLM输出，监控我们的代理，并与各种工具和服务集成。本文将分享一些用于构建这类应用的有用工具和库。

APPLICATION

金融分析多智能体系统

当我们构建QuantJourney时——这是为零售投资者和量化分析师提供的最全面框架时，我们相信投资者需要上下文感知的基于GPT的可适应系统，而不仅仅是提供原始数据。

APPLICATION

AI驱动的投资平台

当我更深入地进入投资世界时，我发现了一个改变游戏规则的东西：像Gemini和ChatGPT这样的AI工具。突然间，我可以比以往任何时候都更高效地进行深入的定性和定量研究。

APPLICATION

LLM驱动的新闻分类和趋势检测

为了在这个高度竞争的环境中不仅保持竞争力，而且找到新的竞争优势机会，公司强烈激励尽早发现相关的新兴主题和趋势，以制定适当的未来应对策略。

MODEL-ZOO

VPTQ低位LLM量化算法

在 MMLU 等任务上，使用 VPTQ 的 2 位量化几乎实现了与原始 16 位模型相当的性能。此外，它能够在单个 GPU 上运行 Llama 3.1 405B，同时使用的内存比 70B 模型少！

APPLICATION

LLM温度参数简明教程

如果你过去曾与 AI 助手或 LLM（大型语言模型）互动过，可能已经注意到一个名为温度 ( temperature)的参数。

MODEL-ZOO

从零实现2B参数LLM

我们将使用 Pile 数据集从头开始训练一个 20 亿参数的 LLM。结果，我们得到了一个 LLM，它在响应中输出完美的语法和标点符号，较短的上下文有意义，但不是整个响应。

APPLICATION

LLM增强的Web抓取

在网络抓取过程中，通过集成 LLMs 可以在很大程度上优化流程。我们需要从网页获取 HTML 代码，并将其馈送到 LLM，LLM 从中提取出它所指的对象。

APPLICATION

AI代理的架构、工具与实现

代理是扩展LLM能力的程序，使其能够观察、推理并自主行动，使用各种工具完成任务。在本文中，我们将探讨AI代理的世界，涵盖其架构、核心组件以及在实际应用中的实现。

APPLICATION

基于LLM的IoT项目实践

几年前，我曾想过，“我可以使用 Alexa 来管理物理设备吗？”我创建了一个简单的演示项目，向我的业余无线电朋友展示。

APPLICATION

打造智能家居的AI代理

近十年来，我一直在研究智能家居 API。我购买了许多系统，构建了多个版本的集成 API、移动应用程序和聊天机器人，但它们从未完全实现真正的目标——像钢铁侠系列中的 JARVIS 一样的真正的AI驱动的家。

MODEL-ZOO

LLM微调综合指南

训练和微调模型是一项昂贵的苦差事，如果可以的话，你真的应该避免它，把省下的钱花在去阿鲁巴岛或任何你喜欢的度假胜地的旅行上。

APPLICATION

大模型训练/微调硬件指南

在本综合指南中，我们深入研究了训练和微调 LLM 所需的基本硬件设置，从普通的 7B/8B 模型到尖端的 70B 模型，以帮助你实现 AI 抱负。

MODEL-ZOO

PaliGemma2微调优化图像理解

通过使用自定义数据集（例如知名的 VQA）对 PalliGema2 进行微调，可以在高度特定的任务上实现最先进的性能，以连续且可扩展的方式弥合文本和视觉理解之间的差距。

APPLICATION

AI驱动的Web抓取和数据分析

在本指南中，我们将学习如何将网页抓取与人工智能相结合，以构建一个强大的工具，用于免费大规模收集和分析数据。让我们开始吧！

LIBRARY

Stagehand：Web自动化AI框架

Stagehand 是 Playwright 的 AI 继任者，提供三个简单的 API（act、extract 和 observer），为自然语言驱动的 Web 自动化提供构建模块。

TOOL

Unstract零代码AI文档处理平台

Unstract是一个功能强大的基于 AI 的平台，可简化文档处理。本文探讨了 AI 文档处理的来龙去脉，以及 Unstract 如何简化你企业的文档处理需求。

LLM

AI的未来：机械可解释性

我们将首先探索我们如何达到大型语言模型 (LLM) 的现状。接下来，我们将讨论 Amodei 对未来几年世界将如何发展的预测。

APPLICATION

基于多模态LLM的PDF处理管道

我们的管道是一个两步过程。首先将每个页面分割成重要的块并总结每个块。其次对块进行一次索引，然后在每次收到请求时搜索这些块，并在 LLM 上下文中包含每个检索到的块的完整上下文。

APPLICATION

用合成数据构建LLM护栏

随着大型语言模型 (LLM) 越来越受欢迎，一个挑战是确保当用户使用超出其预期目的的查询或请求提示这些模型时，由 LLM 驱动的应用程序不会偏离主题。

APPLICATION

LLM驱动的自然语言界面

自然语言 (NL) 界面使用户能够使用自然语言与系统交互（而不是使用严格的命令语法或使用图形用户界面的按钮和字段）。

APPLICATION

LLM微调实现网络攻击检测

在这篇文章中，我将探讨 LLM 微调在网络安全领域预测任务中的更高级用例。具体来说，我提出了一种使用微调 LLM 进行实时网络攻击检测的机制。

MODEL-ZOO

34个编程大模型综合比较

本文对通过公共 API 提供的顶级 LLM 进行了深入分析。我专注于它们在编码任务中的表现，以 HumanEval 等基准为衡量标准，以及它们在各自的 Elo 分数中反映的实际表现。