A collection of 191 posts
vLLM 是一个开源项目,允许你进行 LLM 推理和服务。本文介绍如何配置和运行 vLLM 以在生产中提供开源大模型的推理服务。
Opik 是一个用于评估、测试和监控 LLM 应用程序的开源平台,由 Comet 构建。
训练时间一直是微调的最大障碍之一。这就是 Unsloth 的用武之地,声称可以使 LLM 训练速度提高 30 倍。
Crawl4AI 是一个创新的开源 Python 库,旨在简化网络爬虫和数据提取,使其成为开发人员和人工智能爱好者的必备工具。
要从非结构化的法律合同文本中提取结构化数据,应该使用OpenAI的JSON模式还是结构化输出?
Ray 是一个起源于伯克利大学的开源分布式计算框架,用于简单地生产和扩展 Python 机器学习工作负载。
DSPy 是一个 LLM 框架,专门设计用于以编程方式改进你的 LLM 的提示和签名。本文将探讨如何使用 DSPy 提高一个AI代理的性能。
在本文中,我们将探讨 Gemini API 提供的功能、如何免费开始使用 Gemini,以及更高级的用例,例如微调。
NVIDIA cuGraph采用GPU加速图分析,可以将图分析速度提高多达 500 倍。
LLM 框架的主要目的是促进各种 AI 驱动任务的顺利运行,这些任务可能包括从检索信息和微调模型到无缝执行一系列操作。
Docling是IBM 深度搜索团队的 MIT 许可文档提取 Python 库,可轻松快速地解析文档并将其导出为所需格式。
GraphRAG 的关键创新在于它将信息结构化为基于图形的格式,并使用社区检测来创建更具上下文感知的响应。
LlamaParse 是由 LlamaIndex 开发的 GenAI 原生文档解析平台,旨在提高 LLM 驱动应用程序的数据质量
API使大型语言模型 (LLM) 能够无缝集成到不同的软件生态系统中。本文将探讨用于访问不同 LLM 的8个最领先的 API提供平台。
Swarm 来自 OpenAI Solutions 团队,旨在让使用多个 AI 智能体变得简单直观。
AI Agent开发库可帮助你构建可以自动执行任务的应用程序,本文回顾其中最受欢迎的7个Agent开发框架。