Tagged

LLM

A collection of 97 posts

LIBRARY

5个最佳多代理AI开发框架

本文探讨了用于构建和向应用程序添加 AI 代理的前五大平台。我们将探讨这些框架的主要功能和优势，并演示使用其中一些构建代理的代码示例。

DEVOPS

大模型推理加速与服务优化

使用 Triton Inference Server 部署 TensorRT-LLM 并设置与 OpenAI 兼容的 API 可实现高效、高性能的推理大型语言模型。

APPLICATION

打造人工智能忏悔室

本文分享我们如何构建我们的 LLM 语音应用程序并将其集成到忏悔室的交互式展台中。

APPLICATION

基于Milvus的多模态RAG实践

如何使用 Milvus 构建自己的多模态 RAG 系统，并利用GPT-4o语言模型来优化输出。

LIBRARY

AISuite：GenAI平台统一API

aisuite为AI应用开发者提供简单、统一的多个生成式 AI 提供商接口。

APPLICATION

AI驱动的自动表单填写

填写表格是一项枯燥且耗时的任务。如果我们可以创建一个可以为我们填写表格的 AI 助手，让我们将时间投入到更有建设性的任务中，那会怎样？

APPLICATION

AI Agents：你的虚拟员工

人工智能代理（AI Agent）的兴起正在重塑我们构建和思考软件的方式。我们现在不只是编写代码并指导计算机做什么，而是教它们如何思考。

APPLICATION

用GenAI构建数据可视化系统

本文演示了如何构建一个数据可视化系统，该系统使用 LangChain 和 LLM 将查询转换为交互式可视化见解。

APPLICATION

用AI生成可靠的报告

在这篇文章中，我想分享我对 AI 生成的报告的了解，以及如何使这些报告更可靠、更实用。

LIBRARY

Instructor-Marvin-Guardrails

本文对比3使用 LLM 进行数据提取的开发库Instructor、Marvin 和 Guardrails的使用方法并通过对比介绍如何选择最适合你的库。

LIBRARY

ExtractThinker 文档智能处理库

ExtractThinker是一个灵活的文档智能库，可帮助你从各种文档中提取和分类结构化数据，就像文档处理工作流的 ORM 一样。

MODEL-ZOO

LLaMa-Mesh：文本生成3D网格

NVIDIA 发表了一篇引人入胜的论文 LLaMA-Mesh：使用语言模型统一 3D 网格生成 ，该论文允许使用自然语言生成 3D 网格对象。

PROMPT ENGINEERING

提示工程简明教程

在本文中，我们将探讨提示工程中的几种技术，这些技术可以帮助优化 LLM 在不同任务中的性能。

APPLICATION

小规模CV任务如何利用基础模型

自2023年以来，人工智能领域将受到来自生成式AI的新成功的冲击，我们将探索是否可以利用这些基础模型来构建数据集、利用新的架构和新的预训练权重，或者从中提取知识。

APPLICATION

LlamaIndex工作流生成幻灯片

本文介绍如何使用 LlamaIndex 工作流简化我研究某个主题的最新进展的过程，然后将该研究转化为 PowerPoint 演示文稿。

APPLICATION

服装搭配AI应用

利用 Gemini 先进的生成式AI，你现在可以穿着 T 恤自拍，并立即从自己的衣柜中获得搭配的下装推荐！

APPLICATION

基于Agent的图生视频自动化

本文介绍如何使用LangGraph的AI代理实现从单张图像到视频的自动化处理。

MODEL-ZOO

Ultravox实时语音多模态大模型

Ultravox 是一种新型多模态 LLM，可以理解文本和人类语音，而无需单独的音频语音识别 (ASR) 阶段。

LLM

低端PC运行LLM的5个方法

本文介绍在低配置设备上运行大模型的技术方案，包括量化、半精度、SafeTensors、GGUF 文件格式、设备映射、注意力切片、CPU 卸载等。

TOOL

LitGPT 微调简明教程

LitGPT 是一个简化高性能 LLM 预训练、微调和可扩展部署的平台， 提供 20 多种高性能 LLM，并提供预训练、微调和大规模部署的方案。

LIBRARY

AutoGen多代理AI编程框架

AutoGen 是 Microsoft 的一个开创性项目，它使用户能够根据需要创建任意数量的自主 ChatGPT 类代理。

LIBRARY

用MLX微调医学诊断大模型

本文探讨微调LLM用于医疗诊断预测，硬件为配备 M2 芯片的 Apple Silicon Mac ，使用 LoRA 和 Apple MLX 框架微调，Ollama 运行推理服务。

LIBRARY

vLLM 大模型本地推理库

vLLM 是一个开源项目，允许你进行 LLM 推理和服务。本文介绍如何配置和运行 vLLM 以在生产中提供开源大模型的推理服务。

APPLICATION

基于LLM的文档提取和分析

在本文中，我将通过一个实际示例来解释如何使用 LLM 自动从半结构化和非结构化文档中提取所需信息，然后分析这些信息。

LIBRARY

Unsloth：大模型微调利器

训练时间一直是微调的最大障碍之一。这就是 Unsloth 的用武之地，声称可以使 LLM 训练速度提高 30 倍。