LLM

APPLICATION

小规模CV任务如何利用基础模型

自2023年以来，人工智能领域将受到来自生成式AI的新成功的冲击，我们将探索是否可以利用这些基础模型来构建数据集、利用新的架构和新的预训练权重，或者从中提取知识。

APPLICATION

LlamaIndex工作流生成幻灯片

本文介绍如何使用 LlamaIndex 工作流简化我研究某个主题的最新进展的过程，然后将该研究转化为 PowerPoint 演示文稿。

APPLICATION

服装搭配AI应用

利用 Gemini 先进的生成式AI，你现在可以穿着 T 恤自拍，并立即从自己的衣柜中获得搭配的下装推荐！

APPLICATION

基于Agent的图生视频自动化

本文介绍如何使用LangGraph的AI代理实现从单张图像到视频的自动化处理。

MODEL-ZOO

Ultravox实时语音多模态大模型

Ultravox 是一种新型多模态 LLM，可以理解文本和人类语音，而无需单独的音频语音识别 (ASR) 阶段。

LLM

低端PC运行LLM的5个方法

本文介绍在低配置设备上运行大模型的技术方案，包括量化、半精度、SafeTensors、GGUF 文件格式、设备映射、注意力切片、CPU 卸载等。

TOOL

LitGPT 微调简明教程

LitGPT 是一个简化高性能 LLM 预训练、微调和可扩展部署的平台， 提供 20 多种高性能 LLM，并提供预训练、微调和大规模部署的方案。

LIBRARY

AutoGen多代理AI编程框架

AutoGen 是 Microsoft 的一个开创性项目，它使用户能够根据需要创建任意数量的自主 ChatGPT 类代理。

LIBRARY

用MLX微调医学诊断大模型

本文探讨微调LLM用于医疗诊断预测，硬件为配备 M2 芯片的 Apple Silicon Mac ，使用 LoRA 和 Apple MLX 框架微调，Ollama 运行推理服务。

LIBRARY

vLLM 大模型本地推理库

vLLM 是一个开源项目，允许你进行 LLM 推理和服务。本文介绍如何配置和运行 vLLM 以在生产中提供开源大模型的推理服务。

APPLICATION

基于LLM的文档提取和分析

在本文中，我将通过一个实际示例来解释如何使用 LLM 自动从半结构化和非结构化文档中提取所需信息，然后分析这些信息。

LIBRARY

Unsloth：大模型微调利器

训练时间一直是微调的最大障碍之一。这就是 Unsloth 的用武之地，声称可以使 LLM 训练速度提高 30 倍。