APPLICATION
MacOS本地问答应用
在本指南中,我们将介绍如何设置 llama.cpp、加载 LLAMA 3.2 模型权重以及使用 LangChain 的框架创建问答应用程序。
APPLICATION
在本指南中,我们将介绍如何设置 llama.cpp、加载 LLAMA 3.2 模型权重以及使用 LangChain 的框架创建问答应用程序。
MODEL-ZOO
Llama 3.2-Vision 指令调整模型针对视觉识别、图像推理、字幕和回答有关图像的一般问题进行了优化。这些模型在常见的行业基准上优于许多可用的开源和封闭多模式模型。
MODEL-ZOO
本文探讨如何使用 Unsloth微调 Llama-3.1–8B 模型以实现函数调用功能,并使用 vLLM 进行高性能模型推理和服务。
APPLICATION
在本文中,我将通过一个实际示例来解释如何使用 LLM 自动从半结构化和非结构化文档中提取所需信息,然后分析这些信息。
LIBRARY
训练时间一直是微调的最大障碍之一。这就是 Unsloth 的用武之地,声称可以使 LLM 训练速度提高 30 倍。
TOOL
LM Studio 是一款流行的 GUI 应用程序,它允许具有基本计算机知识的用户在其 Linux 机器上轻松下载、安装和运行大型语言模型 (LLM)。
MODEL-ZOO
OuteAI推出的OuteTTS是一种新颖的文本转语音 ( TTS ) 合成方法,它利用纯语言建模,无需外部适配器或复杂架构。
MODEL-ZOO
在过去的一年中,seamless_communication、StyleTTS、VITS、DeepSpeech和Whisper 等项目都在 TTS(文本转语音)技术的进步中发挥了重要作用。但现在,回顾 GitHub,这些项目中的很多都已经沉寂了。 最初,我只对它们的功能有基本的了解,而没有深入研究它们背后的技术概念和机制。这次,受到最近发布的 MaskGCT 和 OutTTS 等开源项目的启发,我决定总结一下 TTS 的基础技术。总体而言,音频生成的质量自去年以来有了显着提高。以前,合成的声音听起来很机械;现在,多亏了 Hertz-dev 等模型,我们可以生成听起来更自然、更像人类的音频。 1、TTS 基础知识 TTS 系统的主要目标是将输入的文本转换为听起来自然的语音。 1.1 传统TTS模型 传统的 TTS 模型(例如 Tacotron
MODEL-ZOO
传统的 OCR 工具在文本与视觉元素同时存在时,其性能会很差。但随着 Llama 3.2 视觉模型的发布,只需传递图像并提取文本或对图像提出问题即可。
RAG
本文指导读者使用四种关键技术构建 RAG 系统:Llama3、Ollama、DSPy 和 Milvus。
APPLICATION
虽然大多数人关注的是检索增强生成 (RAG) 对非结构化文本(例如公司文档或文件)的检索,但我对检索系统对结构化信息(尤其是知识图谱)的检索非常看好。GraphRAG 引起了很多关注,尤其是微软的实现。然而,在他们的实现中,输入数据是文档形式的非结构化文本,使用大型语言模型 (LLM) 将其转换为知识图谱。 在这篇博文中,我们将展示如何在包含来自 FDA 不良事件报告系统 (FAERS) 的结构化信息的知识图谱上实现检索器,该系统提供有关药物不良事件的信息。如果你曾经摆弄过知识图谱和检索,你的第一个想法可能是使用 LLM 生成数据库查询,以从知识图谱中检索相关信息来回答给定的问题。然而,使用 LLM 生成数据库查询仍在发展中,可能还不能提供最一致或最强大的解决方案。那么,目前有哪些可行的替代方案呢? 我认为,目前最好的解决方案是动态查询生成。这种方法不是完全依赖 LLM 来生成完整的查询,而是采用逻辑层,从预定义的输入参数确定性地生成数据库查询。可以使用具有函数调用支持的 LLM 来实现此解决方案。使用函数调用功能的优势在于能够向 LLM 定义它应该如何准备函数的结构化输入。这种方
APPLICATION
创作者通常首先要努力的事情就是为他们的服务找到合适的利基创意。最好的方法始终是先找到一个微型 SaaS,它是 SaaS 的一个子集,专注于解决特定问题的小规模、高度专业化的应用程序。 但是你如何发现这些利基创意呢?为什么不让AI为你做这件事呢。在这个实验中,我整理了一个实用的应用程序,它可以帮助挖掘 Reddit、搜索引擎以找到利基创意。 在这篇博文中,我将分享如何构建这个 CrewAI 应用程序,该应用程序利用它来为微型 SaaS 生成利基创意。我们将深入研究应用程序结构、技术堆栈,并提供构建应用程序的分步指南。到最后,你将全面了解如何启动自己的 CrewAI 代理。 1、应用程序结构 首先,让我们看一下应用程序结构。下面是概述我们应用程序关键组件的图表: 为了构建此应用程序,我们将使用各种工具和技术: * Groq:用于服务大型语言模型 (LLM)。 * 8B Llama3 模型:用于生成想法的核心模型。 * CrewAI:与 LangChain 工具一起使用,用于管理多个代理。 * Praw:用于从