Tagged

OLLAMA

A collection of 68 posts

APPLICATION

用RAG实现语义路由

本文深入探讨如何通过集成向量数据库增强我们系统的语义路由能力。我们将探索架构、实现细节和优势，重点介绍这种方法如何提升LLM处理复杂和多样化任务的能力。

APPLICATION

本地AI驱动的文章生成器

在这份指南中，我们将引导你使用CrewAI和Ollama创建一个强大的AI驱动文章生成器。

APPLICATION

OpenAI Agents SDK集成Ollama

本文介绍如何将OpenAI Agents SDK与Ollama搭配使用开发多代理系统。

LIBRARY

非OpenAI模型使用Agents SDK

OpenAI Agents SDK使用了OpenAI的新的Responses API，有别于广泛得到支持的旧的OpenAI兼容API接口，因此非OpenAI模型无法直接利用OpenAI Agents SDK。

APPLICATION

在Cloud Run上部署Gemma 3

本指南将展示如何在Google Cloud Run上运行带有Gemma3模型的Ollama，利用GPU加速实现闪电般的推理速度

LIBRARY

用Dolphin MCP实现LLM路由

我正在构建一个内容分析工具，需要处理大量文本。OpenAI的模型功能强大但用于高容量处理时非常昂贵；而通过本地Ollama运行所有内容导致复杂推理任务的瓶颈。

MODEL-ZOO

QwQ-32B本地运行指南

在这个指南中，我们将一步步带你完成本地运行QwQ-32B的整个过程。我们将使用工具如Ollama和LM Studio来使设置尽可能简单。

APPLICATION

基于Redis的LLM语义缓存

LLM非常强大，但它们可能会非常缓慢。如果你曾经等待超过10秒来回答一个你几乎之前问过的问题，你就知道这种挫败感了。这就是语义缓存发挥作用的地方。

APPLICATION

集成Llama模型与MCP服务器

在这篇博客文章中，我们将学习如何使用任何开源LLM、OpenAI或Google Gemini的MCP服务器。我们将构建一个简单的CLI代理，该代理可以控制和与SQLite数据库交互。

APPLICATION

从零构建医学多智能体AI

本文介绍使用Streamlit作为前端，并利用Ollama平台上的Llama-3.2:3b模型，实现用于总结医学文本、撰写研究文章以及屏蔽受保护健康信息（PHI）的多智能体系统。

APPLICATION

Github仓库分析聊天机器人

本文介绍如何使用抓取的数据和LLM构建一个分析GitHub仓库的AI聊天机器人。

APPLICATION

5个适合忙碌人士的AI项目

本文分享了跨越三个复杂程度的5个AI项目。我希望其中一个项目能够帮助那些因构建AI而停滞不前的人打破僵局。

APPLICATION

8个DeepSeek-R1私有化部署方案

本文了解如何在本地和没有互联网的情况下运行DeepSeek R1推理模型，或者通过可信赖的托管服务来运行它。

APPLICATION

用Deepseek-R1蒸馏自己的模型

在今天的文章中，我将介绍如何通过创建本地版本的Deepseek-R1、定制LLM，并将其无缝集成到你的Python脚本中来实现这一点。

APPLICATION

用DeepSeek-R1构建GenAI应用

在这篇文章中，我们将使用DeepSeek开源模型构建一个生成式AI应用程序，该模型能够根据我们的需求生成代码和其他内容。

MODEL-ZOO

DeepSeek R1纯净版本地运行指南

本文探讨了DeepSeek-R1纯净版模型的独特之处及其与原始DeepSeek R1的关系，并介绍了如何使用Ollama在本地运行它。

TOOL

Cursor AI免费使用方法

本文介绍如何利用本地开源LLM大模型免费使用Cursor AI编程工具。

LIBRARY

程序员AI淘金综合指南

我在 90 年代经历过互联网淘金热，在 21 世纪初经历过移动淘金热，现在，我们终于迎来了 AI 淘金热。听起来有些夸张，但事实并非如此。

MODEL-ZOO

在CPU上运行DeepSeek-R1

在 CPU 上运行 LLM 提供了一种扩大可访问性的替代方案，允许更多用户在现有硬件上利用 AI。本指南探讨了在 CPU 上有效使用 DeepSeek R1 的方法。

TOOL

vLLM/ollama综合对比

本文比较vllm和ollama在不同场景中的表现。我们将重点关注：资源利用率和效率、部署和维护的简易性、具体用例和建议、安全和生产准备、文档。

APPLICATION

DeepSeek-R1驱动的房地产AI代理

本文探讨如何使用 Smolagents 和 DeepSeek-R1 构建房地产代理，并利用工具进行网页抓取和数据导出。

APPLICATION

在.Net应用中集成DeepSeek-R1

本文将引导你了解如何在 GitHub Models 上将 Microsoft.Extensions.AI (MEAI) 库与 DeepSeek R1 结合使用，以便你今天就可以开始尝试使用 R1 模型。

APPLICATION

基于DeepSeek-R1的问答机器人

在这个项目中，我们将结合本地 AI 的隐私与 Deepseek R1 的智能，创建一个完全本地化、推理驱动的问答机器人。

APPLICATION

VS Code集成DeepSeek-R1

在使用 Cursor 等付费AI助手等工具无数小时后，我发现了一个改变游戏规则的功能：将DeepSeek-R1与 Visual Studio Code 无缝、免费的集成，增强了我的工作流程。

TOOL

VLLM vs. Ollama

大型语言模型 (LLM) 的兴起改变了 AI 驱动的应用程序，开发人员依赖于优化的推理框架，这个领域的两个杰出解决方案是 VLLM 和 Ollama。