DOCKER

TOOL

用 Docker 运行本地 LLM 模型

Docker 已经解决了应用程序“在我的机器上运行正常”的问题。现在，它正在解决模型运行的同样问题。

TOOL

Docker镜像优化终极指南

每兆字节都很重要，当你每天部署数千个容器时。在这篇文章中，我会带你制作适合生产环境的Docker镜像。

APPLICATION

视觉语言模型AWS部署指南

本文介绍如何使用Qwen-2.5-VL、vLLM和AWS Batch构建处理数百万份文档的文档解析管道。

TOOL

Docker：拥抱本地大模型

Docker 宣布了对本地大型语言模型（LLM）的原生支持，将 AI 能力直接引入数百万开发人员已经使用的熟悉容器生态系统中。

MODEL-ZOO

在CPU上运行DeepSeek-R1

在 CPU 上运行 LLM 提供了一种扩大可访问性的替代方案，允许更多用户在现有硬件上利用 AI。本指南探讨了在 CPU 上有效使用 DeepSeek R1 的方法。

APPLICATION

用Ollama打造本地生产力工具

在本文中，我们将深入探讨本地 AI 的世界，探索 Ollama 等工具以及 Gemma 2 和 LLaVA 等最先进的模型如何改变你的日常工作流程。

TOOL

屏幕截图生成代码

Screenshot-to-code是一个简单的工具，可使用 AI 将屏幕截图、模型和 Figma 设计转换为干净、实用的代码。现在支持 Claude Sonnet 3.5 和 GPT-4o！

TOOL

VerifAI开源生成式搜索引擎

最初，VerifAI 是作为具有参考和 AI 验证答案的生物医学生成搜索而开发的，现在可以索引本地文件并将其转换为自己的生成式搜索引擎。

TOOL

OpenHands：AI软件工程师

OpenHands（原名 OpenDevin）是一个由 AI 驱动的软件开发代理平台，AI代理可以执行人类开发人员可以执行的任何操作：修改代码、运行命令、浏览网页、调用 API，甚至可以从 StackOverflow 复制代码片段。

LIBRARY

vLLM 大模型本地推理库

vLLM 是一个开源项目，允许你进行 LLM 推理和服务。本文介绍如何配置和运行 vLLM 以在生产中提供开源大模型的推理服务。

TOOL

Ollama WebUI 简明教程

Open WebUI，以前称为 Ollama WebUI，支持各种大型语言模型 (LLM) 运行器，是本地部署并与语言模型交互的多功能工具。

TOOL

N8N 教程：本地零代码 AI 环境怎么搭

们将使用n8n自托管 AI 入门套件快速设置本地 AI 环境，并学习如何通过 n8n 仪表板使用哈利波特数据集为 RAG）聊天机器人构建 AI 工作流。