MODEL-ZOO
LLM微调综合指南
训练和微调模型是一项昂贵的苦差事，如果可以的话，你真的应该避免它，把省下的钱花在去阿鲁巴岛或任何你喜欢的度假胜地的旅行上。
MLFLOW
TOOL
MLflow大模型部署指南
在本博客中，我们将介绍如何使用自定义 Python 函数 (pyfunc) 使用 MLflow 部署大型语言模型 (LLM)，该函数允许我们处理具有特殊要求的模型。
DEVOPS
MLOps 初学者指南
在本文中，我将通过端到端项目实施分享一些基本的 MLOps 实践和工具，帮助你更有效地管理机器学习项目，从开发到生产。
RAG
GenAI高级索引管道
管理复杂的 GenAI 管道（尤其是具有多个模型和数据源的管道）可能是一项艰巨的任务。本文演示了如何将 LlamaIndex 与 Qdrant 和 MLflow 集成以简化 GenAI 应用程序的管理和部署。你将探索 MLflow 的功能（例如跟踪、模型打包和评估）如何实现 LlamaIndex 引擎的无缝处理。通过逐步实施，了解如何简化检索增强生成 (RAG) 工作流程、确保性能一致性并优化索引系统以实现更好的可扩展性和效率。 1、系统架构 该架构集成了多个关键组件，以构建高效且可扩展的检索增强生成 (RAG) 系统。其核心是利用 LlamaIndex 进行索引和检索、利用 Qdrant 进行矢量存储和搜索以及利用 MLflow 在整个生命周期内注册、服务和跟踪所有组件的模型。这种设计旨在管理来自各种来源的大量数据，同时确保最终用户能够快速检索和准确推理。 管道从提取来自各种来源（例如 Web 文档、内部文档和数据库记录）的文档开始。