GUARDRAILS

AI

LLM护栏综合指南

护栏是结构化的安全机制——规则、过滤器和检查，它们限制LLM的行为并保持其输出在可接受的范围内。实际上，护栏验证输入，过滤或修改输出，甚至重塑生成的响应以防止政策违规。

APPLICATION

过滤LLM查询请求

无论你的LLM应用设计用来做什么，用户总会尝试让它为他们写作业。在本文中，我们将探讨一种务实的方法，在用户查询到达你的大型语言模型（LLMs）之前对其进行过滤。

LIBRARY

令人沮丧的AI开发工具

目前的AI开发工具让调试变成了一场痛苦的试错游戏，唯一可行的“文档”是GitHub问题和Discord或Slack频道中的零散讨论。

APPLICATION

用合成数据构建LLM护栏

随着大型语言模型 (LLM) 越来越受欢迎，一个挑战是确保当用户使用超出其预期目的的查询或请求提示这些模型时，由 LLM 驱动的应用程序不会偏离主题。

LIBRARY

Instructor-Marvin-Guardrails

本文对比3使用 LLM 进行数据提取的开发库Instructor、Marvin 和 Guardrails的使用方法并通过对比介绍如何选择最适合你的库。