guardrails-ai

Par mkurman · zorai

Guardrails AI — Validation des sorties LLM et guardrails. Définissez des guardrails sous forme de spécifications XML/JSON, validez les sorties par rapport à des contraintes structurelles et sémantiques, corrigez/relancez en cas d'échec et auditez le comportement du modèle.

npx skills add https://github.com/mkurman/zorai --skill guardrails-ai

Aperçu

Guardrails AI fournit un framework de guardrails pour les applications LLM avec validation de sortie structurée, sécurité des types, logique de retry/reprompt et gestion des risques. Utilise des specs RAIL (Reliable AI Markup Language) ou des modèles Pydantic.

Installation

uv pip install guardrails-ai

Guard basique

import guardrails as gd

rail_spec = (
    '<rail version="0.1">'
    '<output>'
    '  <string name="summary" description="Brief summary" format="length: 1-100"/>'
    '  <integer name="sentiment" format="valid-choices: {1, 0, -1}"/>'
    '</output>'
    '<prompt>'
    'Summarize this text: {{text}}'
    '</prompt>'
    '</rail>'
)

guard = gd.Guard.from_rail_string(rail_spec)
raw, validated = guard(text="I loved this movie!")
print(validated)  # {"summary": "...", "sentiment": 1}

Guard Pydantic

from pydantic import BaseModel
from guardrails import Guard

class Extraction(BaseModel):
    name: str
    age: int = 0

guard = Guard.from_pydantic(Extraction)
result = guard("John is 25 years old")