Summarization for Pydantic AI

Resumen automático de conversaciones para contexto ilimitado

Tres estrategias de gestión de contexto: resumen inteligente LLM, ventana deslizante sin costo y context manager en tiempo real con seguimiento de tokens.

Instalación

pip install summarization-pydantic-ai

Dos estrategias para mantener las conversaciones de agentes dentro de los límites de contexto. El resumen basado en LLM comprime inteligentemente mensajes antiguos preservando información clave — activado por cantidad de mensajes, tokens o fracción de contexto. El recorte por ventana deslizante sin costo simplemente elimina los mensajes más antiguos con un corte seguro que nunca rompe pares de llamada/respuesta de herramientas. Un context manager en tiempo real rastrea el uso de tokens en vivo, trunca salidas largas de herramientas y auto-detecta ventanas de contexto de modelos.

Características

Inicio Rápido

from pydantic_ai import Agent
from pydantic_ai_summarization import create_summarization_processor

processor = create_summarization_processor(
    trigger=("tokens", 100000),
    keep=("messages", 20),
)

agent = Agent(
    "openai:gpt-4o",
    history_processors=[processor],
)

result = await agent.run("Hello!")

Casos de Uso