Tecnologías

Solo herramientas usadas en los dos repositorios del proyecto.

Entrenamiento y fine-tuning

• PyTorch, Hugging Face Transformers, PEFT y TRL para LoRA y fine-tuning supervisado (SFTTrainer).
• Fully Sharded Data Parallel para el fine-tuning completo de los modelos más grandes.
• Trabajos SLURM en el supercomputador MareNostrum 5 (NVIDIA H100).

Inferencia y salida estructurada

• vLLM para servir los modelos base y los afinados.
• Outlines y xgrammar para la decodificación JSON restringida por gramática.
• Pydantic y jsonschema para el manejo de esquemas y la validación de salidas.

Recuperación y evaluación

• Sentence-Transformers (MiniLM multilingüe) para la recuperación few-shot por similitud de esquema, además de una variante TF-IDF.
• fastembed, rapidfuzz y scikit-learn para la métrica Flattened Schema Scoring y los scripts de análisis.
• Variantes de agentes para chain-of-thought, descomposición de esquema, autocorrección y posprocesado multiagente.

Seguimiento de experimentos

• MLflow y Langfuse para el seguimiento y el trazado de ejecuciones, con un servidor MLflow autoalojado que se ejecuta con Docker Compose.

Generación de datos

• Un pipeline de datos sintéticos de cinco etapas adaptado de GuideX, con validación mediante jsonschema y llamadas a LLM a través de una API compatible con OpenAI.

La recuperación en este proyecto es una selección few-shot aumentada por recuperación sobre una biblioteca de ejemplos sintéticos; no usa una base de datos vectorial.