Stop AI Agent Hallucinations: 5 Techniques + Production Patterns - Elizabeth Fuentes, AWS

Cinco técnicas para reducir alucinaciones de agentes que viven en código, no en prompts — que es exactamente el lugar correcto para ellas. Fuentes demuestra cada una: selección semántica de herramientas vía búsqueda vectorial, GraphRAG para consultas que RAG simple falla, una cadena de agente validador/crítico, y reglas de negocios implementadas como ganchos que interceptan llamadas de herramientas para que no se pueda hablar alrededor. El tercio final es material de producto AWS; los primeros 50 minutos son transferibles a cualquier stack.

• Filtrar herramientas con búsqueda vectorial antes de enviarlas al modelo reduce el consumo de tokens de ~3,000 a ~300 por llamada — y swap_tools mantiene las conversaciones largas delgadas.
• GraphRAG supera a RAG tradicional en agregaciones, conteos y razonamiento multi-salto porque las consultas Cypher devuelven resultados computados en lugar de muestras de texto.
• Las reglas de negocios como ganchos a nivel de código que interceptan llamadas de herramientas son inquebrantables; las mismas reglas como instrucciones de prompt son meramente sugerencias.
• Los guardrails en tiempo de ejecución pueden dirigir en lugar de bloquear: el agente se autocorrige y completa la tarea (por ejemplo, dividir una reserva de 60 huéspedes en habitaciones) en lugar de fallar completamente.

Parte de Edición Nº 001: LLMs para el juicio, código para contar: escalando a 500K sensores con 300x menos tokens