# Guardrails de IA

> Controles alrededor de un modelo de IA para frenar preguntas y respuestas no deseadas.

- Nivel: Intermedio
- Temas: IA
- URL: https://tidbit.legios.com.ar/es/ai-guardrails/
- En inglés: [AI guardrails](https://tidbit.legios.com.ar/ai-guardrails/)

Los **guardrails de IA** (literalmente, barandas de contención) son las reglas y filtros que una empresa pone alrededor de un modelo de lenguaje para que su app se comporte como corresponde. El modelo ya viene entrenado para ser útil y no hacer daño, pero el asistente de un banco necesita límites más específicos: no dar consejos de inversión, no hablar de la competencia, nunca mostrar un número de tarjeta completo, mantener la buena educación aunque el cliente no la tenga.

En general se ubican a los dos lados del modelo. Un control de entrada mira lo que manda el usuario y bloquea o reescribe cosas como intentos de jailbreak, inyección de prompts o pedidos que no tienen nada que ver. Un control de salida lee la respuesta del modelo antes de que la vea el usuario: puede ocultar datos personales, frenar lenguaje tóxico, rechazar temas prohibidos o verificar que la respuesta esté respaldada por los documentos de la empresa, para bajar las alucinaciones. Algunos guardrails son reglas simples, como una lista de palabras prohibidas; otros son un segundo modelo, más chico, que juzga al primero.

Los proveedores cloud lo venden como servicio, por ejemplo **Amazon Bedrock Guardrails**, y también hay herramientas open source. No son perfectos: muy estrictos bloquean preguntas razonables, muy laxos dejan pasar cosas. Funcionan mejor como una capa más entre varias, junto con prompts cuidados, permisos limitados y revisión humana donde lo que está en juego es importante.

## Una analogía

Las barandas de una ruta de montaña. No manejan el auto, pero evitan que se vaya al precipicio en las curvas donde un error saldría caro.

## Para quedarse

- Los controles de entrada filtran lo que llega al modelo; los de salida, lo que llega al usuario.
- Tareas típicas: bloquear temas, ocultar datos personales, frenar jailbreaks, reducir respuestas inventadas.
- Pueden ser reglas simples o un segundo modelo que hace de juez.
- Muy estrictos molestan, muy laxos dejan pasar problemas: hay que ajustarlos.

## Para seguir leyendo

- [Amazon Bedrock Guardrails (documentación oficial)](https://docs.aws.amazon.com/es_es/bedrock/latest/userguide/guardrails.html)
- [Mitigate jailbreaks and prompt injections (documentación de Claude, en inglés)](https://platform.claude.com/docs/en/test-and-evaluate/strengthen-guardrails/mitigate-jailbreaks)
- [AI Risk Management Framework (NIST, en inglés)](https://www.nist.gov/itl/ai-risk-management-framework)

## Términos relacionados

- [LLM](https://tidbit.legios.com.ar/es/llm/): Una red neuronal entrenada con muchísimo texto para predecir la próxima palabra.
- [Inyección de prompts](https://tidbit.legios.com.ar/es/prompt-injection/): Meter instrucciones en lo que lee una IA para que obedezca al atacante y no a vos.
- [Datos personales y RGPD](https://tidbit.legios.com.ar/es/personal-data-and-gdpr/): La información sobre vos, y las leyes que dicen quién puede usarla y cómo.
- [Alucinación](https://tidbit.legios.com.ar/es/hallucination/): Cuando un modelo de IA afirma algo falso con total seguridad.
- [Código abierto](https://tidbit.legios.com.ar/es/open-source/): Software cuyo código cualquiera puede leer, usar, cambiar y compartir.
- [Prompt](https://tidbit.legios.com.ar/es/prompt/): Todo lo que le mandás a un modelo de IA: la pregunta, las instrucciones, el contexto.