Los agentes de IA son útiles precisamente porque actúan solos — y eso también es lo que los hace arriesgados. Aquí tienes los cuatro riesgos que los usuarios se encuentran de verdad, y las salvaguardas que funcionan, sin alarmismo ni ingenuidad.
Un agente casi nunca dice «no lo sé»: produce respuestas fluidas, incluso cuando son falsas — un precio inventado, una fecha desplazada, un resumen que invierte un matiz. El peligro no es el error grosero, que detectas, sino el error verosímil que dejas pasar. Salvaguarda: para todo lo que compromete (dinero, clientes, reputación), exige fuentes citadas y relee los pasajes que importan — o configura una validación humana antes de la acción.
Un agente pagado por uso que se equivoca de objetivo puede repetir la misma acción cientos de veces: casos documentados muestran agentes de código que gastan varios cientos de dólares de llamadas a la API en un solo día de trabajo mal delimitado. Salvaguardas: número máximo de etapas por tarea, tope de gasto por día y por agente — con una detención real, no una simple alerta — y un estado de costes consultado cada semana. Para los usos técnicos, LiteLLM es la herramienta diseñada exactamente para eso; Langfuse hace que cada ejecución se pueda volver a reproducir después.
Para trabajar, un agente lee tus correos, tus documentos, a veces tus carpetas enteras. Esos datos transitan por el editor de la herramienta y el del modelo — a menudo en Estados Unidos. Salvaguardas: autoriza solo las carpetas necesarias, verifica dónde se alojan los datos y si sirven para entrenar los modelos (y desactívalo cuando sea posible), y para los datos realmente sensibles, prefiere los modelos que funcionan en local (Ollama (agentes locales)) o un editor europeo como Mistral Vibe (antes Le Chat). En Quebec, la Ley 25 regula la comunicación de datos personales fuera de Quebec; en Europa, es el RGPD: en ambos casos, la responsabilidad sigue siendo tuya.
La mayoría de los incidentes contados por los primeros usuarios tienen la misma causa: un agente autorizado desde el primer día a enviar, pagar o eliminar. Salvaguardas: empieza en solo lectura, luego en modo «borrador» (el agente prepara, tú envías), y abre la acción autónoma solo en las tareas cuyos resultados has releído durante varias semanas. Prohíbe por defecto: los pagos sin validación, el envío a destinatarios nuevos, la eliminación definitiva.
Trata a un agente como a un empleado muy rápido en periodo de prueba: un perímetro escrito, límites cifrados, un registro de lo que ha hecho, y responsabilidades que crecen con la confianza demostrada — nunca al revés. Todas las fichas de este directorio terminan con las salvaguardas propias de la herramienta; tómatelas en serio, vienen de los incidentes reales de los primeros usuarios.
Explorar las 111 fichas del directorio →