Cuánto debe decidir una IA sin consultarte: lecciones para pymes
El equilibrio entre autonomía y control en asistentes de IA es clave para pymes. Analizamos las lecciones de Zapier sobre permisos y confianza.

El dilema de la autonomía en la IA para pymes
Cuando un asistente de IA no solo responde preguntas sino que ejecuta acciones, surge una pregunta inevitable: ¿debe pedir permiso antes de actuar o actuar y avisar después? Ninguna de las dos respuestas extremas funciona bien. Si pregunta demasiado, el usuario deja de leer y aprueba por reflejo; si nunca pregunta, un solo error inesperado puede destruir la confianza. Este es el problema que Zapier ha enfrentado al desarrollar Sidekick, su espacio de trabajo con IA, y cuyas lecciones son muy relevantes para las pymes que empiezan a automatizar procesos.
Por qué los extremos no escalan
El primer extremo es el “sellado a ciegas”: un asistente que pide permiso para cada acción termina generando fatiga de aprobación. El usuario aprueba sin evaluar, y las preguntas dejan de proteger. El segundo extremo es la autonomía total: puede funcionar semanas, pero un solo evento inesperado, como borrar la carpeta equivocada, basta para perder la confianza. La clave está en decidir qué decisiones pertenecen al humano y cuáles a la IA, y que la frecuencia de interrupciones sea consecuencia de esa respuesta.
Primera iteración: preguntar por cada herramienta
La primera versión de Sidekick dividía sus herramientas en dos grupos: lectura autónoma y acciones que modifican algo (escribir, editar, mover, borrar) que requerían aprobación con tres opciones: Bloquear, Una vez, Siempre. Pronto surgieron problemas: la solicitud solo existía en la pestaña abierta, no se podía responder desde Slack, y la opción “Siempre” se olvidaba al recargar. Además, las solicitudes se ocultaban en secciones colapsadas y aparecían incluso para pasos inofensivos, diluyendo las preguntas importantes. La lección: preguntar es barato de construir pero difícil de hacer significativo.
Segunda iteración: reglas basadas en el recurso
Meses después, Zapier detectó un problema más profundo: dos sistemas separados decidían qué requería aprobación (habilidades integradas y pequeños programas para apps como Slack), sin reglas compartidas, lo que hacía el comportamiento impredecible. Además, las reglas se ataban a la herramienta (“¿puedo usar la herramienta de escritura?”) en lugar de al recurso en riesgo (una carpeta, un documento, una cuenta). Reconstruyeron el sistema para que las reglas se adjunten a lo que se protege: archivos, apps conectadas, sitios web o automatizaciones. Ahora se puede decir “nunca cambies nada en esta carpeta” o “solo envíame mensajes de Slack a mí”, y se aplica sin importar cómo actúe la IA. También hicieron las reglas estrictas y predecibles: si alguna dice “nunca”, gana; si dice “preguntar primero”, pregunta; solo si nada lo bloquea, actúa. La tarjeta se simplificó a Cancelar, Permitir o Permitir y configurar regla. Incluso añadieron una salvaguarda: la IA no puede proponer una regla general de “permitir toda ejecución de código”, porque un solo clic que otorgue todo erosionaría la confianza.
Tercera iteración: hacer legible la solicitud
Una solicitud de permiso sin detalles es peor que no tenerla, porque entrega una decisión sin la información necesaria. En Sidekick, la tarjeta para “cambiar mis permisos” mostraba un bloque de JSON crudo; lo reemplazaron con filas legibles que muestran el permiso (Permitir, Preguntar primero, Denegar), el alcance, una línea de “solo cuando” y nombres de cuentas en lugar de IDs. La IA escribe una etiqueta amigable, pero el alcance real siempre aparece debajo para que no se oculte. También arreglaron el botón “Permitir y configurar”, que antes solo dejaba una nota que la IA olvidaba; ahora abre un chat lateral que gestiona la configuración sin bloquear la conversación principal.
Implicaciones para una pyme
Estas lecciones son directamente aplicables a cualquier pyme que implemente asistentes de IA o automatizaciones. Primero, no caigas en la tentación de aprobar todo por defecto ni de dar autonomía total sin salvaguardas. Segundo, diseña permisos basados en recursos críticos (clientes, facturas, carpetas compartidas) y no en herramientas genéricas. Tercero, haz que las reglas sean deterministas y fáciles de entender: si algo está prohibido, que siempre lo esté; si requiere aprobación, que la solicitud sea clara y específica. Cuarto, evita la fatiga de aprobación: no pidas permiso para lecturas inofensivas; reserva las interrupciones para acciones de alto riesgo. Quinto, prueba los flujos con casos reales y ajusta según la confianza del equipo.
Lectura práctica
La confianza en la IA no se construye con promesas de autonomía total, sino con un diseño de permisos que refleje el riesgo real del negocio. En Altya Studio ayudamos a pymes a implementar automatizaciones con Odoo e IA que respetan estos principios: control granular, reglas claras y trazabilidad. Si estás pensando en delegar tareas a un asistente, empieza por mapear qué decisiones son irreversibles y cuáles pueden automatizarse sin supervisión. La pregunta no es cuánto puede decidir la IA, sino cuánto debería decidir para que tu equipo confíe en ella.
Fuente: zapier.com