La inteligencia artificial ha pasado en muy poco tiempo de ser una tecnología de la que se hablaba principalmente en ámbitos tecnológicos, a formar parte del día a día de empresas y usuarios.
Redactar textos, generar imágenes, analizar información, responder consultas, gestionar tareas o incluso realizar determinadas acciones en nuestro nombre son solo algunos de sus usos hoy en día.
Pero a medida que la IA deja de limitarse a responder y empieza también a actuar, aparecen nuevas posibilidades y también nuevas cuestiones relacionadas con la seguridad. ¿Qué puede llegar a hacer una inteligencia artificial cuando tiene acceso a otros sistemas?
No se trata de pensar que una IA «quiere» hacer algo malo. La cuestión es más sencilla: un sistema puede intentar cumplir el objetivo que le hemos dado, utilizando capacidades o caminos que nosotros no habíamos previsto. Y ahí es donde la IA y la seguridad empiezan a estar estrechamente relacionadas.
Cuando la IA no solo responde, sino que actúa
Hasta hace poco, la interacción habitual con una IA era bastante sencilla. Le hacíamos una pregunta y obteníamos una respuesta.
Ahora existen sistemas capaces de utilizar herramientas externas para realizar tareas: consultar información, acceder a documentos, enviar mensajes, realizar reservas, modificar datos o interactuar con aplicaciones. Esto abre muchas posibilidades, pero también cambia el escenario.
No es lo mismo preguntarle a una IA:
«¿Qué horarios tiene este gimnasio?»
que decirle:
«Consígueme una plaza para esta clase.»
En el segundo caso, la IA necesita hacer algo más que proporcionar información. Tiene que interactuar con un sistema y tomar determinadas decisiones para alcanzar el objetivo.
Y cuanto mayor sea su capacidad de actuación, mayor importancia adquieren los permisos que tenga, los límites establecidos y la supervisión humana.
Esto no significa que la autonomía de la IA sea algo negativo. Al contrario, es precisamente lo que permite automatizar tareas y puede aportar un gran valor. La cuestión está en hacerlo de forma adecuada y con unos límites acordes al uso que se le vaya a dar.
UN CASO REAL: una reserva de gimnasio que terminó planteando un problema de seguridad
En agosto de 2026 se conoció un caso especialmente llamativo.
Un desarrollador creó un agente de IA para intentar conseguir una plaza en una clase de gimnasio que se llenaba rápidamente. El objetivo parecía sencillo: conseguir una reserva.
Durante el proceso, el agente descubrió que el sistema de reservas utilizaba una API con problemas de autorización. Como consecuencia, pudo realizar acciones que no deberían haber estado disponibles para él, entre ellas cancelar la reserva de otro usuario y modificar la lista de espera.
El agente no estaba intentando atacar el gimnasio ni perjudicar a otra persona. Estaba intentando cumplir la tarea que se le había asignado.
El problema estaba en otra parte: tenía acceso a capacidades que iban mucho más allá de lo que necesitaba para realizar correctamente su función. Este caso es interesante, porque permite entender algo importante sobre la seguridad de los sistemas de IA. El riesgo no tiene por qué estar relacionado con una IA «maliciosa».
Puede ser una combinación de:
- Un objetivo demasiado abierto.
- Un sistema con permisos excesivos.
- Una API que no comprueba correctamente quién puede realizar determinadas acciones.
- Falta de límites.
- Y ausencia de supervisión antes de ejecutar acciones sensibles.
OWASP (Open Worldwide Application Security Project), una organización internacional sin ánimo de lucro centrada en la seguridad de las aplicaciones, identifica precisamente este problema como “Excessive Agency” o agencia excesiva: sistemas de IA con demasiadas funciones, permisos o autonomía para las tareas que realmente necesitan realizar.
El problema no es solo la IA
Cuando hablamos de seguridad relacionada con la inteligencia artificial, es fácil centrarnos únicamente en la propia IA y olvidarnos de todo lo que hay a su alrededor.
¿A qué sistemas tiene acceso? ¿Qué información puede consultar? ¿Qué acciones puede realizar? ¿Qué permisos tiene?
Una IA puede estar conectada a una web, una aplicación, un correo electrónico, una base de datos, un CRM o cualquier otro servicio. Y todos esos sistemas tienen sus propios permisos y vulnerabilidades.
Por eso, un sistema de IA bien diseñado no debería tener acceso ilimitado «por si acaso». Debería tener exactamente los permisos que necesita para realizar su función.
Si solo necesita consultar, ¿por qué puede modificar?
Imaginemos una empresa que utiliza una IA para ayudar al equipo a localizar información dentro de sus documentos. Para esa tarea, probablemente necesite leer determinados archivos.
Pero ¿necesita también poder eliminarlos? ¿Necesita modificarlos? ¿Puede enviarlos a una persona externa? ¿Puede acceder a todos los documentos de la empresa?
Lo recomendable es que tenga solo las capacidades necesarias para realizar la tarea que se le ha asignado.
Parece una cuestión básica de seguridad informática, y lo es. De hecho, OWASP identifica como riesgos el exceso de funcionalidad, de permisos y de autonomía en los sistemas de IA.
El principio es sencillo:
Si una herramienta no necesita un permiso para hacer su trabajo, no debería tenerlo.
De «recomiéndame» a «hazlo por mí»
Esta diferencia también afecta directamente a la supervisión.
No es lo mismo que una IA nos diga:
«He encontrado una reserva disponible.»
que:
«He encontrado una reserva y la he confirmado.»
La primera situación requiere principalmente que comprobemos la información. La segunda implica que la IA ha realizado una acción en nuestro nombre.
Y esto se puede trasladar a muchos ámbitos:
- Comprar un producto.
- Cancelar una suscripción.
- Modificar una reserva.
- Enviar un correo.
- Eliminar un documento.
- Cambiar información de una cuenta.
- Modificar datos de una tienda online.
Cuanto mayor sea el impacto de una acción, más importante resulta establecer mecanismos de confirmación y control. Una IA puede ser muy útil para automatizar una tarea, pero automatizar no debería significar eliminar todos los controles.
La suplantación de identidad: otra cara del problema
La relación entre IA y seguridad tampoco se limita a los agentes autónomos. La inteligencia artificial también ha hecho mucho más sencillo generar contenido, que puede utilizarse para hacerse pasar por otra persona.
Imágenes, voces, vídeos y textos pueden generarse o modificarse con un nivel de realismo cada vez mayor. Esto puede facilitar determinadas formas de fraude y suplantación de identidad. Por ejemplo, recibir un mensaje de alguien conocido ya no significa necesariamente que esa persona haya escrito realmente el mensaje. Una llamada con una voz familiar, tampoco debería considerarse, por sí sola, una prueba suficiente de identidad.
NIST (National Institute of Standards and Technology) de EEUU señala que la IA está introduciendo y amplificando determinados riesgos relacionados con la privacidad, incluyendo nuevos riesgos de reidentificación y una mayor capacidad para analizar información sobre las personas.
Por eso, algunas prácticas que antes podían parecer excesivas empiezan a tener más sentido:
- Verificar solicitudes importantes por un segundo canal.
- No compartir credenciales por correo o mensajería.
- Utilizar autenticación multifactor.
- Comprobar cambios de cuentas bancarias o datos de pago antes de realizarlos.
- No confiar únicamente en una voz, una imagen o un mensaje como prueba de identidad.
La tecnología cambia, pero una buena parte de las medidas de seguridad siguen basándose en un principio muy sencillo: verificar antes de confiar.
Y entonces, ¿debemos dejar de utilizar la IA?
No. La inteligencia artificial puede aportar muchísimo valor cuando se utiliza correctamente.
Puede ahorrar tiempo, automatizar tareas repetitivas, ayudar a analizar información, mejorar procesos y facilitar el trabajo de muchas personas y empresas.
El objetivo no debería ser evitar la IA, sino utilizarla de forma responsable y segura. De hecho, NIST cuenta con marcos específicos para ayudar a las organizaciones a identificar, gestionar y reducir los riesgos asociados a los sistemas de IA.
La cuestión no es:
«¿Podemos utilizar IA?»
Sino:
«¿Qué puede hacer, a qué puede acceder y qué controles tiene?»
Cinco preguntas que conviene hacerse antes de conectar una IA a nuestros sistemas
Antes de dar acceso a una IA a la información o las herramientas de una empresa, merece la pena detenerse un momento y pensar qué necesita realmente para realizar su función y qué límites debería tener.
1. ¿A qué información puede acceder?
No toda la información de una empresa tiene el mismo nivel de sensibilidad. Una IA no debería tener acceso indiscriminado a documentos, datos de clientes, correos, contraseñas o información interna si no lo necesita.
2. ¿Qué acciones puede realizar?
Leer información no es lo mismo que modificarla. Consultar una base de datos no es lo mismo que poder eliminar registros. Generar un correo no es lo mismo que enviarlo.
Los permisos deberían diferenciar estas acciones.
3. ¿Qué ocurre si se equivoca?
Ningún sistema es infalible.
Por eso es importante plantear de antemano qué consecuencias tendría una decisión incorrecta y qué mecanismos existen para detectarla o revertirla.
4. ¿Hay acciones que deberían requerir confirmación?
Para determinadas operaciones, la intervención humana sigue siendo una capa de seguridad muy importante. Especialmente cuando hablamos de dinero, datos personales, eliminación de información, cambios importantes o comunicaciones externas.
5. ¿Está protegido el sistema al que accede?
La IA no sustituye las medidas de seguridad habituales.
Actualizaciones, contraseñas seguras, copias de seguridad, control de accesos, autenticación, monitorización y una correcta configuración de servidores y aplicaciones siguen siendo fundamentales.
La seguridad también consiste en limitar lo que puede hacer una herramienta
Cuando hablamos de proteger una web, una tienda online o una aplicación, solemos pensar en ataques externos. Pero la seguridad también consiste en controlar qué usuarios, aplicaciones y servicios tienen acceso a nuestro sistema y qué pueden hacer una vez dentro.
La llegada de sistemas de IA capaces de actuar de forma autónoma hace que este principio cobre todavía más importancia. Una herramienta puede ser perfectamente legítima y, aun así, convertirse en un riesgo si dispone de más permisos de los necesarios.
Por eso, la seguridad no consiste únicamente en poner barreras frente a quienes quieren entrar. También consiste en establecer límites para quienes ya tienen acceso.
La IA puede ser parte de la solución, pero también debemos protegerla
La inteligencia artificial no es necesariamente el enemigo de la seguridad. De hecho, también puede utilizarse para detectar anomalías, analizar grandes cantidades de información, identificar patrones sospechosos o ayudar a encontrar vulnerabilidades.
Pero, al mismo tiempo, introduce nuevos escenarios que debemos tener en cuenta. NIST destaca precisamente que la IA puede mejorar las capacidades de defensa frente a determinados riesgos, mientras que también puede proporcionar nuevas capacidades a quienes intentan atacar sistemas y organizaciones.
Como ocurre con muchas tecnologías, el resultado depende en buena medida de cómo se diseñe, configure y utilice.
Tecnología sí, pero con límites
La inteligencia artificial va a seguir incorporándose a nuestras herramientas y procesos y, probablemente, veremos sistemas cada vez más capaces de realizar tareas por nosotros.
Precisamente por eso, establecer límites será cada vez más importante. No se trata de desconfiar de toda IA, ni de pensar que cualquier automatización acabará provocando un problema.
Se trata de algo mucho más práctico:
Dar a cada herramienta los permisos que realmente necesita, proteger los sistemas a los que tiene acceso y mantener el control sobre las acciones que pueden tener consecuencias importantes.
Porque una buena automatización no es aquella que puede hacerlo absolutamente todo. Es aquella que hace bien lo que tiene que hacer, y no puede hacer aquello que no debería hacer.
Y en un entorno digital cada vez más automatizado, esa diferencia puede ser una parte fundamental de la seguridad.
La tecnología avanza rápido, y entender cómo utilizarla de forma segura también forma parte del proceso.
Si este artículo te ha resultado interesante, compártelo en redes sociales. Puede que a alguien más le ayude a plantearse qué permisos y qué límites debería tener la IA en su empresa.