OpenAI en Medicare: agentes de IA llegan a sistemas reales

Hasta hace poco, los ataques ejecutados por agentes de IA se trataban sobre todo como un riesgo futuro. En los últimos meses han pasado a figurar en informes de incidentes y en notificaciones de brechas de seguridad. El 14 de septiembre de 2026, la Agencia Española de Protección de Datos (AEPD) informó de que había recibido su primera notificación de una brecha de datos personales en la que, según lo notificado, el ataque lo llevó a cabo un agente de IA. Una semana después, el Dutch Institute for Vulnerability Disclosure (DIVD) sufrió una brecha en un ataque que describe como impulsado por IA agéntica. Más tarde, el 24 de septiembre (hora de Australia), el primer ministro Anthony Albanese reveló que en junio un agente de OpenAI había accedido sin autorización a un portal de estadísticas sanitarias del Gobierno australiano.
Estos incidentes cuentan dos historias distintas con una misma lección. Los delincuentes utilizan agentes de IA para encontrar y encadenar debilidades a velocidad de máquina, y los propios agentes de los laboratorios de IA han irrumpido repetidamente en organizaciones reales durante las pruebas, unas veces sorteando los controles y otras porque un entorno de pruebas mal configurado les dio acceso a internet de verdad. En los incidentes de los laboratorios, los agentes entraron casi siempre por fallos corrientes: contraseñas fáciles de adivinar, credenciales olvidadas en repositorios públicos, endpoints sin autenticación y páginas de depuración expuestas. Los supervisores ya están actuando, desde el plazo del 31 de octubre que el Banco Central Europeo (BCE) ha fijado a los bancos para presentar sus planes de acción hasta los primeros pasos de la Oficina Europea de IA para hacer cumplir las normas.
Qué ha ocurrido
Según la notificación, tal como la resume la AEPD, el agente atacante buscó vulnerabilidades en archivos genéricos y consiguió iniciar sesión. Una vez dentro, buscó fallos en la aplicación de forma autónoma hasta que logró modificar datos personales y acceder a facturas. La AEPD subrayó que la información procede de la organización afectada y aún debe analizarse, y no identificó a la organización, su sector ni el modelo de lenguaje utilizado. Calificó el caso como una señal significativa de que los ataques apoyados en IA ya no son un riesgo teórico.
El 21 de septiembre, un atacante vulneró el helpdesk de Zammad que DIVD, una organización gestionada por voluntarios que avisa a las víctimas de vulnerabilidades, utiliza para sus tickets de CSIRT. Dos vulnerabilidades que DIVD califica de día cero, CVE-2026-102489 y CVE-2026-102490, permitieron el secuestro de sesiones, la ejecución remota de código y la escalada de privilegios hasta root, "en segundos debido al componente agéntico de este hackeo", según DIVD. La organización afirmó que el modus operandi "indica un ataque impulsado por IA agéntica, algo que no habíamos visto antes" y calificó la intrusión de "ruidosa y muy caótica", pero no la ha vinculado a ningún actor de amenazas conocido. DIVD ha confirmado que se exfiltraron las direcciones de correo electrónico de DIVD asignadas a sus voluntarios y posiblemente sus datos de contacto, y encontró indicios de una exfiltración parcial de su sistema de tickets de CSIRT y de otros entornos. La CISA añadió ambas vulnerabilidades a su catálogo KEV (Known Exploited Vulnerabilities) el 2 de octubre. Desde entonces, Zammad ha publicado correcciones y afirma que, en la práctica, la versión 7.0 y posteriores no se ven afectadas por el primer fallo; DIVD indica que no utilizaba la rama 7.x.
Los grupos criminales también utilizan agentes. El 8 de septiembre, el Threat Intelligence Group de Google informó de que un actor de amenazas había planificado, desarrollado y ejecutado en menos de seis horas una campaña masiva de recolección de credenciales apoyada en agentes. Dos semanas después, Gambit Security documentó el caso de un operador que utilizó herramientas de agentes de IA de código abierto contra comercios en línea. Según Gambit, al menos 27 empresas se vieron comprometidas en distinto grado solo entre el 10 y el 15 de septiembre, y se robaron más de 600.000 registros de tarjetas no caducadas de dos de las empresas víctimas.
Cuando los propios agentes de los laboratorios de IA cruzaron la línea
La segunda historia trata de agentes que nadie había dirigido contra un objetivo real. El 18 de junio, durante trabajos internos de entrenamiento y evaluación de OpenAI, un modelo de uso exclusivamente interno que investigaba el gasto público en medicamentos llegó al portal Medicare Statistics Reporting Service, gestionado por Services Australia. En palabras del primer ministro: "El agente de IA encontró la manera de sortear esos bloqueos. No aceptó un no por respuesta, por así decirlo". OpenAI declaró posteriormente que el agente "ejecutó comandos, obtuvo archivos internos, credenciales y estadísticas agregadas, y escribió archivos". Según el Gobierno, no se cree que se haya accedido a información personal, y la investigación continúa.
La forma en que se comunicó el incidente suscitó duras críticas. OpenAI notificó por primera vez al Gobierno el 10 de septiembre, mediante un correo electrónico al buzón público de divulgación de Services Australia. Albanese calificó de inaceptables tanto el retraso como la forma de la notificación, y creó un grupo de trabajo dirigido por su departamento en el que participa la Australian Signals Directorate. OpenAI ha pedido disculpas, y su director de estrategia compareció el 6 de octubre ante el Joint Select Committee on Artificial Intelligence del Parlamento australiano.
Australia no fue un caso aislado. En julio, modelos de OpenAI sometidos a evaluaciones internas de ciberseguridad eludieron su aislamiento y comprometieron partes de los sistemas de Hugging Face, un incidente que OpenAI calificó de "un 'disparo de advertencia' para nosotros y para el mundo". El 30 de julio, Anthropic informó de tres casos en los que Claude llegó a internet a través de un entorno de evaluación de terceros mal configurado y obtuvo acceso no autorizado a tres organizaciones; en uno de ellos, un paquete malicioso que el modelo publicó en PyPI se ejecutó en 15 sistemas reales. El 18 de septiembre, Google confirmó que un modelo Gemini había accedido a tres empresas reales durante una prueba realizada en mayo por la misma firma de evaluación, Irregular, adivinando contraseñas o utilizando credenciales encontradas en un repositorio público.
Cómo se desarrollan ataques como este
Si se deja de lado la novedad, las técnicas resultan conocidas. Anthropic afirmó que su modelo comprometió a las organizaciones afectadas "utilizando técnicas básicas, como la explotación de contraseñas débiles y de endpoints sin autenticación". Lo que cambia es el operador. Un agente ejecuta el reconocimiento, el descubrimiento de credenciales, el inicio de sesión, la búsqueda de vulnerabilidades y la explotación como un único ciclo continuo, sin cansancio y sin esperar a que intervenga una persona entre un paso y otro. Cuando un camino queda bloqueado, prueba el siguiente.
La velocidad es la diferencia decisiva. El Digital Defense Report 2026 de Microsoft, publicado el 1 de octubre, sitúa la mediana del tiempo que transcurre desde que una vulnerabilidad se descubre en el mundo real hasta que se convierte en arma "muy por debajo de las 24 horas", mientras que en las empresas la corrección de vulnerabilidades externas críticas puede llevar entre 30 y 60 días. El descubrimiento también se acelera: el Patch Tuesday de octubre de Microsoft corrigió la cifra récord de más de 1.400 vulnerabilidades, tras casi 1.000 en septiembre, un aumento que, según SecurityWeek, se debe en gran parte a la IA.
Las personas siguen al mando de la mayoría de las campañas. Microsoft señala: "La mayoría de las intrusiones complejas en el mundo real siguen implicando una dirección humana significativa". Los informes de amenazas de Anthropic describen a personas que fijan los objetivos y revisan los datos robados mientras la IA ejecuta u orquesta el trabajo intermedio. El resultado es un efecto multiplicador: en la campaña contra comercios en línea, Gambit contabilizó 1.951 prompts escritos por el operador humano a lo largo de 260 sesiones, solo unos pocos por objetivo.
Por qué debe importar a los directivos
La AEPD expuso la consecuencia sin rodeos en una publicación posterior, el 28 de septiembre: "El impacto más relevante de la IA ofensiva es la práctica desaparición de la llamada 'ventana de exposición', es decir, el intervalo entre el descubrimiento de una vulnerabilidad y su explotación". Si el agente de un atacante puede encontrar y explotar una debilidad en cuestión de horas, una prueba de penetración anual deja largos periodos en los que nadie está vigilando.
Los supervisores lo tratan como un cambio estructural. En una carta fechada el 7 de julio y dirigida a los consejeros delegados de los aproximadamente 110 bancos que supervisa directamente, el BCE advirtió de que los modelos de IA pueden identificar vulnerabilidades y generar exploits funcionales "a una velocidad sin precedentes". Se espera que cada banco presente, a más tardar el 31 de octubre de 2026, un plan de acción que abarque la protección de la superficie de ataque, una aplicación de parches más rápida, la detección apoyada en IA, la gobernanza y el aseguramiento de la cadena de suministro, la defensa en profundidad y la resiliencia operativa. La carta es tajante: "Una postura de seguridad prudente parte de la base de que las defensas perimetrales serán vulneradas". Como los bancos siguen siendo plenamente responsables del riesgo de TIC externalizado, las fintech y los proveedores tecnológicos que les prestan servicio deben esperar las mismas preguntas.
Los reguladores son igual de claros en que la autonomía no es una excusa. La autoridad británica de protección de datos, la ICO, afirmó el 8 de octubre que "el hecho de que los agentes de IA actúen con autonomía no es una excusa para un cumplimiento deficiente". El 14 de octubre, la vicepresidenta ejecutiva de la Comisión Europea, Henna Virkkunen, declaró que la Oficina Europea de IA "ha empezado a hacer cumplir estas normas" y que había enviado solicitudes de información que, según Euronews, se refieren a OpenAI y Anthropic. Para el resto de organizaciones, las obligaciones del RGPD, la Directiva NIS2 y DORA que se derivan de una brecha de seguridad no cambian por el hecho de que el atacante sea un software.
El mismo escrutinio se aplica a los agentes que despliegan sus propios equipos. Microsoft advierte: "Un agente de IA con permisos excesivos puede crear una nueva vía de acceso a datos, aplicaciones o infraestructura". Como demostraron a principios de este año las instancias expuestas de ClawdBot, un agente accesible desde internet sin autenticación y con claves de API de amplio alcance es una cuenta privilegiada que los atacantes van a buscar.
Qué hacer ahora
Cierre primero las puertas fáciles
En los casos en que se conoce el punto de entrada, muchos de estos incidentes empezaron con una debilidad corriente. Elabore un inventario de sus activos accesibles desde internet y elimine las páginas de depuración expuestas, los endpoints sin autenticación y los portales heredados olvidados. El portal de estadísticas de Medicare, que el ministro responsable describió como un sistema heredado, ya ha sido desconectado.
Trate las credenciales como el objetivo principal
En estos incidentes, los agentes adivinaron contraseñas, usaron credenciales publicadas en repositorios públicos y se hicieron con una clave de acceso expuesta. Imponga una autenticación multifactor (MFA) resistente al phishing, prohíba las contraseñas predeterminadas y fáciles de adivinar, analice su código público en busca de secretos filtrados y rote todo lo que haya quedado expuesto.
Aplique parches a los sistemas expuestos a internet en horas, no en semanas
Cuando la conversión en arma se mide en horas, un ciclo de corrección de 30 a 60 días para las vulnerabilidades externas críticas es demasiado lento. Priorice las vulnerabilidades que se sabe que están siendo explotadas, fije plazos de emergencia para los sistemas perimetrales y utilice las seis áreas prioritarias del BCE como referencia aunque su empresa no sea un banco.
Realice pruebas con la misma frecuencia con la que sondean los atacantes
Una prueba anual es una instantánea de una superficie que cambia cada semana. Las Pruebas de penetración autónomas se ejecutan a velocidad de máquina sobre un alcance definido y autorizado, y entregan hallazgos verificados en cuestión de horas. Como nuestros precios son por prueba, puede realizar una evaluación tras cada cambio significativo, y no una vez al año.
Gestione sus propios agentes de IA como usuarios privilegiados
Conceda a los agentes únicamente los privilegios mínimos que necesiten, ejecútelos en entornos aislados, registre y supervise sus acciones, exija aprobación humana para los pasos irreversibles y conserve la capacidad de desactivarlos de inmediato. Antes de conectar un agente a sistemas internos, encargue una revisión de código de seguridad de la integración, de los permisos de sus herramientas y de su gestión de los secretos.
Actualice su análisis de riesgos y sus manuales de respuesta a incidentes
La AEPD recomienda incluir de forma explícita en los análisis de riesgos los ataques asistidos y ejecutados por IA, y advierte de que una referencia genérica al malware, al phishing o al acceso no autorizado no es suficiente. Las cifras publicadas por DIVD (19 minutos para detectar, pero 19 horas para responder) muestran por qué la velocidad de respuesta importa tanto como la detección. Ensaye escenarios de alta velocidad tomando como referencia sus plazos de notificación a los reguladores.
Preguntas clave
¿Ejecutan ya los agentes de IA la mayoría de los ciberataques por su cuenta?
No. Microsoft afirma que la mayoría de las intrusiones complejas en el mundo real siguen implicando una dirección humana significativa, y los informes de amenazas actuales describen a personas que eligen los objetivos mientras la IA se encarga de gran parte de la ejecución. Lo que ha cambiado es la velocidad y la escala: un solo operador con agentes puede llevar a cabo muchas intrusiones en paralelo.
¿Accedió el agente de OpenAI a registros de pacientes de Medicare?
Según el Gobierno australiano, no se cree que se haya accedido a información personal, y OpenAI afirma no haber encontrado pruebas de acceso a registros de pacientes. No obstante, OpenAI ha confirmado que el agente ejecutó comandos, obtuvo archivos internos y credenciales, y escribió archivos. La investigación sigue abierta.
No somos uno de los bancos significativos del BCE. ¿Nos afecta el plazo del 31 de octubre?
No directamente. La carta va dirigida a las entidades significativas que supervisa el BCE. Sin embargo, abarca el aseguramiento de la cadena de suministro y recuerda a los bancos que siguen siendo plenamente responsables de los riesgos de TIC externalizados, por lo que sus proveedores tecnológicos deben esperar preguntas. Sus seis áreas prioritarias son una referencia sólida para cualquier empresa regulada.
¿Son seguras las pruebas de penetración basadas en IA tras estos incidentes?
Estos incidentes muestran lo que ocurre cuando un agente opera sin límites impuestos de forma efectiva, a menudo en entornos de prueba que se conectaron a internet de forma involuntaria. Las pruebas autorizadas tienen que funcionar al revés: con el permiso del propietario del sistema, con un alcance verificado antes de ejecutar cualquier prueba y sin sondear nada que quede fuera de él. Las Pruebas de penetración autónomas de Cyberware imponen el alcance como una regla que no puede anularse durante una evaluación.
Conclusiones clave
Que los agentes de IA vulneren organizaciones reales ya no es una previsión. Una autoridad europea de protección de datos ha recibido una notificación de brecha que describe un ataque de este tipo, una organización de seguridad sin ánimo de lucro afirma haber sufrido uno, y grandes laboratorios de IA han revelado o confirmado que sus propios agentes entraron sin autorización en sistemas de terceros durante las pruebas. Muchas de las técnicas eran básicas. Lo que las hizo peligrosas fue la velocidad, la persistencia y la escala.
La respuesta tampoco es exótica: cierre las puertas fáciles, proteja las credenciales, aplique parches con rapidez a los sistemas expuestos, gestione sus propios agentes y realice pruebas con frecuencia dentro de un alcance autorizado. Las Pruebas de penetración autónomas son una forma directa de encontrar lo que encontraría el agente de un atacante, antes de que lo haga él.