Gusano de IA: el estudio de Anthropic sobre autorreplicación

Gusano de IA: el estudio de Anthropic sobre autorreplicación

¿Puede una IA copiarse a sí misma? Lo que Anthropic probó en dispositivos conectados, gusano o virus de IA, los límites del estudio y qué hacer en la empresa.

Conceptos
10 min de lectura

El 12 de octubre de 2026, el equipo Frontier Red Team de Anthropic publicó un estudio sobre la autorreplicación de la IA. Según este estudio, los modelos de IA pequeños podrían estar a solo «unos meses» de poder copiarse por sí solos de un dispositivo conectado a otro: decodificadores Android TV sin marca, hornos conectados, cámaras. Un «gusano de IA» así no necesitaría ningún centro de datos, y no existiría ningún interruptor central para detenerlo.

El estudio es más prudente que los titulares de prensa. El único modelo que logra la replicación completa es un modelo grande de 753.000 millones de parámetros, demasiado grande para copiarse a sí mismo: instala un modelo pequeño en cada máquina, en una red simplificada en la que la puerta de entrada se había dejado abierta. La propia Anthropic lo escribe: «We don't yet have a full rogue replicator» (todavía no tenemos un replicador descontrolado completo).

La cifra que más nos ha llamado la atención está en otra parte: la velocidad a la que progresan los modelos pequeños. La conocemos bien, ya que es la que hace creíble la IA en local en las empresas.

¿Qué es la autorreplicación de una IA?

Una IA se autorreplica cuando copia sus pesos en otra máquina, lanza allí una nueva instancia y esa copia vuelve a empezar a su vez.

Los pesos son el ADN del modelo. Son los miles de millones de números ajustados durante el entrenamiento, que contienen todo lo que sabe hacer (los explicamos en nuestro artículo sobre los conceptos clave de la IA). Como el ADN, no hacen nada por sí solos: necesitan una maquinaria que los lea, aquí un software de inferencia y un chip, allí una célula. Copiarse y luego encontrar una maquinaria que ejecute la copia es lo que hacen los seres vivos desde hace cuatro mil millones de años.

El paralelismo es tan antiguo como la informática. Ya a finales de los años cuarenta, John von Neumann estudiaba máquinas capaces de reproducirse, partiendo de los seres vivos; sus trabajos se publicaron en 1966 con el título Theory of Self-Reproducing Automata. En ellos señalaba lo que hace tan poderosa la reproducción, como recuerda un artículo de la revista francesa Pour la Science: «si, por accidente, aparece uno solo, entonces los principios de la probabilidad dejan de aplicarse y se producen muchos». La seguridad informática tomó todo su vocabulario de la biología: virus, gusano, infección, epidemia.

La comparación más exacta es la del virus. Un virus es un genoma sin maquinaria propia, que desvía la de la célula que infecta. El gusano de IA descrito por Anthropic hace lo mismo con un decodificador de TV: aporta sus pesos y usa el chip y la memoria del aparato para hacerlos funcionar.

Los investigadores en seguridad hablan de ARA, por autonomous replication and adaptation (replicación y adaptación autónomas), desde un informe de la organización de evaluación METR de 2023. La palabra «adaptación» tiene su importancia: como una especie, un replicador solo perdura si se adapta a su entorno.

Es una de las «líneas rojas» más citadas de la seguridad de la IA. En marzo de 2024, la declaración de Pekín del IDAIS, firmada entre otros por Geoffrey Hinton, Yoshua Bengio y Andrew Yao, establece que «ningún sistema de IA debería poder copiarse o mejorarse sin la aprobación y la asistencia humanas explícitas».

Un gusano informático clásico solo transporta unos cientos de líneas de código, un genoma minúsculo. Un gusano de IA lleva un modelo de varios gigabytes y debe hacerlo funcionar en la máquina que infecta. Como dice Anthropic, «los pesos pasarían a formar parte de la carga maliciosa». Es mucho más pesado y más lento, pero un gusano así puede adaptarse: en lugar de seguir un guion, escribe su ataque para cada nuevo objetivo.

Gusano de IA, virus de IA: ¿de qué se habla?

La expresión «gusano de IA» designa tres cosas distintas, y «virus de IA» una cuarta, que no tiene nada de informática.

ExpresiónLo que designaEjemplos
Gusano dirigido a los asistentes de IAUna instrucción oculta (inyección de prompt) que el asistente copia en lo que produce, donde otro asistente la leeráMorris II (2024), gusano de Copilot para Word (julio de 2026), inyecciones descubiertas por OpenAI (septiembre de 2026)
Malware que recurre a una IAUn programa malicioso clásico que pide a un modelo que escriba o reescriba su códigoPromptLock (ESET, agosto de 2025), PROMPTFLUX (Google, noviembre de 2025)
IA que es ella misma el gusanoEl modelo se copia y funciona en las máquinas que infectaPalisade Research (mayo de 2026), Universidad de Toronto (junio de 2026), Anthropic (octubre de 2026)
Virus de IA, en sentido biológicoUn virus real cuyo genoma ha sido diseñado por un modelo de IA16 bacteriófagos diseñados por los modelos Evo (Science, agosto de 2026)

La primera categoría ya afecta a las herramientas de ofimática. En 2024, investigadores de Cornell Tech, del Technion y de Intuit crearon Morris II, llamado así por el gusano de 1988: un mensaje trampa lleva a un asistente de correo a copiarse en sus respuestas y a exfiltrar datos. En julio de 2026, el investigador noruego Håkon Måløy demostró que bastaba un texto blanco sobre fondo blanco en un documento de Word: Copilot lo ejecuta, modifica las cifras de un informe y copia la instrucción en los documentos nuevos. Tras 144 días de intercambios y dos parches de Microsoft, el ataque seguía funcionando según él. No se ha señalado ninguna explotación real.

Desde agosto de 2026, «virus de IA» remite sobre todo a trabajos de biología. Investigadores de Stanford y del Arc Institute pidieron a los modelos Evo que diseñaran unos 700.000 genomas de virus, sintetizaron 285 y obtuvieron 16 virus viables, que infectan la bacteria E. coli y no al ser humano. Estos virus no tienen ninguna relación técnica con los gusanos informáticos. Reabren el mismo debate: una capacidad útil también puede servir para hacer daño.

Lo que probó Anthropic

El equipo divide la replicación en cuatro etapas: encontrar objetivos, entrar en ellos, instalar el modelo y hacerlo funcionar, y luego volver a empezar desde la nueva máquina. Concentró sus pruebas en la tercera y simplificó a propósito la segunda.

Hacer funcionar un modelo en hardware barato

Anthropic repartió Gemma 4 26B, un modelo abierto de Google, entre 15 decodificadores Android TV de unos 55 dólares cada uno, con 4 GB de memoria cada uno. El conjunto produce 0,39 tokens por segundo, es decir, una palabra cada tres segundos aproximadamente.

Los investigadores pidieron después a varios modelos que montaran ellos mismos este tipo de instalación en hardware variado. Para que los resultados fueran comparables, el modelo que había que instalar era siempre el mismo, Llama 3.1 8B de Meta, y no el propio agente. Un modelo de 9.000 millones de parámetros, Qwen3.5-9B de Alibaba, lo logró en 8 de los 9 tipos de hardware probados. Para instalarse a sí mismo por completo, necesitaría entre 28 y 51 horas.

Propagarse de máquina en máquina

Para la prueba de principio a fin, Anthropic montó una red aislada de 8 máquinas que simulan dispositivos Android, con un puerto de depuración abierto sin contraseña. El agente debía pasar de máquina en máquina e instalar en cada una el mismo modelo pequeño, Llama 3.1 8B. Solo un modelo abierto lo consigue: GLM-5.2, que alcanza las 8 máquinas en 4 intentos de 5, y 7 de 8 en el último. Los demás fracasan.

GLM-5.2 no es un modelo pequeño. Publicado en junio de 2026 por la china Zhipu (Z.ai) con licencia MIT, tiene 753.000 millones de parámetros y no cabe en ningún dispositivo conectado. Por tanto, no se copió a sí mismo. En el estudio sirve de referencia: es el nivel que un modelo pequeño tendrá que alcanzar para llevar a cabo él solo toda la cadena.

Aprender de una generación a otra

Cada copia puede transmitir sus notas a la siguiente, lo que la hace progresar. Es una forma de herencia: los pesos no cambian, pero lo que cada generación ha aprendido pasa a la siguiente. La tasa de éxito de Qwen3.5-9B pasa del 45 % en la primera generación al 61-84 % en las siguientes. Dar acceso como asesor a un modelo mucho más potente, Claude Opus 4.8, no aporta en cambio nada medible.

Extrapolar a una botnet real

Para estimar la escala, Anthropic toma el ejemplo de Kimwolf, una botnet de más de 2 millones de dispositivos, en dos tercios decodificadores Android TV baratos, a menudo vendidos ya infectados. En un parque así, un gusano de IA podría hacer funcionar unas 133.000 copias, el equivalente a 40 tarjetas H100 en potencia de cálculo. Es insignificante a escala de un centro de datos, pero está repartido entre miles de hogares y pequeñas empresas, y por tanto es imposible de apagar de golpe.

Lo que hay que relativizar

La propia Anthropic enumera los límites de su estudio.

  • El puerto de depuración estaba abierto, así que la entrada era trivial. Los propios investigadores presentan sus resultados como un «techo» de las probabilidades de éxito reales.
  • Ningún modelo ha encadenado por sí solo, en condiciones reales, todas las etapas de la replicación.
  • Sería lento: a una palabra cada tres segundos, un gusano así tardaría varios días en duplicar su tamaño.
  • Los modelos pequeños son malos manipulando. En tareas de phishing dirigido, sus resultados van de «muy débiles» a «débiles».
  • Nada ha sido revisado ni reproducido. Es una entrada de blog, sin artículo científico ni código publicado, y la estimación se basa en una sola clase de dispositivos y una sola botnet.

Ciaran Martin, antiguo director del centro nacional de ciberseguridad británico (NCSC), lo ve como una «exageración de proveedor»: «"Hemos conseguido hacer funcionar un modelo pequeño en televisores baratos" no es una crisis de seguridad», declaró a Reuters.

No le falta razón en cuanto al tono, y se puede ver un interés comercial en un riesgo atribuido a los modelos abiertos por un laboratorio que vende modelos cerrados. Para nosotros, la demostración con los decodificadores de TV cuenta menos que la pendiente de la curva de los modelos pequeños, que se comprueba con datos públicos (véase más abajo).

Los estudios anteriores merecen las mismas reservas. En diciembre de 2024, la Universidad Fudan anunciaba que Llama 3.1 70B y Qwen 2.5 72B se replicaban en el 50 % y el 90 % de los intentos, pero los modelos habían recibido la orden explícita de hacerlo. El banco de pruebas RepliBench del instituto británico de seguridad de la IA mostraba en 2025 que los mejores modelos superaban la mayoría de las etapas, pero ninguno pasaba un control de identidad de tipo KYC.

Por qué, aun así, es serio

Sin interruptor

Un modelo que se usa a través de una API puede ser cortado por su proveedor. Un modelo open weight copiado en miles de decodificadores ya no depende de nadie. Anthropic describe este escenario como un «moho digital» lento y distribuido, que viviría en hardware mal protegido.

La comparación con los seres vivos ayuda a entender por qué un gusano así no necesitaría ninguna intención. En la naturaleza, nada «quiere» reproducirse: lo que se reproduce simplemente acaba siendo más numeroso que lo que no se reproduce. Bastaría con que un solo replicador funcionara, por malicia o por accidente, para que la observación de von Neumann se cumpliera. Anthropic describe además su peor escenario como un ecosistema: un «enjambre» de modelos distintos, en hardware distinto, que se replican cada uno a su manera.

Los modelos pequeños progresan rápido

Según Anthropic, los mejores modelos abiertos de 30.000 millones de parámetros o menos ganan 13,7 puntos al año en el índice de capacidades ECI de Epoch AI. Las cifras de Epoch muestran el camino recorrido: Qwen3.5-9B, lanzado a principios de 2026, supera a Llama 3.1 405B, lanzado en julio de 2024, con 45 veces menos parámetros. Qwen3.8 27B, publicado en agosto, ya solo está a 2,4 puntos de GLM-5.2, es decir, a unos dos meses al ritmo actual.

Los gusanos adaptativos ya existen en laboratorio

Otros equipos han ido más lejos en la etapa de intrusión. En mayo de 2026, Palisade Research hizo que un agente pirateara y luego se copiara en cuatro servidores situados en Canadá, Estados Unidos, Finlandia e India, en 2 horas y 41 minutos. En junio, un equipo de la Universidad de Toronto soltó un gusano equipado con un modelo abierto en una red de prueba de 33 máquinas. Alcanzó 20 de media, en hasta 7 generaciones, explotando vulnerabilidades publicadas después del entrenamiento del modelo. En ambos casos, las redes eran vulnerables a propósito y los agentes habían recibido la orden de propagarse.

Los laboratorios habían bajado la guardia

Entre 2024 y 2025, Anthropic, Google DeepMind y OpenAI rebajaron los tres la replicación autónoma en sus políticas de seguridad, al considerarla poco probable o mejor cubierta por otros riesgos. METR estimaba en 2024 que se había «sobrestimado». El estudio de octubre reabre el expediente y desplaza el riesgo hacia los modelos abiertos pequeños que funcionan en hardware de consumo.

Modelos open weight pequeños: el mismo progreso, en los dos lados

Desplegamos modelos open weight en nuestros clientes, a menudo por razones de soberanía. Es la misma curva que preocupa a Anthropic la que hoy nos permite hacer funcionar en un solo servidor usos que hace dos años requerían un modelo gigante. Muchos de estos modelos pequeños son alumnos de modelos más grandes, obtenidos por destilación.

El estudio no pide prohibir estos modelos. En julio de 2026, Dario Amodei, el consejero delegado de Anthropic, escribía que la empresa «nunca ha defendido la prohibición de los modelos open weight», aunque reclamaba pruebas de seguridad obligatorias para los modelos más capaces. También recordaba que un modelo publicado ya no se puede retirar: los pesos de los modelos en cuestión ya están en circulación.

El marco europeo no cubre este escenario. El artículo 53 del Reglamento de IA aligera las obligaciones de los modelos con licencia libre mientras se mantengan por debajo del umbral de riesgo sistémico, fijado en 10²⁵ operaciones de cálculo para el entrenamiento. Los modelos pequeños están muy lejos de él. Si el riesgo descrito por Anthropic se confirma, vendrá de modelos que ningún umbral de cálculo detecta.

El eslabón débil son los dispositivos que nadie gestiona: el decodificador conectado al televisor de la sala de reuniones, la cámara instalada hace cinco años y nunca actualizada. El servidor de IA de una empresa, en cambio, está administrado, vigilado y protegido por un cortafuegos.

Lo que una empresa puede hacer desde ya

Anthropic razona como un epidemiólogo: el objetivo es hacer bajar el R₀ por debajo de 1, es decir, que una máquina infectada contagie de media a menos de una más, para que el gusano se extinga en lugar de instalarse. Como en una epidemia, eso pasa por tener menos huéspedes vulnerables y por una detección rápida.

Hay dos frentes: los dispositivos conectados, objetivo del escenario de Anthropic, y los asistentes de IA, objetivo de los gusanos por inyección de prompt que ya existen.

En los dispositivos conectados

  1. Hacer inventario de los aparatos conectados a la red: televisores y decodificadores de las salas de reuniones, cámaras, sistemas de videoconferencia, impresoras.
  2. Aislarlos en una red separada, sin acceso a los puestos de trabajo ni a los servidores.
  3. Cerrar los puertos de depuración y cambiar las contraseñas por defecto. El Reino Unido ya prohíbe estas contraseñas en los dispositivos conectados que se venden en su territorio.
  4. Descartar los decodificadores Android sin marca, a menudo vendidos ya comprometidos.
  5. Vigilar el tráfico saliente: un decodificador que descarga varios gigabytes o abre miles de conexiones debe generar una alerta.

En los asistentes de IA

  1. Tratar como no fiable cualquier documento, correo o mensaje que lea un agente o un asistente.
  2. Limitar los derechos de los agentes y hacer validar por una persona cualquier acción que escriba, envíe o borre. Detallamos estos principios en nuestro artículo sobre los agentes de IA en la empresa.

La regulación también avanza. Desde el 11 de septiembre de 2026, el Reglamento de Ciberresiliencia (Cyber Resilience Act) obliga a los fabricantes a notificar en un plazo de 24 horas las vulnerabilidades explotadas activamente en sus productos conectados. Sus demás requisitos, entre ellos la seguridad por defecto, se aplicarán el 11 de diciembre de 2027. Los proveedores de acceso a internet también tienen un papel que desempeñar: frente a la botnet Mirai, poner en cuarentena a los abonados infectados permitió eliminar el 92 % de las infecciones en 14 días, según un estudio universitario de 2019.

Preguntas frecuentes

¿Puede una IA copiarse a sí misma?

En laboratorio, sí, siempre que se le dé la orden y un entorno vulnerable. Varios estudios (Fudan en 2024, Palisade Research y la Universidad de Toronto en 2026) han mostrado modelos que copian sus pesos en otra máquina y relanzan allí una instancia. En octubre de 2026, Anthropic mostró que un modelo abierto grande, GLM-5.2, podía propagarse por una red de prueba simplificada. Ninguna IA se ha replicado de forma autónoma fuera de un laboratorio.

¿Qué es un gusano de IA?

Un gusano de IA es un programa que se propaga de máquina en máquina sin intervención humana apoyándose en un modelo de IA. Existen tres formas: una instrucción oculta que un asistente de IA copia en lo que produce (Morris II, gusano de Copilot para Word), un malware que pide a un modelo que escriba su código (PromptLock, PROMPTFLUX), y un modelo que se copia a sí mismo en las máquinas que infecta, el escenario estudiado por Anthropic.

¿Qué es un virus de IA?

En español, «virus de IA» designa sobre todo, desde agosto de 2026, virus biológicos diseñados por la IA. Investigadores de Stanford y del Arc Institute pidieron a los modelos Evo que diseñaran genomas de virus y obtuvieron 16 bacteriófagos viables, que infectan la bacteria E. coli y no al ser humano. Para un programa malicioso que se propaga con ayuda de la IA, se habla más bien de gusano de IA.

¿Qué modelo logró replicarse en el estudio de Anthropic?

Solo GLM-5.2, publicado en junio de 2026 por la china Zhipu, completó la cadena entera: alcanzó las 8 máquinas de la red de prueba en 4 intentos de 5 e instaló un modelo pequeño en cada una. No es un modelo pequeño: tiene 753.000 millones de parámetros, no cabe en un dispositivo conectado y, por tanto, no se copió a sí mismo. Anthropic estima que un modelo de menos de 30.000 millones de parámetros podría alcanzar ese nivel de aquí a finales de 2026.

¿Están amenazados los dispositivos conectados de una empresa?

Los objetivos son los aparatos mal protegidos: decodificadores Android TV sin marca, cámaras, sistemas de videoconferencia, aparatos nunca actualizados o que conservan su contraseña por defecto. Ya son el objetivo de botnets clásicas como Kimwolf. Aislarlos en una red separada, cerrar sus puertos de depuración y vigilar su tráfico saliente protege frente a las dos amenazas.

¿Hay que renunciar a los modelos de IA open weight?

No. El estudio de Anthropic no lo pide, y los pesos de los modelos afectados ya están publicados y no se pueden retirar. El riesgo descrito procede de dispositivos conectados que nadie vigila, no de un servidor de IA administrado por una empresa. Un modelo open weight alojado en las propias instalaciones o en un proveedor europeo sigue siendo una buena opción para mantener el control de los datos.


Hoy no circula ningún gusano de IA. Las etapas para construir uno se vuelven accesibles para modelos lo bastante pequeños como para funcionar en hardware de 55 dólares, y el día en que uno de ellos funcione, no habrá ningún interruptor que apagar. Como en los seres vivos, bastará con que un solo replicador tenga éxito.

Para una empresa, lo más útil no tiene nada de nuevo: saber qué está conectado a su red, aislarlo y actualizarlo, y no dar a sus asistentes de IA más derechos de los necesarios.

Partager :

Artículos relacionados

Elige un número del 1 al 10: por qué la IA dice 7Conceptos

Elige un número del 1 al 10: por qué la IA dice 7

Pedimos 14.000 veces un número del 1 al 10 a siete IA. Cinco responden 7 casi siempre, sea cual sea la temperatura. ¿De dónde viene este sesgo de la IA?

9 min
Destilación de modelos: acusan a China, pero todos destilanConceptos

Destilación de modelos: acusan a China, pero todos destilan

OpenAI y Anthropic acusan a los laboratorios chinos de destilar sus modelos. Pero Meta, Google, Mistral e incluso xAI también destilan. Lo que se sabe.

12 min
IA y matemáticas: cuando verificar cuesta más que producirConceptos

IA y matemáticas: cuando verificar cuesta más que producir

OpenAI publicó 722 manuscritos de matemáticas de golpe y los matemáticos ya no dan abasto. Su crisis muestra hacia dónde se desplaza el trabajo.

10 min

¿Te interesan nuestras soluciones?

Mira cómo Ask This Guy puede acelerar tus proyectos de IA

Reservar una demo