Gusanos de IA en smart home: la advertencia de Anthropic
Anthropic advierte de que pequeños modelos de IA podrían propagarse pronto entre dispositivos domésticos conectados sin intervención humana.
👁 114 lecturas
Los modelos pequeños de inteligencia artificial podrían estar a tan solo unos meses de lograr replicarse de forma autónoma entre dispositivos conectados a internet, sin ningún tipo de intervención humana. Esta es la conclusión que se desprende de un estudio publicado el lunes en el blog de Anthropic, firmado por William Zhou y Daniel Freeman.
Se trata de un frente potencialmente nuevo dentro de la ciberseguridad, en caso de que este escenario llegue a materializarse. Hasta el momento, el software malicioso basado en IA dependía de la capacidad de cómputo de grandes centros de datos. En cambio, el gusano de IA descrito por los investigadores de Anthropic podría operar sobre redes de dispositivos de consumo baratos y con escasa seguridad: televisores inteligentes, decodificadores e incluso electrodomésticos de cocina.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →Moho mucilaginoso y moscas de la fruta
Los autores del análisis comparan este hipotético gusano de IA con un moho mucilaginoso o un enjambre de moscas de la fruta: un organismo que avanza despacio, pero de forma constante y sin un centro de mando único. Su propagación de un dispositivo a otro llevaría previsiblemente días, no minutos. Esta es una diferencia sustancial respecto al malware clásico, capaz de infectar miles de máquinas en cuestión de segundos.
Sin embargo, esa misma característica (la ausencia de un interruptor central de apagado) haría que erradicar el gusano fuera extremadamente complejo una vez activo. En las botnets tradicionales, las fuerzas de seguridad o los especialistas en ciberseguridad pueden intervenir o apagar los servidores de comando y control, inutilizando la red completa. Un gusano de IA que se replica de manera autónoma entre terminales carece de ese cuello de botella.
Para fundamentar sus estimaciones, los investigadores tomaron como referencia el modelo de la botnet Kimwolf, una infraestructura de dispositivos secuestrados y controlados por atacantes que en su punto más álgido llegó a infectar a más de dos millones de aparatos. La inmensa mayoría eran decodificadores Android TV baratos de marcas genéricas: exactamente la clase de hardware presente en millones de hogares que casi nunca recibe actualizaciones de seguridad.
Los propios autores matizan que sus cálculos son aproximados, al basarse en un tipo concreto de dispositivo y en una botnet histórica determinada. A pesar de ello, apuntan a una tendencia clara: la potencia de cálculo en los dispositivos cotidianos no deja de crecer, mientras que los modelos de IA necesarios para ejecutar una ofensiva así son cada vez más pequeños y ligeros en consumo de recursos.
El contexto tecnológico resulta determinante en este punto. Grandes compañías tecnológicas -desde Apple hasta Google o Samsung- destinan cuantiosas inversiones a lograr que los modelos de IA se ejecuten en local dentro de teléfonos, portátiles, vehículos y aparatos del hogar, en lugar de depender únicamente de centros de datos remotos. Se trata de un cambio positivo para la privacidad y la inmediatez de respuesta, pero este ecosistema distribuido de IA en productos de consumo abre una nueva superficie de ataque, mucho más difícil de supervisar y actualizar de forma centralizada que los servidores en la nube.
Un gusano informático convencional -como el histórico Morris Worm de 1988 o WannaCry en 2017- es un programa malicioso diseñado para propagarse de un equipo a otro a través de la red por sus propios medios. No necesita que la víctima descargue ni abra archivos infectados; basta con detectar una vulnerabilidad para saltar al siguiente objetivo. El gusano de IA planteado por Anthropic funcionaría de un modo similar, aunque en vez de limitarse a explotar vulnerabilidades de sistema tradicionales, aprovecharía las capacidades de modelos de lenguaje pequeños u otras redes neuronales ejecutadas localmente.
La investigación ve la luz en un momento en el que administraciones públicas y empresas apenas empiezan a asimilar la magnitud de los riesgos de seguridad derivados de la IA. Hasta la fecha, la atención se ha centrado sobre todo en los deepfakes, el phishing potenciado por modelos generativos o la automatización de intrusiones. El escenario de un gusano de IA capaz de autorreplicarse en dispositivos IoT plantea una amenaza cualitativamente distinta y, según Anthropic, no necesariamente lejana.
Si las proyecciones de Anthropic son acertadas, la industria de la ciberseguridad dispone de un margen muy estrecho para articular defensas antes de que los dispositivos conectados de los hogares se conviertan en nodos de una nueva generación de botnets.
El Pentágono sustituye la IA de Anthropic sin fallos operativosNoticias
Anthropic advierte en su propio prospecto de IPO que su IA podría representar riesgos ‘catastróficos’ para la humanidadNoticias
El laboratorio de biología de Anthropic descubrió un sistema enzimático similar a CRISPR en 21 horasHerramientas de IAMore on this from FULGOR
herramientas de ia·Qué modelo de decisión elegir según el caso de usoAnálisis comparativo de modelos de decisión según clasificación, uso de herramientas, razonamiento, privacidad y soberanía de datos en la UE.