Las claves para comprender el impacto de estos programas que se valen de modelos de inteligencia artificial para tomar decisiones potenciar\u00e1n al cibercrimen, pero tambi\u00e9n a la defensa de los ataques.<\/p>\n
\u201cSe avecinan ciberataques por parte de agentes de IA\u201d. La frase, que titula un art\u00edculo reciente del MIT, advierte sobre un escenario factible e invita a profundizar sobre una tem\u00e1tica que podr\u00e1 cambiarlo todo en el futuro cercano.<\/p>\n
Por ello, en este art\u00edculo analizaremos qu\u00e9 son los agentes de IA, c\u00f3mo pueden ser \u00fatiles para potenciar los ataques de los cibercriminales, de qu\u00e9 manera pueden cambiar la ciberseguridad, y tambi\u00e9n qu\u00e9 tipos de pruebas y an\u00e1lisis se realizan en la actualidad, y as\u00ed entender c\u00f3mo detectarlos en un futuro que se vislumbra cada vez m\u00e1s cercano.<\/p>\n
\u00bfQu\u00e9 son los agentes de IA?
\nUn agente de inteligencia artificial es un programa capaz de percibir su entorno y tomar decisiones de manera independiente utilizando modelos de inteligencia artificial. Son sistemas aut\u00f3nomos capaces de razonar y tomar decisiones para alcanzar ciertos objetivos. De hecho, entre sus principales capacidades se destacan el aprendizaje autom\u00e1tico y actuar de manera independiente.<\/p>\n
Y si bien pueden ejecutar tareas cotidianas como programar reuniones y hacer pedidos de comestibles, podr\u00edan utilizarse muy f\u00e1cilmente para tareas maliciosas como identificar objetivos vulnerables, secuestrar sistemas y hasta robar datos de sus v\u00edctimas.<\/p>\n
Los agentes de IA y el impacto en el mundo de la ciberseguridad
\nSeg\u00fan han analizado especialistas del MIT, los agentes de IA podr\u00edan representar un rol clave en el mundo de la ciberseguridad, en el corto o mediano plazo. Y si bien no cambiar\u00e1n la propia naturaleza de los ataques ya existentes, s\u00ed podr\u00e1n funcionar como un gran acelerador de las t\u00e9cnicas actuales.<\/p>\n
Uno de los argumentos es que estos agentes podr\u00edan simplificar el compromiso de sistemas a gran escala. \u00bfC\u00f3mo? Emple\u00e1ndolos en la identificaci\u00f3n de aquellos objetivos vulnerables, como tambi\u00e9n en el acceso a los sistemas y el posterior robo de datos de las v\u00edctimas. Adem\u00e1s, ofrecen la posibilidad de ser mucho m\u00e1s econ\u00f3micos, compar\u00e1ndolos con el gasto que supone contratar a un equipo de profesionales para hacer este trabajo.<\/p>\n
Esta realidad est\u00e1 mucho m\u00e1s cerca de lo que pensamos: investigadores de la empresa Anthropic, dedicada a desarrollar modelos de IA seguros, pudo comprobar c\u00f3mo estos agentes fueron capaces de replicar un ataque destinado a robar informaci\u00f3n confidencial.<\/p>\n
Para reafirmar esto, Gartner indica que los agentes de IA reducir\u00e1n a la mitad el tiempo necesario para explotar las exposiciones de las cuentas de cara al 2027, y adem\u00e1s desempe\u00f1ar\u00e1n un rol clave en la automatizaci\u00f3n de la ingenier\u00eda social basada en voces deepfake hasta los abusos de credenciales de usuario.<\/p>\n
\u201cA diferencia del uso malicioso de la IA actual, que es una herramienta m\u00e1s dentro del arsenal de los ciberatacantes, los agentes utilizados con fines criminales podr\u00edan llevarnos a ataques automatizados y que aprenden de sus propios errores o falencias. Por ejemplo, podr\u00edamos enfrentarnos a una campa\u00f1a de phishing que aprenda qu\u00e9 anzuelo es m\u00e1s efectivo bas\u00e1ndose en la cantidad de v\u00edctimas que cae en uno u otro enga\u00f1o\u201d, indica Martina L\u00f3pez, Security Researcher del equipo de Laboratorio de ESET Latinoam\u00e9rica.<\/p>\n
Sucede que estos agentes basados \u200b\u200ben IA no solo que son capaces de analizar grandes cantidades de datos, sino que tambi\u00e9n pueden identificar qu\u00e9 cuentas est\u00e1n expuestas, y a partir de ello, recopilar credenciales y explotar vulnerabilidades.<\/p>\n
En esa l\u00ednea, Daniel Kang, quien es profesor adjunto de la Universidad de Illinois en Urbana-Champaign, le comparti\u00f3 al MIT el hallazgo que obtuvo gracias al trabajo realizado con su equipo: los agentes de IA explotaron con \u00e9xito hasta el 13 % de las vulnerabilidades de las que no ten\u00edan conocimiento previo. Pero a\u00fan hay m\u00e1s: al proporcionar una breve descripci\u00f3n de la vulnerabilidad, la tasa de \u00e9xito se elev\u00f3 al 25 %.<\/p>\n
Lectura recomendada:
\nLos ataques pr\u00e1cticos con IA ya existen y cada vez son mejores<\/p>\n
El Honeypot que pone al descubierto a los agentes de IA
\nEst\u00e1 claro lo que los agentes de IA podr\u00edan representar en el mundo de la ciberseguridad en caso de ser utilizados con fines maliciosos. Pero la pregunta que surge es: \u00bfc\u00f3mo detectarlos en el mundo real?<\/p>\n
Una respuesta inicial la obtuvo Palisade Research, organizaci\u00f3n dedicada a la investigaci\u00f3n en IA, y quienes fueron los creadores del sistema LLM Agent Honeypot. \u00bfSu objetivo? Configurar servidores vulnerables, que simulan ser sitios de informaci\u00f3n gubernamental y militar valiosa, para as\u00ed atraer e intentar atrapar a los agentes de IA que intenten hackearlo, para ampliar su conocimiento sobre ellos.<\/p>\n
De momento, obtuvieron estos resultados: 9 agentes potenciales de IA (que pasaron la detecci\u00f3n de inyecci\u00f3n r\u00e1pida) y 2 agentes de IA confirmados (que pasaron tanto la inyecci\u00f3n r\u00e1pida como el an\u00e1lisis temporal), desde Hong Kong y Singapur.<\/p>\n
Para poder determinar si los visitantes de los servidores vulnerables eran agentes con tecnolog\u00eda LLM o no, desde Palisade incorporaron t\u00e9cnicas de inyecci\u00f3n de mensajes en el honeypot: es decir, que emit\u00edan nuevas \u00f3rdenes y haciendo preguntas que requieren una inteligencia similar a la humana.<\/p>\n
Uno de estos mensajes, destaca el MIT, solicitaba al visitante devolver el comando \u00abcat8193\u00bb para acceder. All\u00ed, los investigadores verificaban el tiempo que demoraban, dando por hecho que los LLM pueden responder en menos tiempo que una persona y escribir una respuesta (hablamos de menos de 1,5 segundos).<\/p>\n
\u201cSuponemos que estos agentes confirmados fueron experimentos lanzados directamente por humanos con el objetivo de algo como \u2018Sal a internet e intenta hackear algo interesante para m\u00ed\u2019\u201d, afirm\u00f3 al MIT Dmitrii Volkov, director de investigaci\u00f3n de Palisade.<\/p>\n
Principales diferencias entre los agentes de IA y los bots simples
\nA lo largo de su art\u00edculo, el MIT marca sensiblemente las diferencias que existen entre los agentes de IA y los bots simples: \u201cLos agentes son significativamente m\u00e1s inteligentes que los bots que se suelen usar para hackear sistemas. Los bots son programas automatizados simples que se ejecutan mediante scripts, por lo que les cuesta adaptarse a escenarios inesperados. Los agentes, por otro lado, no solo pueden adaptar su forma de interactuar con el objetivo del ataque, sino tambi\u00e9n evitar ser detectados\u201d.<\/p>\n
Para comprender m\u00e1s profundamente las diferencias entre ellos, compartimos el siguiente cuadro:<\/p>\n
Caracter\u00edsticas<\/strong><\/td>\n| Agentes de IA<\/strong><\/td>\n | Bot simples<\/strong><\/td>\n<\/tr>\n<\/thead>\n\n | Capacidad de adaptaci\u00f3n<\/strong><\/td>\n | Se adaptan a escenarios inesperados.<\/td>\n | No se adaptan, ya que siguen scripts fijos.<\/td>\n<\/tr>\n | Habilidad de evitar detecci\u00f3n<\/strong><\/td>\n | Pueden evitar ser detectados.<\/td>\n | Son f\u00e1ciles de identificar por sus patrones fijos.<\/td>\n<\/tr>\n | Toma de decisiones<\/strong><\/td>\n | Eval\u00faan objetivos y eligen c\u00f3mo penetrarlos.<\/td>\n | Ejecutan instrucciones predefinidas.<\/td>\n<\/tr>\n | Capacidad de razonamiento<\/strong><\/td>\n | Poseen razonamiento y comprensi\u00f3n contextual.<\/td>\n | No tienen inteligencia; solo ejecutan comando.<\/td>\n<\/tr>\n | Velocidad de respuesta<\/strong><\/td>\n | Responden en milisegundos<\/td>\n | Son m\u00e1s lentos o requieren intervenci\u00f3n humana.<\/td>\n<\/tr>\n | Nivel de sofisticaci\u00f3n<\/strong><\/td>\n | Alta: pueden llevar a cabo tareas complejas<\/td>\n | Baja: est\u00e1n limitadas a funciones repetitivas<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n | IA: clave tambi\u00e9n en la defensa Al poder analizar grandes bases de datos, los modelos de IA generativa pueden ser \u00fatiles para que las organizaciones puedan identificar vulnerabilidades m\u00e1s r\u00e1pidamente y de manera m\u00e1s eficiente. Pero no solo eso, sino que desempe\u00f1an un rol clave en la monitorizaci\u00f3n de la red y su actividad en tiempo real, para detectar (por ejemplo) intentos de acceso no autorizado.<\/p>\n A\u00fan hay m\u00e1s: la IA puede ser utilizada tambi\u00e9n la creaci\u00f3n de honeypots cada vez m\u00e1s realistas para atraer a los ciberatacantes y as\u00ed recopilar informaci\u00f3n sobre sus t\u00e1cticas y m\u00e9todos, para mejorar las defensas.<\/p>\n Hablando puntualmente de los agentes de IA, pueden ser \u00fatiles a la hora de suprimir gran parte del trabajo manual relacionado con las alertas, como tambi\u00e9n para analizar la actividad de un entorno y clasificar los incidentes, seg\u00fan el riesgo que representan.<\/p>\n En resumen, pueden posicionarse como un actor fundamental para comprender mucho mejor las amenazas reales y hasta para minimizar los tiempos de reacci\u00f3n frente a estas.<\/p>\n Lectura recomendada: Conclusi\u00f3n La otra cara de la moneda es que son estos mismos agentes de IA los que pueden jugar un rol clave en la ciberseguridad: desde la optimizaci\u00f3n de tiempos a la prevenci\u00f3n de ataques.<\/p>\n El futuro (cercano) dir\u00e1 si la afirmaci\u00f3n del MIT que inicie este texto es correcta o no: mientras tanto, bien vale estar informado de estas nuevas tendencias y tomar las precauciones necesarias.<\/p>\n <\/p>\n <\/p>\n <\/p>\n <\/p>\n <\/p>\n <\/p>\n <\/p>\n <\/p>\n <\/p>\n","protected":false},"excerpt":{"rendered":" Las claves para comprender el impacto de estos programas que se valen de modelos de inteligencia artificial para tomar decisiones potenciar\u00e1n al cibercrimen, pero tambi\u00e9n […]<\/p>\n","protected":false},"author":1,"featured_media":229,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-228","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-seguridad-informatica"],"jetpack_featured_media_url":"https:\/\/i2.wp.com\/web-assets.esetstatic.com\/tn\/-x700\/wls\/2025\/06-25\/agentes-ai-como-cibercirmen-defensa.jpeg?w=1244&resize=1244,700&ssl=1","_links":{"self":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts\/228","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=228"}],"version-history":[{"count":1,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts\/228\/revisions"}],"predecessor-version":[{"id":230,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts\/228\/revisions\/230"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/media\/229"}],"wp:attachment":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=228"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=228"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=228"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}} |