En manos de agentes maliciosos, las herramientas de IA pueden aumentar la escala y gravedad de todo tipo de estafas, campa\u00f1as de desinformaci\u00f3n y otras amenazas<\/p>\n
La IA ha disparado la carrera armament\u00edstica de la ciberseguridad en el \u00faltimo a\u00f1o. Y los pr\u00f3ximos 12 meses no dar\u00e1n tregua. Esto tiene importantes implicaciones para los equipos de ciberseguridad de las empresas y sus empleadores, as\u00ed como para los usuarios de la web. Mientras que la tecnolog\u00eda de IA ayuda a los defensores a mejorar la seguridad<\/a>, los actores maliciosos no pierden el tiempo en aprovechar las herramientas potenciadas por IA, por lo que podemos esperar un aumento de las estafas, la ingenier\u00eda social, el fraude de cuentas, la desinformaci\u00f3n y otras amenazas.<\/p>\n Esto es lo que puede esperar de 2025.<\/p>\n A principios de 2024, el Centro Nacional de Ciberseguridad del Reino Unido (NCSC) advirti\u00f3<\/a> que la IA ya est\u00e1 siendo utilizada por todo tipo de actores de amenazas y que \u00abcasi con toda seguridad aumentar\u00e1 el volumen y el impacto de los ciberataques en los pr\u00f3ximos dos a\u00f1os\u00bb. La amenaza es m\u00e1s grave en el contexto de la ingenier\u00eda social, donde la IA generativa (GenAI) puede ayudar a los actores maliciosos a elaborar campa\u00f1as muy convincentes en idiomas locales impecables; o en el reconocimiento, donde la IA puede automatizar la identificaci\u00f3n a gran escala de activos vulnerables.<\/p>\n Aunque estas tendencias continuar\u00e1n sin duda en 2025, es posible que tambi\u00e9n veamos el uso de la IA para:<\/p>\n La IA no s\u00f3lo ser\u00e1 una herramienta para los actores de amenazas durante el pr\u00f3ximo a\u00f1o. Tambi\u00e9n podr\u00eda introducir un elevado riesgo de fuga de datos. La IA requiere enormes vol\u00famenes de texto, im\u00e1genes y v\u00eddeo para entrenarse. A menudo, por accidente, algunos de esos datos ser\u00e1n sensibles. En algunos casos, las redes sociales y otras empresas pueden cambiar los t\u00e9rminos y condiciones<\/a> para utilizar los datos de los clientes para entrenar modelos.<\/p>\n Una vez acaparada por el modelo de IA, esta informaci\u00f3n representa un riesgo para las personas si el propio sistema de IA es pirateado. O si la informaci\u00f3n se comparte con otros a trav\u00e9s de aplicaciones GenAI que se ejecutan sobre el LLM. Tambi\u00e9n existe la preocupaci\u00f3n de que los usuarios corporativos compartan involuntariamente informaci\u00f3n sensible relacionada con el trabajo a trav\u00e9s de los mensajes de GenAI. Seg\u00fan una encuesta, una quinta parte de las empresas brit\u00e1nicas han expuesto accidentalmente<\/a> datos corporativos potencialmente sensibles a trav\u00e9s del uso de GenAI por parte de sus empleados.<\/p>\n La buena noticia es que la IA desempe\u00f1ar\u00e1 un papel cada vez m\u00e1s importante en el trabajo de los equipos de ciberseguridad durante el pr\u00f3ximo a\u00f1o, a medida que se incorpore a nuevos productos y servicios. Sobre la base de una larga historia de seguridad impulsada por la IA, estas nuevas ofertas ayudar\u00e1n a:<\/p>\n Sin embargo, los responsables de TI y seguridad tambi\u00e9n deben comprender las limitaciones de la IA y la importancia de la experiencia humana en el proceso de toma de decisiones. En 2025 ser\u00e1 necesario un equilibrio entre humanos y m\u00e1quinas para mitigar el riesgo de alucinaciones, degradaci\u00f3n de modelos y otras consecuencias potencialmente negativas. La IA no es una bala de plata. Debe combinarse con otras herramientas y t\u00e9cnicas para obtener resultados \u00f3ptimos.<\/p>\n Para obtener m\u00e1s informaci\u00f3n sobre el uso de la IA en la ciberseguridad, consulte <\/em>este libro blanco de ESET<\/em><\/a>.<\/em><\/p><\/blockquote>\n<\/div>\n El panorama de las amenazas y el desarrollo de la seguridad de la IA no ocurren en el vac\u00edo. Los cambios geopol\u00edticos en 2025, especialmente en los EE. UU., pueden incluso llevar a la desregulaci\u00f3n en los sectores de la tecnolog\u00eda y los medios sociales. Esto, a su vez, podr\u00eda permitir a los estafadores y otros agentes maliciosos inundar las plataformas en l\u00ednea con amenazas generadas por IA.<\/p>\n Mientras tanto, en la UE sigue habiendo cierta incertidumbre sobre la regulaci\u00f3n de la IA, lo que podr\u00eda complicar la vida a los equipos de cumplimiento<\/a>. Como han se\u00f1alado<\/a> los expertos jur\u00eddicos, todav\u00eda hay que elaborar c\u00f3digos de pr\u00e1cticas y orientaciones, y calcular la responsabilidad por los fallos de los sistemas de IA. Las presiones del sector tecnol\u00f3gico podr\u00edan alterar la aplicaci\u00f3n pr\u00e1ctica de la Ley de Inteligencia Artificial de la UE.<\/p>\n Sin embargo, lo que est\u00e1 claro es que la IA cambiar\u00e1 radicalmente nuestra forma de interactuar con la tecnolog\u00eda en 2025, para bien y para mal. Ofrece enormes beneficios potenciales a empresas y particulares, pero tambi\u00e9n nuevos riesgos que deben gestionarse. A todos nos interesa trabajar m\u00e1s estrechamente durante el pr\u00f3ximo a\u00f1o para asegurarnos de que as\u00ed sea. Los gobiernos, las empresas del sector privado y los usuarios finales deben desempe\u00f1ar su papel y trabajar juntos para aprovechar el potencial de la IA y, al mismo tiempo, mitigar sus riesgos.<\/p>\n","protected":false},"excerpt":{"rendered":" En manos de agentes maliciosos, las herramientas de IA pueden aumentar la escala y gravedad de todo tipo de estafas, campa\u00f1as de desinformaci\u00f3n y otras […]<\/p>\n","protected":false},"author":1,"featured_media":162,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[],"class_list":["post-161","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-seguridad-informatica"],"jetpack_featured_media_url":"https:\/\/i1.wp.com\/web-assets.esetstatic.com\/tn\/-x700\/wls\/2025\/01-2025\/cybersecurity-ai-outlook-2025.jpeg?w=1244&resize=1244,700&ssl=1","_links":{"self":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts\/161","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=161"}],"version-history":[{"count":1,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts\/161\/revisions"}],"predecessor-version":[{"id":163,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts\/161\/revisions\/163"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/media\/162"}],"wp:attachment":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=161"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=161"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=161"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}Qu\u00e9 hay que tener en cuenta<\/h2>\n
\n
Preocupaciones por la privacidad de la IA en 2025<\/h2>\n
IA para defensores en 2025<\/h2>\n
\n
Desaf\u00edos de la IA en el cumplimiento y la aplicaci\u00f3n<\/h2>\n