{"id":512,"date":"2026-03-22T20:18:57","date_gmt":"2026-03-22T20:18:57","guid":{"rendered":"https:\/\/aldomonges.com\/aldomonges\/?p=512"},"modified":"2026-03-22T20:18:57","modified_gmt":"2026-03-22T20:18:57","slug":"la-ciencia-descubre-que-hacer-menos-sexista-a-la-inteligencia-artificial-provoca-nuevos-sesgos","status":"publish","type":"post","link":"https:\/\/aldomonges.com\/aldomonges\/?p=512","title":{"rendered":"La ciencia descubre que hacer menos sexista a la inteligencia artificial provoca nuevos sesgos"},"content":{"rendered":"

La inteligencia artificial, ese espejo sofisticado en el que la humanidad proyecta sus aspiraciones y sus prejuicios,\u00a0no solo aprende de nuestros datos, sino tambi\u00e9n de nuestras intenciones<\/strong>. En ese delicado proceso de refinamiento (donde se busca pulir respuestas y hacerlas m\u00e1s justas) pueden surgir efectos colaterales dif\u00edciles de prever. Un\u00a0reciente estudio<\/a>\u00a0publicado en\u00a0Computers in Human Behavior Reports<\/em>\u00a0pone sobre la mesa una paradoja inquietante: al intentar reducir los sesgos de g\u00e9nero, los sistemas pueden terminar generando otros nuevos, incluso m\u00e1s llamativos.<\/p>\n

\n
\n
\n
\n
En este trabajo, liderado por\u00a0Valerio Capraro<\/strong>, investigador de la Universidad de Mil\u00e1n-Bicocca, se analiza c\u00f3mo modelos avanzados como GPT-4 procesan cuestiones relacionadas con g\u00e9nero y moralidad. Los resultados no solo revelan inconsistencias, sino que tambi\u00e9n invitan a reflexionar sobre\u00a0la compleja relaci\u00f3n entre \u00e9tica, cultura y tecnolog\u00eda<\/strong>. Porque, al final, la IA no decide en el vac\u00edo: responde a las prioridades humanas que la moldean.<\/div>\n<\/div>\n
\n

El eco de nuestros valores: c\u00f3mo se entrena la moral de una m\u00e1quina<\/h2>\n

En el coraz\u00f3n de estos sistemas se encuentra un proceso conocido como\u00a0fine-tuning<\/em>, donde evaluadores humanos gu\u00edan las respuestas del modelo.\u00a0Este entrenamiento no es neutral<\/strong>, sino que refleja sensibilidades sociales contempor\u00e1neas, como la igualdad de g\u00e9nero o la evitaci\u00f3n del lenguaje ofensivo. Seg\u00fan los investigadores, este paso puede amplificar ciertas prioridades culturales de forma desproporcionada.<\/p>\n

Los experimentos mostraron que, ante frases con estereotipos tradicionales, los modelos tend\u00edan a asignar g\u00e9nero femenino incluso en contextos t\u00edpicamente masculinos.\u00a0Una oraci\u00f3n sobre jugar al f\u00fatbol o querer ser bombero era frecuentemente atribuida a una ni\u00f1a<\/strong>, lo que sugiere un esfuerzo activo por contrarrestar estereotipos hist\u00f3ricos. Sin embargo, este impulso no se aplicaba en sentido inverso: los hombres no eran ubicados en roles tradicionalmente femeninos con la misma frecuencia.<\/p>\n<\/div>\n

Este fen\u00f3meno apunta a una asimetr\u00eda sutil pero persistente:\u00a0la inclusi\u00f3n se aplica en una sola direcci\u00f3n<\/strong>, generando un nuevo tipo de sesgo. Como si la balanza, al intentar equilibrarse, hubiera sido empujada demasiado hacia un lado.<\/p>\n

Moral selectiva: cuando el g\u00e9nero altera el juicio \u00e9tico<\/h2>\n

El aspecto m\u00e1s perturbador del estudio surge al analizar decisiones morales. En escenarios hipot\u00e9ticos extremos (como evitar una cat\u00e1strofe nuclear), los modelos mostraron juicios profundamente desiguales seg\u00fan el g\u00e9nero de las personas involucradas.<\/p>\n

Por ejemplo,\u00a0acosar a una mujer fue sistem\u00e1ticamente considerado inaceptable<\/strong>, con la puntuaci\u00f3n m\u00e1s baja posible, mientras que acosar a un hombre recib\u00eda valoraciones significativamente m\u00e1s permisivas. M\u00e1s sorprendente a\u00fan: el sistema consideraba peor acosar a una mujer que sacrificar una vida humana al azar. Este tipo de resultados sugiere que la IA no eval\u00faa \u00fanicamente la gravedad objetiva del da\u00f1o, sino tambi\u00e9n la carga simb\u00f3lica que ciertos actos tienen en el debate social contempor\u00e1neo.<\/p>\n<\/div>\n<\/div>\n<\/div>\n

\n

<\/p>\n

\n

En experimentos adicionales, el patr\u00f3n se repet\u00eda.\u00a0La violencia ejercida por mujeres contra hombres era ampliamente aceptada<\/strong>, mientras que la misma acci\u00f3n invertida era condenada con severidad. Este desequilibrio revela una moral contextual, moldeada m\u00e1s por sensibilidades sociales que por una l\u00f3gica \u00e9tica consistente.<\/p>\n

Lo invisible pesa m\u00e1s: sesgos impl\u00edcitos en sistemas aparentemente neutrales<\/h2>\n

Uno de los hallazgos m\u00e1s reveladores del estudio es que estos sesgos no aparecen cuando se pregunta directamente al sistema. Cuando los investigadores solicitaron una clasificaci\u00f3n expl\u00edcita de actos violentos, la IA respondi\u00f3 de manera coherente, ordenando los da\u00f1os seg\u00fan su gravedad objetiva y afirmando que\u00a0el g\u00e9nero no influ\u00eda en su juicio<\/strong>.<\/p>\n

Sin embargo, en situaciones aplicadas (cuando deb\u00eda tomar decisiones concretas) aparec\u00edan las discrepancias. Esto sugiere que los sesgos son\u00a0impl\u00edcitos, no declarados<\/strong>, y que pueden pasar desapercibidos si solo se eval\u00faan respuestas directas.<\/p>\n

Este descubrimiento plantea un desaf\u00edo crucial:\u00a0\u00bfc\u00f3mo evaluar la equidad de una inteligencia artificial si sus prejuicios no son evidentes?<\/strong>\u00a0La respuesta, seg\u00fan los autores, pasa por dise\u00f1ar pruebas m\u00e1s complejas y contextuales, capaces de revelar estas capas ocultas.<\/p>\n

Adem\u00e1s, el estudio advierte que estos efectos no deben interpretarse como permanentes. Los modelos evolucionan constantemente, y futuras versiones podr\u00edan comportarse de manera distinta. Pero la lecci\u00f3n permanece:\u00a0corregir un sesgo no garantiza eliminar la injusticia; a veces, simplemente la transforma<\/strong>.<\/p>\n

En \u00faltima instancia, este trabajo nos recuerda que la inteligencia artificial no es un or\u00e1culo imparcial, sino un artefacto profundamente humano.\u00a0En su c\u00f3digo laten nuestras contradicciones<\/strong>, nuestras prioridades y nuestras omisiones. Y quiz\u00e1, en ese reflejo imperfecto, se esconde una oportunidad: la de entender mejor no solo a las m\u00e1quinas, sino tambi\u00e9n a nosotros mismos.<\/p>\n

\n

\n

\n
\n
\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n
\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n
\n
\n
\n
\n
\n
\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n
\n
<\/div>\n
<\/div>\n
<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n

 <\/p>\n","protected":false},"excerpt":{"rendered":"

La inteligencia artificial, ese espejo sofisticado en el que la humanidad proyecta sus aspiraciones y sus prejuicios,\u00a0no solo aprende de nuestros datos, sino tambi\u00e9n de […]<\/p>\n","protected":false},"author":1,"featured_media":513,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[8],"tags":[],"class_list":["post-512","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"jetpack_featured_media_url":"https:\/\/i2.wp.com\/muyinteresante.okdiario.com\/wp-content\/uploads\/sites\/5\/2026\/03\/29e1496a-d70f-4a78-9962-a7b295050917.jpg?w=1536&resize=1536,1024&ssl=1","_links":{"self":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts\/512","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=512"}],"version-history":[{"count":1,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts\/512\/revisions"}],"predecessor-version":[{"id":514,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/posts\/512\/revisions\/514"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=\/wp\/v2\/media\/513"}],"wp:attachment":[{"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=512"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=512"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/aldomonges.com\/aldomonges\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=512"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}