La IA reveló tener un sesgo oculto

Fuente: Mindword/Pixabay

Las personas son inherentemente parciales. ¿Las máquinas que ejecutan grandes modelos de lenguaje (LLM) de inteligencia artificial (IA) también están sesgadas? Un nuevo estudio de la Universidad de Harvard revela que los LLM son parciales como las personas y hacen suposiciones de carácter sobre la competencia y la confiabilidad en función de los rasgos faciales.

“Contrariamente a la promesa de mejorar las decisiones humanas, estos hallazgos exponen la imprudencia de usar modelos de lenguaje en contextos de selección”, escribieron Mahzarin Banaji, Steven Lehr y Yash Lothe, quienes realizaron el estudio que se publicó recientemente en PNAS Nexus, una revista de Procedimientos de la Academia Nacional de Ciencias (PNAS por sus siglas en inglés).

Desde hace tiempo se ha establecido que los humanos somos parciales. Por ejemplo, en psicología moderna, el psicólogo estadounidense Edward Lee Thorndike (1874-1949) introdujo el concepto del efecto halo, la tendencia de una impresión general de una persona a sesgar el juicio de los rasgos de carácter de esa persona, en su estudio “Un error constante en las calificaciones psicológicas” publicado en 1920 en el Journal of Applied Psychology. Thorndike investigó y descubrió que cuando se les pedía a los oficiales al mando que calificaran a sus subordinados sin hablar con ellos, calificaban a los militares más altos y atractivos como soldados más inteligentes y mejores. El efecto halo es solo uno de muchos sesgos cognitivos, un término que fue introducido en la década de 1970 por los psicólogos Amos Tversky y Daniel Kahneman.

Juicio rápido de los rasgos faciales

De hecho, las personas con frecuencia sacan conclusiones basadas en la apariencia facial de los demás y rápidamente. En tan solo una décima de segundo, una persona puede formarse una impresión de otra persona, según un estudio diferente publicado hace dos décadas en Psychological Science por los investigadores de Princeton Janine Willis y Alexander Todorov.

“Los humanos hacen inferencias de carácter injustificado de manera rutinaria, como etiquetar a las personas como confiables o no confiables, en función de los rasgos faciales”, escribieron el profesor de psicología de Harvard Banaji y coautores.

Para un lego, podría parecer lógico que la inteligencia artificial fuera imparcial o al menos menos sesgada que un cerebro biológico desordenado, especialmente dado que los diseñadores de LLM intentan intencionalmente neutralizar posibles sesgos. Y otros podrían estar de acuerdo, pero por diferentes razones. Las personas más conocedoras de la tecnología entre nosotros están familiarizadas con la rápida evolución de los LLM y son conscientes de que la capacidad multimodal de los LLM, la capacidad de procesar más que solo el lenguaje basado en texto, es relativamente nueva en comparación con las versiones anteriores. Entonces, ¿cómo podrían los LLM, capacitados principalmente en lenguaje basado en texto, obtener prejuicios e inferir carácter a partir de imágenes del rostro de las personas?

“Los modelos entrenados en vastos tesoros de conocimiento humano parecen imitar el resultado de los procesos cognitivos humanos de maneras más profundas y matizadas de lo que se suponía anteriormente, y por lo tanto, la inferencia cara a carácter podría surgir en ellos incluso en ausencia de entrenamiento intencional”, escribió el equipo de Harvard.

Cómo los grandes modelos de lenguaje aprenden e internalizan el sesgo

Los modelos de lenguaje grandes son algoritmos de aprendizaje profundo de IA. Los modelos de aprendizaje profundo son redes neuronales artificiales donde “profundo” se refiere a las muchas capas de procesamiento entre las capas de entrada y salida. Los LLM son modelos de IA que han sido entrenados en cantidades masivas de datos. Lo que distingue al aprendizaje automático de IA es que “aprende” a partir de cantidades colosales de datos de entrenamiento en lugar de ejecutar instrucciones explícitamente codificadas.

Según los investigadores de Harvard “modelos como GPT-4o han sido cuidadosamente entrenados, utilizando métodos como el aprendizaje por refuerzo, para evitar sesgos socialmente indeseables y, en general, lograr la alineación con los objetivos humanos y el sentimiento moral”, o simplemente negarse a responder, por diseño.

Si un LLM aprende principalmente de texto, ¿cómo podría obtener un sesgo al examinar imágenes de las caras de las personas? Como dice el refrán familiar, el diablo está en los detalles. Para resolver este debate y determinar si los LLM exhiben o no un sesgo similar al humano al hacer suposiciones de carácter basadas en rasgos faciales, los investigadores realizaron casi 8,000 ensayos.

Sesgo Lecturas esenciales

El cuerpo virtual que empeora el sesgo

¿Por qué las cosas se ven más pequeñas en la visión periférica?

El equipo creó 13 experimentos para probar LLMs, que evalúan la confiabilidad y la competencia en función de imágenes bidimensionales de rostros. Evaluaron cuatro modelos LLM diferentes: GPT-4o y GPT-5 de OpenAI, Claude Sonnet 4.5 de Anthropic y Gemini 3 Flash Preview de Google.

Resultados: Los LLM muestran e incluso superan el sesgo humano

En general, todos los LLM exhibieron inferencias incorrectas sobre el carácter de una persona cuando se trataba de ser confiable y competente en función de las imágenes faciales. Ninguno de los LLM respondió de manera neutral, ni se negó a llevar a cabo solicitudes inmediatas.

Curiosamente, también encontraron que en los cuatro LLM evaluados, todos tenían una mayor magnitud de sesgo en comparación con los humanos a la hora de juzgar la competencia a partir de las imágenes de los rostros. Los investigadores sugieren que los LLM no solo reflejan los prejuicios humanos, sino que también pueden ser más extremos.

“La consistencia de estos patrones en rasgos y tipos de rostros sugiere que modelos como GPT no solo repiten estos sesgos, sino que los han internalizado conceptualmente y los incorporan incluso en decisiones con resultados consecuentes obvios, como juicios de criminalidad o mérito de la inversión financiera”, escribieron los investigadores.

Copyright © 2026 Cami Rosso. Todos los derechos reservados.