Actualizado: noviembre de 2026 · Lectura: 5 min
La inteligencia artificial aprende de datos creados por personas, y esos datos reflejan nuestras desigualdades. Por eso una IA puede favorecer o perjudicar a ciertos grupos sin que nadie lo pretenda. Entender los sesgos es clave para usar la IA de forma justa.
- Un sesgo es cuando la IA trata de forma injusta o desigual a ciertos grupos o ideas.
- Suele venir de datos de entrenamiento desequilibrados o de decisiones de diseño.
- Es especialmente grave en selección de personal, créditos, salud o justicia.
- La ley europea exige calidad de datos y supervisión humana en la IA de alto riesgo.
Qué es un sesgo en la IA
Un sesgo es una distorsión sistemática en los resultados de una IA que provoca un trato desigual. Por ejemplo, un sistema de reconocimiento facial que funciona peor con ciertos tonos de piel, o un traductor que asocia por defecto determinadas profesiones a un género.
De dónde vienen los sesgos
| Origen | Ejemplo |
|---|---|
| Datos desequilibrados | Pocas imágenes de ciertos grupos en el entrenamiento |
| Datos históricos | Decisiones pasadas que ya eran injustas |
| Diseño del sistema | Variables que actúan como indicadores indirectos de origen o género |
| Uso inadecuado | Aplicar un sistema en un contexto para el que no se diseñó |
Dónde más importan
- Empleo: filtros automáticos de currículums.
- Finanzas: concesión de créditos.
- Salud: sistemas de apoyo al diagnóstico.
- Seguridad: reconocimiento facial.
- Contenidos: estereotipos en textos e imágenes generadas.
Cómo se reducen los sesgos
- Datos más diversos y revisados.
- Pruebas con distintos grupos antes de lanzar un sistema.
- Supervisión humana en decisiones importantes.
- Transparencia sobre cómo funciona y con qué datos.
- Auditorías periódicas.
La ley europea de IA exige, para la IA de alto riesgo, requisitos de calidad de los datos, documentación y supervisión humana.
Qué puedes hacer como usuario
- Pide a la IA que considere distintas perspectivas.
- Desconfía de generalizaciones sobre grupos de personas.
- Revisa con atención los contenidos que vayas a publicar.
Lee también ventajas y desventajas de la IA.
Casos reales que hicieron saltar las alarmas
Los sesgos no son solo teóricos. Algunos casos muy conocidos ayudaron a que gobiernos y empresas se tomaran el problema en serio:
- Selección de personal: en 2018 se conoció que Amazon había abandonado una herramienta experimental de selección de currículums porque penalizaba a las candidatas mujeres. Había aprendido de los currículums recibidos en años anteriores, en su mayoría de hombres.
- Reconocimiento facial: el estudio Gender Shades (2018), del MIT Media Lab, mostró que varios sistemas comerciales cometían muchos más errores con mujeres de piel oscura que con hombres de piel clara.
- Imágenes generadas: los generadores de imágenes han mostrado a menudo estereotipos, como representar determinadas profesiones casi siempre con personas de un mismo género u origen.
Cómo se detectan los sesgos
| Método | En qué consiste |
|---|---|
| Pruebas por grupos | Comparar los resultados del sistema para distintos grupos de personas |
| Auditorías externas | Expertos independientes revisan el sistema y sus datos |
| Análisis de los datos | Comprobar si los datos de entrenamiento representan bien a la población |
| Pruebas adversarias | Buscar a propósito respuestas injustas o estereotipadas |
| Comentarios de usuarios | Canales para que las personas afectadas puedan reclamar |
Para conocer otros desafíos de la IA, consulta IA y empleo e IA y medio ambiente.
Preguntas frecuentes
¿La IA es racista o machista?
La IA no tiene intenciones, pero puede reproducir prejuicios presentes en sus datos. Por eso hay que diseñarla y supervisarla con cuidado.
¿Se pueden eliminar del todo los sesgos?
Es muy difícil eliminarlos por completo, pero se pueden detectar y reducir mucho.
