Los sesgos en la IA
Un sesgo en la IA es cuando un programa trata a unos grupos de personas peor que a otros. Un cine de Ribalmonte usa una herramienta de IA para elegir a quién entrevista para un trabajo de fin de semana.
Se presentan veinte personas. Casi todas las elegidas viven en la zona este de la ciudad. Nadie le pidió eso, así que ¿cómo pasó?
Al terminar esta lección
Nota
Puedo darme cuenta de cuándo un resultado de la IA puede ser injusto.
Palabras clave
| Palabra | Qué significa |
|---|---|
| Sesgo | una inclinación que trata peor a algunas personas |
| Justo | tratar igual a quienes están en la misma situación |
| Grupo | personas que comparten algo |
| Datos de entrenamiento | los ejemplos de los que aprendió una IA |
| Preselección | las personas elegidas para pasar al siguiente paso |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.
Ejemplos injustos dan resultados injustos
La herramienta del cine aprendió de la plantilla anterior. Casi todos vivían en la zona este, porque la antigua línea de autobús venía de allí.
Así que la herramienta aprendió que vivir en el este era parte de ser buen trabajador. Eso es un sesgo. Los datos de entrenamiento se inclinaban a un lado, y los resultados también.
Se nota comparando grupos
Muchas veces puedes descubrir un sesgo solo contando. Separa a las personas en grupos y compara cuántas veces se eligió a cada grupo.
Si dos grupos se presentaron igual pero a uno se le elige mucho más, pregunta por qué.
Ejemplo resuelto: la preselección del cine
| Grupo | Se presentaron | Elegidas | Elegidas de cada 10 | En porcentaje |
|---|---|---|---|---|
| Zona este | 10 | 6 | 6 de 10 | 60 % |
| Zona oeste | 10 | 2 | 2 de 10 | 20 % |
| Diferencia | 4 de 10 | 40 % |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.
Cuenta a quién se eligió
# Cada persona es [grupo, elegida]. True significa elegida.
people = [
["este", True], ["este", True], ["este", False], ["este", True],
["oeste", False], ["oeste", True], ["oeste", False], ["oeste", False],
]
applied = {}
picked = {}
for person in people:
group = person[0]
if group not in applied:
applied[group] = 0
picked[group] = 0
applied[group] = applied[group] + 1
if person[1]:
picked[group] = picked[group] + 1
for group in applied:
print(group, picked[group], "de", applied[group])
Convierte los recuentos en una diferencia
# Elegidas de las que se presentaron en cada grupo, del programa de arriba.
east_picked = 3
east_applied = 4
west_picked = 1
west_applied = 4
east_rate = round(east_picked * 100 / east_applied)
west_rate = round(west_picked * 100 / west_applied)
print("Este:", east_rate, "%")
print("Oeste:", west_rate, "%")
print("Diferencia:", east_rate - west_rate, "%")
Qué hacer si un resultado parece injusto
Di lo que has notado, con los números. Cuéntaselo a alguien que pueda cambiarlo: un profesor, una encargada o el botón de avisos de una app. Pide que una persona revise la decisión.
Revisa también tu propio uso. Si pides a la IA imágenes o historias de personas, mira quién aparece y quién falta.
Ejemplo resuelto: a quién avisar
| Dónde lo viste | A quién avisar |
|---|---|
| Una app del centro | A tu profesor o profesora |
| Una herramienta de un trabajo a media jornada | A tu encargado o encargada |
| Una app de tu móvil | Al botón de avisos de la app, o a una persona adulta de confianza |
Las celdas que rellenan los estudiantes quedan en blanco en esta vista previa.
Un error frecuente
Advertencia
Mucha gente cree que un ordenador no puede ser injusto, porque solo sigue los datos. Ese es justo el problema: si los datos se inclinan a un lado, los resultados también, así que hay que revisar los números.
Para ir más lejos: ¿quién aparece?
Piensa en una herramienta de imágenes a la que se pide «una científica» o «un enfermero». Si siempre enseña el mismo tipo de persona, es un sesgo de sus ejemplos.
Apunta dos preguntas que harías a quienes crearon esa herramienta.