Unha persoa ou institución escribe software, aliméntao cun gran conxunto de datos de adestramento que están etiquetaxes con valores e o software produce unha IA que pode atribuír eses valores a novos datos. Entonces, se lle dás un conxunto de imaxes e alguén ha etiquetaxe as interesantes como A e as aburridas como B, producirá unha IA que pode mirar novas imaxes e etiquetarlas como A ou B.
El problema es que la IA no se crea de manera que los humanos puedan entender qué reglas o patrones está usando para conectar los datos con los valores. Los humanos crearían un conjunto de reglas como "líneas curvas", "variedad de colores", pero la IA generada puede tener millones de reglas diminutas. Por lo tanto, revisar las reglas para encontrar sesgos a menudo no es práctico, por lo que el sesgo generalmente se detecta al observar la salida y, a veces, esto solo se vuelve visible después de mucho uso.
