Una persona o institució escriu programari, ho alimenta amb un gran conjunt de dades d'entrenament que estan etiquetats amb valors i el programari produeix una IA que pot atribuir aquests valors a noves dades. Entonces, si li dones un conjunt d'imatges i algú ha etiquetat les interessants com A i les avorrides com a B, produirà una IA que pot mirar noves imatges i etiquetar-les com A o B.
El problema és que la IA no es crea de manera que els humans puguin entendre què regles o patrons està usant per connectar les dades amb els valors. Los humans crearien un conjunt de regles com a "línies corbes", "varietat de colors", però la IA generada pot tenir milions de regles diminutes. Per tant, revisar les regles per trobar biaixos sovint no és pràctic, per la qual cosa el biaix generalment es detecta en observar la sortida i, de vegades, això solament es torna visible després de molt ús.
