accesskey_mod_content

Com el programari lliure aborda el biaix en la IA

  • Escoltar
  • Copiar
  • Imprimir PDF
  • Compartir

"Notícia disponible únicament amb finalitats històriques i d'hemeroteca. La informació i enllaços mostrats es corresponen amb els quals estaven operatius a la data de la seua publicació. No es garantix que continuen actius actualment".

21 octubre 2022

El biaix és difícil de detectar quan es desenvolupa un sistema d'intel·ligència artificial (IA) perquè el programari que escriu no és la IA en si mateixa.

Una persona o institució escriu programari, ho alimenta amb un gran conjunt de dades d'entrenament que estan etiquetats amb valors i el programari produïx una IA que pot atribuir eixos valors a noves dades. Entonces, si li dones un conjunt d'imatges i algú ha etiquetat les interessants com A i les avorrides com a B, produirà una IA que pot mirar noves imatges i etiquetar-les com A o B.

El problema és que la IA no es crea de manera que els humans puguen entendre què regles o patrons està usant per a connectar les dades amb els valors. Los humans crearien un conjunt de regles com a "línies corbes", "varietat de colors", però la IA generada pot tindre milions de regles diminutes. Per tant, revisar les regles per a trobar biaixos sovint no és pràctic, per la qual cosa el biaix generalment es detecta en observar l'eixida i, a voltes, açò solament es torna visible després de molt ús.

Com ajuda l'accés al codi font

Però això no significa que l'accés al codi font no tinga sentit. Es crucial per quatre raons:

  • El biaix pot deure's a alguna cosa en el programari que genera la IA
  • Tal vegada el programari necessita un contrasesgo explícit per a ser programat en
  • L'accés per a canviar el codi font significa que el proveïdor de servicis pot abordar el problema quan es detecta un biaix
  • L'accés públic al codi font permet que sorgisca un ecosistema d'experts, més enllà dels quals treballen per a empreses que venen IA

Cura addicional en les Administracions Públiques

Les administracions públiques poden estar subjectes a un estàndard encara més alt que el sector privat, per dos raons:

  • Les administracions públiques tenen el monopoli de la prestació de determinats servicis
  • En alguns casos, els ciutadans tenen l'obligació d'utilitzar el servici

Font original de la notícia(Obri en nova finestra)

  • Intel·ligència Artificial i Blockchain