Aplicació de l'Especificació UNIX 0081:2023 per a l'avaluació de qualitat de dades

La nova especificació  UNIX 0081 Avaluació de Qualitat de Dades , centrada en les dades com a producte (conjunts de dades o bases de dades), complementa l'especificació  UNIX 0079 Gestió de la qualitat de la dada , que (analitzada per Dades.gob prèviament en  este article ), es focalitza en els processos de gestió de la qualitat de la dada. Ambas normes, la 0079 i la 0081 es complementen i aborden de forma holística la qualitat de les dades:

• La norma UNIX 0079 referix els processos, les activitats que haver de realitzar l'organització per a garantir els nivells adequats de qualitat de les seues dades per a satisfer l'estratègia que l'organització s'han marcat.

• D'altra banda, la UNIX 0081 definix un model de qualitat de la dada, basat en les normes  ISO/IEC 25012  i  ISO/IEC 25024 , en el qual es detallen les característiques de qualitat que poden tindre les dades, així com algunes mètriques aplicables. També definix el procés que s'ha de seguir per a avaluar la qualitat d'un conjunt de dades concret, prenent com a base la norma  ISO/IEC 25040 . Finalment, l'especificació acaba detallant com interpretar els resultats obtinguts de l'avaluació, mostrant exemples concrets d'aplicació.

Com pugues una organització fer ús d'esta especificació per a avaluar el nivell de qualitat de les seues dades?

Per a donar resposta a esta pregunta, anem a explicar l'exemple de l'Ajuntament de Vistabella, prèviament  utilitzat en articles anteriors . L'ajuntament té una sèrie de conjunts de dades, la qualitat de les quals vol avaluar, per a poder millorar-los i donar un millor servici a la ciutadania. La institució és conscient que treballa amb molts tipus de dades (transaccionals, mestres, de referència, etc.), per tant, el primer que realitza és una primera identificació dels conjunts de dades que aporten valor i per als quals, no disposar de nivells adequats de qualitat, pot repercutir en el dia a dia. Alguns criteris a la seguir a l'hora de seleccionar estos conjunts poden ser: dades que aporten un valor al ciutadà, dades resultants d'un procés d'integració o visió mestra de la dada, dades crítiques per ser utilitzats en diversos processos/procediments, etc.

El següent pas serà determinar en quin punt(s) del cicle de vida dels processos operatius de l'ajuntament es realitzaran estos controls de qualitat de la dada.

És en este punt on l'especificació UNIX 0081 entra en joc. L'avaluació es fa en funció de les "regles de negoci" que definixen els requeriments, requisits de dades o validacions que han de complir les dades perquè aporten valor a l'organització. A continuació, es mostren alguns exemples:

• Els DNI dels ciutadans hauran de complir amb la sintaxi específica per a açò (8 nombres i una lletra).
• Tota data existent en el sistema haurà de seguir la notació DD-MM-AAAA.
• No s'admetran registres de documentació amb data posterior a l'actual.
• S'haurà de tindre traça de qui i quan ha realitzat un canvi en un conjunt de dades.

Per a poder identificar de forma sistemàtica i exhaustiva les regles de negoci que hagen de complir les dades en cada etapa del seu cicle de vida, l'ajuntament fa ús d'una metodologia  basada en BR4DQ .

A continuació, des de l'ajuntament, es revisen totes les característiques de qualitat de dades incloses dins de l'especificació, es prioritzen, i es determina un primer conjunt d'elles que es voldran tindre en compte per a l'avaluació. Per a açò, i en esta primera etapa, l'ajuntament decidix quedar-se exclusivament amb les 5 característiques inherents de  ISO 25012  definides dins de l'especificació. Estes són: exactitud, completesa, consistència, credibilitat i actualitat.

De la mateixa manera, per a cadascuna d'estes primeres característiques que s'ha acordat abordar, s'identifiquen possibles propietats. Per a açò, finalment, des de l'ajuntament es decidix treballar amb el següent model de qualitat que inclou les següents característiques i propietats:

Hasta este punto, el ayuntamiento tiene identificado el conjunto de datos a evaluar, así como las reglas de negocio que le aplican, y en qué aspectos de la calidad se va a centrar (modelo de calidad de datos). A continuación, es necesario llevar a cabo la medición de calidad de datos a través de la validación de las reglas de negocio. Para ello se obtienen valores para las distintas métricas, los cuales se computan siguiendo una aproximación de abajo hacia arriba hasta determinar el nivel de calidad de datos del repositorio

Definició del procés d'avaluació

Per a realitzar l'avaluació d'una forma adequada, es decidix fer ús de el procés d'avaluació de qualitat basat en ISO 25024, indicat dins de l'especificació UNIX 0081 (vegeu a continuació).

Aplicació del procés d'avaluació

A continuación, se resumen los aspectos más destacables llevados a cabo por el Ayuntamiento durante la etapa 4 del proceso de evaluación:

1. Validació del grau de compliment de cada regla de negoci per propietat: Disponiendo de totes les regles de negoci classificades per propietat, es valida el grau de compliment de cadascuna d'elles, obtenint així una sèrie de valors per a cadascuna de les mètriques. Açò s'executa sobre cadascun dels conjunts de dades a avaluar.

A modo de ejemplo, para la propiedad de exactitud sintáctica se obtienen dos métricas:

1. Nombre de registres que complixen les regles de negoci d'exactitud sintàctica: 826.254
2. Nombre de registres que han de complir les regles de negoci d'exactitud sintàctica: 850.639

1. Quantificació del valor de la propietat: A partir de estes mètriques, es quantifica i determina el valor de la propietat fent ús de la funció de mesurament especificat en l'especificació UNIX 0081. Per al cas concret de l'exactitud sintàctica es determina que una densitat de registres del 97,1% complixen totes les regles d'exactitud sintàctica.
2. Cálculo del valor de la característica: Per a açò, es fa ús dels resultats de cadascuna de les mètriques de qualitat de dades associades a una propietat. Per a calcular-ho, i tal com s'especifica en l'especificació UNIX 0081, es decidix seguir una suma ponderada en la qual cada propietat té el mateix pes. Per al cas de l'Exactitud, es disposa dels valors d'Exactitud sintàctica: 97,1, Exactitud semàntica: 95, i Rango d'exactitud: 92,9. Computant estes 3 puntuacions, es va obtindre un valor de 95 sobre 100 per a esta característica.
3. Paso del valor cuantitativo al cualitativo: Para finalizar y poder proporcionar un resultado final de calidad, se decide hacer uso de otra suma ponderada; en este caso, todas las dimensiones tienen el mismo peso. Partiendo de los resultados agregados anteriormente de las características mencionadas: Exactitud: 95, Completitud: 87, Consistencia: 90, Credibilidad: 88, Actualidad: 93, se determina un nivel de calidad de 90 sobre 100 para el repositorio. Por último, es necesario pasar de este valor cuantitativo de 0 a 100 a un valor cualitativo. En este ejemplo concreto, haciendo, uso de la función de niveles de calidad basada en porcentajes, se concluye que el nivel de calidad del repositorio, para la propiedad analizada, es 4, o “Muy Buena”.

Visualització de resultats

Finalment, i una vegada realitzada l'avaluació de totes les característiques, des de l'ajuntament es construïxen una sèrie de quadres de comandaments de control de qualitat de dades amb diferent nivell d'agregació (característica, propietat, conjunt de dades i taula/vestisca) partint dels resultats de l'avaluació, de manera que ràpidament es pot consultar el nivell de qualitat. Per a açò, a manera d'exemple es mostren els resultats amb diferent nivell d'agregació.

Com es pot veure al llarg de tot l'exemple d'aplicació, existix una relació directa entre l'aplicació d'esta especificació UNIX 0081, amb determinades parts de la  especificació 0078 , concretament amb el procés de gestió de requisits de dades, i amb la  especificació UNIX 0079 , almenys amb els processos de planificació i control de qualitat de dades. Fruto de l'avaluació s'establiran recomanacions de millora de qualitat (accions correctives), que incidiran directament en els processos de la dada establits, tot açò d'acord amb el circule de millora contínua PDCA de Deming.

Una vegada finalitzat l'exemple, i com a valor afegit, cal destacar que és possible certificar el nivell de qualitat de dades dels repositoris organisacionals. Per a açò, serà necessari comptar amb una entitat de certificació que proveïsca este servici de qualitat de dades, així com amb un laboratori acreditat segons la norma ISO 17025 amb potestat per a l'emissió d'informes d'avaluació de qualitat de dades.

Font original de la notícia