Test technique monitoring de la qualité des données en production

La qualité des données en production se dégrade silencieusement. En entretien Senior, on évalue la capacité à mettre en place un monitoring proactif qui détecte les problèmes avant les utilisateurs.

Data Builder·Juin 2025·6 min de lecture·Data Engineer · Analytics Engineer

Sommaire

Pourquoi monitorer la qualité
Fraîcheur des données
Monitoring des volumes
Changements de schéma
Outils : Elementary vs Monte Carlo
Stratégie d alerting
Grille

1Pourquoi le monitoring de qualité est critique

Question discriminante

Quels sont les symptômes d un problème de qualité de données non détecté ?

Dashboard KPI erroné — le COMEX prend une décision sur un chiffre faux. Détecté 2 semaines plus tard
Modèle ML qui se dégrade — les données d entrainement ont changé de distribution, le modèle prédit n importe quoi
Pipeline silencieusement vide — une table source ne reçoit plus de données depuis 3 jours. Personne ne l a vu
Règle du 1-10-100 — corriger un problème à la source coûte 1. En production : 10. Après une décision business : 100

2Monitoring de la fraîcheur

Question discriminante

Comment alertez-vous quand une table n a pas été mise à jour dans les délais attendus ?

# dbt source freshness
sources:
  - name: transactions
    tables:
      - name: orders
        loaded_at_field: updated_at
        freshness:
          warn_after:  {count: 6,  period: hour}
          error_after: {count: 24, period: hour}

# Lancer la vérification
dbt source freshness

# Elementary (package dbt) : monitoring automatique
# elementary_freshness_anomalies detecte les pics de latence
models:
  - name: fct_orders
    tests:
      - elementary.table_anomalies:
          table_anomalies_type:
            - freshness  # alerte si la table n est plus alimentee

Source freshness dbt — vérification intégrée, alerte si loaded_at est trop ancien
Airflow SLA Miss — configurer des SLA sur les tâches critiques, alerte si dépassé

3Monitoring des volumes

Question discriminante

Comment détectez-vous qu une table a perdu 50% de ses lignes du jour au lendemain ?

# Elementary : détection d anomalies de volume
models:
  - name: fct_orders
    tests:
      - elementary.volume_anomalies:
          timestamp_column: order_date
          # alerte si le volume sort de la plage historique

# Custom : comparer avec la moyenne glissante
SELECT
    DATE(order_date) AS jour,
    COUNT(*) AS nb_commandes,
    AVG(COUNT(*)) OVER (
        ORDER BY DATE(order_date)
        ROWS BETWEEN 7 PRECEDING AND 1 PRECEDING
    ) AS moyenne_7j,
    COUNT(*) / AVG(COUNT(*)) OVER (
        ORDER BY DATE(order_date)
        ROWS BETWEEN 7 PRECEDING AND 1 PRECEDING
    ) AS ratio_vs_moyenne
FROM fct_orders
GROUP BY 1
HAVING ratio_vs_moyenne < 0.5 OR ratio_vs_moyenne > 2.0

4Détecter les changements de schéma

Question discriminante

Comment êtes-vous alerté quand une colonne est supprimée ou renommée dans une table source ?

dbt schema tests — si une colonne source est renommée, le modèle dbt staging échoue au prochain run
schema_changes_from_baseline — test dbt qui compare le schéma actuel avec le schéma attendu
DataHub notifications — alertes automatiques quand le schéma d un dataset change
Fivetran/Airbyte — les connecteurs managés détectent les breaking changes et envoient des alertes

5Elementary vs Monte Carlo vs Soda

Question discriminante

Quel outil de data observabilité choisissez-vous selon le contexte ?

Outil	Type	Forces	Idéal pour
Elementary	Package dbt open source	Intégration native dbt, gratuit, anomaly detection	Équipes dbt-first, budget serré
Monte Carlo	SaaS enterprise	Détection automatique sans règles, lineage, MTTR tracking	Grandes équipes, données critiques
Soda	Open source + Cloud	Data contracts, checks SQL flexibles	Checks sur mesure, conformité
Metaplane	SaaS	Simple, bonne UX	Équipes débutantes en observabilité

6Stratégie d alerting : éviter la fatigue

Question discriminante

Comment évitez-vous que les alertes de qualité soient ignorées ?

Priorisation — distinguer les alertes critiques (bloquant la production) des warnings (à surveiller)
Canal adapté — critique → PagerDuty + Slack #data-incidents. Warning → Slack #data-quality seulement
Runbook — chaque alerte critique a un runbook : qui prévenir, quelle action, comment vérifier
SLA de résolution — s engager sur un délai de résolution par niveau de gravité
Réduire le bruit — un taux de faux positifs > 20% tue la culture d alerte. Tuner les seuils régulièrement

7Grille par niveau

Niveau	Maitrise	Signal GO	NO-GO
Confirmé	dbt source freshness, tests de volume basiques	A configuré des alertes de fraîcheur, monitore les volumes	Découvre les problèmes de qualité par les utilisateurs
Senior	Anomaly detection, Elementary ou Monte Carlo, stratégie d alerting	A déployé Elementary ou Monte Carlo, a une stratégie d alerting claire	Ne sait pas ce qu est l anomaly detection pour la data

Vous recrutez un Data Engineer ou Analytics Engineer ?

Premier entretien gratuit. Rapport GO/NO-GO sous 48h.

Tester gratuitement Reserver un appel