Johan LEROY
d506e8f7ef
Airflow / Construction de l'image (push) Successful in 1m2s
Backend / Analyse statique de sécurité (push) Successful in 7s
Backend / Tests exigeant une base (push) Failing after 5m3s
Airflow / Lint et intégrité des DAGs (push) Successful in 9m41s
ML / Analyse statique de sécurité (push) Successful in 6s
Backend / Lint, typage et tests (push) Successful in 10m10s
Backend / Audit des dépendances (push) Successful in 9m36s
ML / ML - DB et chaîne ML - DB - API (push) Failing after 5m6s
SonarQube / test-ml (push) Failing after 6m6s
ML / Lint, typage et tests (push) Successful in 11m31s
SonarQube / build-front (push) Successful in 9m49s
SonarQube / build-back (push) Successful in 9m54s
SonarQube / test-front (push) Failing after 5m10s
SonarQube / test-back (push) Failing after 5m13s
SonarQube / SonarQube (push) Skipped
Revue de la branche : trois defauts empechaient la surveillance de tenir ce qu'elle annonce. - `evaluate()` gardait les microsecondes de `now()` dans `window_end`, la cle de `uq_drift_report_window`. Deux executions ne collidaient donc jamais et l'index ne dedoublonnait rien, contrairement a ce qu'affirmaient l'ADR 0011, 20-backend et le docstring du DAG. L'instant de reference est desormais tronque a l'heure. - Un site qui cessait d'etre score disparaissait du rapport : la liste des sites ne venait que de la fenetre recente. La panne que cette surveillance existe pour dire etait exactement celle qu'elle taisait. La fenetre de reference entre maintenant dans l'union, et le site recoit sa ligne `indetermine` a zero observation. - Sans fenetre de reference, `_plafond` rendait `None` et le verdict tombait sur `stable`, une affirmation que la donnee ne portait pas. C'est `indetermine` desormais. `ml.yml` ecoute `apps/backend/app/**` et non les seuls modeles : ce workflow est le seul a jouer `-m chaine`, or la chaine traverse les endpoints, les services et les schemas jusqu'a `GET /predictions`. Une PR touchant `predictions.py` ne declenchait pas le test qui l'assert. Hygiene de tests : le nettoyage des fixtures API connait `drift_report` (cle etrangere RESTRICT vers `site`), le test sans rapport rend ses overrides en teardown, `test_chaine_ml_api` compare les `created_at` strictement (un `>=` passait aussi quand l'API resservait la premiere ligne), et `test_data_integration` filtre sur le site seme au lieu de juger tout le contenu d'une fenetre dans une base partagee. Docs remises d'aplomb : sept revisions Alembic et non six, `derive.py` dans l'inventaire de etl/README, et le diagramme de 20-backend gagne DriftService, le depot drift et sa treizieme table.
50 lines
1.9 KiB
Python
50 lines
1.9 KiB
Python
"""DAG de surveillance de la dérive du modèle de prévision (issue #45).
|
|
|
|
Quotidien, pas horaire : la fenêtre mesurée couvre 168 h, la recalculer chaque heure écrirait
|
|
vingt-quatre lignes par jour pour un verdict qui ne bouge pas à cette cadence. Planifié après
|
|
les scorings de la nuit, et décalé de `ml_score` (à l'heure pile) comme de `alertes` (à la
|
|
quinzième minute).
|
|
|
|
Sans `--now` : le service tronque son instant de référence à l'heure, donc deux exécutions de
|
|
la même heure portent la même clé `uq_drift_report_window` et la seconde n'écrit rien.
|
|
|
|
Tâche distincte du DAG `alertes` plutôt qu'ajoutée à lui : un échec de dérive y ferait croire
|
|
que la détection d'alertes a échoué, et ce DAG porte un budget temporel déjà argumenté face à
|
|
son pas horaire.
|
|
"""
|
|
|
|
from __future__ import annotations
|
|
|
|
from datetime import datetime, timedelta
|
|
|
|
from airflow.providers.standard.operators.bash import BashOperator
|
|
from airflow.sdk import DAG
|
|
|
|
# Le backend a son propre environnement uv dans l'image (ADR 0008). `--no-sync` et
|
|
# `env -u VIRTUAL_ENV` : cf. `ml_train.py`, même raisonnement.
|
|
COMMANDE_BACKEND = "cd /opt/backend && env -u VIRTUAL_ENV uv run --no-sync python -m"
|
|
|
|
# Piège : aucune reprise. Une dérive n'est pas un échec transitoire, la rejouer la redéclarerait
|
|
# à l'identique ; et la cadence quotidienne pardonne une connexion perdue.
|
|
TENTATIVES = 0
|
|
PLAFOND = timedelta(minutes=10)
|
|
|
|
with DAG(
|
|
dag_id="derive",
|
|
description=(
|
|
"Compare les prévisions déjà écrites aux lectures réellement arrivées "
|
|
"(app.monitoring.drift)."
|
|
),
|
|
schedule="30 5 * * *",
|
|
start_date=datetime(2026, 1, 1),
|
|
catchup=False,
|
|
max_active_runs=1,
|
|
tags=["ml", "monitoring"],
|
|
) as dag:
|
|
BashOperator(
|
|
task_id="derive",
|
|
bash_command=f"{COMMANDE_BACKEND} app.monitoring.drift",
|
|
retries=TENTATIVES,
|
|
execution_timeout=PLAFOND,
|
|
)
|