Johan LEROY
68239371f6
Trois phrases du depot annonçaient une surveillance de derive inexistante, et une quatrieme disait qu'aucune base PostgreSQL n'etait joignable pour tester le chargement ML. Les quatre sont maintenant fausses, donc reecrites plutot que laissees en dette. - ADR 0011 : ou vit le calcul et pourquoi pas dans `ml/`, les deux dedoublonnages qu'impose la jointure, et quatre alternatives ecartees avec la contrainte qui les interdit (la metrique MLflow n'est pas la meme grandeur, `alert` borne ses valeurs et refuse un site nul, Prometheus n'a pas de collecteur, ne rien persister ne repond pas a la question du jury). - DAG `derive` quotidien, hors du DAG `alertes` : un echec de derive y ferait croire que la detection a echoue, et la fenetre de 168 h ne se recalcule pas toutes les heures. - ML-START : la limite de `--now` est dite au lieu d'etre decouverte en demonstration. Elle ne decale que l'instant de reference, pas la fenetre de lecture, donc aucun rattrapage ne peut fabriquer de paires prevu/realise sur un jeu fige. - 50-cicd : pourquoi le job ML installe aussi le backend (le schema n'a qu'une source), et ce que coute le filtre de chemins qui l'accompagne.
47 lines
1.7 KiB
Python
47 lines
1.7 KiB
Python
"""DAG de surveillance de la dérive du modèle de prévision (issue #45).
|
|
|
|
Quotidien, pas horaire : la fenêtre mesurée couvre 168 h, la recalculer chaque heure écrirait
|
|
vingt-quatre lignes presque identiques par jour et se heurterait à l'index d'idempotence
|
|
`uq_drift_report_window`. Planifié après les scorings de la nuit, et décalé de `ml_score` (à
|
|
l'heure pile) comme de `alertes` (à la quinzième minute).
|
|
|
|
Tâche distincte du DAG `alertes` plutôt qu'ajoutée à lui : un échec de dérive y ferait croire
|
|
que la détection d'alertes a échoué, et ce DAG porte un budget temporel déjà argumenté face à
|
|
son pas horaire.
|
|
"""
|
|
|
|
from __future__ import annotations
|
|
|
|
from datetime import datetime, timedelta
|
|
|
|
from airflow.providers.standard.operators.bash import BashOperator
|
|
from airflow.sdk import DAG
|
|
|
|
# Le backend a son propre environnement uv dans l'image (ADR 0008). `--no-sync` et
|
|
# `env -u VIRTUAL_ENV` : cf. `ml_train.py`, même raisonnement.
|
|
COMMANDE_BACKEND = "cd /opt/backend && env -u VIRTUAL_ENV uv run --no-sync python -m"
|
|
|
|
# Piège : aucune reprise. Une dérive n'est pas un échec transitoire, la rejouer la redéclarerait
|
|
# à l'identique ; et la cadence quotidienne pardonne une connexion perdue.
|
|
TENTATIVES = 0
|
|
PLAFOND = timedelta(minutes=10)
|
|
|
|
with DAG(
|
|
dag_id="derive",
|
|
description=(
|
|
"Compare les prévisions déjà écrites aux lectures réellement arrivées "
|
|
"(app.monitoring.drift)."
|
|
),
|
|
schedule="30 5 * * *",
|
|
start_date=datetime(2026, 1, 1),
|
|
catchup=False,
|
|
max_active_runs=1,
|
|
tags=["ml", "monitoring"],
|
|
) as dag:
|
|
BashOperator(
|
|
task_id="derive",
|
|
bash_command=f"{COMMANDE_BACKEND} app.monitoring.drift",
|
|
retries=TENTATIVES,
|
|
execution_timeout=PLAFOND,
|
|
)
|