Johan LEROY f238940867 fix(etl): borne la réponse de l'API Mock avant écriture en base
L'API Mock est le seul item OWASP API10 du projet, et ce script en est le
premier consommateur. Des quatre garde-fous exigés par la traçabilité OWASP,
seul le timeout était en place.

- plafonne la taille des réponses : MAX_SITES sites, au plus --limit mesures ;
- borne chaque grandeur physique par PHYSICAL_BOUNDS, une valeur hors plage,
  d'un type inattendu, NaN ou infinie devenant NULL avec sa raison dans
  null_reasons et data_quality à degraded ;
- ne recopie vers la base que les champs attendus, via build_site_row() et
  build_reading_row(), au lieu de passer les dictionnaires de l'API en
  paramètres SQL ;
- écarte une data_quality que ck_reading_quality refuserait, plutôt que de
  faire échouer le lot entier ;
- nomme la cible du ON CONFLICT, qui avalait jusqu'ici toute violation
  d'unicité, y compris celle de la clé primaire.

raw_data conserve la réponse d'origine intacte : rien n'est perdu, seule son
exploitation est bornée.
2026-09-21 10:21:10 +02:00
2026-09-15 11:29:34 +02:00
fix
2026-09-18 16:04:10 +02:00

EnerVision

Monorepo de la plateforme EnerVision : collecte, stockage, analyse et restitution de series temporelles energetiques, deployee sur une machine on-premise.

Jalons

Jalon Intitulé
J1 Valider la préparation de l'environnement et du repo
J2 Valider le périmètre retenu et les choix technologiques
J3 Valider l'architecture et la gestion de la sécurité
J4 Valider la robustesse et assurer les livrables

Ce que la documentation apporte à chacun : docs/architecture/00-vue-ensemble.md.

Stack cible

Domaine Technologie Emplacement Etat
Backend FastAPI, Python 3.14 apps/backend Initialise
Frontend Angular 22, Node 24 LTS apps/frontend Tableau de bord
Base PostgreSQL 17 + TimescaleDB db Initialise
ETL Apache Airflow etl/airflow A initialiser
Infra Terraform (k3s single-node) infra/terraform Initialise
CI/CD GitHub Actions .github/workflows Backend en place
Monitoring Prometheus, Grafana, Alertmanager monitoring A initialiser
ML LightGBM, MLflow ml Entrainement initialise

Le backend, la base et l'infrastructure (Terraform/k3s) sont initialises a ce stade. Le frontend sert un tableau de bord sur /dashboard, dont les données proviennent de fixtures : les endpoints correspondants restent à écrire côté API. Les autres dossiers portent l'arborescence et un README de cadrage, leur contenu fait l'objet d'un ticket dedie.

L'etat detaille de chaque brique et les vues d'architecture sont dans docs/architecture.

Arborescence

.
├── apps/
│   ├── backend/        API FastAPI
│   └── frontend/       Application Angular
├── db/
│   ├── init/           Bootstrap PostgreSQL + TimescaleDB
│   ├── migrations/     Migrations SQL versionnees
│   └── seeds/          Jeux de donnees de reference
├── etl/airflow/
│   ├── dags/           DAGs d'ingestion et d'agregation
│   ├── plugins/        Operateurs et hooks maison
│   ├── include/        Requetes SQL et ressources des DAGs
│   └── tests/          Tests d'integrite des DAGs
├── infra/terraform/
│   ├── modules/        Modules reutilisables
│   └── environments/   Racines Terraform, une par environnement
├── ml/                 Pipeline d'entrainement LightGBM, suivi MLflow
├── monitoring/
│   ├── prometheus/     Collecte et regles d'alerte
│   ├── grafana/        Provisioning et dashboards
│   └── alertmanager/   Routage des alertes
├── docs/               ADR et vues d'architecture
└── scripts/            Outillage local

Demarrage

Prerequis : uv, Docker, Node 24 LTS (npm fourni). Le poste doit disposer de Python 3.14, que uv installe seul.

cp .env.example .env                               # variables de docker-compose
cp apps/backend/.env.example apps/backend/.env     # variables du backend hors conteneur

make db-up     # PostgreSQL + TimescaleDB, publie sur le port 5433
make install   # dependances du backend et du frontend
make migrate   # applique les migrations Alembic
make dev       # backend sur http://localhost:8000 (docs sur /docs), frontend sur http://localhost:4200
make check     # lint + typage + tests

make help liste les cibles disponibles.

Deux fichiers d'environnement, deux usages : .env a la racine alimente docker-compose.yml, apps/backend/.env alimente le backend lance sur le poste. Le port 5433 est publie plutot que 5432, souvent deja pris par une autre base.

La boucle de developpement est make db-up puis make dev : seule la base tourne en conteneur, le backend et le frontend tournent tous les deux sur le poste, lances ensemble par make dev (logs entrelaces dans le meme terminal, Ctrl+C arrete les deux). make dev-backend et make dev-frontend restent disponibles pour lancer un seul des deux. Le service backend du docker-compose.yml sert la stack complete et la recette, et n'embarque pas le source, donc toute modification y demande un docker compose up -d --build backend.

Verifier que la base repond et que l'extension est chargee :

curl -s localhost:8000/api/v1/health/ready

Conventions

  • Branches : feat/, fix/, chore/, docs/, test/ suivi d'un libelle court.
  • Commits : Conventional Commits, portee = dossier de premier niveau concerne.
  • Toute decision structurante donne lieu a un ADR dans docs/adr.
  • Toute PR qui change un composant met a jour sa vue dans docs/architecture, dans la meme PR.
S
Description
No description provided
Readme
3.2 MiB
Languages
Python 68.8%
TypeScript 18.7%
Shell 2.7%
HTML 2.3%
SCSS 2.2%
Other 5.2%