Commit graph

73 commits

Author SHA1 Message Date
260200e251 feat(crawler): nouveau service crawler server-side via FlareSolverr
- apps/crawler/ : service Python complet, remplace les scripts locaux
  - FlareSolverr pour bypasser Cloudflare (cookies CF → session requests)
  - Crawl incrémental : /archives/band-list/by/created et /by/modified
  - Crawl complet Europe : pagination AJAX /browse/ajax-country/
  - Enrichissement : pages individuelles de bands (themes, membres, label, hash)
  - Écriture directe en DB (upserts bulk, idempotents)
  - Scheduler intégré (schedule library) : incrémental 4h, enrich 2h, full le 1er du mois
  - Tracking via crawl_run et crawl_checkpoint (migration 004)
- docker-compose.dev.yml : flaresolverr + crawler ajoutés
  Full crawl désactivé en dev (CRAWLER_SCHED_FULL_DAY=0)

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 15:15:29 +02:00
d2fcafc6be feat(db): système de migrations SQL + refonte schéma
- apps/api/migrations/ : 4 migrations numérotées idempotentes
  001 : schéma initial (bands, trigger geom, indexes)
  002 : colonnes manquantes (enriched, themes, geocode_*) + fix trigger
        → updated_at mis à jour sur toute UPDATE (pas seulement lat/lon)
  003 : geocode_queue et geocode_cache (formalisées)
  004 : tracking crawl (crawled_at, crawled_hash, ma_created_at,
        ma_modified_at, first_seen_at) + crawl_run + crawl_checkpoint
- apps/api/src/migrate.js : runner qui s applique au démarrage de l api
- apps/api/Dockerfile : CMD lance migrate.js avant server.js
- infra/init.sql : remplacé par notice de redirection

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 15:09:35 +02:00
91166668a6 fix(dev): stabiliser les workers et corriger les domaines
- Supprime le service worker (Playwright, sera réécrit)
- geocoder-worker: restart: no pour éviter la boucle de crash
- Domaines dev-api et dev-pgadmin migrés vers metalfrom.eu
- API_BASE aligné sur dev-api.metalfrom.eu

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 15:04:52 +02:00
d3cb6e64e7 fix(dev): change dev API domain to dev-api.metalfrom.eu
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 14:39:49 +02:00
781382dc65 feat: API_BASE configurable par build arg + DB dev
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 14:30:08 +02:00
9f6fea4492 test deploy 4 2026-06-27 14:05:50 +02:00
89b1a60502 test deploy 3 2026-06-27 14:04:09 +02:00
80dfa7495d test deploy 2 2026-06-27 13:42:35 +02:00
16927f0dd2 test deploy 2026-06-27 13:33:13 +02:00
6c00ee2251 fix: docker-compose.dev.yml standalone (not overlay) pour Coolify
Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 12:52:11 +02:00
af84da84da fix: revenir aux labels Traefik hardcodés + docker-compose.dev.yml
Coolify ne développe pas \${VAR:-default} dans les labels Docker.
Labels prod: bm-api, bm-web, bm-pgadmin (inchangés).
docker-compose.dev.yml: override pour l'env dev avec les labels
dev-api, dev-web, dev-pgadmin et CORS_ORIGINS dev.

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 12:49:28 +02:00
d08584704f refactor: domaines et router Traefik configurables par env vars
APP_ENV, DOMAIN_WEB, DOMAIN_WEB_ALT, DOMAIN_API, DOMAIN_PGADMIN
permettent de déployer prod et dev sur le même Traefik sans conflit.
CORS_ORIGINS aussi injecté directement dans le service api.

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 12:38:52 +02:00
06a5bf2ef8 fix: geocoder/worker network + CORS configurable par env
- Ajoute geocoder-worker et worker sur le réseau coolify pour
  résoudre le hostname DB (lgrep99...) qui n'est accessible que
  depuis le réseau coolify
- CORS_ORIGINS env var optionnel pour configurer les origines
  autorisées (utilisé par l'env dev)

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 12:37:09 +02:00
d1a6a6bc27 fix: geocoder/worker network + CORS configurable par env
- Ajoute geocoder-worker et worker sur le réseau coolify pour
  résoudre le hostname DB (lgrep99...) qui n'est accessible que
  depuis le réseau coolify
- CORS_ORIGINS env var optionnel pour configurer les origines
  autorisées (utilisé par l'env dev)
2026-06-27 10:34:05 +00:00
2b26382343 test: validation webhook auto-deploy 2026-06-27 11:43:02 +02:00
eafd771bcc test: webhook auto-deploy Coolify via Forgejo 2026-06-27 11:38:07 +02:00
58561ef79f fix: exclure .claude du tracking git 2026-06-27 11:35:14 +02:00
d241d168e3 feat: integrer override api en production (supprimer mecanisme override) 2026-06-27 11:35:06 +02:00
68dfdf10c2 refactor: deplacer docker-compose.yml a la racine pour compatibilite Coolify 2026-06-27 11:32:51 +02:00
97248a13e7 fix: retirer depends_on db (service supprime) 2026-06-27 11:30:32 +02:00
2a2cd0217a feat: migrer stack vers Coolify (DB standalone + web Dockerfile)
- DB PostgreSQL extraite du compose (geree par Coolify avec backup R2)
- DATABASE_URL devient une variable externe injectee par Coolify
- Ajout apps/web/Dockerfile (nginx alpine servant le site statique)
- Labels Traefik: websecure->https, le->letsencrypt, reseau coolify
- Suppression code-server (remplace par workflow git)

Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
2026-06-27 11:26:32 +02:00
d29992be79 fix: exclure .env et fichiers temporaires du versioning 2026-06-27 08:54:29 +00:00
d4e1bf2e15 chore: initial commit — snapshot VPS 2026-06-27
- apps/api      : API REST Node.js/Fastify + PostgreSQL/PostGIS
- apps/geocoder : Worker Python géocodage Nominatim
- apps/worker   : Scraper Python Metal-Archives
- apps/web      : Frontend statique Leaflet/clustering/heatmap
- infra/        : docker-compose + init.sql

Déployé via Coolify + Traefik sur VPS OVH.
2026-06-27 08:53:39 +00:00