app.zornade.com nel catalogo Riusi di dati.gov.it: dietro le quinte del join con i dati ISPRA sul rischio frane

dati.gov.it (AGID) censisce app.zornade.com per il suo uso del dataset ISPRA sul rischio frana. Dietro quella riga: perché il join contro un milione di poligoni nazionali è la fase più pesante della nostra pipeline, e perché L'Aquila è il caso limite.

· Aggiornato il
Team Zornade
3 min di lettura
Immagine di copertina per: app.zornade.com nel catalogo Riusi di dati.gov.it: dietro le quinte del join con i dati ISPRA sul rischio frane

dati.gov.it - il portale nazionale dei dati aperti gestito da AGID - ha censito app.zornade.com nella sezione Riusi, citando in particolare il nostro utilizzo del dataset ISPRA sulla mosaicatura nazionale dei Piani di Assetto Idrogeologico (PAI) v4.0 - il rischio frana - unito al livello di ogni particella catastale.

Dietro quella riga di scheda c'è un problema tecnico che vale la pena raccontare, perché non è banale come sembra.

Il vero collo di bottiglia della pipeline

Su 85 milioni di particelle italiane, la fase che arricchisce con i dati di rischio (frane ISPRA + alluvioni + sismico + subsidenza) è di gran lunga la più pesante della nostra pipeline. Non è un caso: la tabella nazionale delle frane ISPRA da sola conta circa 1 milione di poligoni complessi, e ogni particella deve essere incrociata spazialmente con quel livello per sapere se ci ricade dentro, e con quale livello di severità.

Per confronto interno, i timeout di sicurezza che usiamo fase per fase raccontano la storia meglio di qualunque descrizione:

  • Indirizzi, catasto, censimento: 5 minuti a comune
  • OMI, uso del suolo: 30 minuti (alzati da 5, perché i capoluoghi più estesi andavano in timeout)
  • Rischio (ISPRA + INGV + subsidenza): 60 minuti - l'unica fase che non abbiamo mai potuto comprimere

Il caso limite: L'Aquila

Il comune più difficile da elaborare in tutta la pipeline non è Roma (469mila particelle) né Milano (250mila): è L'Aquila, con circa 189mila particelle in una delle zone a densità di rischio frana/alluvione più alta della pipeline. Per i comuni di questa taglia il join diretto contro la tabella nazionale da 1 milione di poligoni non basta nemmeno con un'ora di timeout: usiamo un percorso "chunked" che prima ritaglia il layer nazionale su una tabella temporanea limitata al solo perimetro del comune (riducendo la cardinalità del join spaziale anche di 1.000-10.000 volte), poi processa le particelle a lotti, con un commit per lotto - così un'interruzione di rete non fa perdere il lavoro già fatto.

Perché contava scriverlo su dati.gov.it

Il catalogo Riusi non è una directory automatica: è curato da AGID per mostrare utilizzi reali dei dataset pubblici. Il dataset ISPRA sulle frane, di per sé, è un file GIS tecnico che richiede competenze specialistiche per essere consultato. Il nostro lavoro è tutto qui: prendere quel poligono da 1 milione di forme e restituirlo come un singolo indicatore leggibile per la particella che ti interessa.

Per approfondire come trattiamo gli altri livelli di rischio, vedi il bollettino di criticità della Protezione Civile e l'analisi su rischio idrogeologico e sismico.

Scheda su dati.gov.it: dati.gov.it/index.php/node/497

Stai usando questi dati per un progetto aziendale?

Possiamo costruire la soluzione completa per te - backend, frontend, data engineering, deploy e supporto. Prima valutazione tecnica gratuita.

Richiedi un preventivo gratuito