La mappa dei rischi AI, letta per categoria

La maggior parte delle conversazioni sui rischi dell'AI è aneddotica: un singolo fallimento, un singolo titolo di giornale, una singola demo che va male. Quello che ai team manca quasi sempre è una mappa — un modo strutturato per vedere l'intera superficie di ciò che può andare storto prima di andare in produzione. La mappa dei rischi AI organizza decine di failure mode in nove famiglie che ogni team AI, founder e leader enterprise dovrebbe saper nominare.

Il valore non sta negli acronimi specifici. Sta nella disciplina di trattare il rischio come un sistema con categorie, invece che come una lista di incidenti a cui reagire uno alla volta. Qui sotto attraverso le nove famiglie e i rischi che vivono dentro ciascuna.

Come leggere la mappa

La mappa raggruppa i singoli failure mode in nove famiglie di rischio. Tre, modello, dati e sicurezza, sono prevalentemente tecniche. Tre, governance, operations e business, riguardano come la capability viene gestita e sostenuta. Le ultime tre, rischi umani ed etici, monitoraggio e controllo, e agentic, sono dove si concentrano i rischi più nuovi e meno compresi. Un programma maturo ha bisogno di copertura su tutte e nove, non di profondità solo su quelle più vicine all'ingegneria.

Rischi di modello

Nascono dal modello stesso: da come apprende, generalizza e si comporta al variare degli input.

• Hallucination (HAL): genera risposte false o fuorvianti. Ji et al., 2022
• Bias (BIA): produce output ingiusti o unilaterali. Mehrabi et al., 2021
• Data drift (DRF): i dati di input cambiano nel tempo.
• Model drift (MD): le performance degradano lentamente.
• Overfitting (OVF): memorizza invece di generalizzare. Zhang et al., 2017
• Underfitting (UND): non riesce ad apprendere pattern utili.
• Error propagation (ERR): piccoli errori si propagano nei workflow.
• Uncertainty (UNC): risposte sicure ma sbagliate. Guo et al., 2017
• Personal data exposure (PII): dati sensibili di training riemergono. Carlini et al., 2021

Rischi sui dati

Nascono dalla pipeline di dati che alimenta e addestra il modello.

• Source risk (SRC): fonti non verificate riducono la fiducia. Sambasivan et al., 2021
• Mislabeling (MIS): etichette sbagliate danneggiano l'apprendimento. Northcutt et al., 2021
• Duplicate data (DUP): la ripetizione riduce l'affidabilità. Lee et al., 2022
• Synthetic data risk (SYN): dati finti generano comportamenti deboli. Shumailov et al., 2023
• Consent risk (CON): dati usati senza permesso.
• Data leakage (DAT): i dati di training finiscono nelle risposte.
• Data quality loss (DQL): dati scadenti producono output inaffidabili.

Rischi di sicurezza

Sono adversariali: qualcuno sta attivamente cercando di abusare del sistema o di romperlo.

• Jailbreak risk (JBR): gli utenti aggirano i limiti di sicurezza. Zou et al., 2023
• Prompt injection (PJI): prompt malevoli manipolano il comportamento. Greshake et al., 2023
• Adversarial attack (ADV): input progettati per ingannare il modello. Goodfellow et al., 2015
• Data exfiltration (EXT): il sistema fa trapelare informazioni riservate.
• API abuse (API): gli attaccanti abusano dei servizi connessi.
• Token theft (TOK): credenziali o chiavi vengono esposte.
• Access risk (ACC): utenti sbagliati raggiungono sistemi riservati.
• Supply chain risk (SUP): tool di terze parti introducono vulnerabilità.

Rischi di governance e compliance

Emergono quando l'AI corre più veloce delle regole, della ownership e della documentazione che la circondano.

• Governance failure (GOV): manca una supervisione adeguata. NIST AI RMF, 2023
• Regulatory risk (REG): il sistema viola requisiti legali. EU AI Act, 2024
• Compliance risk (CMP): l'AI infrange standard di settore.
• Documentation gap (DOC): l'utilizzo è documentato male.
• Ownership gap (OWN): nessuno è chiaramente responsabile degli esiti.
• Policy failure (POL): le regole interne non sono chiare.
• Audit gap (AUD): le decisioni non lasciano traccia adeguata.
• Explainability gap (EXP): le decisioni sono difficili da capire. Rudin, 2019

Rischi operativi

Riguardano la capacità di far girare il sistema in modo affidabile e sostenibile in produzione.

• Scaling risk (SCL): il sistema cede sotto carico maggiore.
• Cost overrun (CST): l'utilizzo diventa troppo costoso.
• Latency risk (LAT): le risposte diventano troppo lente.
• Reliability risk (ROB): il comportamento è incoerente in produzione.
• Deployment risk (DEP): un rollout fatto male crea fallimenti. Paleyes et al., 2022
• Integration risk (INT): l'AI rompe i workflow esistenti. Sculley et al., 2015
• Rollback gap (ROL): i team non riescono a tornare indietro in sicurezza.
• Monitoring gap (MON): i problemi passano inosservati. Sculley et al., 2015

Rischi di business e reputazione

Colpiscono valore, fiducia e brand, non il codice.

• Trust gap (TRU): le persone evitano di usare i sistemi AI.
• Strategy risk (STR): l'adozione manca di direzione chiara.
• AI hype risk (HYP): le aspettative superano le capacità reali. Goldman Sachs, 2024
• Reputation risk (REP): gli errori danneggiano il brand.
• Customer trust loss (CUS): gli utenti smettono di fidarsi degli output.
• ROI failure (ROI): l'investimento rende poco. RAND, 2024
• Revenue risk (REV): i fallimenti impattano i risultati di business.
• Vendor lock-in (VEN): il business dipende troppo da un solo provider.
• Job displacement fear (JOB): i team temono di essere sostituiti. Frey & Osborne, 2017

Rischi umani ed etici

Riguardano l'effetto sulle persone e sulla società.

• Fairness risk (FAI): l'AI tratta i gruppi in modo diseguale. Barocas et al., 2023
• Manipulation risk (MAN): l'AI influenza gli utenti in modo scorretto.
• Ethical risk (ETH): l'AI genera esiti sociali dannosi.
• Safety risk (SAF): l'AI provoca danni nel mondo reale.
• Human-in-the-loop gap (HITL): decisioni critiche restano senza revisione. Parasuraman & Manzey, 2010

Rischi di monitoraggio e controllo

Sono lacune nel modo in cui il sistema viene osservato, testato e verificato.

• Evaluation failure (EVAL): i test non colgono i problemi reali. Liang et al., 2022
• Red teaming gap (RED): i rischi non vengono stressati. Ganguli et al., 2022
• Validation gap (VAL): gli output non sono verificati correttamente.
• Metric blindness (MET): si misurano le metriche sbagliate.
• Alert failure (ALR): problemi critici non generano alert.
• Logging gap (LOG): le azioni dell'AI non sono tracciabili.
• Automation bias (AUT): gli esseri umani si fidano dell'AI troppo in fretta. Parasuraman & Manzey, 2010

Rischi agentic

Sono la famiglia più nuova: compaiono solo quando l'AI può agire, non solo rispondere.

• Kill switch gap (KILL): l'AI non può essere fermata in fretta.
• Feedback gap (FBK): il feedback non migliora mai il sistema.
• Agent autonomy risk (AGT): gli agenti agiscono oltre i limiti previsti. Chan et al., 2023
• Tool misuse (TLS): gli agenti usano i tool in modo scorretto. Barrett et al., 2023
• Unauthorized action (ACT): un agente esegue operazioni non consentite.
• Memory risk (MEM): gli agenti memorizzano contesto sensibile.
• Multi-agent failure (CHAIN): l'errore di un agente colpisce gli altri.
• Loop failure (LOOP): gli agenti ripetono azioni all'infinito.
• Goal misalignment (GOAL): l'agente persegue l'obiettivo sbagliato. Amodei et al., 2016
• Delegation risk (DEL): gli agenti delegano task senza controllo.

La vera domanda strategica

La domanda sbagliata è: "quale di questi rischi dovrebbe preoccuparci di più?" Scegliere un rischio preferito è il modo in cui i programmi finiscono ben difesi su un lato e completamente scoperti su un altro.

La domanda migliore è: "per quale di queste nove famiglie oggi non abbiamo né owner, né metrica, né controllo?" La maggior parte dei team scopre che la copertura è disomogenea: forte su modello e sicurezza, sottile su governance, monitoraggio e, sempre più spesso, rischio agentic. La mappa è utile proprio perché rende visibili questi punti ciechi.

Una direzione pragmatica

Non si mitigano settanta rischi tutti insieme. Si rende leggibile la superficie e poi si chiudono per prime le lacune più esposte.

Questo di solito significa:

• mappare i use case reali sulle nove famiglie e segnare dove manca un owner
• trattare monitoraggio, valutazione e governance come elementi di primo livello, non come ripensamenti
• irrobustire sicurezza e comportamento del modello con red-teaming e loop di valutazione
• inserire controlli human-in-the-loop espliciti dove impatto o incertezza sono elevati
• prima di rilasciare agenti, verificare di poterli fermare, osservare e vincolare

Una mappa dei rischi non elimina il rischio. Trasforma una vaga ansia su "cosa potrebbe andare storto con l'AI" in una lista finita e assegnabile, ed è il primo passo per smettere di reagire agli incidenti e iniziare a progettare per la resilienza.