Il criterio del costo dell'errore
La domanda giusta non è quanto è accurato il sistema, ma quanto costa sbagliare in quel punto specifico. Una classificazione errata di una mail si corregge in dieci secondi; un ordine di acquisto errato si corregge con una telefonata, una nota di credito e una relazione danneggiata.
- Errore reversibile e a basso impatto: automazione diretta.
- Errore reversibile ma visibile all'esterno: proposta con approvazione rapida.
- Errore con impatto economico o contrattuale: approvazione obbligatoria.
Soglie e livelli di confidenza
Una via intermedia consiste nell'automatizzare sotto una certa soglia di rischio e nel richiedere approvazione sopra: importo, quantità, tipologia di cliente o livello di confidenza del modello. Le soglie vanno rese configurabili e riviste con i dati raccolti nei primi mesi.
Come disegnare una coda di approvazione usabile
Una coda funziona se mostra il contesto necessario per decidere in pochi secondi, se permette l'approvazione multipla per i casi ovvi e se registra chi ha approvato e quando. Se richiede di aprire tre schermate per capire di cosa si tratta, verrà svuotata a occhi chiusi e la validazione diventerà finzione.
Tracciabilità delle decisioni
Ogni proposta accettata o rifiutata è informazione preziosa: permette di misurare quanto il sistema è allineato al giudizio umano e di individuare le categorie in cui sbaglia sistematicamente. È anche la base per alzare progressivamente il livello di automazione dove i dati lo giustificano.