Regressione multipla: più fattori, intervalli di previsione e Box-Cox
La sezione 4.2 del Body of Knowledge IASSC estende la regressione al caso realistico: una Y che dipende da più X contemporaneamente. È l'ultima sotto-sezione richiesta per la Green Belt; da qui in poi il programma prosegue solo per la Black Belt.
Regressione lineare multipla
Il modello diventa Y = b₀ + b₁X₁ + b₂X₂ + … + bₙXₙ. Ogni coefficiente si interpreta come l'effetto della sua variabile a parità di tutte le altre: è la precisazione che cambia tutto rispetto alla regressione semplice, perché isola il contributo del singolo fattore.
Due strumenti di lettura sostituiscono l'R² semplice. L'R² aggiustato penalizza l'aggiunta di variabili inutili: l'R² normale cresce sempre quando si aggiunge un predittore, anche casuale, mentre quello aggiustato cresce solo se il predittore porta informazione. E il VIF (variance inflation factor) segnala la multicollinearità, cioè predittori fortemente correlati fra loro.
La multicollinearità è il problema tipico della regressione multipla. Se due X portano la stessa informazione, il modello non riesce ad attribuire l’effetto all’una o all’altra: i coefficienti diventano instabili, cambiano segno se si aggiunge un dato, e diventano ininterpretabili — mentre l’R² resta ottimo. Un VIF sopra 5 merita attenzione, sopra 10 va risolto.
Regressione non lineare
Non tutte le relazioni sono rette. Un termine quadratico descrive relazioni con un massimo o un minimo — tipico quando esiste un valore ottimale del parametro, oltre il quale la situazione peggiora. Relazioni logaritmiche descrivono rendimenti decrescenti; relazioni esponenziali descrivono crescite o decadimenti.
Il segnale da cui accorgersene è quasi sempre lo stesso: i residui della regressione lineare mostrano una curva. La cura consiste nell'aggiungere il termine mancante, non nell'aumentare il numero di variabili.
Intervalli di confidenza e di previsione
Sono due cose diverse e vengono confuse spesso.
L'intervallo di confidenza riguarda la media di Y per un dato valore di X: dove si colloca la risposta media del processo in quelle condizioni.
L'intervallo di previsione riguarda una singola osservazione futura: dove cadrà il prossimo pezzo, la prossima pratica. È sempre più ampio del precedente, perché somma due incertezze: quella sulla stima della media e la variabilità naturale delle singole osservazioni.
Nella pratica, quando si deve promettere un livello di servizio, è l'intervallo di previsione quello rilevante — non quello di confidenza.
Trasformazione dei dati e Box-Cox
Quando i residui hanno varianza non costante o non sono normali, spesso il rimedio è trasformare la variabile risposta. La trasformazione Box-Cox cerca automaticamente l'esponente λ che rende i dati il più possibile normali: λ = 0 corrisponde al logaritmo, λ = 0,5 alla radice quadrata, λ = 1 a nessuna trasformazione.
La trasformazione ha un costo che va messo in conto: i risultati sono espressi in unità trasformate e vanno riportati indietro per essere comunicati. Un intervallo di previsione sul logaritmo dei tempi, riconvertito, non è simmetrico — e va spiegato a chi lo legge.
Scegliere le variabili
La tentazione è mettere nel modello tutto ciò che si ha. È l'errore chiamato overfitting: un modello con molte variabili descrive benissimo i dati raccolti e prevede male quelli nuovi, perché ha imparato anche il rumore.
Le procedure automatiche di selezione — stepwise, best subsets — aiutano ma non decidono: la scelta finale deve avere senso di processo. Una variabile che entra nel modello e che nessuno sa spiegare è più spesso una coincidenza che una scoperta.
Nel syllabus IASSC
4.2 Regressione multiplaGreenBlack
- 4.2.1 Regressione non lineare
- 4.2.2 Regressione lineare multipla
- 4.2.3 Intervalli di confidenza e di previsione
- 4.2.4 Analisi dei residui
- 4.2.5 Trasformazione dei dati, Box-Cox
Dove continuare
- Fase Improve: le altre sotto-sezioni del programma
- Syllabus IASSC completo: 5 fasi, 21 sotto-sezioni, 92 argomenti
- Regressione lineare semplice: correlazione e residui
- Design of Experiments: il passo successivo, solo Black Belt
- Corsi e certificazioni Lean Six Sigma di BITIL
Domande frequenti
Quante variabili posso mettere in un modello di regressione?
La regola pratica più diffusa chiede almeno dieci-quindici osservazioni per ogni predittore. Con venti dati e cinque variabili il modello descriverà benissimo quei venti dati e non prevederà nulla: è overfitting.
Come mi accorgo della multicollinearità?
Dal VIF: sopra 5 merita attenzione, sopra 10 va affrontata. Altri segnali sono coefficienti con segno contrario al senso fisico, e coefficienti che cambiano molto quando si aggiunge o toglie una variabile. La soluzione è eliminare una delle variabili ridondanti o combinarle.
Intervallo di confidenza o di previsione, quale uso?
Se devi dire dove si colloca la media del processo, quello di confidenza. Se devi dire dove cadrà il prossimo caso singolo — un livello di servizio, una tolleranza promessa — quello di previsione, che è più ampio. Usare il primo al posto del secondo porta a promettere più di quanto il processo possa mantenere.
