L’intelligenza artificiale spiegabile non riguarda solo l’applicazione di algoritmi
Ricordo la prima volta che l’ho usato SHAP. Bene, ho provato ad usarlo. Volevo comprendere un modello XGBoost addestrato con oltre 40 funzionalità e molte di queste erano altamente correlate. Le trame sembravano fantastiche! Ma praticamente era tutto.
Non era affatto chiaro come il modello stesse facendo previsioni. E non era il XI colpa del metodo… i dati sottostanti erano un disastro. Questa è stata la mia prima realizzazione che:
I metodi XAI non sono una soluzione miracolosa.
Non puoi licenziarli davanti a modelli complessi e aspettarti spiegazioni ragionevoli per il loro funzionamento interno. Tuttavia, se utilizzati correttamente, possono fornire informazioni incredibili.
Ho imparato molto dal mio primo tentativo di comprendere un modello a scatola nera. Ho ristretto le lezioni a 10 suggerimenti. Visti di seguito, sono approssimativamente divisi in 3 gruppi. I primi quattro suggerimenti si concentrano sui dati sottostanti utilizzati per addestrare i modelli. I prossimi quattro si concentrano su Voi come utente dei metodi XAI. Gli ultimi due approfondiscono considerazioni più tecniche.
Potrebbe piacerti anche questo video sull’argomento. E, se vuoi saperne di più, dai un’occhiata al mio corso: XAI con Python. Puoi prendere gratuito accedi se ti iscrivi a my notiziario.
Fonte: towardsdatascience.com
