MSE, perdita logaritmica, entropia incrociata, RMSE e i principi fondamentali delle funzioni di perdita più diffuse
Bentornato! Nel ‘Il coraggio di imparare il machine learning‘, in cui sconfiggiamo le paure del machine learning una sfida alla volta. Oggi ci tuffiamo a capofitto nel mondo delle funzioni di perdita: i supereroi silenziosi che guidano i nostri modelli a imparare dagli errori. In questo post tratteremo i seguenti argomenti:
- Cos’è una funzione di perdita?
- Differenza tra funzioni di perdita e metriche
- Spiegare MSE e MAE da due prospettive
- Tre idee fondamentali per la progettazione delle funzioni di perdita
- Usare queste tre idee di base per interpretare MSE, perdita logaritmica e perdita di entropia incrociata
- Connessione tra perdita logaritmica e perdita di entropia incrociata
- Come gestire nella pratica molteplici funzioni di perdita (obiettivi).
- Differenza tra MSE e RMSE
Le funzioni di perdita sono cruciali nella valutazione dell’efficacia di un modello durante il suo processo di apprendimento, simile a un esame o a una serie di criteri. Servono come indicatori di quanto le previsioni del modello si discostano dalle etichette vere (le risposte “corrette”). Tipicamente, le funzioni di perdita valutano la performance misurando la discrepanza tra le previsioni fatte dal modello e le etichette effettive. Questa valutazione del divario informa il modello sull’entità degli aggiustamenti necessari nei suoi parametri, come pesi o coefficienti, per catturare in modo più accurato i modelli sottostanti nei dati.
Esistono diverse funzioni di perdita nell’apprendimento automatico. Questi fattori includono la natura del compito predittivo in questione, che si tratti di regressione o classificazione, la distribuzione della variabile target, come illustrato dall’uso della perdita focale per la gestione di set di dati sbilanciati, e la specifica metodologia di apprendimento dell’algoritmo, come il applicazione della perdita di cerniera nelle SVM. Comprendere e selezionare la funzione di perdita appropriata è piuttosto importante, poiché influenza direttamente il modo in cui un modello…
Fonte: towardsdatascience.com
