L'entropia creuada categòrica és una funció de pèrdua que s'utilitza en tasques de classificació multiclasse. Són tasques on un exemple només pot pertànyer a una de les moltes categories possibles, i el model ha de decidir quina. Formalment, està dissenyat per quantificar la diferència entre dues distribucions de probabilitat.
Per què utilitzar l'entropia creuada en lloc de la MSE?
Primer, l'entropia creuada (o pèrdua de softmax, però l'entropia creuada funciona millor) és una mesura millor que la MSE per a la classificació, perquè el límit de decisió en una tasca de classificació és gran(en comparació amb la regressió). … Per a problemes de regressió, gairebé sempre utilitzareu el MSE.
Quina diferència hi ha entre l'entropia creuada escassa i l'entropia creuada categòrica?
L'única diferència entre l'entropia creuada categòrica escassa i l'entropia creuada categòrica és el format de les etiquetes reals. Quan tenim un problema de classificació d'una sola etiqueta i de diverses classes, les etiquetes s'exclouen mútuament per a cada dada, és a dir, cada entrada de dades només pot pertànyer a una classe.
Com interpreteu la pèrdua d'entropia creuada categòrica?
Entropia creuada augmenta a mesura que la probabilitat prevista d'una mostra divergeix del valor real. Per tant, predir una probabilitat de 0,05 quan l'etiqueta real tingui un valor d'1 augmenta la pèrdua d'entropia creuada. indica la probabilitat prevista entre 0 i 1 per a aquesta mostra.
Per què és bona l'entropia creuada?
En general, com podem veure, l'entropia creuada és simplement una manera de mesurar la probabilitat d'un model. L'entropia creuada és útil, ja que pot descriure la probabilitat d'un model i la funció d'error de cada punt de dades. També es pot utilitzar per descriure un resultat previst en comparació amb el resultat real.
