Calculateur d’entropie de Shannon à partir des symboles
Calculer l’entropie empirique, le support observé et les limites de codage idéales à partir des nombres de symboles marqués.
VOTRE CALCUL
Résultat
—
Étapes du calcul
Affichez les étapes une par une ou le calcul complet. Les étapes utilisent les valeurs que vous avez saisies.
Méthode de calcul
Normaliser les dénombrements en probabilités empiriques et résumer le log 2 p par rapport aux dénombrements positifs. Comparer cette information moyenne avec un codage uniforme entropie et largeur fixe pour le support observé.
H=−Σp log2 p; uniform maximum=log2(K); fixed width=ceil(log2(K))
Exemple détaillé
Les chiffres 50, 25, 25 donnent les probabilités 0,5, 0,25, 0,25 et entropie 1,5 bits/symbole. Un code de largeur fixe pour trois symboles observés nécessite deux bits par symbole avant le survol.
Hypothèses et précisions sur les données
Modèle de symbole empirique à ordre zéro; les étiquettes sont uniques et les dénombrements sont des nombres entiers non négatifs. Les étiquettes de nombre zéro sont exclues du support observé. Un symbole observé a une entropie zéro et une largeur fixe de zéro-bit, lorsque le support est déjà connu. Ces chiffres ne sont pas un fichier compressé garanti taille ou aléatoire / test de sécurité. Jusqu’à 200 étiquettes.
Références : Université Tufts : Entropie Shannon d’une distribution discrète
Utiliser ce calculateur
Puis-je saisir mes propres données ?
Oui. Remplacez les valeurs de l’exemple par vos propres données. Le résultat, les étapes, les tableaux et les diagrammes disponibles se mettent à jour. Une valeur vide ou invalide efface le résultat ; les valeurs de l’exemple ne remplacent jamais les données manquantes.
Les résultats sont-ils exacts ?
Les calculs utilisent des nombres à virgule flottante et les résultats affichés sont arrondis. Consultez la formule, les hypothèses et la précision des données indiquée avant d’interpréter le résultat.
Mes données sont-elles envoyées ?
Le calcul s’effectue dans votre navigateur. Aucun compte, envoi de fichier ou service d’IA externe n’est nécessaire. Les données saisies ne sont pas conservées après le rechargement de la page.
Compter UTF- 8 octets, UTF- 16 unités, points de code Unicode et groupes graphiques avec des transformations de texte explicites.
Inscrivez les résultats distincts et leurs probabilités pour calculer la valeur prévue, l’attente nette après un écart fixe entre les coûts et les résultats.
Interpoler deux quaternions de rotation le long de l’arc de quarterion unitaire le plus court.
Espace publicitaire réservé.