シンボル数からシャノンエントロピー計算
ラベル付き記号の件数から、経験エントロピー、観測した種類数、理想的な符号長の限界を求めます。
計算結果
結果
—
計算手順
手順を1つずつ、またはまとめて表示できます。現在の入力値を使った計算手順です。
計算方法
経験的確率と総和の計算量を正規化する。 log 2 p は正の計算量より大きい。この平均情報を、観測された支持値の均一なエントロピーと固定幅コーディングと比較する。
H=−Σp log2 p; uniform maximum=log2(K); fixed width=ceil(log2(K))
計算例
50 、 25 、 25 は確率 0.5 、 0.25 、 0.25 、およびエントロピー 1.5 bits /記号を与える。 3つの観測されたシンボルの固定幅のコードは、オーバーヘッドの前にシンボルごとに2ビットが必要である。
前提条件と入力上の注意
ゼロ次の経験的記号モデル; ラベルは一意であり、カウントは非負の整数である。ゼロカウントラベルは、観察されたサポートから除外されます。ある観測されたシンボルはエントロピーが0で、サポートがすでに既知である場合、0ビットの数学的固定幅束縛を持つ。これらの数値は、圧縮ファイルサイズやランダム性/セキュリティテストの保証されていない。 200レーベルまで。
参考資料： タフツ大学:離散分布のシャノンエントロピー
このツールの使い方
自分の値を入力できますか？
はい。入力例をご自身の値に変更してください。結果・計算手順・表・対応する図が入力に応じて更新されます。空欄や無効な値がある場合は結果を消去し、不足した入力を自動的に例の値で補うことはありません。
結果は厳密ですか？
浮動小数点演算を使用し、表示時に丸めています。計算式・前提条件・記載されたデータ精度を確認して結果を解釈してください。
入力内容は送信されますか？
計算はブラウザー内で行います。アカウント・ファイルのアップロード・外部AIサービスは不要です。ページを再読み込みすると入力値は保持されません。
テキスト変換を明示し、UTF-8バイト、UTF-16単位、Unicodeコードポイント、書記素クラスタを数えます。
離散結果と確率から、期待値、固定費控除後の正味期待値、結果のばらつきを求めます。
2つの回転を表す単位四元数の間を、最短の弧に沿って補間します。
広告掲載用スペースです。