我有一个字符串ABABABAB的例子，我必须计算这个字符串的熵 .
很明显，我可以在使用不同的字母表时得到不同的数字 . 当我拿字母A = {a，b}时，我得到了熵=每个字符1位的答案（使用香农的公式）=>表示整个字符串的8位 .
But what about a case when we take A={ab,aa,bb,ba}?
我们得到每个字符的熵= 0位（这也很明显，因为没有随机性） . How is it possible to have 0 bpc ? 所以整个字符串= 0位？= /我无法理解我错在哪里..
提前感谢您提供任何帮助 .
1 回答
是的，这是可能的，但需要发送其他信息 . 特别地，存在四个编码符号，并且唯一可能的符号是AB . 一旦你发送了这些东西，余数就是零位 .