信息论与编码之求自信息量

操作方法

• 01

  首先分析题意，信源是无记忆的，因此发出的各消息之间是互相独立的，此时发出的消息的自信息量即为各消息的自信息量。

  
• 02

  当a0=0时，求出它包含的信息量为1.415。

  
• 03

  当a1=1时，求出它包含的信息量为2。

  
• 04

  a2=2时，求出它包含的信息量为2。

  
• 05

  a3=3时，它包含的信息量为3，如下图所示。

  
• 06

  在发出的消息中，总结出0,1,2,3各有14,13,12,6个，可以得出总得信息量。

  
• 07

  共有45个符号，所以平均每个符号所带的自信息量为上式的答案除以45。

  
• End