题目内容
（请给出正确答案）
设S为一离散无记忆信源，其符号集合为{0，1}，概率分布为p(0)=0.995，p(1)=0.005。令信源符号序列的长度为n=100，假定对所有只包含3个以下符号“1”的序列编制长度为k的非奇异二进制码。求：
如果结果不匹配，请 联系老师 获取答案
更多“设S为一离散无记忆信源，其符号集合为{0，1}，概率分布为p…”相关的问题
某离散无记忆信源S的符号集A={a1，a2，a3，a4，a5，a6，a7，a8}，各符号的概率分别为：0.1，0.2，0.2，0.3，0.05，0.05，0.05，0.05；
有一离散无记忆信源，其输出为X∈{0，1，2}，相应的概率为P(0)=1/4，P(1)=1/4，P(2)=1/2，设计两个独立试验去观察它，其结果分别为Y1∈{0，1}，Y2∈{0，1}，已知条件概率如表1所示。
| 表1 条件概率P(Y1|X)和P(Y2|X) | |||||||
| P(Y1|X) | y | P(Y2|X) | y | ||||
| 0 | 1 | 0 | 1 | ||||
| X | 0 | 1 | 0 | X | 0 | 1 | 0 |
| 1 | 0 | 1 | 1 | 1 | 0 | ||
| 2 | 1/2 | 1/2 | 2 | 0 | 1 |
设DMS的概率空间为
对其单个符号进行二进制编码，即码元集合为X={0，1}。
定义编码f为
f(u1)=w1=0，l1=1
f(u2)=w2=10，l2=2
f(u3)=w3=110，l3=3
f(u4)=w4=111，l4=3
试计算：（1）该信源的熵H(U);（2）由码字构成的新信源W的熵H(W);（3）由码元{0，1}构成的新信源X的熵H(X);（4）信息率R
设信源U={0，1，2，3}无记忆，各符号等概率分布，信宿V={0，1，2，3，4，5，6}。失真函数定义为
证明其率失真函数R(D)如图所示。
有一个二元二阶马尔可夫信源，其信源符号集为{0，1}，初始概率大小为
P(0)=1/3，P(1)=2/3。 条件转移概率P(0|00)=P(1|11)=0.8，
P(1|00)=P(0|11)=0.2, P(0|01)=P(0|10)=P(1|01)=P(1|10)=0.5
4．设一离散无记忆信道的输入符号集为{a1，…，aK}，输出符号集为{b1，…，bJ}，信道转移概率为p(bj|ak)，k=1，…，K；j=1，…，J。若译码器以概率γkj(k=1，…，K；j=1，…，J)对收到的bj判决为ak。试证明对于给定的输入分布，任何随机判决方法得到的错误概率不低于最大后验概率译码时的平均译码错误概率。
某信息源的符号集由A、B、C、D和E组成，设每一符号独立出现，其出现概率分别为1/4、1/8、1/8、3/16和5/16。试求该信息源符号的平均信息量。
若有一信源
每秒钟发出3个信源符号。将此信源的输出符号送入某二元无噪无损信道中进行传输，而信道每秒钟只能传递两个二元符号，试问信源能否在此信道中进行无差错的传输。
