Cho tin xi có xác suất P(xi)=1/25, lượng tin riêng I(xi) của tin này bằng các đại lượng nào dưới đây:
A -
log2/5 bít
B -
2log5 bít
C -
log1/25 bít
D -
log25 bít
2-
Tìm câu sai trong những câu dưới đây:
A -
Độ bất ngờ của tin xi trong nguồn tin XN được tính bằng Entropy của lớp tin xi trong nguồn tin XN
B -
Độ bất định của tin và lượng tin về ý nghĩa trái ngược nhau nhưng về giá trị lại bằng nhau
C -
Độ bất định của tin và lượng tin có ý nghĩa như nhau nhưng giá trị khác nhau
D -
Lượng tin trung bình được hiểu là lượng tin trung bình trong một tin bất kỳ của nguồn tin đã cho
3-
Lượng thông tin riêng (độ bất định) của một biến ngẫu nhiên xk là I(xk). Chọn biểu thức sai trong các biểu thức dưới đây:
A -
I(xk) = ln p(xk) đơn vị đo là bít
B -
I((xk) = -lg p(xk) đơn vị đo là hart
C -
I(xk) = -ln p(xk) đơn vị đo là nat
D -
I(xk) = -log2 p(xk) đơn vị đo là bít
4-
Lượng thông tin riêng (độ bất định) của một biến ngẫu nhiên xk là I(xk) được tính bằng biểu thức nào dưới đây:
A -
I(xk) = k ln p(xk)
B -
I(xk) = -ln p(xk) đơn vị đo là bít
C -
I(xk) = -log2 p(xk) đơn vị đo là nat
D -
I(xk) = lg p(xk) đơn vị đo là hart
5-
Lượng thông tin riêng (độ bất định) của một biến ngẫu nhiên xk là I(xk)được tính như sau: I(xk) = k ln p(xk), trong đó k là hệ số tỷ lệ. Tìm câu sai về cách chọn k trong các câu dưới đây:
A -
Chọn k=1 ta có I(xk) = ln p(xk)
B -
Chọn k=-1 ta có I(xk) = -ln p(xk)
C -
Chọn k=-(1/ln10) ta có I(xk) = -lg p(xk)
D -
Chọn k=-(1/ln2) ta có I(xk) = -log2 p(xk)
6-
Entropy có điều kiện về 1 trường tin A khi đã rõ trường tin B là H(A/B). Trong các tính chất của H(A/B) dưới đây, tính chất nào sai:
A -
H(A/B) nhỏ hơn hoặc bằng H(B/A)
B -
0 nhỏ hơn hoặc bằng H(A/B)
C -
H(A) lớn hơn hoặc bằng H(A/B)
D -
H(A/B) nhỏ hơn hoặc bằng H(A)
7-
Entropy có điều kiện về 1 trường tin B khi đã rõ trường tin A là H(B/A). Tính chất nào của H(B/A) dưới đây là đúng:
A -
0 lớn hơn hoặc bằng H(B/A)
B -
0 nhỏ hơn hoặc bằng H(B/A)
C -
H(A/B) nhỏ hơn hoặc bằng H(B/A)
D -
H(B/A) nhỏ hơn hoặc bằng H(A)
8-
Entropy của trường biến cố đồng thời H(AB) được tính bằng công thức nào sau đây:
A -
H(A) + H(A/B)
B -
H(A) + H(B)
C -
H(A) + H(B) – H(A/B) – H(B/A)
D -
H(B) + H(A/B)
9-
Lượng thông tin chéo trung bình (ký hiệu là I(A,B)) có các tính chất nào sau đây:
A -
I(A,B) = -H(A) khi kênh có nhiễu
B -
0 nhỏ hơn hoặc bằng I(A,B) nhỏ hơn hoặc bằng H(A)
C -
I(A,B) = H(B) khi kênh có nhiễu
D -
I(A,B) = H(A) khi kênh có nhiễu
10-
Lượng thông tin chéo trung bình (ký hiệu là I(A,B)). Trong các tính chất dưới đây, tính chất nào sai:
