Зертханалық жұмысты орындауға нұсқаулық Орташа өзара ақпаратты ортақ үлестірім ықтималдығы арқылы өрнектейтін формула Орташа өзара ақпараттың қасиеттері 1 қасиет. СимметриялықI (X;Y) = I (Y; X ) . 2 қасиет. Теріс болмаушылық: I (X;Y) ≥ 0. 3 қасиет. X және Y ансамбльдері тәуелсіз болған кезде, тек сол кезде ғана I(X;Y)=0 тепе-теңдігі орын алады. 4 қасиет. I (X;Y) = H(X ) −H(X | Y) = H(Y) −H(Y | X ). 5 қасиет. I (X;Y) ≤ min{H(X ),H(Y)}. 6 қасиет. I (X;Y) ≤ min{log | X |, log | Y |}. 7 қасиет. Өзара ақпарат I (X;Y) – p(x) үлестірім ықтималдығының дөңес ∩ функциясы. 8 қасиет. Өзара ақпарат I (X;Y) – p(у|x) шартты үлестірімінің ойыс ∪ функциясы.
Тапсырмалар: 1-нұсқа. Байланыс каналына x1және x2 ( ) тең ықтималдықты және статистикалық тәуелсіз дискретті сигналдары жіберіледі. Бөгеуілдің әсерінен байланыс каналының шығысында z1, z2және z3 ( ) сигналдары пайда болды. Шартты ықтималдықтар матрицасы: .
, мысалы, I(X,Z) орташа өзара ақпаратты анықтаңыз. 2-нұсқа. Ақпаратты беру жүйесі , және параметрлерімен және де P(X,Y)=Pxy ықтималдықтар матрицасымен сипатталады: . I(X,Y)=IXY орташа өзара ақпарат санын анықтаңыз. 3-нұсқа. Байланыс каналына x1, x2 және x3(j=1..3) тең ықтималдықты және статистикалық тәуелсіз дискретті сигналдары жіберіледі. Бөгеуілдің әсерінен байланыс каналының шығысында z1жәнеz2 (i=1..2) сигналдары пайда болды. Шартты ықтималдықтар матрицасы:
.
I(X,Z) орташа өзара ақпаратты анықтаңыз.
4-нұсқа. Ақпаратты беру жүйесі ықтималдықтар матрицасымен сипатталған: . I(X,Y)=IXY орташа өзара ақпаратты және I(X,yj)= жеке өзара ақпаратты анықтау керек.
5-нұсқа. Байланыс каналына x1және x2 ( ) тең ықтималдықты және статистикалық тәуелсіз дискретті сигналдары жіберіледі. Бөгеуілдің әсерінен байланыс каналының шығысында z1, z2және z3 ( ) сигналдары пайда болды. Шартты ықтималдықтар матрицасы: