1–дәріс. Жүйелер туралы теорияның мәселелері. Жүйелер теориясының терминологиясы. Жүйенің қасиеттері. Жүйелік талдау
жүктеу/скачать 1,13 Mb.
|
| 10 дәріс. Ақпаратты өлшеу. Үзіліссіз және дискретті байланыс арналарының моделі. Байланыс арнасының сиымдылығы. Хартли-Шеннон формуласы. Деректер берілісінің сенімділігі.
Байланыс арналарын меңгеру барысында арна кірісінде бақыланатын символдар бойынша хабарламаны жіберу туралы ақпарат алу мүмкіндігі қызықтырады. Ресми түрде айтатын болсақ, X және Y дискретті ансамблдердің XY = {(x, y), p(x, y)} берілген көбейтіндісі үшін y ∈Y шығыс символдарында болатын кіріс ансамблінің x ∈ X элементері туралы ақпаратты сандық түрде өлшеу керек. Бұндай ақпаратқа сәйкес келетін шама (x, y)∈ XY кез келген жұптары үшін I (x; y) = I (x) − I (x | y) . (5.3.1) арақатынасымен анықталатын өзара ақпарат болып табылады. I (x; y) өрнегінде бұл өлшемді (x, y) жұбы хабарламасының I (x, y) ақпаратының өзімен шатастырмау үшін біз бөлуші ретінде үтір нүктені қолданып отырғанымызды атап өтейік. Өзара ақпарат ықтималдығы нөлдік емес (x, y) жұбы үшін ғана анықталған. Енгізілген түсініктің мағынынасын айқындап көрелік. Азайтылатын I (x) x хабарламасындағы ақпараттың өзінің мөлшерін көрсетеді. Алынатын шартты өзіндік ақпарат белгілі y кезінде, басқа сөзбен айтқанда у алғаннан кейінгі х-те қалған ақпарат мөлшері. Осылайша I (x; y) айырымы у алу арқасында х ақпараттың өзгеруін көрсетеді. Осы өлшемді y-те x туралы қамтитын ақпарат өлшемі ретінде қабылдау орынды. Өзара ақпараттың қасиеттерін атап өтейік. 1. Симметриялық: I (x; y) = I ( y; x) . 2. Егер x және y тәуелсіз болса, онда I (x, y) = 0 . Осы қасиеттердің дәлелдеуі өзара ақпарат пен шартты ықтималдық және тәуелсіздік анықтамаларынан шығады. Өзара ақпарат хабарламалар жұбын сипаттайды және XY ансамблдерінің көбейтіндісіне анықталған кездейсоқ шама болып табылады. X және Y ансамбльдері арасындағы орташа өзара ақпарат деп I (X;Y) = M[I (x; y)] өлшемі айтылады. Орташа өзара ақпаратты ортақ үлестірім ықтималдығы арқылы өрнектейтін формуланың түрі келесідей Орташа өзара ақпарат ойдан алынған дискретті, нөлдік ықтималдықты элементы бар ансамбльдерді қоса алғандағы ансамбльдер үшін анықталғанын атап өтейік ((x, y) жұбының үлесі I (X;Y) өлшеміне p(x, y) = 0 нөлге тең болады). Енгізілген ақпараттық өлшемнің қасиеттерін меңгерейік. жүктеу/скачать 1,13 Mb. Достарыңызбен бөлісу:
|