Л.Н. Гумилев атындағы Еуразия ҧлттық университеті Пәннің оқу-әдістемелік кешені Басылым: алтыншы ЕҰУ Ф 703-08-17 Пәннің оқу-әдістемелік кешені. Алтыншы басылым
мүмкіндігі арнаның ӛткізу қабілетіне тең жылдамдықпен ақпараттарды қатесіз берудің алға
қойған есептерін шешу мүмкіндігін анықтайды. Оны толық шешу кезінде тӛмендегі теңдік
дұрыс болып шығады.
Н ’ ( U ) =υ
C
*Н(U) = υ
K
*logM= C (13.1)
одан мынаны аламыз:
η = υ
K /υ
С = H(U)* logM (13.2)
мұндағы, H(U) - берілетін хабарлар кӛзінің энтропиясы, υ
K және υ
С уақыт бірлігінде
берілетін хабар мен кодка сәйкес символдардың орташа саны, η = υ
K /υ
С - бір хабарға келетін
код символдарының орташа саны.
(13.1) және (13.2) теңдіктерін дәл орындауға жуықтау дәрежесі хабарлар кӛзінін
артықтығын азайту дәрежесіне байланысты болады. Хабарлар кӛздерінің артықтығын жоюға
мүмкіндік беретін кодтау тиімді немесе статистикалықдеп аталады. Осындай кодтау
нәтижесінде алынатын кодтар тиімді немесе статистикалық деп аталады. Тиімді кодтау
негізі болып қалануы мүмкін негізгі идеяларды қарастырамыз. Дискреттік кӛздердін
артықшылығы екі себептермен:
деректер кӛзінің жадысымен;
хабардың бірқалыпты еместігімен шарт жасалынады.
Қарапайым (элементар) хабарларды ірілендіру дереккӛз жадысымен шарт жасалған артықшылықты азайтудың әмбебап тәсілі болып саналады. Бұл ретте кодтау ұзын
блоктармен жүзеге асырылады. Блоктар арнасындағы ықтималдылық байланыстары
хабарлардың жекелеген элементтері арасындағыға қарағанда аздау болады және блоктар неғұрлым ұзынырақ болса, олардың арасындағы тәуелділік соғұрлым аз болады. Ірілендіру
мағынасын әріптік мәтін мысалымен түсіндіреміз: егер кез келген тілдегі әріптер арасындағы
ықтималдылық байланыстар салыстырмалы түрде күшті болса, онда олар сӛздер арасында
айтарлықтай аздау, ал сӛз тіркестері арасында одан да аздау, абзацтар арасында тіпті одан да
аздау болады. Сондықтан сӛздерді, сӛз тіркестерін, абзацтарды кодтауды қолдана отырып, біз
ықтималдылық байланыстарымен шарттасылған артықшылықты толықтай жоя аламыз. Бірақ
бұл ретте хабарларды беруді кешіктіру кӛбейеді, ӛйткені алдымен хабарлардың бүкіл ұзын
блогын қалыптастыруды күтіп, содан кейін ғана барып оны кодтау және беру қажет.
Хабардың бірқалыпты еместігінен шарттасқан артықшылықты азайтуға бірқалыпты емес
кодтарды қолданумен жетуге болады. Осындай кодтарды құрудың негізгі идеясы: неғұрлым
ықтимал хабарларға кодтық символдардың (кодтық комбинациялардың) неғүрлым кыска
блоктарын, ал ең кіші ыктимал блоктарға негүрлым ұзын блоктарды сәйкестікке қою болып
табылады. Осындай кодтардың бірқалыпты еместігінен және U хабардың кездейсоқ
сипатынан, кодтық символдардың тұрақты жылдамдығымен акпараттарды жоғалтусыз беру,
үлкен жадысы бар буферлік жинақтағыштың болуы кезінде, демек үлкен кешіктірулердің
ұйғарымдылығы кезінде ғана қамтамасыз етіледі.
Статистикалық кодтаудың шекті мүмкіндіктері ақпараттарды беру теориясының негізгі
ережелерінің бірі болып саналатын шуылсыз арна үшін Шеннон теоремасында ашып
кӛрсетіледі. Бұл теорема мына түрде тұжырымдалуы мүмкін:
Хабарлар кӛзі H'(U) = υ c. H(U) ӛнімділікке ие, ал арна С = υк.log М ӛткізу қабілетіне ие
болады. Сол уақытта,
ηq = υ к /υ с = (H(U) . logM)+ε (145) хабар элементіне келетін кодтық символдардың орташа санын алатындай түрде кӛзден
шығатын хабарды кодтауға болады, мұндағы ε - керек болса, сонша аз (тура теорема).
η -нен кіші мәнді алу мүмкін емес (кері теорема).
η = υ к /υ с = H(U)/log М (146)
мәнін алу мүмкін еместігін растайтын теореманың кері бӛлігі, егер (146) теңсіздік υ
c. H(U)> υ к .log М, H'(U)>C теңсіздікке эквивалентті екенін ескеретін болсақ, дәлелденуі мүмкін. Соңғы
теңсіздік орындалмайды, ӛйткені қарастырылып отырған кодтау қайтымды түрлендіру (яғни