Энтропиялардың тəуелділіктерін есептеу нəтижелері

217
 
леген символдарының пайда болуының бастапқы анықталмағандығы 
көп болғандығына қарай көбірек ақпарат береді. Сондықтан 
анықталмағандық дəрежесін анықтайтын Н (энтропия) шамасы, 
сондай-ақ ақпараттар санын бағалау үшін оңтайлы өлшем болып са-
налады. 
Біз ақпараттар алғанға дейін ие болған энтропияны Н’ арқылы 
белгілейміз. Ақпарат алғаннан кейін энтропия Н» шамаға дейін 
кішірейді деп алайық. Алынған ақпараттар саны бұл жағдайда 
i=Н’-Н» айырымдарға тең болады. 
 Егер ақпарат алу нəтижесінде кез келген анықталмағандық, 
яғни  Н» = 0 толық жойылған болса, онда i  =  Н. Ақпараттар саны 
бұл жағдайда сандық түрде ақпараттар алғанға дейін орын алған сол 
энтропияларға тең болады. Неғұрлым үлкен анықталмағандықтар 
жойылса, алынған ақпарат соғұрлым көп болады. Ақпараттардың 
жəне бастапқы энтропиялардың бұл сандық теңдігі, əрине осы 
ұғымдардың ұқсастықтарын білдірмейді. Олар тек ұқсас қана емес, 
сонымен бірге бір-біріне қарама-қарсы да; өйткені ақпарат жай 
энтропияға ғана емес, жойылған энтропияға да тең. 
Энтропия ұғымы хабарлар мен дабылдарға ғана емес, сонымен 
бірге хабарлар көздеріне де қолдануға қолайлы. 
Егер əртүрлі хабарлардың {u} жиынына иелік ететін қандай да 
бір дерек көзі, тиісінше р
1
, р
2
, ..., р
т
, ықтималдықтармен жекелеген 
 
 
 
 
 
 
0  0,1  0,2  0,3 0,4 0,5 0,6 0,7 0,8 0,9 1,0
p 
0,1
0,2
0,3
0,4
0,5
0,6
0,7
0,8
0,9
1,0
H 
28-сурет. Н-тың р-ға тəуелділігі

218
хабарлар байланысы жүйесіне келіп түсетін болса (немесе байланыс 
жүйесін «жүктейді» деп айтылатындай), онда мұндай жағдайда ха-
барлар көзінің энтропиясы деп айтуға болады. Бұл ретте байланыс 
жүйесіне кіретін жекелеген хабарлардың пайда болу ықтималдығы 
хабарлар көзінің статистикалық қасиеттерімен беріледі. 
Егер дерек көзі жекелеген хабарды əртүрлі ықтималдықпен 
беретін болса, онда оның энтропиясы бір хабарлардың пайда болу 
үлкен ықтималдығына қарағанда аз болады. Керісінше, байланыс 
жүйесіне кіретін əртүрлі хабарлардың пайда болу тең ықтималдығы 
кезінде олардың дерек көздерінің энтропиясы барынша үлкен бо-
лады. Мысалы, егер оның əрбір бетінде ақиқаты оқырмандарға 
белгілі жай қайталанатын кітап, хабар беру көзі болып саналса, онда 
ол бұл ретте аз ақпарат алатын болады; сондықтан осындай кітап 
төмен энтропияға ие болады. Керісінше, егер кітаптың əрбір тара-
уы, əрбір параграфы қандай да бір жаңалықтан тұрса, онда ол үлкен 
энтропияға ие болады. 
Дискреттік дабылдар беруге арналған құралдардың жиынтығы 
дискреттік арна деп аталады. Осындай арналар, мысалы, 
деректерді беру кезінде, телеграфтарда, радиолокацияларда кеңінен 
қолданылады. 
z
1
,z
2
,...,  z
l
,  хабарлар көзі (алғашқы алфавит) белгілерінің
  алфа-
вит
  белгілерінің  тізбектілігінен тұратын дискреттік хабар кодтай-
тын құрылғыда символдардың тізбектілігіне түрленеді. u
1
, u
2
, ... ..., 
u
m
 символдар алфавитінің (қайталама алфавит) m көлемі, негізінен, 
белгілер алфавитінің l көлемінен кіші болады, бірақ олар сəйкес 
келмеуі де мүмкін.
Ақпараттарды тасымалдағыштың белгілі бір параметрін 
дискретті өзгерту – манипуляция үдерісінде алынатын қарапайым 
дабыл символдың материалдық жүзеге асуы болып саналады. 
Қарапайым дабылдар байланыстардың нақты сызықтарымен жа-
салатын физикалық шектеулерді ескере отырып қалыптасады. 
Символдардың əрбір тізбектілігін манипуляциялау нəтижесінде 
күрделі дабыл сəйкестікке келеді. Күрделі дабылдардың жиыны 
түпкі болып саналады. Олар қарапайым дабылдардың санымен, 
құрамымен жəне өзара орналасуымен өзгешеленеді. 
«Қарапайым дабыл» жəне «символ» терминдері «күрделі дабыл» 
жəне «символдардың тізбектілігі» сияқты алдағы уақытта синоним-
дер ретінде пайдаланылатын болады. 

219
 
Арнаның ақпараттық моделі оған кірерде жəне шығарда 
кедергілермен, символдар жиынымен жəне жекелеген символдарды 
беруде ықтималдық қасиеттерін сипаттау жолымен беріледі. Жал-
пы жағдайда арна жай-күйлер жиынынына ие болуы жəне уақыттың 
өтуімен бір күйден екінші күйге ауысуы мүмкін. 
Əрбір жағдайда арна u
i
 берілген символ шығарда v
j
 символ ретінде 
қабылданатындығы туралы p(v
j
/u
i
)  шартты ықтималдықтар матри-
цасымен сипатталады. Нақты арналардағы ықтималдықтардың мəні 
əртүрлі факторларға: символдардың физикалық тасымалдаушыла-
ры болып саналатын (энергия, модуляция түрі жəне т.б.) дабылдар 
қасиеті, арнаға əсер ететін кедергілердің сипаты мен қарқындылығы, 
қабылдау жағындағы дабылды анықтау тəсілі.
Арнаның уақытқа 
өту ықтималдықтарының тəуелділіктері 
бар кезде (бұл тəжірибеде бүкіл нақты арналарға тəн болып санала-
ды), ол стационарлық емес байланыс арнасы деп аталады. Егер бұл 
тəуелділік айтарлықтай болмаса, өтпелі ықтималдықтар уақытқа 
тəуелді емес болатын стационар арна түріндегі модель пайдаланады. 
Стационар емес арна əртүрлі уақыт интервалдарына сəйкес келетін 
стационар арналардың қатарымен берілуі мүмкін. 
Арна, егер арнаның аталған күйлердегі өтпелі ықтималдықтары 
оның алдындағы күйлеріне қатысты болса, «жадысы бар» деп ата-
лады. Егер өтпелі ықтималдықтар тұрақты болса, яғни арна бір ғана 
күйге ие болса, ол жадысыз стационар арна деп аталады. Кірердегі 
жəне шығардағы əртүрлі символдардың саны бірдей жəне k-ға тең 
болатын байланыстар арнасы k-лік арна болып түсіндіріледі. 
Жадысыз стационар дискреттік екілік арна біржақты түрде 
төрт шартты ықтималдықтармен анықталады: р(0/0),  р(1/0), 
р(0/1),  р(1/1). Арнаның осындай моделін 29-суретте көрсетілген 
бағана түрінде бейнелеу қабылданған, мұндағы р(0/0) и р(1/1) – 
символдардың бұрмаланбай берілу ықтималдықтары, ал р(0/1) и 
р(1/0) – сəйкесінше 0 жəне 1 символдардың бұрмалану (трансформа-
ция) ықтималдықтары. 
Егер символдарды бұрмалау ықтималдығын тең деп қабылдайтын 
болсақ, яғни р(0/1)≈р(1/0) = q болса, онда мұндай арна екілік 
симметриялық  арна деп аталады [р(0/1)≠р(1/0) кезінде арна сим-
метриялы емес деп аталады]. Оның шығардағы символдары р 
ықтималдықпен дұрыс қабылданады жəне 1- р = q ықтималдықпен 
теріс қабылданады. Математикалық модель оңайлатылады.

220
Осы арна, атап айтқанда, өзінің тəжірибелік мəнділігінен ғана 
емес (көптеген нақты арналарды ол тым жуықтап сипаттайды), 
математикалық сипаттаудың қарапайымдылығынан өте қарқынды 
зерттелді.
Соңғы уақыттарда көбірек маңызға ие болып отырған арнаның 
тағы бір моделін атап өту қажет. Бұл өшіретін дискретті арна. 
Оған мыналар тəн болып саналады: шығатын символдардың 
алфавиті кіретін символдардың алфавитінен өзгешеленеді. Бұрын 
айтылғандай кірердегі 0 жəне 1 символдары, ал арнадан шығарда, 
арна тең негізгі бірлікке, сол сияқты нөлге жатқызылуы мүмкін күйі 
тіркеледі. Осындай символ орнында нөл де, бір де қойылмайды: 
оның күйі S өшіру қосымша символымен белгіленеді. Декодтау 
кезінде қателікпен анықталғанға қарағанда осындай символдарды 
түзету айтарлықтай жеңіл болады.
30-суретте символдарды трансформациялауда (30 а-сурет) жоқ 
болу кезіндегі жəне (30 б-сурет) бар болу кезіндегі өшіретін арнаның 
0 
1 
0
1
 
p
(0/0)
p
(0/1)
p
(1/0)
p
(1/1)
29-сурет. Арнаның моделі бағана түрінде
)   
 
 
 
 
 
) 
0 
1 
0 
1 
p
(0/0) 
p
(0/S) 
p
(1/S) 
p
(1/1) 
S 
p
(1/0)
p
(0/1)
p
(1/S) 
p
(0/S) 
0 
1 
0
1
p
(0/0) 
p
(1/1) 
S 
30-сурет. Символдарды трансформациялау кезіндегі өшіретін арнаның 
модельдері

221
 
модельдері келтірілген.
Дискретті байланыс арнасын сипаттай отырып, берілу 
жылдамдықтарының екі ұғымы пайдаланылады: техникалық жəне 
ақпараттық. 
Сондай-ақ, манипуляциялар жылдамдығы деп аталатын V
T
 
берілудің техникалық жылдамдығы болып уақыт бірлігінде арна 
бойынша берілетін қарапайым дабылдардың (символдардың) саны 
түсіндіріледі. Ол байланыс сызықтарының қасиеттерінің жəне арна 
аппаратураларының тез əрекет етуіне тəуелді болады.
Символдардың ұзақтықтарындағы мүмкін айырмашылықтарын 
ескергендегі оның жылдамдығы 
V
T
 = 1/τ
орт
,
мұндағы, τ
орт 
– символ ұзақтығының орташа мəні.
Бүкіл берілетін символдардың t ұзақтығы кезінде τ
орт
 = τ. Бір 
секунд ішінде бір символ берілетін жылдамдық – бод техникалық 
жылдамдықты өлшеу бірлігі болып пайдаланылады.
Ақпараттық жылдамдық немесе 
ақпараттарды беру 
жылдамдығы уақыт бірлігінде арна бойынша берілетін 
ақпараттардың орташа санымен анықталады. Ол аталған байланыс 
арнасының сипаттамасына, сол сияқты пайдаланылатын символдар 
алфавитінің көлеміне, оларды берудің техникалық жылдамдығына, 
сызықтардағы кедергілердің статистикалық қасиеттеріне жəне 
кіруге келіп түсетін символдардың ықтималдықтарына жəне 
олардың статистикалық өзара байланыстарына қатысты болады.
V
T
 манипуляцияларының белгілі жылдамдықтары кезінде I(V,U) 
арна бойынша ақпараттарды беру жылдамдығы мына арақатынаспен 
беріледі.
 (V,U)= V
τ
 I(V,U),                              (97)
мұндағы, I(V,U) – бір символмен тасымалданатын ақпараттардың 
орташа саны. 
Үзіліссіз дабылдарды беру үшін пайдаланатын арналарды 
үзіліссіз деп атау қабылданған. Осындай арналар əлі күнге дейін 
кеңінен қолдануда, мысалы, телефон байланыстары, радиохабарын 
тарату техникасында.
Нақты үзіліссіз арналар, сипаттамалары кездейсоқ түрде уақыт 
ішінде өзгеретін күрделі инерциялық сызықтық емес объектілер бо-
лып көрінеді.

222
Осындай арналарды талдау үшін күрделілігі мен дəрежелері 
əртүрлі деңгейлердегі математикалық модельдер əзірленеді. 
Неғұрлым кең тарау алған модельдер - бұл гаусс арнасының түрлері. 
Мынадай рұқсат бойынша құрылған нақты арнаның 
математикалық моделі гаусс арнасы болып түсіндіріледі: 
• арнаның негізгі физикалық параметрлері белгілі 
детерминацияланған шамалар болып саналады;
• арнаның өткізу жолағы F
k
 герц жиілікпен шектелген;
• арнада аддитивті гаусс ақ шуылы қолданылады – қалыпты 
жиілік спектрімен жəне амплитудалардың қалыпты бөлінуімен шек-
телген қуаттардың аддитивті флюктуацияланған кедергісі.
Сондай-ақ, арна бойынша тұрақты қуаты орташа дабылдар 
беріледі деп жорамалданады, дабылдар мен шуыл арасындағы 
статистикалық байланыстар жоқ, дабыл мен кедергілер спектрі екі 
арнаны өткізу жолағымен шектелген.
Арнаның ақпараттық сипаттамаларын (берілу жылдамдығы, 
өткізу қабілеті, пайдалану коэффициенті) қарастыру кезінде гаусс 
арнасына назар аударылатын болады.
Үзіліссіз арна бойынша ақпараттарды беру жылдамдығы – бұл u(t) 
берілгенге қатысты орта есеппен уақыт бірлігінде v(t) қабылданған 
үзіліссіз дабылдармен берілетін ақпараттар саны.
Өйткені арнаны өткізу жолағы əрқашанда шектелген, біршама 
қателікпен  Т уақыттың аса ұзақ интервалында үзіліссіз хабар-
лар, санаулар тізбектіліктерімен берілуі мүмкін. Ақпараттарды 
дискретизацияланған дабылмен берудің I(VU) орташа 
жылдамдықтары үшін кедергілердің əсерімен шарттасылған (об-
условленное), санаулар мен жаңғыртудың түпкі шынайлығы 
арасындағы корреляциялық байланыстардың бар болуын ескере 
отырып мынаны аламыз:
I
~
(V,U)= I(V,U)/T,                               (98)
мұндағы I(VU) формуламен анықталады:
dZdU
)
U
(
p
)
Z
(
p
)
U
,
Z
(
p
log
)
U
,
Z
(
p
)
U
,
Z
(
I
ZU
 
р – ықтималдықтарды бөлу тығыздықтары 
Т ұзақтығының ұлғаюына қарай бұл жылдамдық өсе береді, 

223
 
өйткені əрбір жаңа санау кезінде оны жүзеге асыру нақтыланады. 
T→∞ кезіндегі шекте N-өлшемдік бөлу шексіз өлшемділікке айна-
лады жəне (98) форма үзіліссіз арна бойынша ақпараттарды берудің 
жылдамдығын анықтайды:
)
VU
(
I
~
lim
)
VU
(
I
T
 
Т→∞ кезіндегі шекке ауысу сондай-ақ бүкіл мүмкін дабылдар 
бойынша орташа жылдамдықтарды білдіреді. 
Кіретін дабылдардың əртүрлі ансамбльдері белгілі статистикалық 
қасиеттерімен кедергілерге зиянды əсер ету дəрежесі əртүрлі бо-
лады. Осының салдары жəне ақпараттарды беру жылдамдығының 
мəні əртүрлі.
Теория мен практика үшін нақты байланыс арнасы бойынша 
ақпараттарды берудің жылдамдығын қандай жолмен жəне қандай 
шекке дейін арттыруға болатынын анықтау маңызды болып сана-
лады. Ақпараттарды беру бойынша арнаның шекті мүмкіндіктері 
оның өткізу қабілетімен сипатталады.
С
Д
  арнасының өткізу қабілеті ақпараттарды беру мен 
қабылдаудың аса жетілген тəсілдері кезінде оған жетуге бола-
тын аталған арна бойынша ақпараттарды берудің ең жоғары 
жылдамдықтарына тең. 
Символдардың берілген алфавиті мен арнаның тіркелген негізгі 
сипаттамалары (мысалы, жиіліктер жолағы, ақпараттар беру үшін 
орташа жəне жоғарғы қуаттылығы) кезінде қалған сипаттамалар ол 
бойынша қарапайым дабылдарды берудің ең үлкен жылдамдығын 
қамтамасыз етуі, яғни V
Т
 ең үлкен мəнін қамтамасыз ететіндей болып 
таңдалуы тиіс. I(V,U) қабылданған арнаның бір символына келетін 
ақпараттардың ең көп орташа саны u
1
...u
i
...u
т
 символдар арасындағы 
ықтималдықтарды бөлудің жиынымен анықталады.
Арнаның өткізу қабілеті арна бойынша ақпараттарды беру 
жылдамдығы сияқты ақпараттардың бір секундтағы (екілік бірлік/с) 
екілік бірліктерінің санымен өлшенеді.
Өйткені кедергінің жоқ болу кезіндегі арнадан шығардағы {υ} 
символдары мен оның кірердегі {u} символдары арасындағы өзара-
біржақты сəйкестік орын алатын болады, онда I(V,U) = I(U,V) = H(U). 
Символдағы ақпараттардың мүмкін санының максимумы log т тең, 
мұндағы т – символдар алфавитінің көлемі жəне одан кедергілерсіз 
дискреттік арнаның өткізу қабілеті шығады: 

224
C
Д
=V
T
log m.                                             (99)
C
Д 
=max 
I
(V,U) = max V
τ
 I(V,U).
Демек кедергілерсіз дискретті арна бойынша ақпараттар берудің 
жылдамдығын арттыру жəне арнаның k өткізу қабілетіне жақындау 
үшін хабар əріптерінің тізбектілігі, оның шығатын тізбектілігіндегі 
əртүрлі символдар тең ықтималдық мүмкіндіктері бойынша пайда 
болатындай, ал олардың арасындағы статистикалық байланыс жоқ 
болатындай түрде кодерде осындай түрлендіруге тартылуы тиіс. 
Егер кодтауды олардың асимтоталық тең ықтималдығы туралы тео-
рема дұрыс болған кезде осындай ұзындықтағы блоктармен жүзеге 
асыруға болса, əріптердің кез келген эргодикалық тізбектілігі үшін 
оның орындалатыны дəлелденген.
m символдары алфавитінің көлемін кеңейту, арнаның өткізу 
қабілетін арттыруға əкеледі (31-сурет), бірақ техникалық жүзеге 
асыру күрделілігі артатын болады. 
Кедергілер
 бар кезде арнаға кірердегі жəне шығардағы символ-
дар жиындар арасындағы сəйкестіктің біржақты болуын тоқтатады. 
Арна бойынша бір символмен берілетін I(V,U)
  ақпараттардың ор-
таша саны бұл жағдайда мынадай арақатынастарымен анықталады
I(V,U) = H(V) - H
U
(V) = H(U) – H
V
(U)               (100)
Егер символдар арасындағы статистикалық байланыстар жоқ 
болса, байланыс желілерінен шығардағы дабыл энтропиясы мынаған 
тең болады:
 
 
 
 
 
 
 
 
 
 
 
C  
n
V
T
 
2  3
4
5
6
7
8
2V
T
 
3V
T
 
31-сурет. Символдар алфавитінің көлемін кеңейту

225
 
)
(
p
log
)
(
p
)
V
(
H
j
m
1
j
j
 
                  (101)
Сатистикалық байланыстар болған кезде энтропияны Марков 
тізбектерін пайдалану арқылы анықтайды. Өйткені осындай анықтау 
алгоритмі анық болып саналады жəне баяндауды, қиын формула-
лармен күрделендірудің қажеттілігі жоқ.
Апостериорлық энтропия қателерінің пайда болу салдарынан 
берілетін ақпараттар санының азаюын сипаттайды. Ол байланыс ар-
наларынан кірерде түсетін символдар тізбектілігінің статистикалық 
қасиеттеріне, кедергілердің зиянды əсерін көрсететін өтпелі 
ықтималдықтардың жиынтығына қатысты болады. 
Егер  и кіру символдары алфавитінің көлемі т
1
-ге тең болса, ал 
υ - т
2
 шығу символдары болса, онда 
)
u
(
p
log
)
u
(
p
)
V
(
H
i
j
m
1
j
i
j
m
1
i
U
2
1
υ
υ
∑
∑
=
=
−
=
             (102)
(101) жəне (102) формуланы (100) формулаға ауыстырып қойып 
жəне күрделі емес түрлендіру жасау жолымен, мынаны аламыз:
)
u
(
p
)
(
p
)
u
(
p
log
)
u
(
p
)
U
,
V
(
I
i
j
i
j
m
1
j
i
j
m
1
i
2
1
υ
υ
υ
∑
∑
=
=
=
            (103)
 Кедергілермен арна бойынша ақпараттарды бөлу жылдамдығы:
)
u
(
p
)
(
p
)
u
(
p
log
)
u
(
p
V
)
U
,
V
(
I
i
j
i
j
m
1
j
i
j
m
1
i
T
2
1
υ
υ
υ
∑
∑
=
=
=
      (104)
Арнаның берілген техникалық сипаттамалары кезінде V
T
 
манипуляциялардың жылдамдығы шекті ұйғарымды деп санай 
отырып,  I(V,U) шаманы түрлендіргіш (арна кодері) арқылы арнаға 
кірердегі символдар тізбектіліктерінің статистикалық қасиеттерін 
арттыруға болады. Бұл ретте алынатын арна бойынша ақпараттар 
беру жылдамдығының С
д
 шекті мəні кедергілері бар дискреттік бай-
ланыс арналарының өткізу қабілеті деп аталады:
)
VU
(
I
V
max
C
T
)
u
(
p
 
                              (105)

226
мұндағы,  р{u}  – кіретін дабылдар ықтималдықтардың мүмкін 
бөліну жиыны.
Кедергілердің болуы кезінде арнаның өткізу қабілеті қателік 
жіберудің қанша болмасын өз ықтималдығымен берілуі мүмкін 
уақыт бірлігіндегі ақпараттардың ең үлкен санын анықтайды.
Хабарлар көздерінің əріптерін сол жағдайда ұзын тізбектіліктердің 
асимптотикалық тең ықтималдары туралы теорема дұрыстығын 
көрсететін, осындай ұзындықтағы блоктармен эргодикалық 
тізбектілікті кодтау арқылы кедергілермен байланыс арналарының 
өткізу қабілетіне жақындай аламыз. 
Блоктардың ұзындығы шексіз болған кездегі шекте ғана 
қателіктердің болу аз ықтималдықтарына қолжеткізуге болады.
Кодталатын блоктарды ұзарту кезінде кодталатын жəне декодта-
сандарын жинақтау қажеттілігімен шарттасылған кешіктірулер орын 
алады. Тəжірибеде ұйғарымды күрделендірулер шеңберлерінде 
кодтау кезінде екі мақсат көзделуі мүмкін: я ақпараттарды берудің 
берілген жылдамдығы кезінде ең аз қателіктер жіберуді қамтамасыз 
етуге ұмтылады, я берілген сенімділік (анықтық) кезінде – арнаның 
өткізу қабілетіне жақындайтын хабарларды беру жылдамдығына 
жетуге ұмтылады.
Арнаның шекті мүмкіндіктері ещқашан да толық пайдаланыл-
майды. Оның жүктелу дəрежесі арнайы пайдалану коэффицентімен 
сипатталады:
λ = I(Z)/C
д                                                                   
(106)
мұндағы,  I(Z) – хабарлар беру көзінің өнімділігі; С
д 
- байланыс 
арнасының өткізу қабілеті.
Өйткені, кейін көрсетілгендей, 0 ≤ I(Z)  ≤  C
д
, шектерінде дерек 
көздерінің өнімділігін өзгерту кезінде, арна қалыпты жұмыс істемеуі 
мүмкін, λ теориялық тұрғыда 0-ден 1-ге дейін өзгереді. 
Белгілі техникалық сипаттарымен үзіліссіз арна бойынша 
ақпараттар берудің ең жоғарғы мүмкін С
н 
жылдамдығы  үзіліссіз 
арнаның өткізу қабілеті деп аталады:
)
VU
(
I
max
C
)
u
(
p
 
                               (107)
латын құрылғыларды техникалық жағынан жүзеге асыру барған са-
йын күрделене түседі жəне хабарлар беруде блокта əріптердің қажетті 

227
 
мұндағы, максимум кіретін дабылдардың бүкіл мүмкін 
ансамбльдері бойынша табылады.
Гаусс арнасы бойынша ақпараттар берудің жылдамдығын 
анықтаймыз. Гаусс арнасы бойынша {u
T
(t)} ансамбльден Р
и 
орташа 
қуатпен,
 
σ
u
2 
дисперсияларға тең, υ
T
(t) үзіліссіз дабыл беріледі. Арнадан 
шығарда, ξ(t) гаусс кедергісімен бұрмаланған, орташа қуаты Р
ξ
(Р
ξ
 = σ
ξ
2
) 
болып белгіленетін, {υ
T
(t)} ансамбльден υ
T
(t) дабыл аламыз. 
Δt = l/(2F
K
) интервалдар арқылы алынған санау тізбектіліктерімен, 
аз қателік жібере отырып, u
T
(t) жəне υ
T
(t)-ны ауыстыру мүмкін бол-
са, u
T
(t) дабылдың Т ұзақтығы аса жоғары болады деп санайтын бо-
ламыз, мұндағы F
K 
- арнаның өткізу жолағы. 
Формулаға (100) сəйкес, υ
T
(t) дабылмен берілетін ақпараттардың 
орташа саны үшін өрнек мынадай түрге ие болады.
 
 
 
I(V,U) = H(V) - H
U
(V)  
 
(108)
мұндағы,  H(V) жəне H
u
(V) - V
1
, V
2
, ..., V
N 
кездейсоқ шамалары 
құраушылар болып саналатын N – өлшемдік, V - кездейсоқ вектордың 
априорлық жəне апостериорлық энтропиясы.
Өйткені арнадағы кедергі аддитивті жəне кіретін дабылмен 
статистикалық тұрғыдан байланысты емес, мынадай теңдік дұрыс 
болады:
H
U
(V) = H
U
(U + Ξ) = H(Ξ)                         (109)
Формуладағы (109) H(Ξ) шама Ξ
1
, Ξ
2
, ..., Ξ
w 
кездейсоқ шама-
лар оның құраушылары болып саналатын, N өлшемдік кездейсоқ 
вектордың Ξ кедергілерінің энтропиясы болып көрінеді.
Санаулар мезеттеріндегі ақ шуылдың мəні корреляцияланбайтын 
болатынын ескере отырып, былай жазамыз: 
H(Ξ) = 2F
K
Th(ξ),                              `(110)
мұндағы, h(ξ) – кедергілердің бір саналатын мəнінің дифферен-
циалды энтропиясы.
Қалыпты болумен жəне σ
ξ
2 
диспериялармен болатын кедергілер 
үшін құрайды.
eP
2
log
2
1
e
2
log
)
(
h
. 
              (111)
u
T
(t) кіретін атқарымдардың санау мəнін тəуелсіз деп санайтын 

228
боламыз. Оған кедергілердің тəуелсіз мəндерінің əсер етуі кезінде 
V
T
(t) шығатын дабылдардың санау мəні, сондай-ақ тəуелсіз болады.
Сол уақытта Н(V)-ты шығу дабылының бір санауының h(V) диф-
фериенциалды энтропиясы арқылы көрсететін боламыз:
H(V) = 2F
k
 Th(V)                                      (112)
(4.32) жəне (4.33)-ті (4.29)-ға ауыстырып қойып, мынаны аламыз:
 
 
2
k
e
2
log
2
1
)
V
(
h
T
F
2
)
VU
(
I
 
  
(113)
Тиісінше үзіліссіз байланыс арнасы бойынша ақпараттар берудің 
жалдамдығы:
 
 
2
k
e
2
log
2
1
)
V
(
h
F
2
)
VU
(
I
 
 
   (114)
Енді гаусс арнасының өткізу қабілетін анықтаймыз. (114) өрнекте 
h(V)-ның ең жоғары мəні қамтамасыз етілетін, кіру дабылдарының 
ансамблін табамыз. 
Өйткені шығу дабылдары, орташа қуаты шектелген, кіру да-
былдары мен кедергілерін қосындылау нəтижесінде пайда болады, 
сондықтан шығу дабылдарының орташа қуаты шектелген. Осын-
дай дабылдар үшін V-ны қалыпты заң бойынша бөлген кезде h(V) 
ең үлкен мəні алынады. Сондай-ақ, екі қалыпты бөлінген кездейсоқ 
шамалардың қосындысы, суммарлық дисперсиямен бөлудің сон-
дай атқарымына ие болатыны белгілі. Осыдан мынадай қорытынды 
шығады:  ξ қалыпты бөлінген кедергі кезінде V шығу дабылы u 
қалыпты бөлінген кіру дабылы кезінде ғана қалыпты заң бойынша 
бөлінетін болады.
h(V)  энтропиялардың ең үлкен мəніне, демек ақпараттарды 
берудің ең үлкен жылдамдығына қалыпты центрленген кездейсоқ 
дабылдарды пайдаланған кезде ғана жетуге болады. Берілген орташа 
қуаты кезіндегі дабылдың центрленушілігі дисперсияның ең үлкен 
мəніне сəйкес келеді. 
Олар сондай-ақ кең жəне бірқалыпты энергетикалық спектрге ие 
болуы тиіс, өйткені осындай жағдайда ғана санаулардың тəуелсіздігі 
туралы айтуға болады.
Осылайша, арнаның мүмкіндіктерін неғұрлым толық пайдалану 
үшін берілетін дабыл кедергілер қасиеттеріне ие болуы тиіс, яғни 
шуыл тəрізді болуы қажет.

229
 
Дифференциалды энтропиялардың ең үлкен шамасы:
)
P
P
(
e
2
log
2
1
)
(
e
2
log
)
V
(
h
u
2
2
u
ξ
ξ
π
σ
σ
π
+
=
+
−
=
  
 
(115)
(115)-ті (114)-ке ауыстырып қайып, гаусс арнаның өткізу 
қабілеттері үшін мынадай формула аламыз:
)
P
P
1
log(
F
eP
2
log
)
P
P
(
e
2
log
F
C
u
k
u
k
H
. 
Гаусс арнасының өткізу қабілеті F
K 
өткізу жолақтарының еніне 
қалай тəуелді болатынын анықтаймыз.
(116) формуладан бұл тəуелділіктің сызықтық еместігі шығады, 
өйткені FK сондай-ақ кедергілердің қуатына əсер етеді. Ақ шуылдың 
энергетикалық спектрінің бірқалыптылығын ескере отырып, оның 
Р
ξ 
қуатын Р
0 
үлестік қуаты арқылы жиілік бірлігінде көрсетеміз. 
(116) формуласы мынадай əртүрге ие болады: 
[
]
)
F
P
(
P
1
log
F
C
k
0
u
2
k
H
+
=
                          (116)
Оның өткізу жолақтарын шектеусіз кеңейту кезінде арнаның 
өткізу қабілетінің өсуі С
M 
шекпен шектеледі:
[
]
k
k
0
u
2
F
H
F
M
F
1
)
F
P
(
P
1
log
lim
C
lim
C
k
k
+
=
=
∞
→
∞
→
γ= l/F
K 
деп белгілеп, Лопиталь ережесі бойынша γ→0 кезінде С
H 
шегін анықтаймыз:
 
 
 
 
 
 
 
 
 
 
C
H
 
F
k
1,44 P
u
 
P
0
 

жүктеу/скачать 8,17 Mb.

Достарыңызбен бөлісу: