Л. Н. Гумилев атындағы Еуразия
Л.Н. Гумилев атындағы Еуразия
жүктеу/скачать 4,34 Mb. Pdf көрінісі
|
| Л.Н. Гумилев атындағы Еуразия
ҧлттық университеті Пәннің оқу-әдістемелік кешені Басылым: алтыншы ЕҰУ Ф 703-08-17 Пәннің оқу-әдістемелік кешені. Алтыншы басылым ақпараттарды жоғалтусыз). Арнаға кірердегі бір секундтағы энтропия немесе кодердің ӛнімділігі арнаның ӛткізу қабілетінен артып кетпейді. Тура теореманы екі әртүрлі тәсілдермен дәлелдейміз, бұл ретте хабарлар кӛзін жадысыз дереккӛз деп жорамалдайық, егер хабар элементтері блоктарының аса үлкен К 1 ұзындығын, алфавит кӛлемі N u қарапайым хабар ретінде қарастыратын болсақ, оған керек болса, сонша жоғары дәлдік дәрежесімен кез келген кӛз келтірілуі мүмкін деп түсіну керек. Дәлелдеудің бірінші тәсілі кӛзбен құралатын К символдардан хабарлардың жиынын қарастырудан тұрады. Кӛлемі N u алфавиттен таңдалатын U 1 қарапайым хабарлардың К мазмұнының осындай әрбір тізбектілігін α=(U k.-1 U k-2 ∞ U 1 U 0 ) хабар деп санайтын боламыз. Жадыларсыз кӛздер үшін осы хабарлардың ықтималдығы P(α)=P(U k . 1 )-P(U k-2 ) ...P(U 0 ). Бұл ретте бір-бірінен жақсы α хабарларының L саны L=N u k . К хабарының ұзындығы аса үлкен болған кезде мүмкін хабарлардың L бүкіл жиыны 2 ішкі жиынға бӛлінуі мүмкін, олардың бірі, ықтималдықтар қосындысы 1-δ бірлікке жақын неғұрлым ықтимал хабарлардың К 1 -нен тұрады (оны жоғары ықтимал немесе типтік деп атайтын боламыз), екінші, хабарлар қосындысының ықтималдыгы δ нӛлге жақын хабарлардан (аз ықтималды немесе типтік емес) тұрады. К-ны ұлғайта отырып, δ-ны кішірейтуге болады. Осы айтылғандар ықтималдықтар теориясы заңынан шығарылады және соған сәйкес сынақтардың аса үлкен саны кезінде мүмкін нәтижелерінің әрбір саны ӛзінің математикалық үмітіне (үлкен сандар заңы) жақын келеді. Аталған жағдайда хабарлардың К элементтерінің саны сынақтар саны болып, и 1 элементтердің мәні алғашқы болып саналады және U 1 нәтижелер санының математикалық үміті K.P(U 1 )-гe тең. Сондықтан хабарлардың аса үлкен ұзындығы 0 элементтер санының К.Р(0)-на жақын N u -1 элементтер саны K.P(N u -1)-ғa жақын, 1, ∞ әлементтер саны К.Р(1)-ға жақын. Осындай хабар жоғары ықтимал ішкі жиынды құрайды. Хабардың К Р ∞ кезінде элементтердің ӛзге санынан тұру ықтималдығы ӛте аз болады. Ӛйткені хабардың әртүрлі элементтерінің қандай да бip ұштасуының (сочетание) ықтималдық кезінде жадының жоқ болуы кезінде олардың санына ғана тәуелді болады, сондықтан жоғары ықтималдық ішкі жиынына жататын, яғни әртүрлі элементтердің шамамен алғанда сондай бip санынан тұратын және осы элементтердің тізбектіліктерінде орналасумен ғана ӛзгешеленетін бүкіл хабар, Р(0) К* Р(0) *P(1) К* Р(1) ... P(N U -1) К* Р(Nu- 1) = P-ғa жақын бip ықтималдыққа ие болады. Алынған теңдікті логарифм дейміз: K 1 >1/P жоғары ықтималдық ішкі жиындағы хабарлар санының тең ықтималдығынан Р, К 1 логарифм үшін алынған ӛрнекті ecкepiп, дереккӛзі энтропиясы арқылы жазуға болады. P= (147) Ӛйткені L = (148) мұндағы, μ - кӛздің артықтығы, (148) ӛрнекті талдау, μ кӛздің кез келген нӛлдік емес артықтығы кезінде жоғары ықтимал ішкі жиын хабарлар саны, егер К хабар ұзындығы аса үлкен болса (қанша болмасын аз ықтималдық аса ұзын хабарлардың үлкен бӛлігіне ие болады) |