Ықтималдылық бірдің бөлшегімен есептеледі.
Оқиғаның ықтималдылығы (р) және хабардағы ақпараттың мөлшері (і) арасындағы сандық тәуелділік мына формуламен өрнектеледі:
= log2(l/p).
Енді жоғарыдағы шарлар туралы мысалда ақ шардың және қара шардың түскені туралы хабарлардағы ақпарат санын анықтайық:
iа = log2(l/0,8) = log2(l,25) = 0,321928;
iқ= log2(l/0,2) = log25 = 2,321928.
Ескертпе: хабардағы ақпараттың санымен оқиғаның болу
ықитамалдылығың арасында сапалық байланысты былай тұжырымдауға болады: қандай да бір оқиғаның болу ықтималдылығы неғұрлым аз болса, соғұрлым осы оқиға туралы ақпарат көп болады.
Мысалы, Дастанның жақсы оқитынын білетіндерге, оның математикадан бес алмағанынан гөрі, екілік баға алғаны көбірек ақпарат берді.
Екілік символдармен жазылған кез келген мәтін ақпараттың көлемді мөлшер мағынасында өлшенгенмен, ықтималды мөлшер мағынасында өлшене бермейді.
Есеп: МОГО тайпасының алфавитінде барлығы 4 әріп (А, У, М, К), бір тыныс белгісі (нүкте) және сөздерді бөлуге бос орын (бос орын) қолданылады. Белгілі «МОГОС» романында барша белгілер 10000, оның ішінде A әрпі — 4000, У әрпі — 1000, М әрпі — 2000, К әрпі — 1500, нүктелер – 500, бос орындар — 1000 екені саналған. Кітаптағы ақпарат көлемі қанша?
Шешімі:
Кітаптағы барша мәтінде әр символды кезіктіру жиілігін (ықтималдылығын) және әр символдың ақпараттық салмағын есептейік:
А әрпі: 4000/10000 = 0,4; iА = log2(l/0,4) = 1,321928;
У әрпі: 1000/10000 = 0,1; іУ = log2(l/0,l) = 3,1928;
М әрпі: 2000/10000 = 0,2; іМ = log2(l/0,2) = 2,321928;
К әрпі: 1500/10000 = 0,15; іК= log2(l/0,15) = 2,736966;
нүкте: 500/10000 = 0,05; інүкте = log2(l/0,05) = 4,321928;
бос орын: 1000/10000 = 0,1; ібос орын = log2(l/0,l) = 3,321928. Кітаптағы ақпараттың жалпы көлемі есептеу үшін, әр символ-
дың ақпараттық салмағы осы символдың қайталану санына көбей-тіліп, шыққан көбейтінділер қосылады.
I = iА* nA + iУ * nУ + iМ * nМ + iК * nК + iнүкте *nнүкте + iбос орын * nбос
орын =
1,321928 * 4000 + 3,1928 *1000 + 2,321928 * 2000 + 2,736966 *
1500 + 4,321928 * 500 + 3,321928 * 100 = 22841,84 бит.
Достарыңызбен бөлісу: |
