| 2. Ақпаратты өлшеу Жоспар
2.1. Ақпарат санын өлшеуді анықтау. Хартли және Шеннон
формулалары.
2.2. Ақпараттың мағыналы өлшемі.
2.3. Ақпараттың алфавиттік өлшемі.
2.4. Ақпарат саны және ықтималдық.
2.1. Ақпарат санын өлшеуді анықтау. Хартли және Шеннон формулалары
"Ақпаратты өлшеу" деген ұғымды анықтау өте қиын. Ол үшін алдымен ақпаратты өлшеу бірлігін анықтау қажет болды.
Ақпарат санын көлемдік (алфавиттік) және мағыналық, ықтималдық жолдарымен өлшеуді анықтап қалыптастырған информатика ғылымының негізін түрғызушылардың бірі Джон фон Нейман және Клод Шеннон болды.
Джон фон Нейманның ең алғаш есептеуіш техниканы қүруға болатындығын көрсетуі, ақпараттың мөлшерін көлемдік жолмен өлшеуге болатындығын айқындаса, Клод Шеннон ақпарат мөлшерін әртүрлі ықтималдық жолмен өлшеуді анықтады.
Ал американдық инженер Ральф Хартли1 1928 ж. ақпаратты алу үрдісін, алдын ала берілген шектелген N теңықтималды мәліметтер жиынынан бір мәліметті таңдау деп қарастырған, ал таңдалған мәліметтегі I ақпарат санын, N-нің екілік логарифмі деп анықтаған.
Достарыңызбен бөлісу: |
