Дискретизация және кванттық ақпарат. Дискретизация әдістерінің классификациясы ХХ ғасырдың 50-жылдарында нағыз тілдер сөйлемінің абсолюттік ақпараттық мағынасын анықтаудың алғашқы әрекеттері пайда болды. Шеннонның өзі бірде, толығымен ықтималдық теориясының орналасуымен құрастырылған, оның ақпарат теориясына мәлімет мәнінің ешқандай қатысы жоқ екенін аңғарғанын айтып кеткен жөн. Бірақ оның ақпаратты дәл өлшеу тәсілі, ақпаратты дәл өлшеу одан да жалпы түрдегі тәсілінің бар екендігі туралы ой келтіреді, мысалы нағыз тілдер сөйлемінен ақпарат осыған мысал ретінде функциясы жатады, мұндағы s - мәндік мағынасы өзгеретін сөйлем, p(s) – s ақиқаттығының ықтималдылығы.
Бұл функциялардың кейбір қасиеттері:
Егер - ақиқат, онда ;
Егер s – ақиқат, онда
яғни s1 және s2 тәуелсіздігі.
Бұл функцияның мағынасы мүмкіндіктер көп емес сөйлем үшін үлкен. Мысалы, s2 s1-ге қарағанда көп мүмкіндікке ие еместігі анық.
Семантикалық ақпаратты өлшеу үшін, сонымен бірге функция тәсілі қолданылады. немесе екені анық.
