1–дәріс. Жүйелер туралы теорияның мәселелері. Жүйелер теориясының терминологиясы. Жүйенің қасиеттері. Жүйелік талдау
жүктеу/скачать 1,13 Mb.
|
- Бұл бет үшін навигация:
- Энтропияның қасиеттері
- Семантикалық құрылымда
- Хабарлама
- Сигнал
| Ақпараттық энтропия (ақпараттар теориясындағы энтропия) — ақпараттың анықсыздық немесе болжауға келмейтін шамасы, яғни қандай да бір алфавитттің символының пайда болуының анықсыздығы.
Ақпараттың статистикалық өлшемінде (Шеннон өлшемі, 1947-1948жж) ақпарат кездейсоқ оқиға, ақпараттың көлемінде осы оқиғалардың ықтималдықтары қарастырылады. Оқиғалардың толық тобы ансамбль деп аталады. Ансамбльдердің энтропиясы оның анықсыздығының сандық өлшемін есептейді. Оқиғалардың ықтималдықтарының қосындысы 1-ге тең. Энтропия (эн-тропе) грек тілінен аударғанда айналдыру, түрлендіру деген мағынаны береді. Энтропия былай есептеледі: Логарифм 2 негізді болса, онда ақпарат саны битпен, егер 10 негізді болса, онда дитпен, егер е=2,71828 негізді болса, онда нитпен, ал 3 негізді болса, онда титпен өлшенеді. Бұл формула Шеннон формуласы деп те аталады. Энтропияның қасиеттері: Энтропия әрқашан теріс емес нақты шама; 0 ≤ pi ≤1, i=1,..., N 2) Энтропия нөлге тең болады, егер оқиғалардың ықтималдықтарының бірі 1-ге тең болса; 3) Энтропия максимал мәнге ие болады, егер оқиғалардың ықтималдықтарының өзара тең болса; 4) Энтропия - анықсыздықтың дәрежесі. Семантикалық құрылымда тезаурус (мағыналы сөздік) құрылады. Тезаурус- бұл қолданушы мен жүйе ала алатын мәлімдемелер жиынтығы. Жүйе ақпарат көзінен, байланыс линиясы және ақпаратты алушыдан тұрады. Жүйеге ақпарат хабарлама түрінде келіп түседі. Хабарлама дегеніміз таңбалар (белгілер) немесе алғашқы сигналдар жиынтығы. Дискретті хабарлама хабарлама көзінің жеке элементтерді (таңбалар) тізбекті түрде беруінің нәтижесінде қалыптасады. Әр түрлі таңбалар жиыны хабарлама көзінің алфавиті, ал таңбалар саны алфавит көлемі деп аталады. Үзіліссіз хабарлама элементтерге бөлінбейді. Олар үзіліссіз мәндер жиынын (бейне, баяндама) қабылдайтын уақыт функциясымен сипатталынады. Жіберілетін хабарлама адресіне сәйкес алдын-ала сигналға түрлендірілуі тиіс. Сигнал деп хабарламаны бейнелейтін өзгермелі физикалық шаманы түсінуге болады. Сигнал – хабарламаны материалды тасушы, яғни байланыс линиясы бойынша ақпаратты беруді қамтамасыз ететін өзгермелі физикалық шама. Хабарлағыштан қабылдағышқа сигналдардың берілуін қамтамасыз ететін физикалық орта байланыс линиясы деп аталады. Байланыс линиясы арқылы өтетін хабарламаларды сигналдарға түрлендіру хабарлағыштың көмегімен жүзеге асады. Дискретті хабарламаларды сигналдарға түрлендіру кезінде хабарламаларды кодтау жүргізіледі. жүктеу/скачать 1,13 Mb. Достарыңызбен бөлісу:
|