Teória informácie

Základné pojmy teórie zavedené v štyridsiatych rokoch dvadsiateho storočia, Shannon. teória informácie - veda o procese prenosu, ukladanie a načítanie dát v prírodných, technických a spoločenských systémov. V mnohých aplikáciách vedných odborov, ako sú počítačové vedy, lingvistiky, kryptografiu, teórie riadenia, spracovanie obrazu, genetika, psychológia, ekonómia, organizácia výrobných postupov sa používajú túto vedu.

V moderných podmienkach s informačnej teórie veľmi pevne spojených s teórie kódovania, opisuje najbežnejšie problémy zhody medzi signálom a správou, a teórie spracovanie signálu, v ktorom je kvantizácia študoval a signály obnovu a spektrálne a korelačné analýza týchto látok.

informačná teória sa domnieva, že základný koncept "informácie" z väčšej časti kvantitatívne, bez zohľadnenia jej hodnoty a niekedy nezmyselná. V rámci tohto prístupu bude stránky texte obsahujú približne rovnaké množstvo dát určených radom znakov a symbolov, a nezáleží na tom, že prísne vzaté, tam je vytlačená, aj keď je to úplne nezmyselné a chaotická množina niektorých symbolov.

Tento prístup je odôvodnený, avšak iba pre simuláciu komunikačných systémov, pretože majú presne odovzdávať informácie o komunikačných kanálov, ktoré môžu byť akákoľvek sada znakov a symbolov. Potom, keď je potrebné vziať do úvahy hodnotu a význam dát, kvantitatívny prístup je neprijateľný. Tieto okolnosti spôsobiť značné obmedzenia oblasti možného uplatnenia tejto teórie.

Základy teórie informácie zahŕňa posúdenie rôznych otázok, vrátane priamo súvisí so vysielanie a príjem dát. Hlavný komunikačný systém, ktorý je považovaný v učení je nasledovné. Teória informácie a kódovanie Domnieva sa, že sa jedná o zdroj správ, čo je slovo či súslovie písomných niektorých písmen abecedy. Zdrojom správy môže byť text na akejkoľvek fyzickej alebo umelého jazyka, ľudského jazyka, databázy a niektorých matematických modelov, vytvára sled písmen. Snímač prevádza správy na signál, zodpovedajúce fyzické povahe komunikačného kanálu - médium na prenos signálu. Počas priechodu, ako je rušené, ktoré zavádzajú narušenie v hodnote informačných parametrov. Prijímač obnoví pôvodnú správu z prijímaného signálu skresleného. Odkaz v redukovanej podobe prichádza na miesto určenia - určitej osoby alebo technického zariadenia.

zdroj správa je štatistickej povahy, tj. vzhľad každej správy je určovaný určitou pravdepodobnosťou. Shannon informácie sa domnieva, že v prípade, že pravdepodobnosť správy je rovnaký s jednotou, to znamená, že jeho vzhľad významne a neistoty neverí, že nenesie žiadnu informáciu.

Jedným z dôležitých problémov teórie informácie považuje za koordináciu vlastnosťami komunikačného kanála a informáciu o zdroji správ. Šírka pásma je určená jednotky 1 bit za sekundu.

Jeden problém s komunikačnými systémami zásah do požadovanej signálové cesty. Shannon, bohužiaľ, nám nedáva špecifické metódy pre riešenie tých. Najjednoduchšia metóda odstránenia, ktorá sa mnohokrát opakuje správ nie sú príliš účinné, pretože to trvá dlhšie, náklady na prenos informácií. Oveľa vyššia účinnosť umožňuje použitie kódov, ktoré umožňujú odhaliť a opraviť chyby v prenose dát.