Információelmélet

A tantárgy angol neve: Information Theroy

Adatlap utolsó módosítása: 2010. október 4.

Budapesti Műszaki és Gazdaságtudományi Egyetem
Villamosmérnöki és Informatikai Kar

Mérnök Informatikus Szak

MSc képzés

közös tantárgy

 

Tantárgykód Szemeszter Követelmények Kredit Tantárgyfélév
VISZM101 1 3/0/0/f 4  
3. A tantárgyfelelős személy és tanszék Dr. Györfi László,
4. A tantárgy előadója
Név:

 

Beosztás:

 

Tanszék, Int.:

 

Dr. Györfi László

 

 Dr. Pintér Márta

egyetemi tanár

 

 docens

Számítástudományi és Információelméleti Tanszék

 Számítástudományi és Információelméleti Tanszék

5. A tantárgy az alábbi témakörök ismeretére épít Valószínüségszámítás,

 

6. Előtanulmányi rend
Kötelező:
NEM ( TárgyEredmény( "BMEVISZMA03" , "jegy" , _ ) >= 2
VAGY
TárgyEredmény("BMEVISZMA03", "FELVETEL", AktualisFelev()) > 0)

A fenti forma a Neptun sajátja, ezen technikai okokból nem változtattunk.

A kötelező előtanulmányi rendek grafikus formában itt láthatók.

Ajánlott:
Valószínűségszámítás, kredit

 

7. A tantárgy célkitűzése A tantárgy az információ továbbítása és tárolása során az információ tömörítésének és védelmének gazdaságos és biztonságos kódolási algoritmusaival foglalkozik. Bemutatja az információforrások veszteségmentes adattömörítésének elvi határait és az optimális adattömörítési eljárásokat mind ismert, mind ismeretlen forráseloszlás esetén. Tárgyalja az alapvető veszteséges forráskódolási elveket. Bemutatja a csatornakódolás alapjait, továbbá a többszörös hozzáférésű csatornák fő típusait. Megalapozza a Karon folyó doktori kutatásokat mobil távközlés témában. A tárgy a Kódolástechnika tárgyra épít.

 

A tantárgy követelményeit eredményesen teljesítő hallgatóktól elvárható, hogy:

 

(1) ismerjék a változó szóhosszúságú adattömörítés elvi határait és alapvető kódjait,

 

(2) képesek legyenek gyakorlatban előforduló tömörítési feladatok megoldására úgy, hogy a megoldás mind a tömörítési arány, mind a kódoló, dekódoló számítási bonyolultsága szempontjából megfelelő legyen,

 

(3) ismerjék a veszteséges forráskódolás leggyakrabban használt technikáit,

 

(4) képesek legyenek egy zajos csatornán történő adatátviteli problémában megválasztani a számítási bonyolultság szempontjából megfelelő modulációs és hibajavító technikát,

 

(5) ismerjék a mobil távközlésben használt többszörös hozzáférési kódosztásos technikákat.

 

 

8. A tantárgy részletes tematikája

Üzenet változó szóhosszúságú kódolása
Egyértelmű dekódolhatóság, prefix kód
Jensen-egyenlőtlenség
McMillan-egyenlőtlenség
Kraft-egyenlőtlenség
Entrópia és tulajdonságai
Shannon-Fano-kód
Huffman-kód
Lempel-Ziv algoritmusok
Forrásentrópia
Feltételes entrópia és tulajdonságai
Stacionárius forrás változó szóhosszúságú kódolása
Markov-forrás
Kölcsönös információ és tulajdonságai
Egyenletes kvantáló négyzetes hibája
Egyenletes kvantáló entrópiája
Lloyd--Max-algoritmus
Kompanderes kvantálás
Vektorkvantálás
Lineáris szűrés
Prediktív kvantálás
Lineáris becslés
Transzformációs kódolás
Bayes-döntés
Maximum likelihood döntés bináris szimmetrikus csatorna kimenetén
Emlékezetnélküli csatorna
Csatornakapacitás
Fano-egyenlőtlenség
Csatornakódolási tétel megfordítása
Csatornakódolási tétel


9. A tantárgy oktatásának módja (előadás, gyakorlat, laboratórium) Előadás

 

10. Követelmények A szorgalmi időszakban:

4 zárthelyi a 4.,7.,10. és 13. héten

A zárthelyik egyenlő arányban számítanak be a jegybe.

 

11. Pótlási lehetőségek

A zárthelyit követő héten.

12. Konzultációs lehetőségek Fogadóórákon, ill. személyes egyeztetés alapján .
13. Jegyzet, tankönyv, felhasználható irodalom Györfi László, Győri Sándor, Vajda István: Információelmélet és kódelmélet, Typotex, 2000

 

14. A tantárgy elvégzéséhez átlagosan szükséges tanulmányi munka
Kontakt óra42
Félévközi készülés órákra 
Felkészülés zárthelyire78
Házi feladat elkészítése 
Kijelölt írásos tananyag elsajátítása 
Vizsgafelkészülés 
Összesen120
15. A tantárgy tematikáját kidolgozta
Név:

 

Beosztás:

 

Tanszék, Int.:

 

Dr. Györfi László

 

egy. tanár

 

Számítástudományi és Információelméleti Tanszék