Információelmélet

A tantárgy angol neve: Information Theory

Adatlap utolsó módosítása: 2006. július 1.

Tantárgy lejárati dátuma: 2015. január 31.

Budapesti Műszaki és Gazdaságtudományi Egyetem
Villamosmérnöki és Informatikai Kar

Műszaki Informatika Szak

Tantárgykód Szemeszter Követelmények Kredit Tantárgyfélév
VIMA3209 6. 4/0/0/v 5 1/1
3. A tantárgyfelelős személy és tanszék Dr. Györfi László,
4. A tantárgy előadója

Név:

Beosztás:

Tanszék, Int.:

Dr. Györfi László

Dr. Pintér Márta

egyetemi tanár

egyetemi adjunktus

Számítástudományi és Információelméleti Tanszék

5. A tantárgy az alábbi témakörök ismeretére épít

Valószínüségszámítás, Tömegkiszolgálás

6. Előtanulmányi rend
Kötelező:
TárgyEredmény( "BMEVIMA2203" , "jegy" , _ ) >= 2
VAGY
TárgyEredmény( "BMEVIMA2606" , "jegy" , _ ) >= 2
VAGY
TárgyEredmény( "BMEVIMA2512" , "jegy" , _ ) >= 2
VAGY
TárgyEredmény( "BMETE902923" , "jegy" , _ ) >= 2
VAGY
TárgyEredmény( "BMEVIDH8515" , "jegy" , _ ) >= 2
VAGY
TárgyEredmény( "BMEVISZA208" , "jegy" , _ ) >= 2
VAGY
KépzésLétezik( ahol a KépzésKód = "5N-08S")
VAGY
KépzésLétezik( ahol a KépzésKód = "5N-M8")

A fenti forma a Neptun sajátja, ezen technikai okokból nem változtattunk.

A kötelező előtanulmányi rendek grafikus formában itt láthatók.

Ajánlott:

Tömegkiszolgálás, kredit

7. A tantárgy célkitűzése

A tárgy fő célja az, hogy bemutassa az információ közlésének és feldolgozásának fő törvényszerűségeit, elvi határait, és ezen elvi határokat közelítő eljárásokat (kódok, hozzáférési algoritmusok, döntések, becslések).

8. A tantárgy részletes tematikája

Entrópia és tulajdonságai Feltételes entrópia és tulajdonságai. Kölcsönös információ és tulajdonságai. Egyértelmű dekódolhatóság, prefix kód. Jensen-egyenlőtlenség. McMillan-egyenlőtlenség, Kraft-egyenlőtlenség. Üzenet változó szóhosszúságú kódolása. Shannon--Fano-kód. Huffman-kód. Lempel-Ziv algoritmusok. Forrásentrópia. Stacionárius forrás változó szóhosszúságú kódolása. Markov-forrás. Forráskódolás előírt hibavalószínűséggel.
Információstabilitás. Forráskódolás betűnkénti hűségkritériummal (bizonyításvázlat). Egyenletes kvantáló négyzetes hibája, egyenletes kvantáló entrópiája, Lloyd--Max-algoritmus. Kompanderes kvantálás. Vektorkvantálás. Prediktív kvantálás (DPCM, DM). Lineáris becslés. Transzformációs kódolás Hang- és beszédkódolás. Képkódolás, videokódolás. Bayes-döntés. Maximum likelihood döntés bináris szimmetrikus csatorna kimenetén. Optimális detektálás. Emlékezetnélküli csatorna. Csatornakapacitás. Fano-egyenlőtlenség. Csatornakódolási tétel megfordítása. Csatornakódolási tétel (bizonyításvázlat).

9. A tantárgy oktatásának módja (előadás, gyakorlat, laboratórium)

Előadás (konzultációval).

10. Követelmények

a. A szorgalmi időszakban:

1 zárthelyi a 9. héten. Javító célú pót-ZH nincs.

Az aláírás feltétele: a zárthelyi legalább 40%-os.

Az aláírás pótlására a szorgalmi időszak utolsó hetében van lehetőség szóbeli beszámoló formájában.

b. A vizsgaidőszakban: szóbeli vizsga

c. Elővizsga: nincs

13. Jegyzet, tankönyv, felhasználható irodalom

Györfi László, Győri Sándor, Vajda István: Információelmélet és kódelmélet, Typotex, 2000

Linder Tamás, Lugosi Gábor: Bevezetés az információelméletbe, Tankönyvkiadó 1990

15. A tantárgy tematikáját kidolgozta

Név:

Beosztás:

Tanszék, Int.:

Dr. Györfi László

egy. tanár

Számítástudományi és Információelméleti Tanszék

vima3209.doc