Budapest University of Technology and Economics, Faculty of Electrical Engineering and Informatics

    Belépés
    címtáras azonosítással

    vissza a tantárgylistához   nyomtatható verzió    

    Információelmélet

    A tantárgy angol neve: Information Theory

    Adatlap utolsó módosítása: 2018. július 8.

    Budapesti Műszaki és Gazdaságtudományi Egyetem
    Villamosmérnöki és Informatikai Kar

    Mérnökinformatikus szak, MSc képzés

    Elágazó közös tárgy

    Tantárgykód Szemeszter Követelmények Kredit Tantárgyfélév
    VISZMA03 1,2 3/0/0/f 4  
    3. A tantárgyfelelős személy és tanszék Dr. Pintér Márta,
    A tantárgy tanszéki weboldala cs.bme.hu/infelm
    4. A tantárgy előadója

    Név:

    Beosztás:

    Tanszék, Int.:

    Dr. Pintér Márta

    egyetemi docens

    Számítástudományi és Információelméleti Tanszék

    Dr. Ottucsák György

    Megbízott előadó

    Morgan-Stanley

    5. A tantárgy az alábbi témakörök ismeretére épít

    Valószínűségszámítás

    6. Előtanulmányi rend
    Kötelező:
    NEM ( TárgyEredmény( "BMEVISZM101" , "jegy" , _ ) >= 2
    VAGY
    TárgyEredmény("BMEVISZM101", "FELVETEL", AktualisFelev()) > 0)

    A fenti forma a Neptun sajátja, ezen technikai okokból nem változtattunk.

    A kötelező előtanulmányi rendek grafikus formában itt láthatók.

    Ajánlott:

    Ajánlott:
    Valószínűségszámítás

    7. A tantárgy célkitűzése

    A tantárgy az információ továbbítása és tárolása során az információ tömörítésének és védelmének gazdaságos és biztonságos kódolási algoritmusaival foglalkozik. Bemutatja az információforrások veszteségmentes adattömörítésének elvi határait és az optimális adattömörítési eljárásokat mind ismert, mind ismeretlen forráseloszlás esetén. Tárgyalja az alapvető veszteséges forráskódolási elveket. Bemutatja a csatornakódolás alapjait, továbbá a többszörös hozzáférésű csatornák fő típusait. Megalapozza a Karon folyó doktori kutatásokat mobil távközlés témában. A tárgy a Kódolástechnika tárgyra épít.

     

    A tantárgy követelményeit eredményesen teljesítő hallgatóktól elvárható, hogy:

     

    (1) ismerjék a változó szóhosszúságú adattömörítés elvi határait és alapvető kódjait,

     

    (2) képesek legyenek gyakorlatban előforduló tömörítési feladatok megoldására úgy, hogy a megoldás mind a tömörítési arány, mind a kódoló, dekódoló számítási bonyolultsága szempontjából megfelelő legyen,

     

    (3) ismerjék a veszteséges forráskódolás leggyakrabban használt technikáit,

     

    (4) képesek legyenek egy zajos csatornán történő adatátviteli problémában megválasztani a számítási bonyolultság szempontjából megfelelő modulációs és hibajavító technikát,

     

    (5) ismerjék a mobil távközlésben használt többszörös hozzáférési kódosztásos technikákat.

    8. A tantárgy részletes tematikája
    1. Üzenet változó szóhosszúságú kódolása

    Egyértelmű dekódolhatóság, prefix kód

    1. Jensen-egyenlőtlenség

    McMillan-egyenlőtlenség

    1. Kraft-egyenlőtlenség

    Entrópia és tulajdonságai

    1. Shannon-Fano-kód

    Huffman-kód

    1. Lempel-Ziv algoritmusok

    Forrásentrópia

    1. Feltételes entrópia és tulajdonságai

    Stacionárius forrás változó szóhosszúságú kódolása

    1. Markov-forrás

    Kölcsönös információ és tulajdonságai

    1. Egyenletes kvantáló négyzetes hibája

    Egyenletes kvantáló entrópiája

    1. Lloyd--Max-algoritmus

    Kompanderes kvantálás

    1. Vektorkvantálás

    Lineáris szűrés

    Prediktív kvantálás

    1. Lineáris becslés

    Transzformációs kódolás

    Bayes-döntés

    1. Maximum likelihood döntés bináris szimmetrikus csatorna kimenetén

    Emlékezetnélküli csatorna

    1. Csatornakapacitás

    Fano-egyenlőtlenség

    1. Csatornakódolási tétel megfordítása

    Csatornakódolási tétel

    9. A tantárgy oktatásának módja (előadás, gyakorlat, laboratórium)

    Heti 3 óra előadás.

    10. Követelmények

    A félév során 2 zárthelyit iratunk. A félév teljesítésének feltétele: mindkét zárthelyin legalább 40 %-os teljesítmény. A végső jegy (teljesítés esetén) a  zárthelyik átlagából adódik.

    A vizsgaidőszakban: --

    Elővizsga:

    11. Pótlási lehetőségek

    A szorgalmi időszak során minden zárthelyi dolgozathoz lesz pótlási (javítási) lehetőség.

    A pótlási héten egyetlen alkalom lesz amikor egy tetszőleges zh dolgozat pótolható.

    12. Konzultációs lehetőségek

    Az előadóval történt egyeztetés alapján.

    13. Jegyzet, tankönyv, felhasználható irodalom

    Györfi László, Győri Sándor, Vajda István: Információelmélet és kódelmélet, Typotex, 2000

    14. A tantárgy elvégzéséhez átlagosan szükséges tanulmányi munka
    Kontakt óra42
    Félévközi készülés órákra 
    Felkészülés zárthelyire78
    Házi feladat elkészítése 
    Kijelölt írásos tananyag elsajátítása 
    Vizsgafelkészülés 
    Összesen120
    15. A tantárgy tematikáját kidolgozta

    Név:

    Beosztás:

    Tanszék, Int.:

    Dr. Pintér Márta

    egyetemi docens

    Számítástudományi és Információelméleti Tanszék