Budapest University of Technology and Economics, Faculty of Electrical Engineering and Informatics

    Belépés
    címtáras azonosítással

    vissza a tantárgylistához   nyomtatható verzió    

    Biztonság a gépi tanulásban

    A tantárgy angol neve: Security in Machine Learning

    Adatlap utolsó módosítása: 2020. november 4.

    Tantárgy lejárati dátuma: 2024. január 31.

    Budapesti Műszaki és Gazdaságtudományi Egyetem
    Villamosmérnöki és Informatikai Kar

    Mérnök informatikus szak

    Villamosmérnöki szak BSc és MSc képzés

    Szabadon választott

    Tantárgykód Szemeszter Követelmények Kredit Tantárgyfélév
    VIHIAV45   2/0/0/f 2  
    3. A tantárgyfelelős személy és tanszék Dr. Ács Gergely,
    4. A tantárgy előadója

    Név:

    Beosztás:

    Tanszék, Int.:

    Dr. Ács Gergely

    Egyetemi adjunktus

    HIT

    5. A tantárgy az alábbi témakörök ismeretére épít

    Matematikai analízis, Valószínűségszámítás, Programozási ismeretek legalább 1 nyelven

    7. A tantárgy célkitűzése

    A tárgy részletes betekintést nyújt a gépi tanulási modellek támadhatóságának, megkerülésének problémáiba, valamint az azok ellen létező védekezési technikákba.  A tárgyat elvégző hallgatók olyan elméleti és gyakorlati ismereteket szereznek, melyek a gépi modellek biztonságossá tételének alapját képezik. Továbbá a tárgy lehetővé teszi a fenyegetettségek megértését és felmérését, az alkalmas védelmi technológiák kiválasztását és integrálását. A tárgy célja olyan ismeretek átadása, mely mára már a mindennapokban használt gépi tanulási modellek elengedhetetlen része.

    8. A tantárgy részletes tematikája

    1. hét: Bevezetés és motiváció

    A félév során bemutatott gépi tanulási modellek bemutatása, matematikai hátterük áttekintése I:
    Tanulás alapjai, generalizáció, overfitting, lineáris modellek, döntési fák, random forest, ensemble tanulás, k-NN

     2. hét:

    A félév során bemutatott gépi tanulási modellek bemutatása, matematikai hátterük áttekintése II: Neurális hálók, tanuló algoritmusok (gradiens süllyedés), regularizáció

    3. hét:

    A gépi tanulási modellek támadhatósági problémájának részletes bemutatása, FGSM (Fast Gradient Sign Method), illusztratív esettanulmányok

     4. hét:

    Támadó minták a való világban. Önvezető autók megtévesztése, személy- és arcfelismerő alkalmazások kikerülése. Iteratív modellek. Deep fool.

     5.hét:

    Támadó minták transzferabilitása különböző modellek és tanító adathalmazok között. Kereszt-tanításos támadás. Együttes (ensemble) modellek használata.

     6.hét:

    Fekete doboz (black box) támadások. Modell-lopás, modell-visszafejtés.

     7.hét:

    A támadó minták létezésének vizsgálata. Túlzott linearitás, túltanulás és döntési határvonalak (Linearity Hypothesis and Curvature of Decision Boundaries).

     8.hét:

    Az „egypixeles" támadás bemutatása. Input megváltoztatásának minimalizálása.

     9.hét:

    Védekezési technikák bemutatása I. - Adversarial training, distillation, error correcting codes, droput, input reconstruction

     10.hét:

    Védekezési technikák bemutatása II. - Virtual adversarial training, generative pretraining, perturbation

     11.hét:

    Certified robustness. Differenciális adatvédelem és a támadó minták kapcsolata.

     12.hét:

    Értelmezhetőség (interpretability), leírhatóság (explainability) és vizuálizáció nehézségei, valamint ezek fontossága a támadások elkerülése céljából.

     13.hét:

    A támadó minták, mint nem robusztus attribútumok. Robosztus és nem robusztus attribútumok szétválasztása. Generalizációs korlátok, „no free lunch theorem".

     14.hét:

    Támadó minták az emberi agyban. Ember és gép képességeinek összehasonlítása jóindulatú és rosszindulatú minták esetén. Természetes támadó minták generálása.

    9. A tantárgy oktatásának módja (előadás, gyakorlat, laboratórium) előadás
    10. Követelmények

    a.       A szorgalmi időszakban: 1 db nagy házi feladat elvégzése, és legalább elégséges szintű teljesítése. A házi feladat szakcikkek feldolgozása és előadása. A cikkeket az első órán osztjuk ki, minden diák 1-2 cikket kap nehézségtől és terjedelemtől függően. A bevezető órák után következik a cikkek bemutatása. Egy cikket körülbelül 40-50 perc alatt kell előadni egy diáknak a csoport számára. Előadás közben bármilyen segédanyag használható. A cikkek feldolgozásához segítséget nyújtunk a hallgatóknak.
    Továbbá, csak az a hallgató kaphat jegyet, aki az órák legalább 80%-án részt vett. (Ez 13 óra esetén 10 órát jelent.)

    b.       A vizsgaidőszakban:

    c.              Elővizsga:

    11. Pótlási lehetőségek A nem teljesített házi feladat a pótlási hét végéig pótolható.
    12. Konzultációs lehetőségek

    Előadókkal külön egyeztetett időpontban

    13. Jegyzet, tankönyv, felhasználható irodalom

    Előadások anyaga on-line elérhető, minden témakörhöz külön irodalomjegyzékkel ellátva.

    14. A tantárgy elvégzéséhez átlagosan szükséges tanulmányi munka
    Kontakt óra28
    Félévközi készülés órákra6
    Felkészülés zárthelyire 
    Házi feladat elkészítése26
    Kijelölt írásos tananyag elsajátítása 
    Vizsgafelkészülés 
    Összesen60
    15. A tantárgy tematikáját kidolgozta

    Név:

    Beosztás:

    Tanszék, Int.:

    Lestyán Szilvia

    doktorandusz

    HIT

    Dr. Ács Gergely

    adjunktus

    HIT