Komplex valószínűségi modellek, következtetésre, tanulásra, adatfúzióra

A tantárgy angol neve: Complex Probabilistic Models for Inference, Learning and Data Fusion

Adatlap utolsó módosítása: 2017. október 13.

Budapesti Műszaki és Gazdaságtudományi Egyetem
Villamosmérnöki és Informatikai Kar
Szabadon választható tantárgy
Tantárgykód Szemeszter Követelmények Kredit Tantárgyfélév
VIMIAV20   4/0/0/v 4  
3. A tantárgyfelelős személy és tanszék Dr. Bolgár Bence Márton,
4. A tantárgy előadója

Dr. Antal Péter egyetemi docens, Méréstechnika és Információs Rendszerek Tanszék

5. A tantárgy az alábbi témakörök ismeretére épít Valószínűségszámítás
7. A tantárgy célkitűzése

Az új megfigyeléseknek és kísérleti adatoknak a kombinálása a korábban származtatott ismeretekkel egy alapvető kérdése a statisztikai, gépi tanulási és mesterséges intelligencia kutatásoknak. A Bayes-statisztikai és bayesi döntéselméleti keret egy univerzális, konzisztens keretet kínál az ismeretek reprezentálására és új adatokkal való kombinálására, amely napjainkra komplex, rendszerszemléletű valószínűségi modellosztályok sokaságával egészült ki. A bayesi megközelítés így általános keretbe fogja a modern gépi tanulási eszköztár legnagyobb részét, ideértve a komplex valószínűségi modelleket, oksági modelleket, mély tanulási modelleket és mátrixfaktorizációs eljárásokat is.

A tárgy fő célja a valószínűségi megközelítésnek ezen gyakorlati, adatmérnöki és tudásmérnöki alkalmazásának a bemutatása, elsősorban a mesterséges intelligencia és a gépi tanulás iránt érdeklődő hallgatók számára. A tárgy szisztematikusan bemutatja a hierarchikus és strukturált komplex valószínűségi modellek osztályait és felhasználásukat, mind következtésben, tanulásban és heterogén tudás és adatok fúziójában. A tárgy a komplex, valószínűségi modellek bemutatása, alkalmazásorientált jellemzése mellett nagy hangsúlyt helyez az általuk kínált rendszerszemléletű dekomponálás lehetőségeinek a megismertetésére, annak készség szinten történő fejlesztésére. A bemutatott modellosztályok természetes módon kapcsolódnak a bayesi megközelítéshez és így különösen alkalmasak nagy léptékű, heterogén adat- és tudásfúzióra. A mérnöki területeken bemutatott alkalmazások ajánlórendszerekkel, visszaélés detekcióval, szenzorhálózatokkal, egészségügyi és gyógyszerkutatásokkal, illetve szövegbányászati elemzésekkel kapcsolatosak.

8. A tantárgy részletes tematikája

1.      Statisztikai paradigmák, a Bayes-statisztikai paradigma. Alapfogalmak bemutatása. Emberi hibák és heurisztikák valószínűségi becslésekben és döntésekben. Valószínűségi reprezentációk és következtetések a neurobiológiában és a kognitív pszichológiában.

2.      Bayesi következtetés analitikus megoldással. A konjugáltság és az exponenciális eloszlások.

3.      Bayesi becslés- és döntéselmélet. Optimális döntés fogalma, Bayes-faktor, Bayes-döntés,  Bayes-hiba, Bayes-tanulás, bayesi modell átlagolás.

4.      Sztochasztikus szimulációs eljárások. Gyakori eloszlások generálása. Mintavételi módszerek.

5.      Markov láncokon alapuló sztochasztikus szimulációs eljárások (Markov Chain Monte Carlo módszerek): Gibbs, Metropolis és hibrid MCMC.

6.      Bayesi következtetés közelítő módszerekkel. Az EM algoritmus család és alkalmazása.

7.      A variációs bayesi megközelítés.

8.      Valószínűségi gráfos modellek. Markov-(véletlen)-mezők. Rejtett Markov Modellek. Bayes-hálók. Dinamikus Bayes-hálók.

9.      Faktor-gráfok. Összeg-szorzat (sum-product) hálózatok.

10.  Bayesi mátrix faktorizáció.

11.  Bayesi neurális hálózatok és bayesi mély struktúrák.

12.  Oksági diagrammok.

13.  Valószínűségi relációs modellek. Valószínűségi logikák.

14.  Nem teljes adatok felhasználása. A „véletlen hiányzás" definíciói, a szelekciós elfogultság, a negatív minták hiányzásának kezelése, hiányzási modellek.

9. A tantárgy oktatásának módja (előadás, gyakorlat, laboratórium)

A tárgy elméleti része előadás formájában kerül leadásra. Önálló munkára a házi feladat által kerül sor.

10. Követelmények
  • Szorgalmi időszakban: Házi feladat sikeres elkészítése és leadása a félév végéig.
  • Vizsgaidőszakban: Szóbeli vizsga. A vizsgára bocsátás feltétele az elfogadott házi feladat.
  • Osztályozás: A vizsga osztályzata a szóbeli vizsgán megszerzett jegy.
11. Pótlási lehetőségek

A házi feladat bemutatása a pótlási héten még lehetséges.

12. Konzultációs lehetőségek

Igény esetén, megbeszélés alapján.

13. Jegyzet, tankönyv, felhasználható irodalom

Pearl, Judea. Probabilistic reasoning in intelligent systems: networks of plausible inference. Morgan Kaufmann, 2014.

Bernardo, José M., and Adrian FM Smith. "Bayesian theory." (2001): 221.

Gelman, Andrew, et al. Bayesian data analysis. Vol. 2. Boca Raton, FL, USA: Chapman & Hall/CRC, 2014.

Koller, Daphne, and Nir Friedman. Probabilistic graphical models: principles and techniques. MIT press, 2009.

Murphy, Kevin P. Machine learning: a probabilistic perspective. MIT press, 2012.

14. A tantárgy elvégzéséhez átlagosan szükséges tanulmányi munka
Kontakt óra56
Félévközi készülés előadásra12
Házi feladat elkészítése20
Vizsgafelkészülés32
Összesen120
15. A tantárgy tematikáját kidolgozta Dr. Antal Péter egyetemi docens, Méréstechnika és Információs Rendszerek Tanszék
Egyéb megjegyzések

A tárgy alapvető célja a mesterséges intelligencia és gépi tanulás bayesi kiterjesztéseinek BSc szintű bemutatása, áttekintése.

A tantárgy angol neve: Complex probabilistic models for inference, learning and data fusion