Neurális és tanuló rendszerek

A tantárgy angol neve: Neural and Learning Systems

Adatlap utolsó módosítása: 2007. június 15.

Budapesti Műszaki és Gazdaságtudományi Egyetem
Villamosmérnöki és Informatikai Kar

Villamosmérnöki Szak

Műszaki Informatika Szak

Doktorandusz tárgy
Tantárgykód Szemeszter Követelmények Kredit Tantárgyfélév
VIMMD002   4/0/0/v 5 1/1
3. A tantárgyfelelős személy és tanszék Dr. Horváth Gábor,
A tantárgy tanszéki weboldala http://www.mit.bme.hu/oktatas/targyak/vimmd002/
4. A tantárgy előadója

Név:

Beosztás:

Tanszék, Int.:

Dr. Horváth Gábor

docens

MIT
     
5. A tantárgy az alábbi témakörök ismeretére épít

Sztochasztikus folyamatok, Valószínűségszámítás

7. A tantárgy célkitűzése

A tárgy célja, hogy megismertesse a hallgatókkal a gépi tanulás elméleti alapjait, alkalmazási lehetőségeit és bemutassa a tanulás különböző formáit alkalmazó számító rendszereket. A tárgy részletesen foglalkozik a mintákból történő tanulást alkalmazó neurális hálózatokkal, a legfontosabb neurális architektúrákkal és a neuronhálók alkalmazási lehetőségeivel.

8. A tantárgy részletes tematikája
  • Algoritmikusan nehezen megoldható feladatok.
  • A tanulás szerepe a feladatmegoldásokban. Gépi tanulás.
  • Ellenőrzött (felügyelt) tanulás.

Hibakorrekciós eljárások (gradiens módszerek, kereső eljárások, genetikus algoritmusok).

Szupport Vektor Gépek (SVM) és jelentőségük a tanuló rendszerek között.

Megerősítéses tanulás.

  • Nemellenőrzött (felügyelet nélküli) tanulás.

Hebb szabály, Oja szabály,

Versengő tanulás.

  • A tanuló rendszerek minősítése, általánosítás. A statisztikus tanuláselmélet fontosabb eredményei, PAC tanulás.
  • Tanuláson alapuló elosztott párhuzamos számító rendszerek, neurális hálózatok:

Az elemi neuron és felügyelt tanítási algoritmusa.

Egy- és többrétegű előrecsatolt hálózat, az előre csatolt hálózatok tanítása: backpropagation algoritmus.

Szupport vektor gépek különböző változatai (SVM, LS-SVM, ridge regression)

  • Dinamikus hálózatok

Lokális és globális visszacsatolást tartalmazó hálózatok.

Dinamikus rendszerek tanítása: dinamikus backpropagation,

  • Nemellenőrzött tanulási hálózatok.

Kohonen hálók.

Lineáris és nemlineáris adattömörítő hálók: PCA, ICA.

  • Neurális hálózatok alkalmazása (felismerési problémák megoldása, optimalizálási feladatok megoldása, egy- és többdimenziós jelfeldolgozás, nemlineáris jelfeldolgozás, nemlineáris dinamikus rendszerek identifikációja, stb.).
  • Hardver és szoftver implementálási kérdések

A mesterséges neurális hálózatoknál tárgyalt párhuzamos algoritmusok implementálására alkalmas általános és speciális párhuzamos működésű hardver rendszerek.

A hardver megvalósítás speciális problémái: pontosság, sebesség, komplexitás. Szoftver realizálás, szimulátorok.

9. A tantárgy oktatásának módja (előadás, gyakorlat, laboratórium)

(előadás, gyakorlat, laboratórium):

előadás

10. Követelmények

a. A szorgalmi időszakban: félévközi házi feladat elégséges szintű beadása. A feladat beadás határideje a szorgalmi időszak utolsó hete, ill.

b. A vizsgaidőszakban: szóbeli vizsga.

A vizsgajegy megállapításának módja:

0,8*félévvégi vizsga eredménye+0,2*házi feladat eredménye

  1. Elővizsga: igény esetén az utolsó oktatási héten
11. Pótlási lehetőségek

A félévközi feladat különeljárási díj ellenében a vizsgaidőszak harmadik hetének végéig pótolható.

12. Konzultációs lehetőségek

Igény szerint

13. Jegyzet, tankönyv, felhasználható irodalom

Horváth Gábor (szerk.): Neurális hálózatok és műszaki alkalmazásaik, Egyetemi tankönyv, Műegyetemi Kiadó, 1998.

B. Schölkopf, A. Smola: Learning with Kernels Support Vector Machines, Regularization, Optimization and Beyond. MIT Press, 2002.

S. Haykin: Neural Networks, A Comprehensive Foundation, second edition, Prentice Hall, 1999.

R. S. Sutton, A. G. Barto: Reinforcement Learning: An Introduction, Bradford Book, MIT Press, 1998.

T. Mitchell: Machine Learning, McGraw-Hill, 1997.

Továbbá sokszorosított anyag a tárgy honlapján közzétéve

14. A tantárgy elvégzéséhez átlagosan szükséges tanulmányi munka

(a tantárgyhoz tartozó tanulmányi idő körülbelüli felosztása a tanórák, továbbá a házi feladatok és a zárthelyik között (a felkészülésre, ill. a kidolgozásra átlagosan fordítandó/elvárható idők félévi munkaórában, kredit x 30 óra, pl. 5 kredit esetén 150 óra)):

 

Kontakt óra

60

Félévközi készülés órákra

10

Felkészülés zárthelyire

  

Házi feladat elkészítése

30

Kijelölt írásos tananyag elsajátítása

  

..

  

Vizsgafelkészülés

50

Összesen

150
15. A tantárgy tematikáját kidolgozta

Név:

Beosztás:

Tanszék, Int.:

Dr. Horváth Gábor

Docens

MIT