Budapest University of Technology and Economics, Faculty of Electrical Engineering and Informatics

dr. Horváth Gábor egyetemi docens

dr. Pataki Béla egyetemi docens

A kötelező előtanulmányi rend az adott szak honlapján és képzési programjában található.

A tantárgy az intelligens rendszerek egyik alapvető képességének, a tanulásnak a gépi megvalósítási lehetőségeivel foglalkozik. Bemutatja a gépi tanulás fajtáit, összefoglalja a gépi tanulás elméleti alapjait, és részletesen elemzi a legfontosabb tanuló rendszer architektúrákat. A tárgy a gépi tanulást egységes keretbe helyezve, mint a környezetből származó információ kinyerésére és feldolgozására alkalmas megközelítést tekinti. A tanuló eljárásokat és architektúrákat azzal az igénnyel mutatja be, hogy elősegítse olyan komplex intelligens információfeldolgozási feladatok megoldását, melyeknél alapkövetelmény a megoldás folyamatos javítása a környezetből származó egyre több információ felhasználásával, valamint a környezet változásaihoz való alkalmazkodás, az adaptálódás. Az elméleti alapok bemutatásán túl a tárgy célja, hogy fejlessze a tudatos problémamegoldó készséget. Mindezt az egységes tárgyalásmód alkalmazásával és komplex alkalmazási példák bemutatásával éri el. A tárgy keretében elsajátított módszerek megalapozásként és háttérként szolgálnak kutatási és fejlesztési feladatok megoldásához.

· Bevezetés (2 óra elmélet/előadás):

A tanulás fogalma, tanuló gépek, tanulás intelligens rendszerekben. A legfontosabb tudásalapú architektúrák: döntési fák, neuronhálók, tudásalapú hibrid intelligens rendszerek. (Áttekintés)

· Tudás szerepe a tanulásban (2 óra elmélet/előadás):

A tudás szerepe a tanulásban, tudásreprezentációk, tanulás különböző tudás­repre­zentációk mellett. Magyarázat alapú tanulás. Tanulás releváns információ alapján. Induktív logikai programozás

· Tanulás minták alapján (2 óra elmélet/előadás):

A minták alapján történő gépi tanulás fajtái. Felügyelt és felügyelet nélküli tanulás, félig felügyelt tanulás, meg­erő­sí­té­ses tanulás.

· A gépi tanulás elméleti megalapozása (4 óra elmélet/előadás):

A tanulás számítási elmélete, valószínűleg közelítőleg helyes (VKH, PAC) tanuló algoritmusok. Statisztikai tanuláselmélet (SLT). A tanuló eljárások minősítése. A VC-dimenzió fogalma. A tapasztalati hiba minimalizálás szerepe, ERM elv. A tanuló eljárások hibájának (általánosító képesség) felső korlátjai. Strukturális kockázat­minimalizálás (SRM) elve.

· Ellenőrzött tanulású architektúrák (4 óra elmélet/előadás):

Döntési fák. Klasszikus neuronhálók (MLP, bázisfüggvényes hálók). A tanuló eljárások, mint optimalizáló algoritmusok. Tanulás és paraméterbecslés.

· Kernel gépek és változataik (4 óra elmélet/előadás):

A kernel gépek származtatása, a kernel trükk és jelentősége. Szupport vektor gépek (SVM) és változataik. A klasszikus hálók és a kernel gépek kapcsolata. A teljesítőképesség korlátai nagy­margójú osztályozási feladatoknál. A VC-dimenzió felső korlátja. Az SVM és az SRM elv kapcsolata. Gauss folyamatok.

· Megerősítéses tanulás (4 óra elmélet/előadás):

A jutalom szerepe a tanulásban. Passzív megerősítéses tanulás, adaptív dinamikus prog­ra­mo­zás, időbeli különbség (TD) tanulás. Aktív megerősítéses tanulás. Q tanulás.

· Nemellenőrzött tanulás (4 óra elmélet/előadás):

Alapfeladatok: főkomponens analízis (PCA), független komponens analízis (ICA). Elméleti alapok. A PCA feladat, mint mintákból történő tanuló eljárás, PCA hálók. Kernel PCA. A független komponens analízis matematikai alapjai. Az ICA megvalósí­tása tanuló rendszerekkel.

· A gyakorlati feladatmegoldás problémái, alkalmazások (4 óra elmélet/előadás):

Adatelőkészítés, normalizálás, dimenzió redukció. Zajos adatok kezelése. Hiányzó adatok prob­lé­mája. Az EM algoritmus és szerepe az adatelőkészítésben. Kilógó adatok.

Tanulás kooperatív rendszerekben. (4 óra elmélet/előadás):

Együttműködés és versengés. Moduláris tanuló rendszerek. Pontos és különböző szakértők kooperációja. Erős és gyenge tanulás. Boosting.

· Alkalmazási példák (2 óra elmélet/előadás):

Szövegfeldolgozás, képfeldolgozás. Rendszermodellezés és szabályozás nem­lineáris, dina­mi­kus rendszerekben. Előrejelzési feladatok. Megerősítéses tanulás alkalmazása: játékok, robotirányítás, stratégiakészítés.

A tárgyhoz tartozó gyakorlati ismereteket hallgatók a Kooperáció és gépi tanulás labor keretein belül sajátitják el.

A tárgy elméleti része előadás formájában kerül leadásra. Gyakorlati feladatok megoldására a félév során a gyakorlati órákon, illetve a kapcsolódó labor keretein belül kerül sor.

a. A szorgalmi időszakban:

     Egy zárthelyi, amelyet legalább 40% szinten kell teljesíteni a vizsgárabocsájthatósághoz.

b. A vizsgaidőszakban:

Írásbeli beugró után szóbeli vizsga. Az írásbeli csak sikerült/sikertelen jellegű, amennyiben sikerült, akkor a vizsga szóbelin kialakuló eredményét már nem befolyásolja. A vizsgára bocsátás feltétele a félévközi zárthelyi minimálisan 40 % szintű teljesítése.

c. Osztályozás:

A vizsga osztályzata a vizsgaeredmény alapján kerül megállapitásra.

A zárthelyi pótlása a szorgalmi időszakban, illetve a pótlási héten egy alkalommal lehetséges. (A TVSZ-nek megfelelően.)

Igény esetén, megbeszélés alapján.

A tárgy web-lapján közzétett előadási jegyzet, elektronikusan hozzáférhető ajánlott szak­iro­da­lom és kiegészítő információ, valamint web-es linkgyűjtemény.

A tárgy anyagának elsajátításához az alábbi könyvek is nagy segítséget adnak.

Altrichter Márta, Horváth Gábor, Pataki Béla, Strausz György, Takács Gábor, Valyon József: „Neurális hálózatok”, Panem, 2007.

T. Mitchell: Machine Learning, McGraw-Hill 1997.

Stuart Russell és Peter Norvig: Mesterséges intelligencia korszerű megközelítésben, 2., átdolgozott kiadás, Panem Kiadó, Budapest, 2006

Carl Edward Rasmussen, Chistopher K. I. Williams: Gaussian Processes for Machine Learning. The MIT Press, Cambridge, MA. 2006.

Olivier Chapelle, Bernhard Schölkopf, Alexander Zien: Semi-supervised Learning. The MIT Press, Cambridge, MA, 2006.

dr. Horváth Gábor

dr. Pataki Béla