BME VIK - Geometriai és topologikus mélytanulás

3. A tantárgyfelelős személy és tanszék Dr. Szegletes Luca,

4. A tantárgy előadója

Dr. Szegletes Luca, Automatizálási és Alkalmazott Informatikai Tanszék

5. A tantárgy az alábbi témakörök ismeretére épít

Mélytanulás, lineáris algebra, gráfok, topologikus terek

6. Előtanulmányi rend

Ajánlott:
-

7. A tantárgy célkitűzése

A környezetünk alapjául szolgáló tárgyakat, fogalmakat gyakran egymáshoz és más fogalmakhoz viszonyítva határozzuk meg. A gráfok természetes módon reprezentálják ezeket a kapcsolatokat. A gráfokon értelmezett mélytanulás algoritmusokat a geometriai mélytanulás (geometric deep learning) fogalma alatt gyűjtik. Vannak azonban olyan komplex esetek, amikor a gráf-reprezentáció szűkösnek bizonyul és nemcsak szomszédossági kapcsolatokat (csúcspont és csúcspont között) szeretnénk tárolni, hanem magasabb rendű (akár hierarchikus) kapcsolatokat is (pl. hipergráfok esetében). Erre kínál megoldást a topologikus mélytanulás (TDL - topological deep learning). A tárgy keretében megismerkedünk ezen reprezentációkkal, a geometriai és topologikus mélytanulás legfőbb algoritmusaival, kitérünk a határaikra, kihívásaikra, a megmagyarázhatóságra és a gyakorlati alkalmazásokra.

8. A tantárgy részletes tematikája

Hét	Előadás és gyakorlat anyaga
1.	Motiváció. Matematikai alapok. Metrikus, topologikus terek. Gráf, manifold, csoportok, geodesics, grid fogalma. Szimmetria és invariancia. A gráf reprezentáció korlátjai. Milyen feladatokat lehet tipikusan geometriai, ill. topologikus mélytanulásra visszavezetni és megoldani. Gyakorlat: Python és PyTorch alapok.
2.	Bevezetés. Gridek. Hebb tanulás, neurális hálók. GPU felépítése. Mély neurális háló. Grid fogalma, konvolúciós neurális háló ismertetése. Gyakorlat: Konvolúciós neurális háló implementálása PyTorchban.
3.	Gráfok. Gráfok és halmazok bemutatása. Gráf operátorok, gráf konvolúciós neurális háló ismertetése, összehasonlítása konvolúciós hálókkal (gridek és gráfok közti különbségek). Gyakorlat: Gráf neurális háló (GNN) implementálás, egyszerű osztályozási feladat.
4.	Gyakran használt könyvárak. Feladatok csoportosítása és megoldási lehetőségek gráfoknál, kitérve a különbségekre: gráf osztályozása, node-ok, edge-k becslése. PyG (PyTorch Geometric) és DGL keretrendszer megismerése. Gyakorlat: Gráf neurális háló implementálás egyszerű csúcspontok (node-ok) és élek (edge-k) becslése.
5.	Heterophily. A gráf neurális hálóknak nagy kihívást jelent, amikor a szomszédos node-ok különbözőek, ezeken az adatokon alapból rosszabban teljesít. Ezeket az eseteket vizsgáljuk ezen az előadáson. Gyakorlat: Heterophily: gráf neurális háló limitáció a gyakorlatban, lehetséges megoldási stratégiák
6.	Figyelmi mechanizmus gráfoknál. Graph transformer architektúra megismerése. Figyelmi mechanizmus definiálása gráfoknál (Self-attention, positional encoding). Gyakorlat: Gráf transformer megvalósítása.
7.	Nem felügyelt tanulás, heterogeneitás, kontrasztív tanulás gráfokon. Megismerjük a nem felügyelt tanulás lehetőségeit gráfokon, emellett a kontrasztív tanulás segítségével, megtanuljuk, hogyan kezeljük a gráfokban lévő adatok heterogenitásának kihívását. Gyakorlat: Nem felügyelt tanulás, kontrasztív tanulás.
8.	Gráf generálása. Gráf generatív modellek, gráfok generálásának lehetőségei. Gyakorlat: Diffúziós háló gráfokon.
9.	Megmagyarázhatóság (XAI – Explainibility). Megmagyarázhatóság definiálása. Megvizsgáljuk, hogy milyen lehetőségeink (pl. explainerek) vannak a megmagyarázhatóság értelmezésére gráfoknál. Gyakorlat: Explainerek használata.
10.	Geometriai mélytanulás. A gráfok és gridek mellett megismerkedünk, hogy milyen területei vannak a geometriai mély tanulásnak (pl. manifold, geodesics). Gyakorlat: Általános geometriai mélytanulás.
11.	Topologikus adatelemzése. A topologikus adatelemzés megismerése (TDA – Topolocial Data Analysis), a különbségek a topologikus mélytanulás és a topologikus adatelemzés között. Gyakorlat: Topologikus adatelemzés gyakorlat
12.	Topologikus mélytanulás reprezentációk. Egyszerű komplexek. Cella kompexek. Hipergráfok. Példák. Gyakorlat: Molekuláris tulajdonságok becslése, TDL reprezentációk.
13.	Topologikus neurális hálók. A topologikus neurális hálók megismerése, a gráf neurális háló kiterjesztése. Gyakorlat: Topologikus neurális háló.
14.	Tudománytörténeti áttekintés. Az előadáson áttekintjük, hogy hogyan fejlődött ki a geometriai és topologikus mélytanulás. Összefoglaljuk a jelenlegi state-of-the-art-ot, megbeszéljük a kihívásokat, és megismerünk tudománytörténeti érdekességeket. Gyakorlat: Házi feladat bemutatása

9. A tantárgy oktatásának módja (előadás, gyakorlat, laboratórium)

Előadások és gyakorlatok keretében.

Kijelölt írásos anyag elsajátítása.

10. Követelmények

A szorgalmi időszakban a hallgató tetszőlegesen választott házi feladatot készít, amiről év végén beszámol, és aminek legalább elégségesnek kell lennie.

Emellett követelmény egy írásbeli vizsga.

Az aláírás feltétele:

- Házi feladat teljesítése

A tantárgy anyagából a hallgatók vizsgát tesznek. A vizsga teljesítéséhez a vizsgára kapható pontszám legalább 40%-nak elérése szükséges.

A félév végi osztályzatot a házi feladat (50%) és a vizsgajegy (50%) alapján kapják.

11. Pótlási lehetőségek

A házi feladat leadása a pótlási héten megadott időpontban pótolható.

Elégtelen vizsga a TVSZ szabályai szerint pótolható.

12. Konzultációs lehetőségek

Igény szerint, az oktatókkal egyeztetve.

13. Jegyzet, tankönyv, felhasználható irodalom

A tárgy weboldalán elhelyezett írásos anyagok.

Michael M. Bronstein, Joan Bruna, Taco Cohen, Petar Veličković: Geometric Deep Learning: Grids, Groups, Graphs, Geodesics, and Gauges

14. A tantárgy elvégzéséhez átlagosan szükséges tanulmányi munka

Kontakt óra	56
Félévközi készülés órákra	8
Felkészülés zárthelyire	0
Házi feladat elkészítése	28
Vizsgafelkészülés	28
Összesen	120

15. A tantárgy tematikáját kidolgozta

Név:	Beosztás:	Tanszék, Int.:
Dr. Szegletes Luca	adjunktus	Automatizálási és Alkalmazott Informatikai Tanszék