Belépés címtáras azonosítással
magyar nyelvű adatlap
Mesterséges intelligencia rendszerek compliance szemlélettel
A tantárgy angol neve: Artificial Intelligence Systems - A Compliance Perspective
Adatlap utolsó módosítása: 2026. február 5.
Villamosmérnöki szak
Műszaki informatika szak
Dr. Mezei Kitti egyetemi adjunktus
A kurzus célja, hogy a hallgatók átfogó, rendszerezett és interdiszciplináris ismereteket szerezzenek a mesterséges intelligencia rendszerekhez kapcsolódó jogi, etikai, mérnöki és kockázatkezelési követelményekről, különös tekintettel az EU AI Act, az adatvédelmi és a kiberbiztonsági előírások közötti kapcsolódási pontokra. A kurzus központi eleme az AI rendszerek teljes életciklusát lefedő megfelelőségi (compliance) szemlélet, amelyben a jogi szabályozási környezet, az etikai elvek, valamint a mérnöki megvalósítási és auditálási módszerek egységes keretben jelennek meg.
A kurzus egyik alappillére a compliance by design megközelítés, amelynek célja, hogy a megfelelőségi, etikai és kockázatkezelési szempontok már a tervezés és fejlesztés korai fázisaiban integráltan jelenjenek meg. A hallgatók megismerkednek a megfelelőségértékelés gyakorlati eszközeivel, valamint a megfelelőségi auditok automatizálásának mérnöki megoldásaival, beleértve a policy-as-code megközelítéseket, a kontrollpontok és monitoring rendszerek beépítését a fejlesztési és üzemeltetési láncba.
A kurzus hangsúlyos eleme az etikai elvek gyakorlati alkalmazása: az átláthatóság, az emberi jogok védelme, az emberi felügyelet biztosítása, valamint a társadalmi felelősség kérdései minden témakörben megjelennek. A hallgatók megtanulják értelmezni és beépíteni az olyan etikai irányelveket, mint a „megbízható MI” koncepció, az emberi méltóság és autonómia védelme, valamint az algoritmikus döntéshozatal társadalmi hatásainak kezelése.
Az oktatás során kiemelt szerepet kap: a kockázatkezelés és a kockázatalapú megközelítés gyakorlati implementálása az AI Act szerinti kockázati kategóriák mentén, az átláthatóság, az auditálhatóság és a szabványosítás módszereinek megismerése és alkalmazása. Az etikai és jogi megfelelés követelményeinek olyan módon történő integrálása a mérnöki gyakorlatokba, amely összhangot teremt a technikai folyamatok és a szabályozási elvárások között. Ez biztosítja, hogy a fejlesztési döntések, az architekturális kialakítás, a dokumentáció és a validációs folyamatok szervesen igazodjanak az AI Act által meghatározott elvárásokhoz és korlátokhoz.
A hallgatók esettanulmányokon, valós példákon és nemzetközi szabványokon – például a releváns ISO standardokon – keresztül sajátítják el a megfelelőségértékelés, kockázatkezelés és etikai értékelés elméleti alapjait és gyakorlati módszereit, és fejlesztik gyakorlati készségeiket megfelelőségi és kockázatkezelési auditok előkészítésében és végrehajtásában.
Minden héten egy előadás van.
Bevezetés, tematika ismertetése. A mesterséges intelligencia gazdasági és társadalmi hatásai; etikai irányelvek és jogi szabályozás kapcsolata. Emberi jogok vs. üzleti érdekek; a „megbízható MI” koncepció.
Az EU AI Act célja és hatálya. A szabályozás háttere, fogalmak és szerepkörök. A kockázatalapú megközelítés alapjai. MI-rendszer fogalma.
Tiltott MI-gyakorlatok I. Konkrét tilalmak és azok jogi–technikai hátterének bemutatása gyakorlati példákon keresztül. Manipulatív technikák és biometrikus azonosítási rendszerek.
Tiltott MI-gyakorlatok II. Konkrét tilalmak és azok jogi–technikai hátterének bemutatása gyakorlati példákon keresztül. Web scraping, érzelemfelismerő rendszerek és egyéb tiltott esetek bemutatása.
Nagy kockázatú MI rendszerek I. A nagy kockázatú MI-rendszerek mérnöki esettanulmányokon keresztüli bemutatása, elhatárolásuk a tiltott kategóriától.
Nagy kockázatú MI rendszerek II. A megfelelőséghez szükséges követelményrendszer megismerése (például diszkriminációs kockázat minimalizálása data governance segítségével: automation bias és feedback loops felismerése és elkerülése; átláthatóság; emberi felügyelet; naplózás). Műszaki dokumentáció előkészítése. Nemzetközi szabványok (ISO standardok).
Megfelelőségértékelés és auditálás. Megfelelőségi eljárás menete (önértékelés vs. bejelentett szervezet). Automatizált audit eszközök használata, beleértve a policy-as-code megközelítéseket, megfelelőségi szabályok, kockázatértékelés szoftveres ellenőrzését és riportálásának automatizálását. Ipari esettanulmányok.
Átláthatóság és emberi felügyelet; mérsékelt kockázatú rendszerek. Felhasználói tájékoztatás, „explainable AI” megoldások és technikai, szoftveres beavatkozási lehetőségek bemutatása. Etikai irányelevek, esettanulmányok.
Generatív MI. Generatív MI-re vonatkozó új szabályozás és kihívások. Tartalomjelölés, szerzői jog, adatvédelem, kiberbiztonság. Ipari esettanulmányok.
Szektorspecifikus jogszabályok és az AI Act kapcsolata. Egészségügyi és pénzügyi területek, MI-alapú megoldások bemutatása. Ipari szabványok és az AI Act kapcsolata.
Adatvédelem. Kapcsolódási pontok az AI Act és a GDPR között: automatizált döntéshozatal, profilalkotás, privacy by design, pszeudoanonimizált, anonim és szintetikus adatok kérdésköre a tanítás során.
Kiberbiztonság. Kapcsolódási pontok az AI Act és a kiberbiztonsági követelmények között. A különböző kiberbiztonsági és MI-rendszert érintő incidensek megértése. IoT-eszközökbe ágyazott MI-rendszerek, NIS2 és CRA.
Hallgatói prezentációk. A kiválasztott alkalmazási esetek megfelelőségi és kockázatkezelési auditjának bemutatása, technikai és jogi szempontok alapján.
Előadás.
A félévközi jegy megszerzésnek feltételei a hatályos BME Tanulmányi és Vizsgaszabályzatával (TVSz) összhangban a következők:
Gyakorlati feladat: A félév közepén a gyakorlati feladat státuszáról beszámolót kell készíteni. A félév végén a gyakorlati projektmunka eredményét be kell mutatni. A gyakorlati feladatra érdemjegyet kapnak.
Gyakorlati feladat példák: A hallgatóknak technikai és jogi szempontokat egyaránt figyelembe véve a megfelelést elő kell készíteniük, és el kell végezniük a kockázatkezelési auditot a kiválasztott alkalmazási esetre vonatkozóan.
Gyakorlati feladat: A projekt-feladat beadására az erre kijelölt pótlási időpontban (a szorgalmi időszakban vagy a pótlási héten) van lehetőség.
Igény esetén, előzetes egyeztetés alapján.
Mezei Kitti: Az AI Act compliance kihívásai. In: Mezei Kitti (szerk.): Kockázatok és lehetőségek a mesterséges intelligencia jogi szabályozásában. Budapest, Wolters Kluwer (2025)
Eszteri, Dániel: Az automatizált döntéshozatal és profilalkotás (nem csak) adatvédelmi kockázatai In: Mezei Kitti (szerk.): Kockázatok és lehetőségek a mesterséges intelligencia jogi szabályozásában. Budapest, Wolters Kluwer (2025)
Schuett, J., 2024. Risk management in the artificial intelligence act. European Journal of Risk Regulation, 15.
Enqvist, L., 2023. ‘Human oversight’ in the EU artificial intelligence act: what, when and by whom? Law, Innovation and Technology, 15(2).
Gamito, M.C. & Marsden, C.T., 2024. Artificial intelligence co-regulation? The role of standards in the EU AI Act. International Journal of Law and Information Technology, 2024(1).
Novelli, C., Casolari, F., Hacker, P., Spedicato, G., & Floridi, L., 2024. Generative AI in EU law: Liability, privacy, intellectual property, and cybersecurity. Computer Law & Security Review
NIST: Control Overlays for Securing AI systems, 2025.
