Elfogadták a mesterséges intelligenciáról szóló jogszabályt

2024. március 13-án elfogadásra került Az Európai Parlament és a Tanács rendelete a mesterséges intelligenciára vonatkozó harmonizált szabályok megállapításáról és egyes Uniós jogalkotási aktusok módosításáról szóló javaslat (továbbiakban: A mesterséges intelligenciáról szóló jogszabály vagy AI Act). Az AI Act célkitűzései közt szerepel az Unióban forgalomba hozott és használt MI-rendszerek biztonságosabbá tétele, az alapvető jogok az uniós értékek és a jogbiztonság védelme, a mesterséges intelligenciával kapcsolatos innováció, valamint az egységes piac támogatása. Az AI Act normaszövege alapvetően aszerint kategorizálja a szabályozni kívánt mesterséges intelligenciákat, hogy mekkora kockázattal járna forgalomba hozataluk, használatuk. Ennek megfelelően beszélhetünk tiltott mesterségesintelligencia-gyakorlatokról, nagy kockázatú MI-rendszerekről, valamint alacsony kockázatú MI-rendszerektől.

Tiltott mesterségesintelligencia-gyakorlatok

A tiltott mesterségesintelligencia-gyakorlatok közt olyan műveleteket szabályoz a mesterséges intelligenciáról szóló jogszabály, melyek kirívóan nagy kockázattal járnak a természetes személyek alapvető jogaira gyakorolt hatás tekintetében. Az AI Act tiltott mesterségesintelligencia-gyakorlatként nevesíti:

1. a lényegesen magatartást torzító, káros szubliminális (nem észlelhető) technikák alkalmazását;
2. egy bizonyos sebezhető tulajdonsággal (fogyatékosság, szociális vagy gazdasági helyzet) rendelkező személy, ezen tulajdonságának kihasználásával történő magatartást torzító, káros technikákat;
3. hátrányos következményekkel járó természetes személyeket osztályozó, szociális pontozó rendszereket;
4. arcképek internetről vagy zártláncú televízió-felvételekből való, nem célzott lekérdezésével arcfelismerő adatbázisokat létrehozó vagy bővítő rendszereket;
5. a munkahelyek és az oktatási intézmények területén természetes személyek érzelmeiből következtetést levonó MI-rendszerek használatát (kivéve amennyiben az MI-rendszer használata, üzembe helyezése vagy forgalomba hozatala orvosi vagy biztonsági okokból történik);
6. biometrikus kategorizáló rendszereket;
7. „valós idejű távoli biometrikus azonosító rendszerek használata a nyilvánosság számára hozzáférhető helyeken bűnüldözési célokból” (ezen pont alól kivételt képezhetnek bizonyos indokolt esetek pl.: „eltűnt gyermekek felkutatása, természetes személyek életét vagy fizikai biztonságát fenyegető konkrét, jelentős és közvetlen veszély, terrortámadás megelőzése”) [1]

Nagy kockázatú MI-rendszerek

Az AI Act tételes felsorolásban rögzíti azokat a területeket, melyek esetében a mesterségesintelligencia alkalmazása magas kockázattal járhat. Ezek a területek a következők:

1. „Természetes személyek biometrikus azonosítása és kategorizálása;
2. A kritikus infrastruktúra irányítása és működtetése (közúti forgalom, víz-, gáz-, fűtési és villamosenergia-szolgáltatás során biztonsági alkatrészként használt MI-rendszerek);
3. Oktatás és szakképzés (természetes személyek oktatási és szakképzési intézményekhez való hozzáférésének vagy hozzárendelésének meghatározására szolgáló MI-rendszerek; hallgatók értékelése)
4. Foglalkoztatás, a munkavállalók irányítása és az önfoglalkoztatáshoz való hozzáférés;
5. Az alapvető magánszolgáltatásokhoz, valamint a közszolgáltatásokhoz és előnyökhöz való hozzáférés és ezek igénybevétele (állami segítségnyújtási ellátásokhoz való jogosultság értékelése, hitelképesség értékelés, tűzoltókat, orvosokat kiküldő rendszerek)
6. Bűnüldözés (kockázatértékelés, poligráf, deepfake felderítése stb.);
7. Migráció, menekültügy és határellenőrzés (kockázatértékelés, poligráf, útiokmány ellenőrzés, vízumkérelmek stb.);
8. Igazságszolgáltatás és demokratikus folyamatok (jog konkrét tényállásra történő alkalmazása)”[2]

Továbbá nagy kockázatúnak tekintendő az az MI-rendszer is, mely „a I. mellékletben felsorolt uniós harmonizációs jogszabályok hatálya alá tartozó termék biztonsági alkatrészeként vagy önmagában ilyen termékként kívánják használni és a termék forgalomba hozatala vagy üzembe helyezése céljából megfelelőségértékelésnek kell alávetni.”

A nagy kockázatú MI-rendszerekre vonatkozó követelmények, valamint szolgáltatóira, felhasználóira és más felekre vonatkozó kötelezettségek az AI Act alapján

Amennyiben egy MI-rendszer magas kockázatú rendszernek minősül az AI Act szabályrendszerének megfelelő, jogszerű működés érdekében elengedhetetlen, hogy a rendeletben meghatározott követelményeknek eleget tegyen.  A nagy kockázatú MI-rendszerekkel kapcsolatban megállapított követelmények közé sorolandó a kockázatkezelési rendszer bevezetése; megfelelő adatkormányzási és adatgazdálkodási gyakorlatok kialakítása; műszaki dokumentáció és nyilvántartás vezetése; átláthatósági kritériumok; az MI-rendszerek természetes személy általi felügyeletének garantálása; illetve a pontos és stabil működés, valamint kielégítő kiberbiztonsági szint biztosítása. [3]

A nagy kockázatú MI-rendszerek szolgáltatóinak továbbá rendszereik forgalomba hozatala vagy üzembe helyezése előtt alá kell vetniük egy megfelelőségértékelési eljárásnak; minőségirányítási rendszert kell működtetniük; nyilvántartást és naplót kell vezetniük; eleget kell tenniük tájékoztatási kötelezettségüknek; jogszerűtlen működés esetén haladéktalanul, valamely korrekciós intézkedést kell eszközölniük; valamint szükségszerűen együtt kell működniük az illetékes hatóságokkal. A mesterséges intelligenciáról szóló jogszabály emellett további kötelezettségeket állapított meg termékgyártók, a meghatalmazott képviselők, az importőrök, valamint a felhasználók esetében is. [4]

Alacsony kockázatú MI-rendszerek

Az Alacsony kockázatú MI-rendszerekkel szemben támasztott kritérium mindössze annyi, hogy a felhasználók tisztában legyenek azzal, hogy egy mesterségesintelligencia által vezérelt rendszerrel kerültek interakcióba. Azonban a biztonságos működés érdekében a szolgáltatók önkéntes alapon vállalhatják a tevékenységük szerint rájuk irányadó iparágban bevett magatartási kódex elfogadását. [5]

Szankciók:

Az esetleges jogsértő magatartás esetén, A mesterséges intelligenciáról szóló jogszabály pénzbírság kiszabását helyezi kilátásba. A bírság súlya szerint alapvetően három kategóriáról beszélhetünk.

A legmagasabb bírságkategória alkalmazására, abban az esetben kerül sor, amennyiben az elkövető nem tartózkodik az 5. cikk szerint tiltott MI-gyakorlatoktól. Ebben az esetben „35 000 000 EUR összegű, vagy ha az elkövető vállalkozás, az előző pénzügyi év teljes globális éves árbevételének legfeljebb 7 %-át kitevő összegű közigazgatási bírsággal sújtandó, a kettő közül a magasabb összegűt figyelembe véve.”

Az AI Act további normáinak sérelme enyhébben minősül, ugyanis azok sérelme esetén „legfeljebb 15 000 000 EUR összegű, vagy ha az elkövető vállalkozás, az előző pénzügyi év teljes globális éves árbevételének legfeljebb 3 %-át kitevő összegű közigazgatási bírsággal sújtandó, a kettő közül a magasabb összegűt figyelembe véve.”

A harmadik bírságkategória alkalmazása, akkor válik szükségessé, ha „a bejelentett szervezetek vagy az illetékes nemzeti hatóságok kérésére válaszul helytelen, hiányos vagy félrevezető információ szolgáltatása történik. Ebben az esetben legfeljebb 7 500 000 EUR összegű, vagy ha az elkövető vállalkozás, az előző pénzügyi év teljes globális éves árbevételének legfeljebb 1 %-át kitevő összegű közigazgatási bírsággal sújtandó, a kettő közül a magasabb összegűt figyelembe véve.”[6]

Hatálybalépés:

Az AI Act az Európai Unió Hivatalos Lapjában való kihirdetését követő huszadik napon lépett hatályba, azonban általános jelleggel a hatálybalépést követő 24 hónappal később alkalmazandó. Kivételt képeznek ez alól a rendelet I. és a II. fejezetei, a III. fejezet egyes rendelkezései, illetve a 6. cikk (1) bekezdése, ugyanis ezek az előírások sorrendben a hatálybalépést követő 6-, 12-, 36 hónaptól alkalmazandóak. [7]

Javaslat:

A jogkövető magatartás elősegítése érdekében a Bizottság a hatálybalépést követő 18 hónapon belül ki fog bocsátani egy iránymutatást, azonban tekintettel arra, hogy 24 hónap múlva alkalmazandóvá válik a rendelet, az iránymutatásra várakozni kockázatos lehet. Amennyiben úgy véli, hogy tevékenysége az AI Act szabályozási tárgykörébe tartozik javaslom, hogy minél hamarabb vegye fel a kapcsolatot egy tanácsadóval, szakemberrel a jogszerű gyakorlat kialakítása érdekében. [8]

2024.04.27.

Dr. Miklós Péter adatvédelmi ügyvéd
Baffia Dániel jogi munkatárs

Amennyiben adatvédelem területén adatvédelmi jogász segítségére van szüksége, vegye fel velünk a kapcsolatot elérhetőségeink egyikén:
Telefon: +36 30 648 5521
E-mail: dmp@dmp.hu

[1] AI Act – II. Fejezet Tiltott mesterségesintelligencia-gyakorlatok 5. cikk
[2] AI Act – III. Fejezet NAGY KOCKÁZATÚ MI-RENDSZEREK 1. szakasz MI-RENDSZEREK NAGY KOCKÁZATÚKÉNT VALÓ BESOROLÁSA 6. cikk A nagy kockázatú MI-rendszerekre vonatkozó besorolási szabályok (2) à III. MELLÉKLET A 6. cikk (2) bekezdésében említett nagy kockázatú MI-rendszerek
[3] AI Act – 2. fejezet A nagy kockázatú MI-rendszerekre vonatkozó követelmények
[4] AI Act – 3. szakasz A nagy kockázatú MI-rendszerek szolgáltatóira és alkalmazóira, valamint más felekre vonatkozó kötelezettségek
[5] https://www.linkedin.com/posts/victoriabeckman_victoria-beckman-eu-ai-act-chart-iapp-ugcPost-7174144488536182785-qoJS?utm_source=share&utm_medium=member_ios
[6] AI Act – XII. FEJEZET SZANKCIÓK 99. cikk
[7] AI Act – 113. cikk Hatálybalépés és alkalmazás
[8] https://www.linkedin.com/posts/axel-anderl-86365a1_ai-act-walk-trough-dorda-ugcPost-7174386121542430720-lKVD?utm_source=share&utm_medium=member_ios