A mesterséges intelligencia gyakorlatilag megkerülhetetlenné vált az irodai környezetben dolgozók számára. Felismerve ezen egyre fejlettebb technológiák egyre szélesebb körű alkalmazását és a mesterséges intelligencia használatának potenciális kockázatait, az uniós jogalkotó nem késlekedhetett tovább a jogszabály bevezetésével. A hosszadalmas jogalkotási folyamat eredménye, hogy mesterséges intelligenciáról szóló jogszabály (továbbiakban: AI Act, vagy EU AI Act) 2024. augusztus 1-jén lépett hatályba. Ebben a cikkben az AI-Acttel kapcsolatos 5 legfontosabb kérdésre válaszolunk.
1. Mi a célja az AI Act-nek?
Az AI Act célja, hogy harmonizált jogi keretet határozzon meg a mesterséges intelligencia rendszerek fejlesztésére, forgalomba hozatalára, üzembe helyezésére és használatára az EU-ban.
A mesterséges intelligencia számos területen hatékonyabban és pontosabban képes feladatokat ellátni, mint az ember, ezért az AI-Act egyrészt támogató intézkedések meghatározásával kívánja támogatni az innovációt.
Másrészt a mesterséges intelligencia alkalmazása jelentős veszélyeket rejthet magában, mint például deepfake tartalmak, ezért az AI-Act az AI-rendszerek káros hatásai ellen kíván védelmet nyújtani az EU-ban, például tiltott AI-gyakorlatok meghatározásával vagy az átláthatósággal kapcsolatos kötelezettségek felállításával.
2. Kire vonatkozik az EU AI Act?
Az AI-Act az AI-rendszerek (bizonyos esetekben a GPAI modellek) szolgáltatóira, telepítőire, importőreire, forgalmazóira és termékgyártóira alkalmazandó, ha ők vagy termékük valamilyen módon kapcsolódik az uniós piachoz. Bizonyos esetekben az AI Act extraterritoriális hatállyal rendelkezik, ami azt jelenti, hogy olyan személyekre is alkalmazható, akiknek a letelepedési helye nem az EU-ban van.
Az alábbi táblázat bemutatja a mesterséges intelligencia rendszerek használatában részt vevő legfontosabb személyeket, és azt, hogy az EU AI Act mikor alkalmazandó rájuk:
| Definíció: | Mikor kell rá alkalmazni az AI-Act-et? | |
| szolgáltató | mesterséges intelligencia rendszert vagy GPAI modellt fejleszt, vagy fejleszt ki, és azt forgalomba hozza, vagy a mesterséges intelligencia rendszert saját neve vagy védjegye alatt üzembe helyezi. | ha mesterséges intelligencia rendszert hoz forgalomba vagy helyez üzembe, vagy GPAI-modelleket hoz forgalomba az EU-ban (függetlenül a letelepedés helyétől), vagy harmadik országbeli szolgáltatókat, ha a mesterséges intelligencia rendszer által előállított kimenetet az EU-ban használják fel |
| alkalmazó | saját hatáskörben mesterséges intelligencia rendszert használ | ha ez a telephely az EU-ban van, vagy
harmadik országbeli szolgáltatóknak, ha a mesterséges intelligencia rendszer által előállított kimenetet az EU-ban használják fel. |
| importőr | az Unióban tartózkodó vagy ott letelepedett természetes vagy jogi személy, aki vagy amely egy harmadik országban letelepedett természetes, vagy jogi személy nevével, vagy védjegyével ellátott MI-rendszert hoz forgalomba | alkalmazandó |
| forgalmazó | az a szolgáltatótól vagy importőrtől eltérő természetes, vagy jogi személy az ellátási láncban, aki vagy amely az uniós piacon MI-rendszert forgalmaz | alkalmazandó |
| termékgyártó | terméket gyárt, vagy terméket terveztet vagy gyártat, és azt saját neve vagy védjegye alatt forgalmazza | a letelepedés helyétől függetlenül, ha a termékével együtt, saját neve vagy védjegye alatt mesterséges intelligencia rendszert hoz forgalomba vagy helyez üzembe. |
Az AI Act azonban többek között nem vonatkozik a kizárólag katonai, védelmi vagy nemzetbiztonsági célokra használt mesterséges intelligencia rendszerekre, illetve a kifejezetten kizárólag tudományos kutatás és fejlesztés céljából kifejlesztett és üzembe helyezett mesterséges intelligencia rendszerekre.
3. Milyen típusú mesterséges intelligencia rendszerek léteznek?
Az EU AI Act kockázatalapú megközelítést alkalmaz, amelynek értelmében a szereplők kötelezettségei és felelősségei e kockázatokhoz igazodnak. A mesterséges intelligenciával kapcsolatos rendszerek a következő kategóriákba sorolhatók:
a. Tiltott mesterséges intelligencia gyakorlatok
Bizonyos mesterséges intelligencia rendszerek vagy a mesterséges intelligencia felhasználása ellentétes az uniós értékekkel, például az emberi méltóság tiszteletben tartásával és az olyan alapvető jogokkal, mint a megkülönböztetésmentességhez, az adatvédelemhez és a magánélethez való jog, ezért az AI Act tiltja őket.
A tiltott mesterséges intelligencia gyakorlatok közé tartoznak többek között a következők:
– Az olyan mesterséges intelligenciával működő rendszerek, amelyek olyan tudatalatti, célzottan manipulatív vagy megtévesztő technikákat alkalmaznak, amelyek célja vagy hatása a személyek viselkedésének lényeges torzítása, ami jelentős kárt okoz vagy valószínűleg jelentős kárt okoz nekik,
– a társadalmi pontozásra használt mesterséges intelligencia rendszerek,
– a természetes személy érzelmeire való következtetésre használt mesterséges intelligencia rendszerek a munkahelyi és oktatási intézmények területén,
– a személyes adatok különleges kategóriáin (pl. faj, politikai vélemény, szexuális irányultság) alapuló biometrikus kategorizáláshoz használt mesterséges intelligencia alapú rendszerek.
b. Magas kockázatú mesterséges intelligencia rendszerek
A magas kockázatú mesterséges intelligencia rendszerek potenciálisan nagy kockázatot jelenthetnek a természetes személyek jogaira és szabadságaira nézve, ezért szigorú kötelezettségek vonatkoznak rájuk. Az EU AI Act szerint két alkategóriát különböztetünk meg:
– a foglalkoztatás területén a munkavállalók felvételére vagy kiválasztására, illetve a munkavállalók teljesítményének és magatartásának nyomon követésére és értékelésére szánt mesterséges intelligencia alapú rendszerek;
– a természetes személyek hitelképességének értékelésére vagy hitelpontszámának megállapítására szánt mesterséges intelligencia rendszerek;
– az oktatás területén az oktatási intézményekbe való bejutás meghatározására vagy a diákok tesztek során tanúsított tiltott magatartásának nyomon követésére és felderítésére szánt mesterséges intelligencia alapú rendszerek.
Amennyiben egy technológia a fentiek alapján magas kockázatúnak tekinthető, de nem jelent jelentős kockázatot a természetes személyek egészségére, biztonságára vagy alapvető jogaira nézve, nem minősül magas kockázatúnak. Egy mesterséges intelligenciával működő rendszer akkor is magas kockázatúnak minősül, ha természetes személyek profilalkotását végzi.
A magas kockázatú mesterséges intelligencia rendszerek használatában érintett szolgáltatókat, telepítőket és egyéb feleket az AI Act alapján számos kötelezettség terheli.
c. Átláthatósági követelményekkel rendelkező rendszerek
Az AI Act további átláthatósági követelményeket ír elő egyes mesterséges intelligencia rendszerekre vonatkozóan, hogy a felhasználók vagy tartalomfogyasztók számára egyértelművé tegye, hogy mesterséges intelligenciát használnak.
Például a természetes személyekkel való közvetlen interakcióra szánt mesterséges intelligencia rendszerek (pl. chatbotok) esetében a szolgáltatóknak fel kell hívniuk a figyelmet arra, hogy mesterséges intelligencia rendszerrel lépnek kapcsolatba.
Ugyanez vonatkozik a mély hamisítással létrehozott tartalomra is, ebben az esetben a telepítőknek fel kell tüntetniük, hogy a tartalom mesterségesen generált vagy manipulált.
d. Általános célú mesterséges intelligencia modellek
Az általános célú mesterséges intelligenciamodell (GPAI) olyan mesterséges intelligenciamodell, amely jelentős általánosságot mutat, és a modell forgalomba hozatalának módjától függetlenül képes a különböző feladatok széles körének kompetens végrehajtására, és amely számos további felhasználói rendszerbe vagy alkalmazásba integrálható. Például a ChatGPT-t GPAI-nak kell tekinteni.
A GPAI-modellek szolgáltatóit bizonyos kötelezettségek terhelik, beleértve a technikai dokumentáció elkészítését vagy a GPAI-modell képzéséhez használt tartalomról szóló részletes összefoglaló elkészítését és hozzáférhetővé tételét. A szisztematikus kockázatot jelentő GPAI-modellek szolgáltatóit további kötelezettségek terhelik, például szabványosított modellértékelések elvégzése vagy megfelelő szintű kiberbiztonsági védelem biztosítása.
4. Mikor alkalmazandó az AI Act?
Az EU AI Act 2024. augusztus 1-jén lép hatályba, rendelkezései azonban az alábbi táblázatban bemutatott átmeneti időszakot követően lesznek alkalmazandók:
| Dátum | alkalmazandó rendelkezés |
| 2025.02.02. | általános rendelkezések a tiltott MI-gyakorlatokra vonatkozó fogalommeghatározásokat és kötelezettségeket kell alkalmazni |
| 2025.08.02. | a GPAI-modellekkel kapcsolatos különleges kötelezettségeket kell alkalmazni |
| 2026.08.02. | az AI Act (kivéve bizonyos rendelkezéseket) |
| 2027.08.02. | az EU harmonizációs jogszabályai szerint magas kockázatúnak minősülő mesterséges intelligencia rendszerekkel kapcsolatos kötelezettségeket kell alkalmazni. |
5. Milyen szankciókkal jár a szabályok be nem tartása?
Az AI Act szabályainak be nem tartása esetén magas szankciókat lehet megállapítani az alábbiak szerint:
A legmagasabb bírságkategória alkalmazására, abban az esetben kerül sor, amennyiben az elkövető nem tartózkodik az 5. cikk szerint tiltott MI-gyakorlatoktól. Ebben az esetben „35 000 000 EUR összegű, vagy ha az elkövető vállalkozás, az előző pénzügyi év teljes globális éves árbevételének legfeljebb 7 %-át kitevő összegű közigazgatási bírsággal sújtandó, a kettő közül a magasabb összegűt figyelembe véve.”
Az AI Act további normáinak sérelme enyhébben minősül, ugyanis azok sérelme esetén „legfeljebb 15 000 000 EUR összegű, vagy ha az elkövető vállalkozás, az előző pénzügyi év teljes globális éves árbevételének legfeljebb 3 %-át kitevő összegű közigazgatási bírsággal sújtandó, a kettő közül a magasabb összegűt figyelembe véve.”
A harmadik bírságkategória alkalmazása, akkor válik szükségessé, ha „a bejelentett szervezetek vagy az illetékes nemzeti hatóságok kérésére válaszul helytelen, hiányos vagy félrevezető információ szolgáltatása történik. Ebben az esetben legfeljebb 7 500 000 EUR összegű, vagy ha az elkövető vállalkozás, az előző pénzügyi év teljes globális éves árbevételének legfeljebb 1 %-át kitevő összegű közigazgatási bírsággal sújtandó, a kettő közül a magasabb összegűt figyelembe véve.”
A fentiek fényében a mesterséges intelligencia rendszereket nyújtó vagy használó piaci szereplőknek meg kell kezdeniük a felkészülést az EU AI Act-nek való megfelelés biztosítására.
Forrás:
https://www.lexology.com/library/detail.aspx?g=afec0983-8f10-4604-a50d-78092f9772c2
https://www.europarl.europa.eu/doceo/document/TA-9-2024-0138_HU.pdf
2024.08.02.
Dr. Miklós Péter
Baffia Dániel
Amennyiben adatvédelem területén adatvédelmi jogász segítségére van szüksége, vegye fel velünk a kapcsolatot elérhetőségeink egyikén:
Telefon: +36 30 648 5521
E-mail: dmp@dmp.hu
