A modern technológia fejlődése, különösen a mesterséges intelligencia terén, új dimenziókat nyitott meg a mindennapi életben használt eszközök, mint például a robotporszívók, működésében. Az iRobot cég által gyártott Roomba robotporszívók fejlett mesterséges intelligenciával működő gépek, amelyek folyamatosan adatokat gyűjtenek és elemzik a környezetüket. A robotok működését vezérlő mesterséges intelligencia algoritmusoknak, jelentős mennyiségű információra van szükségük ahhoz, hogy a robotok hatékonyan végezzék a takarítást, és optimalizálják a működésüket. Az adatgyűjtés során a porszívók képeket készítenek, amit aztán elküldenek egy cégnek, aki a mesterséges intelligencia fejlesztése céljából feldolgozza azokat. Egy pár ilyen – köztük pár intimebb – kép emberi hiba miatt szivárgott ki és látott napvilágot egy venezuelai bérmunkás fórumon.
A robotporszívók által gyűjtött adatok között megtalálhatók a háztartások elrendezésére, a padló típusára, valamint a takarítási szokásokra vonatkozó információk. A problémát az jelenti, hogy ezen adatok gyűjtése és tárolása komoly adatvédelmi aggályokat vet fel. De ahhoz, hogy ezek az adatok hasznosak legyenek a mesterséges intelligencia számára, azt egyes embereknek először meg kell nézniük, kategorizálniuk, címkézniük kell és egyéb módon kontextust kell adniuk az adatok minden egyes elemének. Ezt a folyamatot adat „címkézésnek” nevezik. Ilyenkor egyes adatokhoz megjegyzéseket fűznek, ami könnyebbé teszi később a gépek tanulását.
A cég nyilatkozata szerint mindegyik robotporszívó egy speciális fejlesztésű robot volt, amely hardver- és szoftvermódosításokkal rendelkezett, és amely soha nem volt jelen az iRobot fogyasztói termékei között. Ezeket többek közt alkalmazottaknak adták el, akik egy megállapodást írtak alá, elismerve, hogy fényképeket és videót is, visszaküldenek a cégnek a mesterséges intelligencia képzése céljából. Az iRobot szerint a készülékeket egy fényes zöld matricával látták el, amelyen az állt: „videófelvétel folyamatban”, és az alkalmazottaknak, akiknek volt ilyen porszívójuk, lehetőségük volt, hogy eltávolítsák mindazt, amit érzékenynek tartanak. Az iRobot nem engedte a betekintést a hozzájárulási megállapodásokba és az alkalmazottainak sem engedte, hogy erről bárkivel információkat osszanak meg.
AI Act alapelvek
Az olyan adatok kezelésénél, ahol a mesterséges intelligencia is szerepet játszik, fontos, hogy betartsuk a nemrég elfogadott AI Act alapelveit. Fontos alapelv a méltányosság, azaz a mesterséges intelligencia rendszerek fejlesztésének és használatának méltányosnak kell lenniük. Emellett elengedhetetlen a magyarázhatóság és átláthatóság, vagyis, hogy a mesterséges intelligencia rendszerek nyomon követhetők és döntéseik megmagyarázhatóak legyenek. Nem felejthető el a megfelelő tájékoztatás sem, azaz a felhasználó tudomására kell juttatni, ha MI rendszerrel kerül kapcsolatba és az miként működik, hiszen joga van tudni, hogy milyen adatokat gyűjtenek róla, valamint joga van ezekhez az adatokhoz hozzáférni, azokat módosítani vagy töröltetni.
Az EU AI Act meghatároz ezeken kívül alapelvi szintű követelményeket. Nagy jelentősége van például az emberi felügyeletnek és a biztonságos adatkezelésnek. Jelen esetben a képek valószínűleg emberi hiba miatt szivárogtak ki, de az adatok gyűjtése eleve kifogásolható keretek között és módon történt.
Az AI értéklánc tagjainak felelőssége
Tekintettel az MI-rendszerek értékláncának jellegére és összetettségére, valamint összhangban az új jogszabályi kerettel, alapvető fontosságú a jogbiztonság garantálása és az e rendeletnek való megfelelés megkönnyítése. Ezért egyértelművé kell tenni az említett értéklánc mentén a releváns gazdasági szereplők – így például az MI-rendszerek fejlesztéséhez esetlegesen hozzájáruló alkalmazók és forgalmazók – szerepét és konkrét kötelezettségeit.
Az értéklánc a szolgáltatóval kezdődik, aki olyan természetes vagy jogi személy, hatóság, ügynökség vagy egyéb szerv, aki vagy amely MI-rendszert vagy általános célú MI-modellt fejleszt vagy fejleszttet, és a saját neve vagy védjegye alatt – akár fizetés ellenében, akár ingyenesen – az MI-rendszert vagy az általános célú MI-modellt forgalomba hozza, vagy az MI-rendszert üzembe helyezi.
A szolgáltatón túl AI Act értelmében gazdasági szereplőnek minősül a termékgyártó, az alkalmazó, a meghatalmazott képviselő, az importőr vagy a forgalmazó.
Az AI Act a nagy kockázatú MI-rendszer szolgáltatójának állapít meg kötelezettségeket a 16. cikk értelmében, de a forgalmazó, importőr, alkalmazó vagy egyéb harmadik fél csak akkor számít szolgáltatónak a törvény 25. cikke szerint, ha:
– nevüket vagy védjegyüket egy már forgalomba hozott vagy üzembe helyezett, nagy kockázatú MI-rendszeren helyezik el, olyan szerződéses megállapodások sérelme nélkül, amelyek a kötelezettségek másképp történő megosztását írják elő;
– jelentős módosítást hajtanak végre egy már forgalomba hozott vagy már üzembe helyezett nagy kockázatú MI-rendszeren oly módon, hogy az a 6. cikkel összhangban továbbra is nagy kockázatú MI-rendszer marad;
– jelentősen módosítják egy olyan MI-rendszer rendeltetését, beleértve az általános célú MI-rendszereket is, amelyet nem minősítettek nagy kockázatúnak, és amelyet már forgalomba hoztak vagy üzembe helyeztek, oly módon, hogy az érintett MI-rendszer a 6. cikkel összhangban nagy kockázatú MI-rendszerré válik.
A 16. cikknek való megfelelés magában foglalja többek között a műszaki dokumentáció, nyilvántartás, EU-megfelelőségi nyilatkozat készítését, az alkalmazóknak nyújtott tájékoztatást, valamint a nagy kockázatú MI-rendszereik által automatikusan generált naplók megőrzését.
Ezeken kívül a törvény 60. cikk (9) bekezdése szerint a szolgáltató felelősséggel tartozik a valós körülmények közötti tesztelés során okozott károkért. A valós körülmények közötti tesztelés egy MI-rendszernek a rendeltetése tekintetében – valós körülmények között laboratóriumon vagy más szimulált környezeten kívül – végzett ideiglenes tesztelése. A cégnek ezen bekezdés alapján kell felelnie a robotporszívók által lefotózott személyek káraiért.
Forgalmazó egyéb felelőssége
A forgalmazóknak biztosítaniuk kell, hogy mindaddig, amíg ők felelnek a nagy kockázatú MI-rendszerért, adott esetben a tárolási vagy szállítási feltételek ne veszélyeztessék a rendszer 2. szakaszban foglalt követelményeknek való megfelelőségét.
Termékgyártó felelőssége
Termékgyártó, aki a termékével együtt MI-rendszert hoz forgalomba vagy helyez üzembe a saját neve vagy védjegye alatt. A termék gyártóját kell a nagy kockázatú MI-rendszer szolgáltatójának tekinteni, és meg kell felelnie a szolgáltató AI Act szerinti kötelezettségeinek, ha a nagy kockázatú MI-rendszert a termékkel együtt, a termék gyártójának neve vagy védjegye alatt hozzák forgalomba vagy a nagy kockázatú MI-rendszert a termék gyártójának neve vagy védjegye alatt helyezik üzembe a termék forgalomba hozatalát követően.
Összegzés
Ha mesterséges intelligenciával szeretnénk dolgozni, érdemes elővigyázatosnak lenni annak érdekében, hogy megfeleljünk a jogszabályi előírásoknak és védjük a felhasználói adatokat. Ide tartozik az adatok anonimizálása, titkosítása és a megfelelő tárolási módok alkalmazása. Emellett mindig figyeljünk az AI Act-ben szereplő alapelvek és a felmerülő kötelezettségek betartására. Az ilyen intézkedések révén csökkenthetjük az adatokkal kapcsolatos kockázatokat. A mesterséges intelligencia fejlődése lehetőséget teremt a felhasználói élmény javítására, de ezzel párhuzamosan komoly felelősséget is ró a gazdasági szereplőkre az adatok biztonságos kezelése és a felhasználói jogok védelme terén.
A cikk Eileen Guo cikke alapján készült:
Amennyiben adatvédelem területén adatvédelmi jogász segítségére van szüksége, vegye fel velünk a kapcsolatot elérhetőségeink egyikén:
Telefon: +36 30 648 5521
E-mail: dmp@dmp.hu
