Nagyító alatt a február elejétől hatályos „AI Act”, avagy az európai unió mesterséges intelligencia (MI) rendelete

Az MKIK Digitalizációs Kollégiuma cikksorozatot indít, hogy a vállalkozásokat is érintő aktuális digitalizációs témák, jogszabályok, kötelezettségek hátterét megvilágítsa és közérthetővé tegye.

Február 2-án életbe lépett az Európai Unió új mesterséges intelligencia-rendelete, az AI Act, amely meghatározza, hogy milyen feltételekkel fejleszthetők és használhatók az MI-rendszerek Európában. A jogalkotókat kettős cél vezérelte: egyrészt biztonságosabbá és átláthatóbbá tenni a technológiát, másrészt támogatni az innovációt, illetve mérsékelni különösen a mikro-, kis- és középvállalkozások (kkv-k) adminisztratív és pénzügyi terheit.  Hazánk legnagyobb vállalkozói közösségét összefogó ernyőszervezet, a Magyar Kereskedelmi és Iparkamara képviseletében Dr. Balog Ádám, az MKIK alelnöke és az AI Koalíció elnökségi tagja is megszólalt, aki rámutatott az Európai Unió és az Egyesült Államok mesterséges intelligenciára vonatkozó szabályozásának eltéréseire, valamint azok gazdasági és innovációs hatásaira.

A digitalizáció, – amelynek szerves része a mesterséges intelligencia is – egyre inkább átszővi mindennapjainkat, a magán- és üzleti élettől kezdve az egészségügyön át a pénzügyi szektorig. A vállalkozások számára elengedhetetlen a különféle digitális eszközök, rendszerek alkalmazása a hatékonyságuk növeléséhez, valamint a versenyképességük fejlesztéséhez és megőrzéséhez. Fontos ugyanakkor a tudatos és körültekintő MI-használat a személyes és céges adatok védelme érdekében. Célszerű elkerülni a bizalmas dokumentumok feltöltését ezekre a felületekre, illetve, ha mégis szükséges, érdemes biztonságos MI-alkalmazásokat igénybe venni és mindig ellenőrizni az információk hitelességét. Ehhez ma már számos ingyenes és megbízható rendszer áll rendelkezésre az interneten.

Az új rendelettel kapcsolatos legfontosabb tudnivalókat és a bonyolultnak tűnő szabályozási kereteket Dr. Szakolyi András szakjogász ismerteti egy rövid és lényegre törő cikksorozat keretében, valamint bemutat néhány praktikus MI-megoldást is, amellyel könnyebbé, biztonságosabbá tehető a mindennapi élet és a munkafolyamatok.

Mindenekelőtt érdemes tisztázni, hogy mi is az MI-rendszer?

Az AI Act szerint az MI-rendszer egy olyan gépi alapú technológia, amely különböző szinteken képes önállóan működni, a bevezetése után alkalmazkodik a környezetéhez, és a kapott adatok alapján elemzéseket, ajánlásokat, döntéseket vagy előrejelzéseket készít. Ezek az eredmények hatással lehetnek a valós vagy a digitális világra, például automatizált javaslatok, tartalomkészítés vagy üzleti döntéstámogatás formájában.

Az MI-rendszerek közül talán a legismertebbek azok a chatbot technológiára épülő megoldások vagy virtuális asszisztensek (pl. ChatGPT, Claude, Deepseek, Google Gemini), amelyek megértik a kérdéseket és válaszokat is generálnak, de ugyanúgy az MI-rendszerek kategóriájába tartoznak például a bankok által használt pénzügyi csalásfigyelő rendszerek vagy algoritmusok, amelyek gyanús tranzakciókat észlelnek és jelentenek, valamint azok az egészségügyben alkalmazott programok, amelyek röntgenfelvételek vagy laboreredmények alapján segítenek felismerni a  betegségeket.

Ezek a rendszerek tehát nemcsak adatokat dolgoznak fel, hanem képesek tanulni, döntéseket hozni és bizonyos mértékig önállóan működni, ezért MI-rendszernek minősülnek, így az AI Act hatálya alá tartoznak.

Az MI-rendszer fogalmának értelmezését segíti az Európai Bizottság 2025. február 6-án közzétett iránymutatása. Ebben a „mesterséges intelligencia rendszert” olyan gépi alapú entitásként határozzák meg, amely autonómiával, alkalmazkodóképességgel és olyan következtetések levonására és kimenetek, például előrejelzések vagy döntések előállítására képes, amelyek hatással vannak a fizikai vagy virtuális környezetre.

 A meghatározás hét fő összetevőt tartalmaz:

    •  Gépi alapú rendszer, olyan hardver- és szoftverkomponensekből áll, amelyek számítástechnikai műveleteken alapulnak.

    •  Autonómia, az MI-rendszerek bizonyos fokú függetlenséggel működhetnek, emberi beavatkozás nélkül is képesek lehetnek következtetéseket levonni.

    •  Adaptivitás, az MI-rendszer tanulási képességekkel rendelkezhet, és működése során változtathatja viselkedését, bár az adaptivitás nem feltétlenül szükséges minden esetben.

    •  Célok (explicit vagy implicit), az MI-rendszerek céljai lehetnek előre meghatározottak vagy a környezettel való interakció során kialakulók.

    •  Következtetések levonása (inferencia), az MI-rendszerek egyik fő ismérve, hogy képesek következtetéseket levonni a bemeneti adatokból, például gépi tanulási technikákkal (felügyelt, felügyelet nélküli, mélytanulás stb.).

    •  Kimenetek, amelyek befolyásolják a fizikai vagy virtuális környezetet, azaz az MI-rendszerek előrejelzéseket, tartalmakat, ajánlásokat és döntéseket hozhatnak, amelyek komplex összefüggéseket kezelnek.

    • Környezeti interakció, az MI-rendszereknek mérhető hatással kell lenniük arra a környezetre, amelyben működnek.

Mit jelent pontosan ez az új, hazánkban is érvényes szabályozás?

Az AI Act, az a jogi keretrendszer az MI területén, mint ami a GDPR (Általános Adatvédelmi Rendelet) a személyes adatok kezelése és védelme szempontjából.

Az EU mesterséges intelligenciára vonatkozó jogszabályának célja egyrészt a belső piac működésének javítása és a megbízható AI-rendszerek elterjedésének támogatása, másrészt a személyes adatok védelme és az alapvető jogok biztosítása a káros hatások kiküszöbölésével.

A rendelet biztonságosabbá, átláthatóbbá és etikusabbá kívánja tenni az MI fejlesztését és alkalmazását az EU-ban, miközben ösztönzi az innovációt. Kiemelten foglalkozik a magas kockázatú rendszerekkel, hogy azok ne veszélyeztessék az emberek jogait és biztonságát. Az átláthatóság azért fontos kitétel, hogy a felhasználók értsék, miként működnek ezek a technológiák.

Az AI Act nem akadályozza a fejlődést, hanem egyensúlyt teremt a technológiai haladás és a társadalmi felelősség között, hogy a mesterséges intelligencia gyakorlata összhangban maradjon az európai értékekkel és normákkal.

Dr. Balog Ádám, az AI koalíció elnökségi tagja szerint markáns különbség látható az Egyesült Államok és az Európai Unió AI-szabályozási megközelítése között. Bár mindkét fél elismeri a mesterséges intelligencia jelentőségét, szabályozási filozófiájuk jelentősen eltér. Az USA álláspontja szerint a technológia jelenlegi fejlettségi szintjén a túlzott szabályozás visszavetheti az innovációt. Ezzel szemben az EU már most lefekteti az AI Act keretrendszerét, amely szigorú határokat szab a fejlesztéseknek. Balog szerint mindkét iránynak vannak előnyei, amelyekre érdemes építeni. Véleménye alapján kiegyensúlyozottabb megközelítésre van szükség, amely figyelembe veszi a helyi technológiai érettség sajátosságait, ugyanakkor erősen ösztönzi az innovációt.

Így tehát a vállalkozásoknak érdemes kihasználni a mesterséges intelligencia nyújtotta lehetőségeket, mindezt azonban egyértelmű iránymutatások meghatározásával, hogy a munkavállalók számára is érthető legyen az, hogy milyen esetekben és melyik MI-rendszert alkalmazhatják a szervezeten belül, hogy az ne legyen kockázatos a vállalkozás számára.

Mi minősül tiltott MI-rendszernek, illetve milyen egyéb kockázati besorolásokat tartalmaz a rendelet?

A jogszabály különböző kockázati szintek szerint szabályozza az MI-alkalmazásokat. A magas kockázatú rendszerekre szigorúbb követelmények vonatkoznak, míg az alacsonyabb kockázatú alkalmazásokra enyhébb szabályozás érvényes.

Tiltott alkalmazásoknak számítanak azok a mesterséges intelligencia alkalmazások (fejlesztése, forgalmazása, használata egyaránt), amelyek sérthetik az állampolgárok jogait. Ide tartoznak azok az MI-rendszerek, amelyek tudatosan nem észlelhető technikákat, algoritmusokat használnak, illetve célzottan manipulatív vagy megtévesztő gyakorlatot alkalmaznak, mely által tudattalan hatást gyakorolnak az emberek döntéseire vagy viselkedésére. Szintén ebbe a kategóriába sorolhatjuk azokat az MI-rendszereket, amelyeket az emberek csak tudat alatt érzékelnek (vizuális vagy hangjelek), vagy azok az okos rendszerek, amelyek érzelmi függőséget alakíthatnak ki, és ezzel jelentős kárt okoznak a felhasználónak. Ilyen tiltott MI-rendszer az a gyerekeknek szánt MI-játék is, amely jutalmazási mechanizmusokat használ arra, hogy veszélyes viselkedésre ‒ például magas helyekre mászásra vagy éles tárgyak kezelésére ‒ ösztönözze őket. Ez a fajta manipuláció nemcsak etikátlan, hanem veszélyes is.  Már meg is vannak az első konkrét példák az AI Act által tiltott mesterséges intelligencia-gyakorlatokra. A holland adatvédelmi hatóság olyan AI-alapú chatbotokat azonosított, amelyek mentális egészségre veszélyesek lehetnek, félrevezető információkat nyújthatnak és függőséget okozó elemeket tartalmazhatnak. További részletek a témában az infoter.eu oldalán olvashatók.

A rendelet alapján ugyanúgy tiltott az érzékeny, személyes adatokon alapuló biometrikus kategorizálás vagy az arcfelismerő adatbázisok létrehozása olyan arcképek felhasználásával, amelyeket az internetről vagy egyéb biztonságra szolgáló kamerarendszerek (megfigyelési célokra parkokban, üzletekben, nyilvános helyeken elhelyezett rendszerek) felvételeiből nem célirányosan válogatnak le. Kivételt képezhet ez alól, ha az arcfelismerést például eltűnt személyek keresésére vagy terrorista támadások megelőzésére használják, de ezekben az esetekben is szigorú feltételeknek és engedélyeknek kell megfelelni.

Tilos lesz továbbá a munkahelyen és az iskolákban gépi érzelemfelismerő rendszereket alkalmazni. Az érzelemfelismerő rendszerek potenciálisan sérthetik az emberek magánélethez való jogát, és diszkriminációhoz vezethetnek. Például egy AI-rendszer, amely a munkahelyen a dolgozók "boldogságát" vagy "stressz-szintjét" figyeli, tiltott gyakorlatnak számít, mivel ez aránytalan beavatkozás az egyének magánéletébe. Hazánkban is volt példa hasonló technológia alkalmazására. A Budapest Banknál érzelemfelismerő rendszert használtak a panaszkezelési folyamat során, melynek célja az volt, hogy az MI segítségével felismerjék az ügyfelek érzelmi állapotát. A cél az volt, hogy javítsák az ügyfélkezelést, de az ilyen technológia adatvédelmi problémákat okozott, mivel az emberek érzelmeinek folyamatos követése sértheti a személyes adatok védelmét. Az érzelemfelismerő rendszer alkalmazása rekordösszegű adatvédelmi bírságot eredményezett a bank számára.

Nem lehet pontozni az állampolgárokat kockázati profiljuk vagy társadalmi hovatartozásuk alapján. Az AI Act megakadályozza az úgynevezett „társadalmi pontozási” rendszerek használatát, amelyek az embereket szociális viselkedésük vagy személyes jellemzőik alapján értékelik és osztályozzák, majd ezeket az értékeléseket arra használják, hogy kedvezőtlen bánásmódban részesítsenek valakit. Egy ilyen rendszer példája lehet egy hitelminősítő rendszer, amely valakinek a politikai nézetei vagy vallási meggyőződése alapján dönt arról, hogy jogosult-e hitelre.

A fentieken túl az EU-ban tilos az AI-alapú bűnmegelőzés alkalmazása kizárólag profilozás alapján, azaz az olyan AI-rendszerek alkalmazása, amelyek kizárólag profilozás vagy személyiségjegyek alapján próbálják „megjósolni”, hogy egy személy elkövet-e bűncselekményt. Az AI Act kimondja, hogy az embereket nem lehet kizárólag statisztikai elemzések vagy múltbeli adatok alapján bűnözőként kezelni.

A cikksorozat folytatásában hátra van az egyéb ‒ magas, korlátozott, minimális kockázatba tartozó ‒ kategóriák ismertetése, illetve az is kiderül, hogy milyen kockázattal jár a sokak által kedvelt és rutinosan használt ChatGPT, továbbá, hogy melyik MI használata minősülhet szabályszegésnek a vállalkozás szempontjából?