Az Európai Bizottság közzétette a mesterséges intelligencia (MI) szabályozására vonatkozó tervét. A szabályozás célja, hogy egy olyan jól működő belső piac jöjjön létre, ahol mind a mesterséges intelligenciával járó előnyök (például növekvő technológia az orvosi ellátásban és az oktatásban), mind a kockázatok megfelelően kezelhetők legyenek. Az EU gyorsan szeretne reagálni a technológiai változásokra, miközben a felhasználók biztonságával és alapvető jogaival kapcsolatos jellemzőket kívánja fenntartani.

A Bizottság kockázatalapú megközelítést javasol, melyben négy kockázati szintet különböztet meg. Ezek között szerepelnek az elfogadhatatlan kockázatok, melyek károsak lehetnek a társadalomra. Ide tartoznak az alapvető jogokat sértő felhasználási területek, mint amilyen az egyes kormányok által felállított „pontozásos rendszer”, a gyermekek sebezhetőségének kihasználása például olyan hangasszisztenssel felszerelt játékokkal, amelyek veszélyes viselkedésre ösztökélhetik őket. Ezenkívül a távoli biometrikus azonosítási rendszerek használata – néhány kivételtől eltekintve – tilos. Kivételt képeznek:

  • bűncselekmény konkrét potenciális áldozatainak – köztük az eltűnt gyermekeknek – a célzott keresésére történő bűnüldözési célú felhasználása,
  • közvetlen terrortámadás-veszélyre adott válaszintézkedés, vagy
  • súlyos bűncselekmények elkövetőinek felderítése és azonosítása.

Az elfogadhatatlan kategóriáján belüli kockázatok alkalmazása betiltásra kerülnek. A biometrikus azonosítás különböző formákat ölthet. Használható az okostelefonok feloldására, mint felhasználóazonosítás, valamint határátkelőhelyeken való személyazonosság ellenőrzésére és hitelesítésére. Továbbá az arcfelismerő rendszerek is idetartoznak.

Ugyanakkor az utóbbi rendszerek pontossága több tényezőtől is függ. Például a kamera minőségétől, fényviszonyoktól, távolságtól, a használt adatbázistól, algoritmustól stb. Ezek viszont még ha 99%-os pontossággal is működnek, a hibaarány 0,1%-os, ami nagyobb létszám esetén akár tízezer embert is érinthet. Ez a szám nagyon magas és általa nagyszámú ártatlan ember is gyanúba keveredhet. A javaslat emiatt tér ki a távoli biometrikus azonosítás szabályozására.

A következő kategória a magas kockázati elemeket foglalja magában. A javaslat mellékletében szerepel erről egy lista, mely felülvizsgálható lesz a jövőben a mesterséges intelligencia használatához igazodóan. Így időtállónak tekinthető. A lista a következőket tartalmazza:

  • Kritikus infrastruktúrák (pl. közlekedés), amelyek veszélyeztethetik a polgárok életét és egészségét
  • Tanulmányi képzés vagy szakképzés, amely meghatározhatja, hogy az illető személy előtt nyitva áll-e majd egy bizonyos tanulási vagy szakmai lehetőség (pl. vizsgapontozás)
  • Termékek biztonsági komponensei (pl. számítógéppel integrált műtéti beavatkozásokhoz használt mesterségesintelligencia-alkalmazások)
  • Humánerőforrás-kezelés, önfoglalkoztatás (pl. munkaerő-felvételhez használt önéletrajz-elemző szoftver)
  • Alapvető magán- és közszolgáltatások (pl. pontozásos hitelbírálat, mely bizonyos kérelmezők esetében meghiúsítja a kölcsönfelvételt)
  • Jogérvényesítési tevékenységek, melyek sértik az egyének alapvető jogait (pl. bizonyítékok megbízhatóságának értékelése)
  • Migráció- és menekültügyi, valamint határellenőrzési intézkedések (pl. úti okmányok eredetiségének ellenőrzése)
  • Igazságszolgáltatás, demokratikus folyamatok (pl. jogalkalmazás konkrét esetekben)

Harmadik szintként kezeli a mérsékelt kockázati elemeket. Ebbe a kategóriába kerültek  a manipuláció egyértelmű veszélye iránti kockázatok. Az olyan mesterségesintelligencia-rendszerekre, mint amilyen a csevegőrobotok, egyértelmű átláthatósági minimumkövetelmények vonatkoznak, amely lehetővé teszi a tájékozott döntéshozatalt. A felhasználóknak tisztában kell lenniük, hogy egy géppel kommunikálnak, így kellően mérlegelni tudják, hogy kívánják-e használni az alkalmazást.

A minimális kockázatot jelentő kategóriába kerültek mindazok a mesterséges intelligencián alapuló videójátékok vagy spamszűrök és egyéb hasonló alkalmazások, melyek szabadon használhatóak.

A javaslatban szót ejtenek egy olyan testület felállításáról, amely kimondottan a mesterséges intelligenciáról szóló intézkedésekért felel. Emellett a Bizottság létrehozza az európai digitális innovációs központok hálózatát is, amelyek segítik a kkv-kat és a közigazgatási szerveket abban, hogy versenyképesebbé váljanak a mesterséges intelligencia területén. Az EU mesterséges intelligencia területén globális vezető szerepre törekedik, erre pedig létrehozták az EU első, a digitális technológiára összpontosító pénzügyi eszközét, a Digitális Európa programot és a Horizont Európa programot, melyeken keresztül a Bizottság évi 1 milliárd eurót tervez a mesterséges intelligenciába fektetni.

Mindemellett a javaslat kitér a gépipari termékekről szóló rendeletekre, melyek biztosítják a felhasználók és fogyasztók biztonságát. Az erről szóló rendelet meghatározza, hogy a mesterséges intelligencia rendszereket olyan módon építsék be a gépekbe, hogy azok ne jelentsenek veszélyforrást.