Komisia víta dohodu o akte o umelej inteligencii

Komisia víta politickú dohodu, ktorú Európsky parlament a Rada dosiahli pri akte o umelej inteligencii, ktorý Komisia navrhla v apríli 2021. Nové pravidlá sa budú uplatňovať priamo vo všetkých členských štátoch. Sú orientované na koncepciu rizika:

  • Minimálne riziko: Na aplikácie s minimálnym rizikom sa nebudú vzťahovať žiadne obmedzenia ani povinnosti.
  • Vysoké riziko: Systémy umelej inteligencie identifikované ako vysokorizikové budú musieť dodržiavať prísne požiadavky vrátane povinných systémov na zmierňovanie rizika, vysokokvalitných dátových súborov, logovania činností, podrobnej dokumentácie, jednoznačných informácií pre používateľov, ľudského dohľadu a vysokej úrovne spoľahlivosti, presnosti a kybernetickej bezpečnosti.
  • Neprijateľné riziko: Systémy umelej inteligencie považované za jednoznačné ohrozenie základných ľudských práv ľudí budú zakázané. Do tejto kategórie patria systémy alebo aplikácie umelej inteligencie, ktoré manipulujú ľudské správanie s cieľom obísť slobodnú vôľu používateľa alebo systémy, ktoré vládam alebo podnikom umožňujú „spoločenské bodovanie“ a určité aplikácie na prediktívne vykonávanie policajných funkcií. Okrem toho budú zakázané niektoré použitia biometrických systémov: napríklad systémy rozpoznávania emócií používané na pracoviskách a niektoré systémy kategorizácie ľudí alebo biometrická identifikácia na diaľku v reálnom čase na účely presadzovania práva vo verejnom priestore (s niekoľkými výnimkami).
  • Osobitné riziko pri transparentnosti: používatelia systémov umelej inteligencie, ako sú chatboty by si mali byť vedomí, že ich interakcia prebieha so strojom. Deepfake a iný obsah budú musieť byť ako také označené. Rovnako bude povinné informovať používateľov v prípadoch, keď sa používa biometrická kategorizácia alebo rozpoznávanie emócií. Okrem toho budú poskytovatelia musieť navrhnúť systémy tak, aby syntetický obsah bol označený v strojovo čitateľnom formáte a identifikovateľný ako umelo vygenerovaný alebo manipulovaný.

Spoločnosti, ktoré nebudú dodržiavať pravidlá, budú pokutované. Pokuty sa budú pohybovať od 35 miliónov eur alebo 7 % celosvetového ročného obratu za  porušenie zakázaných aplikácií umelej inteligencie, 15 miliónov eur alebo 3 % za porušenie iných povinností a 7,5 milióna eur alebo 1,5 % za poskytnutie nesprávnych informácií. Pre MSP a startupy sa stanovujú proporcionálnejšie stropy správnych pokút. Na dodržiavanie nových pravidiel na vnútroštátnej úrovni budú dohliadať vnútroštátne príslušné orgány dohľadu nad trhom. Koordináciu na európskej úrovni zabezpečí novo vytvorený európsky úrad pre umelú inteligenciu v rámci Európskej komisie.

Zdroj: Zastúpenie Európskej komisie na Slovensku