Neprijateľné riziko znamená, že ide o systémy umelej inteligencie považované za jasnú hrozbu pre základné práva ľudí. Takéto systémy sú zakázané. Ide o systémy alebo aplikácie umelej inteligencie, ktoré manipulujú ľudské správanie s cieľom obísť slobodnú vôľu používateľov. Zakázané sú aj niektoré použitia biometrických systémov, napríklad systémy rozpoznávania emócií používané na pracoviskách a niektoré systémy kategorizácie ľudí alebo biometrická identifikácia na diaľku v reálnom čase na účely presadzovania práva vo verejnom priestore.
Na doplnenie tohto systému sa v zákone o umelej inteligencii zavádzajú aj pravidlá pre tzv. modely umelej inteligencie na všeobecné účely. Napríklad modely umelej inteligencie navrhnuté tak, aby vykonávali širokú škálu úloh, ako je vytváranie textu podobného človeku.
Komisia pripomenula, že zákon o umelej inteligencii zabezpečí transparentnosť v celom hodnotovom reťazci a bude riešiť možné systémové riziká najschopnejších modelov.
Členské štáty EÚ musia do 2. augusta 2025 určiť príslušné vnútroštátne orgány, ktoré budú dohliadať na uplatňovanie pravidiel pre systémy umelej inteligencie a vykonávať činnosti dohľadu nad trhom.
Úrad EK pre umelú inteligenciu bude kľúčovým orgánom na zavedenie zákona do platnosti na úrovni EÚ, ako aj orgánom presadzovania pravidiel pre modely umelej inteligencie na všeobecné účely. Spoločnosti, ktoré nebudú dodržiavať pravidlá, môžu byť pokutované.
