2024.03.1.8 Visokorizični sustavi umjetne inteligencije
Igor Radelić, dipl. iur.
Sustav umjetne inteligencije se smatra visokorizičnim ako su ispunjena kumulativno sljedeća dva uvjeta:
(a) UI sustav namijenjen je za korištenje kao sigurnosna komponenta proizvoda ili je sustav umjetne inteligencije sam po sebi proizvod koji je obuhvaćen zakonodavstvom Unije o usklađivanju navedenim u Prilogu I. Uredbe (prilog sadrži popis zakonodavstva o usklađivanju));
(b) Za proizvod čija je sigurnosna komponenta na temelju točke (a) UI sustav ili UI sustav koji je sam po sebi proizvod zahtijeva se ocjenjivanje sukladnosti koje provodi treća strana radi stavljanja na tržište ili stavljanja u upotrebu tog proizvoda na temelju zakonodavstva Unije o usklađivanju navedenog u Prilogu I.
Visokorizični sustavi umjetne inteligencije su taksativno navedeni u Prilogu III. Uredbe tako da su visoko rizični sustavi u bilo kojem od sljedećih područja:
1. Biometrija, ako je njezino korištenje dopušteno na temelju relevantnog prava Unije ili nacionalnog prava:
- Sustavi za daljinsku biometrijsku identifikaciju - ne odnosi se na sustave Umjetne inteligencije namijenjene za biometrijsku provjeru čija je jedina svrha potvrditi da je određena fizička osoba doista ona osoba kojom se predstavlja;
- Sustavi namijenjeni za biometrijsku kategorizaciju, u skladu s osjetljivim ili zaštićenim atributima ili karakteristikama na temelju zaključivanja o tim atributima ili značajkama;
- Sustavi namijenjeni za prepoznavanje emocija.
2. Kritična infrastruktura: UI sustavi namijenjeni za korištenje kao sigurnosne komponente za upravljanje kritičnom digitalnom infrastrukturom, cestovnim prometom ili opskrbom vodom, plinom, grijanjem ili električnom energijom te za njihov rad.
3. Obrazovanje i strukovno osposobljavanje:
- Sustavi namijenjeni za odlučivanje o pristupu ili upisu ili za razvrstavanje fizičkih osoba u ustanove ili programe za obrazovanje i strukovno osposobljavanje na svim razinama;
- Sustavi namijenjeni za evaluaciju ishoda učenja, među ostalim kad se ti ishodi upotrebljavaju za usmjeravanje procesa učenja fizičkih osoba u ustanovama za obrazovanje i strukovno osposobljavanje na svim razinama;
- Sustavi…
