Natalija Babić - odvjetnica

Natalija Babić / 4. lipnja 2025.

What's the deal with the AI Act – o uredbi UI u udruzi Alice in Blockchains

4. lipnja 2025. održan je MeetUp udruge Alice in Blockchains, neprofitne udruge za financijsko opismenjavanje i blockchain tehnologije, na kojem je Natalija održala predavanje o Uredbi umjetnoj inteligenciji. Lansiranjem Chat GPT-a se ipak događa nagli razvoj generativne umjetne inteligencije i najednom postaje široko dostupna. Dok Amerika i Kina predvode u razvoju novih tehnologija, Europska unija se predstavlja kao lider u regulaciji i zaštiti ljudskih prava te stvaranju povjerenja u nove tehnologije.

uropska komisija je 21.4.2021. predložila, u okviru svoje digitalne strategije, novu uredbu o umjetnoj inteligenciji s ciljem da Europska unija postane svjetski predvodnik u pouzdanoj umjetnoj inteligenciji. Ovakva regulativa je jedinstvena na globalnom tržištu te, kao i ostale uredbe koje reguliraju digitalno tržište.

Akt o umjetnoj inteligenciji prvi je pravni okvir o umjetnoj inteligenciji koji se bavi rizicima umjetne inteligencije i postavlja Europu u vodeću ulogu na globalnoj razini. Uredba će se primjenjivati dvije godine nakon što je 2. kolovoza 2024. stupila na snagu, odnosno 2. kolovoza 2026. godine (izuzev pojedinih dijelova).

SUBJEKTI PRIMJENE

Brojne informacije u javnom prostoru upućuju na to kako će nova Uredba (EU) 2024/1689 o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (Akt o umjetnoj inteligenciji ili „AI Act") imati značajan utjecaj na svakog poslovnog subjekta, koji svojim rješenjima dodaje „AI" predznak ili koristi takvo rješenje.

Međutim, pažljivijim čitanjem navedene Uredbe može se zaključiti da tomu nije baš tako i sasvim je razumno pretpostaviti da će se većina novih obveza usklađenja odnositi tek na nekolicinu većih IT društava koja nude kompleksna (a time često i skupa) AI rješenja na području EU.

Na što se primjenjuju obveze iz Uredbe?

U prvom redu, Uredba se primjenjuje na:

a) AI sustave, koji su definirani kao:
"Strojni sustav dizajniran za rad s promjenjivim razinama autonomije i koji nakon uvođenja može pokazati prilagodljivost te koji, za eksplicitne ili implicitne ciljeve, iz ulaznih vrijednosti koje prima, zaključuje kako generirati izlazne vrijednosti kao što su predviđanja, sadržaj, preporuke ili odluke koje mogu utjecati na fizička ili virtualna okruženja."

b) AI modele opće namjene, koji su definirani kao:
"UI model, uključujući takav UI model treniran s pomoću velike količine podataka uz primjenu samostalnog nadzora u širokim razmjerima, koji ima vrlo općenitu namjenu i može kompetentno obavljati širok raspon različitih zadaća bez obzira na način na koji se model stavlja na tržište i koji se može integrirati u razne sustave ili primjene niže u lancu, osim UI modela koji se upotrebljavaju za aktivnosti istraživanja, razvoja ili izrade prototipova prije njihova stavljanja na tržište."

Kod AI Acta se radi o uredbi, odnosno o dokumentu koji bi se trebao jedinstveno primijeniti u svim zemljama članicama Europske unije te zauzima tzv. risk based approach, odnosno usklađivanje ovisno o riziku.

KATEGORIJE RIZIKA

Neprihvatljiv rizik

Neprihvatljivim rizikom smatraju se sustavi koji mogu predstavljati jasnu prijetnju za sigurnost, život i temeljna ljudska prava. Navedeno obuhvaća sustave ili aplikacije koji manipuliraju ponašanjem korisnika (npr. igračke s glasovnom pomoći koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju „društveno vrednovanje".

Zabranjeno je stavljati na tržište, stavljati u upotrebu ili koristiti AI sustave koji:

primjenjuju subliminalne tehnike radi manipulacije ponašanjem osobe;
iskorištavaju ranjivosti ili slabosti fizičke osobe;
klasificiraju fizičke osobe na temelju društvenog rejtinga ("social scoring");
predviđaju potencijalno počinjenje kaznenog djela u odnosu na fizičku osobu;
kreiraju ili šire baze prepoznavanja lica prikupljanjem podataka s interneta;
zaključuju o emocijama fizičke osobe na radnom mjestu ili u obrazovnim ustanovama;
omogućuju biometrijsku kategorizaciju u odnosu na rasu, spol, politička mišljenja itd.;
omogućuju biometrijsku identifikaciju pojedinaca na daljinu na javnim mjestima u policijske svrhe;

Visokorizični sustavi

Visokorizični sustavi u Uredbi o umjetnoj inteligenciji obuhvaćaju tehnologiju koja se upotrebljava u:

kritičnoj infrastrukturi (npr. prometnoj) koja može ugroziti život i zdravlje građana,
strukovnom obrazovanju koje osobi može odrediti pristup obrazovanju i usmjeriti profesionalni život,
sigurnosnim dijelovima proizvoda (npr. primjena umjetne inteligencije u robotski potpomognutim kirurškim zahvatima),
zapošljavanju i kadrovskom upravljanju (npr. softver za razvrstavanje životopisa),
osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti),
provođenju zakona koje se može kositi s temeljnim pravima građana,
upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava),
pravosuđu i demokratskim procesima (npr. primjena zakona na konkretan skup činjenica).

Veći dio obveza iz Uredbe odnose se baš na visokorizične AI sustave zbog čega su mogući značajno visoki dodatni troškovi pri izradi i održavanju takvih sustava.

Umjetna inteligencija opće namjene

Modeli umjetne inteligencije opće namjene pokreću sustave umjetne inteligencije sposobne za obavljanje širokog raspona zadaća, kao što su generiranje teksta i prepoznavanje slika, u različitim primjenama. Iako su UI modeli ključne komponente UI sustava, oni sami po sebi nisu UI sustavi. UI modeli zahtijevaju dodavanje dodatnih komponenti kao što je korisničko sučelje, kako bi postali UI sustavi.

Na modele umjetne inteligencije opće namjene koji ne predstavljaju sistemske rizike primjenjuju se ograničeni zahtjevi, kao što su obveze transparentnosti, dok modeli koji predstavljaju sistemske rizike moraju biti u skladu sa strožim pravilima.

Zahtjevi transparentnosti

Bilo koji AI sustavi moraju ispunjavati određene zahtjeve transparentnosti ako:

su namijenjeni izravnoj interakciji s fizičkim osobama;
je riječ o umjetno generiranom sadržaju (npr. SORA AI);
se sustav koristi za prepoznavanje emocija ili biometrijsku kategorizaciju;
se radi o uvjerljivo krivotvorenom sadržaju („deep fake");
sustav generira ili manipulira tekstom koji se objavljuje u svrhu informiranja javnosti.

KAZNE

Aktom se utvrđuju novčane kazne za kršenje pravila. Najstrože kazne predviđene su za najteža kršenja, poput korištenja zabranjenih AI praksi koje predstavljaju neprihvatljiv rizik za sigurnost, prava i živote ljudi.

Za korištenje zabranjenih AI praksi: kazna može iznositi do 35 milijuna eura ili 7% ukupnog godišnjeg prometa poduzeća
Za druga ozbiljna kršenja: kazna može doseći do 15 milijuna eura ili 3% godišnjeg prometa poduzeća
Za netočnost informacija: kazna može biti do 7,5 milijuna eura ili 1% godišnjeg prometa

MSP-ovima i start-up poduzećima mogu se izreći razmjerne novčane kazne.

Zaključno, AI Uredba neće se primjenjivati na sva AI rješenja, već samo ona koja ispunjavaju Uredbom definirane kriterije definicija i kategorija.

AI ACT VS. BLOCKCHAIN TEHNOLOGIJA

EU Uredba o umjetnoj inteligenciji (AI Act) može utjecati na blockchain tehnologiju, posebno kada se AI integrira u blockchain projekte, odnosno kod tzv. AI-blockchain hibridnih projekata.

Blockchain također može poslužiti kao alat za usklađenost s AI Actom. Blockchain može pohraniti AI modele i podatke na nepromjenjiv način, omogućujući provjeru poštenja, sigurnosti i etike AI sustava – što je ključno za ispunjavanje zahtjeva Uredbe.

Automatizacija compliance-a: Pametni ugovori na blockchainu mogu automatski provoditi pravila zaštite podataka ili zahtjeve za pristanak korisnika.

What's the deal with the AI Act