Početkom prosinca postignut je privremeni dogovor o ključnim pravilima Europske unije za regulaciju umjetne inteligencije.

Unija je time – u zadnji tren, rekli bi neki – napravila velik korak naprijed prema statusu prve velike svjetske sile koja će donijeti zakon za taj brzorastući i kontroverzni segment te postaviti regulatorne standarde.

'Uredba o umjetnoj inteligenciji prvi je sveobuhvatan pravni okvir za umjetnu inteligenciju u svijetu', rekla je tportalu Andrea Čović Vidović, vršiteljica dužnosti voditeljice Predstavništva Europske komisije u Hrvatskoj.

Uredbu je Komisija predložila u travnju 2021. godine. Početkom ovog mjeseca oko njene finalne verzije složili su se Vijeće Europske unije i Europski parlament.

Smisao joj je, istaknula je Čović Vidović, uskladiti propise s postojećim rizicima koje je moguće identificirati i potaknuti inovacije.

Također bi trebala jamčiti sigurnost i temeljna prava građanima Unije i tvrtkama, kao i podržati razvoj, implementaciju i prihvaćanje pouzdane umjetne inteligencije u Uniji.

'Znatno će doprinijeti razvoju globalnih pravila i načela za umjetnu inteligenciju usmjerenu na čovjeka', uvjerena je Čović Vidović.

Posebna pravila

Kako bi osigurala transparentnost, uredba uvodi posebna pravila za modele umjetne inteligencije opće namjene. Za vrlo snažne modele, koji bi mogli predstavljati sustavne rizike, uvedene su dodatne obveze vezane uz upravljanje rizicima i praćenje ozbiljnih incidenata, provođenje evaluacije modela i testiranja.

Nacionalna tijela za nadzor tržišta pratit će provedbu novih pravila na nacionalnoj razini, a novi Ured za umjetnu inteligenciju u sklopu Komisije osigurat će koordinaciju na europskoj razini. Taj će ured također nadzirati implementaciju i provedbu novih pravila o modelima umjetne inteligencije opće namjene.

'Ured za umjetnu inteligenciju bit će prvo tijelo na globalnoj razini koje provodi obvezujuća pravila o umjetnoj inteligenciji. Očekujemo da će ono postati međunarodna referentna točka', istaknula je Čović Vidović.

Nakon produljenih rasprava o regulaciji, Parlament i Vijeće postigli su kompromis u obliku izmijenjenog stupnjevanog pristupa u regulaciji umjetne inteligencije.

Kompromis se odnosi na pojam sustava/modela umjetne inteligencije opće namjene (UION) i razlikuje obveze na dva stupnja:

1. niz horizontalnih obveza koje se primjenjuju na sve modele UION-a
2. skup dodatnih obveza za modele UION-a sa sistemskim rizikom.

Što se tiče prvog stupnja, svi pružatelji modela UION-a morat će se pridržavati zahtjeva transparentnosti, između ostalog sastavljanjem tehničke dokumentacije. Također će morati poštivati pravila Unije o autorskim pravima i pružiti detaljne sažetke o sadržaju korištenom za obuku.

Modeli UION-a nižeg stupnja bit će izuzeti od zahtjeva transparentnosti dok su u fazi istraživanja i razvoja ili ako su otvorenog koda.

Što se tiče drugog stupnja, modeli UION-a koji su klasificirani kao sistemski rizik bit će podvrgnuti strožim obvezama, a one uključuju provođenje evaluacija modela, procjenu i ublažavanje sistemskih rizika, provođenje testiranja na napade (tzv. red teaming), izvještavanje Komisiji o ozbiljnim incidentima, osiguravanje kibernetičke sigurnosti i izvještavanje o njihovoj energetskoj učinkovitosti.

Modeli UION-a sa sistemskim rizikom mogu se u određenoj mjeri uskladiti s uredbom pridržavajući se kodeksa prakse, barem dok se ne objave usklađeni standardi Unije. Navedene kodekse prakse razvit će industrija, znanstvena zajednica, civilno društvo i drugi dionici u suradnji s Komisijom.

Uz to, znanstveno vijeće neovisnih stručnjaka izdavat će upozorenja o sistemskim rizicima te podržavati klasifikaciju i testiranje modela.

Jasna upozorenja za deep fake i prepoznavanje emocija

'Kada koriste sustave s umjetnom inteligencijom kao što su chatbotovi, korisnici moraju biti informirani da su u interakciji s njima.

Deep fake i drugi sadržaji koje je generirala umjetna inteligencija morat će biti označeni kao takvi, a korisnici moraju biti obaviješteni kad se koristi biometrijska kategorizacija ili sustavi za prepoznavanje emocija.

Osim toga, pružatelji će morati dizajnirati sustave na način da se sintetički audio, video, tekstualni i slikovni sadržaj označava u strojno čitljivom formatu te da se može otkriti kao umjetno generiran ili manipuliran', istaknula je Čović Vidović.

Sustavi umjetne inteligencije koje se smatra prijetnjom temeljnim pravima ljudi bit će zabranjeni.

To uključuje sustave ili aplikacije koji manipuliraju ljudskim ponašanjem kako bi zaobišli slobodnu volju korisnika, kao što su igračke koje koriste glas i potiču opasno ponašanje maloljetnika, ili sustave koji vlastima ili tvrtkama dopuštaju 'društveno bodovanje' te određene aplikacije prediktivnog nadzora.

Tko je izuzet i zašto?

Ovaj pravni okvir primjenjivat će se na javne i na privatne aktere unutar i izvan Unije, sve dok se sustav umjetne inteligencije stavlja na tržište EU-a ili njegova upotreba utječe na ljude koji se nalaze u Uniji.

Može se odnositi i na pružatelje usluga umjetne inteligencije, ali i na one koji postavljaju visokorizične sustave umjetne inteligencije.

Uvoznici sustava umjetne inteligencije također će morati osigurati da je strani pružatelj već proveo odgovarajući postupak ocjene sukladnosti, nosi oznaku europske sukladnosti (CE), ali i da ima potrebnu dokumentaciju i upute za upotrebu.

Pružatelji besplatnih modela i modela otvorenog koda izuzeti su od većine ovih obveza. Ovo izuzeće ne pokriva obveze za pružatelje modela umjetne inteligencije opće namjene sa sistemskim rizicima.

Obveze se također ne odnose na aktivnosti istraživanja, razvoja i izrade prototipova prije puštanja na tržište, kao ni na sustave razvijene isključivo u vojne, obrambene ili nacionalne sigurnosne svrhe. Nova pravila primjenjivat će se izravno na isti način u svim državama članicama Unije, temeljem različitih stupnjeva rizika.

Velika većina sustava umjetne inteligencije u kategoriji je minimalnog rizika. To su, primjerice, sustavi preporuka s omogućenom umjetnom inteligencijom ili filtri za neželjenu poštu, za koje se smatra da predstavljaju minimalan ili nikakav rizik za prava ili sigurnost građana.

Na dobrovoljnoj osnovi tvrtke se ipak mogu obvezati na dodatne kodekse ponašanja za ove sustave umjetne inteligencije.

Manje kazne za male poduzetnike

Sustavi identificirani kao visokorizični morat će ispunjavati stroge zahtjeve, uključujući smanjenje rizika, visoku kvalitetu baza podataka, bilježenje aktivnosti, detaljnu dokumentaciju, jasne korisničke informacije, ljudski nadzor te visoku razinu točnosti i kibernetičke sigurnosti.

Primjeri takvih visokorizičnih sustava uključuju kritične infrastrukture, recimo, u području opskrbe vodom, plinom i strujom, medicinske uređaje, sustave za određivanje pristupa obrazovnim institucijama ili za zapošljavanje ljudi, sustave koje se koristi u provedbi zakona, graničnim kontrolama, zakonodavstvu i demokratskim procesima.

Čović Vidović naglasila je da je tijekom pregovora o uredbi bilo iznimno važno da ona ne reducira inovativnost i kompetitivnost europskih tvrtki na globalnom tržištu.

'Neke države članice izdvajaju velika sredstva u području novih tehnologija, a i Komisija to radi kroz brojne svoje centralne programe, pa je prirodno da su pregovori o uredbi s državama članicama bili dobrim dijelom usmjereni i na to da ne dođe do prestrogih i za inovacije ograničavajućih odredbi ove regulative.

No regulacija je nužna za sigurnost i zaštitu svih građana Unije, uz očuvanje prostora za uspješne europske inovacije, razvoj i primjenu umjetne inteligencije', navela je Čović Vidović.

Uredba o umjetnoj inteligenciji stupit će na snagu 20 dana nakon objave u Službenom listu Europske unije. Ima snagu izravne primjene u svakoj od država članica.

Primjena kreće dvije godine nakon stupanja na snagu, osim nekih posebnih odredbi. Zabrane će se primjenjivati nakon šest mjeseci, a pravila o umjetnoj inteligenciji opće namjene primjenjivat će se nakon 12 mjeseci.

Je li se isplatilo žuriti?

Do tripartitnog sporazuma došlo je više od 30 mjeseci nakon prijedloga, i to pod pritiskom predsjedajuće Španjolske, koja je to postavila kao ključan cilj svog predsjedanja Europskim vijećem.

'Pitanje je jesu li pod prijetnjom roka i izborne godine dobro raspravljena sva pitanja koja su izašla iz Pandorine kutije, jer konačni tekst nismo još vidjeli.

Postignut je politički dogovor, a preostaje vidjeti prijedlog teksta koji će biti stavljen na glasanje u Parlamentu početkom iduće godine.

Nisam sigurna da je žurba bila dobar izbor, pogotovo jer su se jasno artikulirali glasovi gospodarskih subjekata tek u jesen ove godine', upozorila je Marijana Šarolić Robić, odvjetnica i suosnivačica Hrvatske udruge za umjetnu inteligenciju (CroAI).

Također, pita se u kojoj je mjeri moguće regulirati nešto što (još) nije moguće definirati i u kojoj mjeri sami sebi stavljamo veći teret usklađenosti pa gušimo inovacije u korist regulacije.

'Jesam za regulaciju, ali nikako onu koja ide na teret inovacije i stavlja gospodarske subjekte Unije u teži položaj u odnosu na globalnu konkurenciju. Previše je toga i dalje nejasno, podložno interpretaciji provedbenih i nadzornih tijela', istaknula je.

Šarolić Robić je uvjerena da će najveći izazov za tu legislativu biti to što bi mogla već u razdoblju implementacije - zbog razvoja tehnologije i jako visokih troškova usklađenosti - postati zastarjela i irelevantna.

'U tome i leži opasnost, jer nadzorna tijela mogla bi usprkos tome svejedno pokušavati podvesti sve što kvalificiraju umjetnom inteligencijom pod njene odredbe', upozorila je Šarolić Robić.

Hoće li se ponoviti 'briselski učinak'?

Pregovori oko uredbe zapeli su ranije na pitanju kako regulirati temeljne modele i sustave umjetne inteligencije opće namjene poput Chat GPT-ja, kao i modela i sustava koji tek trebaju biti izumljeni.

'S obzirom na to da će izbori za Europski parlament biti u lipnju 2024. godine, postojala je opasnost da Parlament u ovom sazivu ne izglasa uredbu, a Unija izgubi priliku postaviti standarde za ostatak svijeta', rekao je Stefan Martinić, vanjski savjetnik za pravni dio udruge CroAI.

Što se zaštite tiče, fizičke ili pravne osobe moći će podnijeti pritužbu nadležnom nacionalnom tijelu za nadzor tržišta, što otvara i mogućnost upravne tužbe u slučaju nezadovoljavajuće odluke o pritužbi.

Osobe o čijim se pravima i interesima odlučivalo putem sustava umjetne inteligencije visokog rizika imat će pravo na objašnjenje.

'Pitanje od milijun eura je kako korisnicima objasniti, na lako razumljiv način, funkcioniranje svojeg proizvoda ili usluge povezane s umjetnom inteligencijom, bez otkrivanja konkurenciji i ostatku svijeta obrisa tajnog recepta', pojasnio je Martinić.

Uvjeren je da će uredba Uniju učiniti najsigurnijim mjestom na svijetu za potrošače i korisnike umjetne inteligencije. Ali, s druge strane, poduzetnici prigovaraju da će ih regulacija usporiti u utrci za stvaranje umjetne inteligencije, zbog čega će Europa još više zaostati za Kinom i Sjedinjenim Državama.

Slični argumenti mogli su se čuti i prilikom uvođenja Opće uredbe o zaštiti podataka (GDPR). No, podsjeća Martinić, onda se dogodio 'briselski učinak' - Brazil, Japan, pa čak i američka savezna država Kalifornija kopirali su i implementirali odredbe GDPR-a, a izostao je masovni odljev kapitala i stručnjaka iz Unije.

'Bit će zanimljivo pratiti kakav će učinak uredba imati na ostatak svijeta i na sektor umjetne inteligencije u Uniji', prognozirao je Martinić.