Dana 1. kolovoza 2024. godine na snagu je stupila Uredba Europskog parlamenta i Vijeća o utvrđivanju usklađenih pravila o umjetnoj inteligenciji (AI), poznatija kao Akt o umjetnoj inteligenciji (AI akt) - prvi sveobuhvatni zakon o umjetnoj inteligenciji na svijetu. O tome kakve promjene i pravila za razvoj i implementaciju AI tehnologija ovaj zakon donosi razgovarali smo s dr. sc. Karlom Kneževićem, voditeljem AI tima u Sofascoreu
Umjetna inteligencija je tehnologija s velikim potencijalom razvoja, a zbog njezine kompleksnosti malo je ljudi može zaista razumjeti i educirano pratiti.
Može li u tome pomoći AI akt koji bi, prema definiciji, trebao jamčiti sigurnost i temeljna prava građanima Unije i tvrtkama, kao i podržati razvoj, implementaciju i prihvaćanje pouzdane umjetne inteligencije u EU? Je li moguće zaštititi prava i slobode građana, pritom osigurati transparentan i odgovoran nadzor AI-ja, te istovremeno spriječiti zlouporabu?
S prvim danom kolovoza počeli su, kaže Knežević, teći vremenski rokovi za implementaciju specifičnih odredbi navedenog akta. Tvrtke imaju rok od šest do 24 mjeseca za usklađivanje svojih AI sustava s novim tehničkim i dokumentacijskim zahtjevima.
vezane vijesti
Pohranjivanje fotografija prikaza lica, društveno bodovanje...
AI kat razlikuje četiri vrste umjetne inteligencije sukladno riziku koje sa sobom nose. Sustavi umjetne inteligencije s vrlo ograničenim rizikom, poput videoigrica ili filtera za spam, morat će zadovoljavati samo blage propise transparentnosti, dok će visokorizični sustavi umjetne inteligencije morati morati ispunjavati niz zahtjeva i obveza kako bi bili odobreni na tržištu EU-a.
Zakon zabranjuje sustave umjetne inteligencije koje pojedince društveno vrednuju i razvrstavaju u određene kategorije - po rodu, rodnom identitetu, rasi, etničkom podrijetlu, migracijskom statusu, državljanstvu, političkom uvjerenju, seksualnoj orijentaciji, vjeroispovijesti i slično.
Iz Europske komisije navode da se pod umjetnom inteligencijom neprihvatljivog rizika smatraju pohranjivanje fotografija prikaza lica s interneta ili snimaka CCTV-a, snimaka prepoznavanje emocija na radnom mjestu i u školama, društveno bodovanje, prediktivno policijsko djelovanje isključivo na profiliranju osobe. Građani će moći podnositi pritužbe na sustave AI-ja koji ugrožavaju njihova prava, naveli su ranije iz Europske komisije.
Knežević o AI sustavima:
'Akt izričito zabranjuje određene AI sustave koji se smatraju opasnima ili etički neprihvatljivima. To uključuje sustave socijalnog bodovanja koji ocjenjuju građane na temelju njihovog ponašanja, sustave za prepoznavanje emocija na radnom mjestu i u obrazovanju, AI sustave koji iskorištavaju ranjivosti ljudi, poput starosti ili invalidnosti, neselektivno prikupljanje slika lica za prepoznavanje, biometrijske kategorizacijske sustave koji koriste osjetljive karakteristike, uporabu biometrijske identifikacije u stvarnom vremenu od strane provedbe zakona na javnim mjestima, osim u unaprijed ovlaštenim situacijama.
Definicija umjetne inteligencije prema AI aktu usklađena je s definicijom OECD-a. Usvojeni akt ima eksteritorijalni učinak, što znači da se primjenjuje na organizacije izvan EU-a koje pružaju AI usluge unutar Europske unije. Postoje određene iznimke od ovog zakona, a koje uključuju nacionalnu sigurnost, vojnu obranu, istraživanje i razvoj te sustave otvorenog koda. AI akt kategorizira AI sustave prema njihovom riziku u četiri glavne kategorije: zabranjena AI, visokorizična AI, AI ograničenog rizika i AI minimalnog rizika.'
Pozitivne i negativne posljedice
AI akt predstavlja prekretnicu u regulaciji umjetne inteligencije, donoseći pravila i obveze za sve uključene strane.
'Treba jasno reći da ovaj akt nije savršen i koristi određene pojmove ili definicije koje nisu dovoljno precizne te su stoga podložne različitim interpretacijama. Veliko je pitanje hoće li nacionalna zakonodavstva EU-a biti usklađena u provođenju odredbi AI akta. U suprotnom, postoji opasnost da AI akt postane skup lijepih želja ili da se odredbe EU akta tumače na različite načine u pojedinoj državi članici. Države poput SAD-a, Kine ili Kanade razmatraju ili već imaju izglasane zakone koji u određenoj mjeri reguliraju AI sustave, ali ne na ovako opširan način kako to regulira AI akt', kaže Knežević.
Smatra stoga da stupanje na snagu ovog akta ima pozitivne i negativne posljedice.
'Pozitivne posljedice svakako su zaštita osnovnih prava i privatnosti, donekle povećanje povjerenja u AI tehnologiju te postavljanje kriterija na sigurnost i kvalitetu AI sustava. S druge strane, neke od negativnih posljedica su povećani troškovi za tvrtke jer dodatne regulacije mogu povećati troškove razvoja i implementacije, moguće usporavanje inovacija i svakako regulatorna složenost. S obzirom na vrlo brz razvoj alata koji koriste umjetnu inteligenciju, ovaj akt svakako je bio potreban', smatra Knežević.
Ravnoteža između zaštite građanskih prava i inovacija
Kaže i da treba uzeti u obzir da je ulaženje u koštac reguliranja umjetne inteligencije 'vruć krumpir' jer je sam pojam 'umjetna inteligencija' podložan različitim definicijama. 'Dodatno, regulirati pojmove izrazito propulzivnog područja jako je nezahvalno. Nešto što regulirate danas, već za nekoliko mjeseci može biti zastarjelo. Promatrajući obrise akta, ipak se iščitava namjera uspostavljanja ravnoteže između zaštite građanskih prava, a s druge strane izbjeći usporavanje inovacija', navodi Knežević.
Regulacije koje donosi zakonodavac bez mišljenja eksperata domene u kojima se primjenjuju regulacije niti su dobre, niti su poželjne. Takve regulacije obično bivaju ograničavajući faktor, smatra naš sugovornik. 'U ovom slučaju, rad na AI aktu započeo je u ožujku 2018. predstavljanjem ekspertnih radnih skupina, koje su uključivale renomirane znanstvenike i stručnjake iz područja umjetne inteligencije, ali i druge dionike. Uključivanjem šireg broja eksperata htjelo se postići da akt bude temeljen na čvrstim znanstvenim načelima i najboljim praksama u industriji', navodi Knežević.
Što Akt o AI-ju znači za građane i tko će to nadzirati?
'Za građane ovaj akt može značiti dvije stvari: ili će pojačati strah od nepoznatog jer se nedovoljno priča u javnom prostoru o posljedicama AI akta ili će barem umanjiti skepsu prema AI sustavima. Smatram dobrim sve sustave koji su okarakterizirani za zabranjen AI.
Znati da nećete biti diskriminirani na temelju društvenog bodovanja (kao što je slučaj u Kini) ili da se neće smjeti tako olako koristiti daljinska biometrijska identifikacija (kao što je lice, otisci prstiju, šarenica oka, glas ili druge fiziološke ili bihevioralne karakteristike) kod mene ulijeva dozu sigurnosti. S druge strane, tvrtke koje koriste visokorizične AI sustave, svakako će imati veći trošak implementacije takvih sustava jer će podlijegati strogim obvezama prije plasmana AI sustava na tržište', kaže Knežević, zaključivši:
'Unatoč podršci stupanja na snagu AI akta, izražavam određenu sumnju u provedbu propisa akta. Za provođenje AI akta zadužena su nacionalna nadzorna tijela koja će surađivati s europskim AI uredom. Tek kad bude do kraja poznato koje osobe će biti članovima takvih nadzornih tijela, tada će obrisi provedbe AI akta biti jasniji.'
