Na zajedničkoj sjednici Odbora za unutarnje tržište i zaštitu potrošača (IMCO) i Odbora za građanske slobode, pravosuđe i unutarnje poslove (LIBE) potvrđen je prvi europski zakon o umjetnoj inteligenciji. Nacrtom uredbe želi se osigurati da sustavi umjetne inteligencije koji se stavljaju na europsko tržište i upotrebljavaju u Uniji budu sigurni te da se njima poštuju temeljna prava i vrijednosti EU-a, kao i da se zabrani koncept društvenog vrednovanja kojim se pomoću algoritama može prikupljati širok spektar podataka o građanima i njihovom ponašanju
Oko umjetne inteligencije zakonodavci su postigli dogovor u prosincu prošle godine, a sada je odbor glasao o prihvaćanju tog dogovora. Slijedi glasanje na plenarnoj sjednici. Unija je time napravila velik korak naprijed prema statusu prve velike svjetske sile koja će donijeti zakon za taj brzorastući i kontroverzni segment te postaviti regulatorne standarde.
'Uredba o umjetnoj inteligenciji prvi je sveobuhvatan pravni okvir za umjetnu inteligenciju u svijetu', rekla je ranije tportalu Andrea Čović Vidović, vršiteljica dužnosti voditeljice Predstavništva Europske komisije u Hrvatskoj. Naglasila je i da je tijekom pregovora o uredbi bilo iznimno važno da ona ne reducira inovativnost i kompetitivnost europskih tvrtki na globalnom tržištu.
vezane vijesti
Uredbu je Komisija predložila u travnju 2021. godine. Početkom prosinca lani su se oko njezine finalne verzije složili Vijeće Europske unije i Europski parlament. Smisao joj je, istaknula je Čović Vidović u razgovoru za tportal, uskladiti propise s postojećim rizicima koje je moguće identificirati i potaknuti inovacije.
Također bi trebala jamčiti sigurnost i temeljna prava građanima Unije i tvrtkama, kao i podržati razvoj, implementaciju i prihvaćanje pouzdane umjetne inteligencije u Uniji.
U usporedbi s prvotnim prijedlogom Komisije, glavni novi elementi privremenog dogovora su:
- pravila o modelima umjetne inteligencije opće namjene i velikog učinka koji mogu prouzročiti sistemski rizik u budućnosti te o visokorizičnim sustavima umjetne inteligencije
- revidirani sustav upravljanja nekim provedbenim ovlastima na razini EU-a
- proširenje popisa zabrana, ali uz mogućnost da tijela kaznenog progona upotrebljavaju daljinsku biometrijsku identifikaciju na javnim mjestima, podložno zaštitnim mjerama
- bolja zaštita prava zbog obveze subjekata koji primjenjuju visokorizične sustave umjetne inteligencije da prije nego što takav sustav stave u upotrebu provedu procjenu učinka na temeljna prava.
Glavna je zamisao da se umjetna inteligencija koja bi mogla prouzročiti štetu društvu regulira primjenom pristupa koji se temelji na riziku: što je veći rizik, stroža su pravila. Kao prvi zakonodavni prijedlog te vrste u svijetu, on može postaviti svjetski standard za regulaciju umjetne inteligencije u drugim područjima nadležnosti, kao što je to bio slučaj s Općom uredbom o zaštiti podataka, te tako promicati europski pristup regulaciji u području tehnologije na svjetskoj razini, izvijestili su iz Europskog parlamenta.
'Riječ je o povijesnom postignuću i golemoj prekretnici prema budućnosti! Današnjim dogovorom djelotvorno se pristupa rješavanju globalnog izazova u tehnološkom okruženju koje se brzo razvija i ključnom području za budućnost naših društava i gospodarstava. U tom smo nastojanju uspjeli održati iznimno osjetljivu ravnotežu između poticanja inovacija i primjene umjetne inteligencije diljem Europe te istovremenog potpunog poštovanja temeljnih prava naših građana', rekla je Carme Artigas, španjolska državna tajnica za digitalizaciju i umjetnu inteligenciju.
Privremenim dogovorom predviđa se da bi se Akt o umjetnoj inteligenciji trebao primjenjivati dvije godine nakon njegova stupanja na snagu, uz neke iznimke za posebne odredbe.
Zakon o umjetnoj inteligenciji
'Za neke primjene umjetne inteligencije rizik se smatra neprihvatljivim i stoga će ti sustavi biti zabranjeni u Uniji. Privremenim dogovorom zabranjuju se, naprimjer, kognitivna manipulacija ponašanja, neciljano izvlačenje fotografija lica s interneta ili snimaka CCTV-a, prepoznavanje emocija na radnom mjestu i u obrazovnim ustanovama, društveno vrednovanje, biometrijska kategorizacija kako bi se izveli osjetljivi podaci, kao što su seksualna orijentacija ili vjerska uvjerenja, te neki slučajevi prognostičkog rada policije u odnosu na pojedince.
Privremenim dogovorom pojašnjava se i da se uredba ne primjenjuje izvan područja primjene prava EU-a i da ni u kojem slučaju ne bi trebala utjecati na nadležnosti država članica u području nacionalne sigurnosti ili bilo kojeg tijela kojem su povjerene zadaće u tom području. Nadalje, Akt o umjetnoj inteligenciji neće se primjenjivati na sustave koji se upotrebljavaju isključivo u vojne ili obrambene svrhe. Slično tome, sporazumom se predviđa da se uredba neće primjenjivati na sustave umjetne inteligencije koji se upotrebljavaju isključivo u svrhu istraživanja i inovacija ili na osobe koje upotrebljavaju umjetnu inteligenciju iz neprofesionalnih razloga.'
Jasna upozorenja za deep fake i prepoznavanje emocija
'Kada koriste sustave s umjetnom inteligencijom kao što su chatbotovi, korisnici moraju biti informirani da su u interakciji s njima.
Deep fake i drugi sadržaji koje je generirala umjetna inteligencija morat će biti označeni kao takvi, a korisnici moraju biti obaviješteni kad se koristi biometrijska kategorizacija ili sustavi za prepoznavanje emocija.
Osim toga, pružatelji će morati dizajnirati sustave na način da se sintetički audio, video, tekstualni i slikovni sadržaj označava u strojno čitljivom formatu te da se može otkriti kao umjetno generiran ili manipuliran', istaknula je Čović Vidović.
Sustavi umjetne inteligencije koje se smatra prijetnjom temeljnim pravima ljudi bit će zabranjeni.
To uključuje sustave ili aplikacije koji manipuliraju ljudskim ponašanjem da bi zaobišli slobodnu volju korisnika, kao što su igračke koje koriste glas i potiču opasno ponašanje maloljetnika, ili sustave koji vlastima ili tvrtkama dopuštaju 'društveno bodovanje' te određene aplikacije prediktivnog nadzora.
Manje kazne za male poduzetnike
Sustavi identificirani kao visokorizični morat će ispunjavati stroge zahtjeve, uključujući smanjenje rizika, visoku kvalitetu baza podataka, bilježenje aktivnosti, detaljnu dokumentaciju, jasne korisničke informacije, ljudski nadzor te visoku razinu točnosti i kibernetičke sigurnosti.
Primjeri takvih visokorizičnih sustava uključuju kritične infrastrukture, recimo, u području opskrbe vodom, plinom i strujom, medicinske uređaje, sustave za određivanje pristupa obrazovnim institucijama ili za zapošljavanje ljudi, sustave koje se koristi u provedbi zakona, graničnim kontrolama, zakonodavstvu i demokratskim procesima.
Za tvrtke i organizacije koje se ogluše o odredbe uredbe propisane su kazne.
One mogu iznositi do 35 milijuna eura ili sedam posto ukupnog godišnjeg prometa prethodne financijske godine (što god je veće) za kršenje zabranjenih praksi ili nepoštivanje zahtjeva u vezi s podacima.
Kazne do 15 milijuna eura ili tri posto ukupnog godišnjeg prometa određene su za nepoštivanje bilo kojeg drugog zahtjeva ili obveze, uključujući kršenje pravila o modelima umjetne inteligencije opće namjene.
Do 7,5 milijuna eura ili 1,5 posto ukupnog godišnjeg prometa predviđeno je za dijeljenje nepotpunih ili pogrešnih informacija tijelima nadležnim za provedbu uredbe o umjetnoj inteligenciji. Predviđene su blaže gornje granice novčanih kazni za male i srednje poduzetnike i startupe.
Tko je izuzet i zašto?
Ovaj pravni okvir primjenjivat će se na javne i na privatne aktere unutar i izvan Unije sve dok se sustav umjetne inteligencije stavlja na tržište EU-a ili njegova upotreba utječe na ljude koji se nalaze u Uniji. Može se odnositi i na pružatelje usluga umjetne inteligencije, ali i na one koji postavljaju visokorizične sustave umjetne inteligencije, pisao je ranije novinar tportala Miroslav Wranka.
Uvoznici sustava umjetne inteligencije također će morati osigurati da je strani pružatelj već proveo odgovarajući postupak ocjene sukladnosti, nosi oznaku europske sukladnosti (CE), ali i da ima potrebnu dokumentaciju i upute za upotrebu. Pružatelji besplatnih modela i modela otvorenog koda izuzeti su od većine ovih obveza. Ovo izuzeće ne pokriva obveze za pružatelje modela umjetne inteligencije opće namjene sa sistemskim rizicima.
Obveze se također ne odnose na aktivnosti istraživanja, razvoja i izrade prototipova prije puštanja na tržište, kao ni na sustave razvijene isključivo u vojne, obrambene ili nacionalne sigurnosne svrhe. Nova pravila primjenjivat će se izravno na isti način u svim državama članicama Unije, temeljem različitih stupnjeva rizika.
Velika većina sustava umjetne inteligencije u kategoriji je minimalnog rizika. To su, primjerice, sustavi preporuka s omogućenom umjetnom inteligencijom ili filtri za neželjenu poštu, za koje se smatra da predstavljaju minimalan ili nikakav rizik za prava ili sigurnost građana. Na dobrovoljnoj osnovi tvrtke se ipak mogu obvezati na dodatne kodekse ponašanja za ove sustave umjetne inteligencije.
Sadržaj je dio EU-a projekta za solidarnost i oporavak koji se realizira u suradnji s Europskim parlamentom u Hrvatskoj.
