Hvaljena kao prva u svijetu, predložena pravila Europske unije o umjetnoj inteligenciji (AI) suočavaju se s odlučujućim trenutkom dok pregovarači ovog tjedna pokušavaju dogovoriti posljednje detalje. No razgovori su se zakomplicirali naglim porastom generativne umjetne inteligencije.

Prvi put predložen 2019., očekivalo se da će EU-ov Zakon o umjetnoj inteligenciji biti prva sveobuhvatna regulativa o umjetnoj inteligenciji u svijetu, dodatno učvršćujući poziciju bloka od 27 zemalja kao globalnog pokretača trendova kada je u pitanju obuzdavanje tehnološke industrije.

No proces je 'zaglavio' zbog bitke u posljednjem trenutku oko toga kako upravljati sustavima koji podupiru usluge umjetne inteligencije opće namjene kao što su OpenAI-jev ChatGPT i Googleov Bard chatbot. Velike tehnološke tvrtke lobiraju protiv onoga što vide kao pretjeranu regulaciju koja guši inovacije, dok europski zakonodavci žele dodatnu zaštitu za AI sustave koje te tvrtke razvijaju.

U međuvremenu, SAD, Ujedinjeno Kraljevstvo, Kina i globalne koalicije poput G7 pridružile su se utrci za postavljanje zaštitnih 'ograda' za tehnologiju koja se brzo razvija, što je naglašeno upozorenjima istraživača i skupina za ljudska prava o egzistencijalnim opasnostima koje generativna umjetna inteligencija predstavlja za ljude, kao i rizicima za svakodnevni život, piše Euronews.

Strah oko generativne umjetne inteligencije

'Umjesto da Zakon o umjetnoj inteligenciji postane globalni zlatni standard za regulaciju umjetne inteligencije, postoji mala, ali rastuća vjerojatnost da neće biti dogovoren prije izbora za Europski parlament' sljedeće godine, rekao je Nick Reiners, analitičar za tehničku politiku u Eurasia Group, savjetodavna tvrtka za političke rizike.

Rekao je da 'jednostavno ima toliko toga za utvrditi' u onome za što se dužnosnici nadaju da je posljednja runda razgovora u srijedu. Čak i ako rade do kasno u noć kao što se očekuje, vjerojatno da ti razgovori neće biti zaključeni u ovoj godini, rekao je Reiners.

Kada je Europska komisija, izvršni ogranak EU-a, predstavila nacrt 2021. godine, jedva je spominjala sustave umjetne inteligencije opće namjene poput chatbota. Prijedlog da se sustavi umjetne inteligencije klasificiraju prema četiri razine rizika – od minimalne do neprihvatljive – u biti je zamišljen kao zakon o sigurnosti proizvoda.

Bruxelles je želio testirati i certificirati informacije koje koriste algoritmi koji pokreću AI, slično provjerama sigurnosti potrošača na kozmetici, automobilima i igračkama. To se promijenilo s procvatom generativne umjetne inteligencije, koja je izazvala čudo skladanjem glazbe, stvaranjem slika i pisanjem eseja nalik ljudskom radu. Također je potaknula strahove da bi se tehnologija mogla koristiti za pokretanje masivnih kibernetičkih napada ili stvaranje novog biološkog oružja.

Rizici su naveli zakonodavce EU-a da pojačaju Zakon o umjetnoj inteligenciji proširivši ga na temeljne modele. Također poznati kao veliki jezični modeli (LLM), ovi su sustavi uvježbani na ogromnom broju pisanih radova i slika skinutih s interneta.

Temeljni modeli daju generativnim AI sustavima kao što je ChatGPT mogućnost stvaranja nečeg novog, za razliku od tradicionalnog AI-ja koji obrađuje podatke i izvršava zadatke koristeći unaprijed određena pravila.

Prošlomjesečni kaos u OpenAI-ju, koji je kreirao jedan od najprepoznatljivijih temeljnih modela GPT-4, izazvao je zabrinutost među nekim europskim liderima o rizicima povezanima s dopuštanjem nekoliko dominantnih AI kompanija da same sebe nadziru.

Iako je glavni izvršni direktor Sam Altman bio smijenjen pa brzo ponovno zaposlen, neki članovi odbora s dubokim rezervama o sigurnosnim prijetnjama koje umjetna inteligencija može predstavljati odlučili su napustiti tvrtku, što upućuje na mogućnost da korporativno upravljanje umjetnom inteligencijom postane žrtva dinamike unutar upravnog odbora.

Otpor Francuske, Italije i Njemačke

'Barem su stvari sada jasne' da tvrtke poput OpenAI-ja brane svoje poslovanje, a ne javni interes, rekao je europski povjerenik Thierry Breton na konferenciji o umjetnoj inteligenciji u Francuskoj nekoliko dana nakon 'drame' u OpenAI-ju.

Otpor vladinim pravilima za ove AI sustave došao je iz Francuske, Njemačke i Italije. Tri najveća gospodarstva EU-a uzvratila su dokumentom o stajalištu koji zagovara samoregulaciju. Na tu promjenu mišljenja gleda se kao na potez da se pomogne domaćim generativnim AI igračima kao što su francuski startup Mistral AI i njemački Aleph Alpha.

Iza toga 'stoji odlučnost da se ne dopusti američkim tvrtkama da dominiraju ekosustavom umjetne inteligencije kao što su to činile u prethodnim valovima tehnologija kao što su oblak (računalstvo), e-trgovina i društveni mediji', rekao je Reiners.

Grupa utjecajnih računalnih znanstvenika objavila je otvoreno pismo u kojem upozorava da bi slabljenje Zakona o umjetnoj inteligenciji na ovaj način bio 'povijesni neuspjeh'. Čelnici Mistrala u međuvremenu su se posvađali na internetu s istraživačem iz neprofitne organizacije koju podupire Elon Musk i čiji je cilj spriječiti 'egzistencijalni rizik' od umjetne inteligencije.

Umjetna inteligencija je 'previše važna da se ne regulira i previše važna da se ne regulira dobro', rekao je glavni pravni službenik Googlea, Kent Walker, u govoru u Bruxellesu prošlog tjedna. 'Utrka bi trebala biti za najbolje propise o umjetnoj inteligenciji, a ne za prve propise o umjetnoj inteligenciji'.

Temeljni modeli, koji se koriste za širok raspon zadataka, pokazuju se kao najteže pitanje za pregovarače EU-a jer je njihovo reguliranje 'protivno logici cijelog zakona', koji se temelji na rizicima koje nose specifične upotrebe, rekla je Iverna McGowan, direktorica Europski ured u neprofitnom Centru za demokraciju i tehnologiju za digitalna prava.

Priroda sustava umjetne inteligencije opće namjene znači da 'ne znate kako se primjenjuju', rekla je. U isto vrijeme, potrebni su propisi 'jer inače niz prehrambeni lanac nema odgovornosti' kada druge tvrtke s njima grade usluge, rekao je McGowan.

Altman je predložio američku ili globalnu agenciju koja bi licencirala najmoćnije AI sustave. Ove je godine sugerirao da bi OpenAI mogao napustiti Europu ako ne bude u skladu s pravilima EU-a, ali je brzo odbacio te komentare.

Posljednja prilika za postizanje konsenzusa o umjetnoj inteligenciji

Aleph Alpha rekao je da je 'potreban uravnotežen pristup' i podržao pristup EU-a temeljen na riziku. Ali to 'nije primjenjivo' na temeljne modele, kojima su potrebni 'fleksibilniji i dinamičniji' propisi, rekla je njemačka AI tvrtka.

Pregovarači EU-a tek trebaju razriješiti nekoliko drugih kontroverznih točaka, uključujući prijedlog da se potpuno zabrani javno prepoznavanje lica u stvarnom vremenu. Zemlje žele izuzeće kako bi ga policija mogla koristiti za pronalaženje nestale djece ili terorista, ali grupe za ljudska prava brinu se da će to zapravo stvoriti pravni temelj za nadzor.

Tri grane vlasti u EU-u se suočavaju s jednom od posljednjih prilika za postizanje dogovora. Čak i ako to učine, 705 zastupnika Unije mora potpisati konačnu verziju. To se glasovanje mora održati do travnja, prije nego što započnu kampanju za izbore diljem EU-a u lipnju.

Zakon ne bi stupio na snagu prije prijelaznog razdoblja, obično dvije godine. Ako ne uspiju stići na vrijeme, zakon će biti stavljen na čekanje kasnije sljedeće godine - nakon što novi čelnici EU-a, koji bi mogli imati drugačije poglede na AI, preuzmu dužnost.

'Postoji velika vjerojatnost da je doista posljednji, ali postoji jednaka vjerojatnost da će nam ipak trebati više vremena za pregovore', rekao je Dragos Tudorache, rumunjski zastupnik koji suvodi pregovore Europskog parlamenta o Zakonu o umjetnoj inteligenciji.