S političkim sporazumom, EU ide prema tome da postane prva velika svjetska sila koja će donijeti zakone koji reguliraju umjetnu inteligenciju. Dogovor između zemalja EU-a i članova Europskog parlamenta postignut je u petak nakon gotovo 15 sati pregovora koji su uslijedili nakon gotovo 24-satne rasprave prethodnog dana.

Dvije strane trebale bi dogovoriti pojedinosti u nadolazećim danima, što bi moglo promijeniti oblik konačnog zakona.

"Europa se pozicionirala kao pionir, shvaćajući važnost svoje uloge globalnog postavljača standarda. Ovo je, vjerujem, povijesni dan", rekao je europski povjerenik Thierry Breton na konferenciji za novinare.

Sporazum zahtijeva da temeljni modeli kao što su ChatGPT i sustavi umjetne inteligencije opće namjene (GPAI) budu u skladu s obvezama transparentnosti prije nego što se stave na tržište. To uključuje izradu tehničke dokumentacije, usklađivanje sa zakonom EU-a o autorskim pravima i širenje detaljnih sažetaka o sadržaju koji se koristi za obuku.

Visokoučinkoviti modeli temeljeni na osnovnim principima s visokim stupnjem rizika morat će provoditi evaluacije modela, procjenjivati i umanjivati sistemski rizik, provoditi kontradiktorno ispitivanje, izvještavati Europsku komisiju o ozbiljnim incidentima, osiguravati kibernetičku sigurnost i izvještavati o energetskoj učinkovitosti.

GPAI sa sistemskim rizikom mogu se oslanjati na kodekse prakse kako bi bili u skladu s novom regulativom.

Vlasti mogu koristiti biometrijski nadzor u stvarnom vremenu u javnim prostorima samo u slučajevima žrtava određenih zločina, prevencije stvarnih, sadašnjih ili predviđenih prijetnji, poput terorističkih napada, i potraga za osobama osumnjičenima za najteža kaznena djela.

Sporazum zabranjuje kognitivnu bihevioralnu manipulaciju, prikupljanje slika lica s interneta ili CCTV snimaka, sustave društvenog bodovanja i biometrijske kategorizacije za utvrđivanje političkih, vjerskih, filozofskih uvjerenja, seksualne orijentacije i rase.

Potrošači bi imali pravo podnijeti pritužbe i dobiti smislena objašnjenja, dok bi kazne za prekršaje bile u rasponu od 7,5 milijuna eura ili 1,5 posto prometa, do 35 milijuna eura ili 7 posto globalnog prometa.

Europska ambiciozna pravila umjetne inteligencije dolaze u trenutku kada tvrtke poput OpenAI-ja, u kojoj je Microsoft ulagač, nastavljaju otkrivati nove upotrebe svoje tehnologije, što izaziva i pohvale i zabrinutost. Googleov vlasnik Alphabet u četvrtak je lansirao novi model umjetne inteligencije, Gemini, koji će biti konkurent OpenAI-ju.

Zakon EU-a mogao bi postati primjer za druge vlade i alternativa mekanom pristupu Sjedinjenih Država i oštrijim pravilima Kine.