U rujnu 2024. godine guverner Kalifornije Gavin Newsom razmatrao je čak 38 zakona povezanih s umjetnom inteligencijom, uključujući kontroverzni prijedlog zakona SB 1047, kojem je cilj bio spriječiti katastrofe uzrokovane umjetnom inteligencijom. Iako je taj prijedlog zakona izazvao veliku raspravu, guverner ga je odbio. Unatoč tome, potpisao je velik broj drugih zakona koji se odnose na AI, učvrstivši Kaliforniju kao predvodnika u regulaciji AI tehnologije u SAD-u.

Ovi zakoni obuhvaćaju širok raspon pitanja, od rizika povezanih s AI-jem i deepfake tehnologijom do zaštite privatnosti i obrazovanja. Ovo su glavni zakoni potpisani u Kaliforniji.

Procjena rizika AI-ja (SB 896)

Ovim se zakonom kalifornijski Ured za hitne službe (CalOES) obvezuje surađivati s vodećim AI kompanijama poput OpenAI-ja i Anthropica na procjeni potencijalnih prijetnji koje generativna umjetna inteligencija može predstavljati za kritičnu infrastrukturu države. Cilj je bolje razumijevanje rizika koji bi mogli dovesti do masovnih katastrofa ili poremećaja u radu ključnih sustava.

Podaci za obuku AI sustava (AB 2013)

Ovaj zakon, koji stupa na snagu 2026. godine, zahtijeva od pružatelja usluga AI-ja da objavljuju transparentne informacije o izvorima podataka korištenih za treniranje njihovih sustava. To uključuje detalje kao što su količina podataka, izvori podataka, je li korišten zakonom zaštićeni sadržaj te razdoblje prikupljanja podataka. Ova mjera uvodi transparentnost u razvoj AI tehnologija, s posebnim naglaskom na zaštitu intelektualnih prava i etičnost u korištenju podataka.

Zaštita privatnosti i AI (AB 1008)

U kontekstu rastuće zabrinutosti zbog upotrebe osobnih podataka, ovaj zakon proširuje postojeće kalifornijske zakone o privatnosti kako bi uključili generativne AI sustave. To znači da će oni koji izlažu osobne podatke građana, poput imena, adresa ili biometrijskih podataka, podlijegati strogim pravilima o zaštiti privatnosti, ograničavajući to kako tvrtke mogu koristiti i profitirati od tih podataka.

Obrazovanje o AI-ju (AB 2876)

Uvođenjem ovog zakona Kalifornija prepoznaje važnost edukacije o umjetnoj inteligenciji za buduće generacije. Odbor za obrazovanje Kalifornije sada je zadužen za uključivanje 'AI pismenosti' u kurikulume iz matematike, znanosti i povijesti, pružajući studentima osnovno razumijevanje toga kako AI funkcionira, koji su potencijalni utjecaji takvih tehnologija te koje su etičke implikacije njihova korištenja.

Definicija AI-ja (AB 2885)

Da bi se osigurala jasnoća i pravna konzistentnost, Kalifornija je donijela zakon kojim se uvodi jedinstvena definicija umjetne inteligencije. Prema zakonu, AI se definira kao 'strojno ili inženjerski stvoren sustav s različitim razinama autonomije koji može, na temelju primljenih sadržaja i informacija, generirati rezultate što utječu na fizičke ili virtualne okoliše'.

AI u zdravstvu (AB 3030 i SB 1120)

Ovi zakoni postavljaju nova pravila za korištenje AI tehnologije u zdravstvu. Prema AB 3030, zdravstveni pružatelji moraju jasno naznačiti kada koriste generativni AI u komunikaciji s pacijentima, posebno kada se radi o kliničkim informacijama. Zakon SB 1120 dodatno regulira korištenje AI alata u zdravstvenim uslugama, zahtijevajući nadzor licenciranih liječnika da bi se osigurale kontrola i zaštita pacijenata.

AI robotski pozivi (AB 2905)

Zakon AB 2905 uvodi obavezu da automatski pozivi (robocallovi) otkriju korištenje glasova generiranih umjetnom inteligencijom, čime se sprječava zloupotreba AI tehnologije u manipulaciji javnošću, poput slučaja s deepfake robocallovima koji su koristili glas nalik Joeu Bidenu i izazvali zbunjenost među glasačima u New Hampshireu.

Deepfake pornografija (AB 1831, SB 926, SB 981)

Ovi zakoni kriminaliziraju korištenje AI tehnologije za stvaranje lažnih golih slika u svrhu ucjenjivanja. Također, platformama društvenih mreža nalaže se da stvore sustave za prijavljivanje deepfake sadržaja, a on mora biti privremeno blokiran dok se ne istraži, te trajno uklonjen ako se potvrdi njegova neautentičnost.

Oznake za AI sadržaj (SB 942)

Zakon SB 942 zahtijeva da svi često korišteni generativni AI sustavi digitalno označe svoj sadržaj (pomoću takozvanih digitalnih vodenih žigova ili watermarkova) kao generiran umjetnom inteligencijom. Naprimjer, slike generirane putem OpenAI-jeva Dall-E-a sada moraju sadržavati oznake u metapodacima koje otkrivaju njihovo AI porijeklo, pomažući javnosti u razlikovanju AI-jem generiranog sadržaja od stvarnog.

Deepfake na izborima (AB 2655, AB 2839, AB 2355)

Zakonodavstvo usmjereno na deepfakeove u političkim kampanjama sada zahtijeva da online platforme uklone ili označe AI-jem generirani sadržaj koji može obmanuti birače te uvodi obavezu otkrivanja AI-jem generiranih političkih oglasa. Kandidati i izabrani dužnosnici mogu zatražiti pravnu pomoć ako platforme ne postupaju u skladu s ovim pravilima.

AI i glumci (AB 2602, AB 1836)

Ovi zakoni štite prava glumaca pri korištenju njihovih glasova i likova u AI-jem generiranim sadržajima. Studiji sada moraju dobiti dozvolu glumaca prije nego što stvore digitalne replike njihovih glasova ili izgleda, a također je zabranjeno stvaranje digitalnih replika preminulih izvođača bez pristanka njihovih nasljednika.

Odbijanje SB-a 1047

Zakon SB 1047, koji je izazvao veliku pažnju javnosti, na kraju nije usvojen. Guverner Newsom objasnio je da je prijedlog zakona preusko fokusiran na velike AI sustave, što bi moglo stvoriti lažni osjećaj sigurnosti, jer i manji AI modeli mogu biti jednako opasni. Naglasio je potrebu za fleksibilnijim pristupom u regulaciji AI industrije, što je u skladu s njegovim širim nastojanjima da Kalifornija ostane lider u balansiranju između inovacija i sigurnosti u AI sektoru.

Ovi zakoni predstavljaju značajan korak Kalifornije u postavljanju novih standarda za regulaciju umjetne inteligencije, pri čemu se teži zaštiti građana, poticanju transparentnosti i osiguranju etičkih praksi u brzo rastućem AI sektoru, piše TechCrunch.