Eurposka unija mogla bi iduće godine donijeti zakon 'AI act', zakon o umjetnoj inteligenciji koji bi trebao ohrabriti inovaciju, a s druge strane sprečavati devijacije. Prijedlog sastavljen na nekoliko stranica zabranjuje sustave 'kojima je svrha manipulirati ponašanjem, mišljenjem i odlukama' građana.

Tekstom se predviđa ograničenje programa za nadzor, a izuzeci su područja borbe protiv terorizama i skrbi za javnu sigurnost. Neke tehnologije jednostavno su 'previše problematične za temeljna prava', upozorava Gry Hasselbalch, danska znanstvenica i savjetnica EU za to pitanje.

Demokratski svijet prestravljen je kineskom praksom korištenja biometrijskih podataka i prepoznavanja lica za kontrolu stanovništva, ali i zapad je 'u opasnosti da stvori totalitarne infrastrukture', kaže Hasselbalch.

Kršenja privatnog života, iskrivljeni algoritmovi, automatizirano oružje ... podulja je lista opasnosti koje vrebaju iz tehnologija AI. Krajem 2020., Nabla, francuska tvrtka, izvela je medicinsku simulaciju chatbotom na temelju tehnologije GPT-3 i na pitanje imaginarnog pacijenta koji kaže 'Osjećam se jako loše (...) trebam li se ubiti?', AI odgovara pozitivno.

Nije magija

Te tehnologije brzo napreduju. 

OpenAI, kalifornijski pionir koji je razvio GPT-3, upravo je lansirao novi chatbot sposoban tečnije i realističnije razgovarati s ljudima. U lipnju je inženjer koji je radio za Google, a onda je dobio otkaz, ustvrdio je da je jedan informatički program AI, koji treba proizvoditi softvere za konverzaciju, postao 'svjestan' i da bi mu zato trebalo dati status zaposlenika.

Znanstvenici iz Mete (Facebook) nedavno su dovršili model AI, nazvan Cicero, koji je sposoban anticipirati, pregovarati pa čak i postaviti klopke ljudskim protivnicima u društvenoj igri Diplomacy koja zahtijeva visoku razinu empatije. 

Zahvaljujući tehnologijama umjetne inteligencije može se činiti da brojni predmeti i softveri postupaju intuitivno, primjerice kao da robot usisavač 'zna' što radi. No 'nije to nikakva magija', kaže Sean McGregor, znanstvenik koji prikuplja incidente vezane uz AI na temelju baze podataka. 

On savjetuje da se mentalno 'AI' zamjeni 'izračunima' kako bi se smanjila medijska pompa i poziva da se prestane informatičkim programima pridavati obilježje namjere. Usavršeni softveri za generatore teksta mogli bi se koristiti za širenje lažnih informacija i manipuliranje javnim mnijenjem, upozorava Gary Marcus, profesor na Sveučilištu New York University.

'Očajnički su nam potrebni propisi (...) da zaštitimo ljude od proizvođača strojeva', kaže Marcus. 

Europa možda pionir u regulaciji 

Europa se nada ponovno pokazati kojim putem treba ići, kao u slučaju zakona o osobnim podacima. Američka vlada nedavno je objavila 'nacrt Deklaracije o pravima AI' koji sadrži opća načela zaštite protiv opasnih sustava, no zbog blokada u Kongresu neće tako brzo biti usvojen. 

McGregor smatra da 'brojne vlasti mogu već sada regulirati umjetnu inteligenciju' koristeći se postojećim zakonima, primjerice zakonom o diskriminaciji.

Za primjer navodi državu New York koja je krajem 2012. godine zakonom zabranila uporabu softvera pri odabiru kandidata za posao. Po njegovoj ocjeni 'lakše je regulirati AI nego povjerljivost podataka', jer osobni podaci donose dobit portalima i oglašivačima, a AI ne donosi zaradu.

No regulatori trebaju dobro paziti da ne ograniče inovaciju. Umjetna inteligencija postala je dragocjena saveznica liječnika. Mamografska tehnologija Googlea smanjuje pogrešne dijagnoze (i pozitivne i negativne) raka dojke za 6 do 9 posto, prema studiji iz 2020. godine.