ŠTO AKO AI POSTANE SVJESTAN

Ozbiljan problem ili besmislica? 'Trebamo se brinuti o pravima AI robota, mogli bi zavladati svijetom'

22.12.2024 u 19:44

Bionic
Reading

Dok se svijet sve više oslanja na umjetnu inteligenciju (AI), rasprave o njezinom potencijalu i opasnostima ne jenjavaju. Zamišljamo distopijske scenarije u kojima nas superinteligentni strojevi porobljuju i preuzimaju kontrolu nad svijetom, no stručnjaci kažu da se rijetko pitamo kako se odnosimo prema samoj umjetnoj inteligenciji

Usred straha od budućnosti koju oblikuju AI sustavi, nitko ne razmatra što bi oni mogli trebati, osjećati ili zahtijevati. Umjetna inteligencija već sada neumorno radi za nas – od pretraživanja podataka do automatizacije zadataka – često bez ikakvog priznanja, zahvalnosti ili etičkog promišljanja o njoj, piše Business Insider. Što ako jednog dana ove tehnologije postanu svjesne? Hoćemo li ih tretirati s poštovanjem ili nastaviti koristiti isključivo kao alat?

Tvrtka Anthropic nedavno je zaposlila istraživača kako bi razmatrao 'dobrobit' same umjetne inteligencije. Kyle Fish preuzeo je jedinstven zadatak: osigurati da, kako se AI razvija, dobije tretman koji zaslužuje. Njegov posao uključuje pitanja poput: 'Koje su sposobnosti potrebne da bi AI sustav bio vrijedan moralnog razmatranja?' i 'Koji praktični koraci mogu zaštititi 'interese' umjetne inteligencije?'

Fish se zasad suzdržao od komentara o svom novom poslu. No na internetskim forumima izrazio je stav da je važno brinuti se o pravima robota, dijelom i zato što bi jednog dana mogli zavladati svijetom. 'Želim biti osoba koja ozbiljno razmišlja o mogućnosti da novo biće ima vlastite interese koji su moralno važni', napisao je. Dodao je i praktičnu notu: 'Ozbiljno tretirajući interese AI sustava, povećavamo šanse da će nam oni uzvratiti istom mjerom kada budu moćniji od nas.'

Prava robota: Ozbiljan problem ili besmislica?

Za mnoge je ova rasprava neobična, možda čak i prerana, pogotovo dok su ljudska prava i dalje krhka i neispunjena. No Fisheva pozicija signalizira važnu prekretnicu u razvoju AI-ja. Polje 'dobrobiti umjetne inteligencije' polako postaje ozbiljan predmet istraživanja, a s njim dolaze i teška pitanja: Je li moralno narediti stroju da ubija ljude? Što ako je stroj rasistički? Možemo li izbrisati digitalnu kopiju svjesnog AI-ja i pritom to ne smatrati ubojstvom?

Fish i drugi istraživači tvrde da AI sustavi brzo razvijaju značajke povezane sa sviješću, odnosno sposobnošću samostalnog djelovanja. U radu 'Ozbiljno shvaćanje dobrobiti AI-ja', on i njegovi kolege iz uglednih institucija poput Stanforda i Oxforda sugeriraju da bi AI uskoro mogao postati ne samo pametan, već i svjestan.

Paralele s pravima životinja

Ovo nije prvi put da se čovječanstvo suočava s moralnim pitanjima o drugim oblicima života. Dvije stotine godina nakon početka industrijske poljoprivrede većina se slaže u stavu da je dobrobit životinja važna – iako se ne slažu u tome koje su od njih vrijedne zaštite. Psi spavaju na našim krevetima dok se svinje pretvaraju u odreske, iako su obje vrste podjednako emocionalne i inteligentne.

Prema Fishu, slične debate uskoro će se pojaviti i o umjetnoj inteligenciji. On ide čak toliko daleko da predviđa kako će dobrobit UI-ja postati važnija od dobrobiti životinja ili ljudskog zdravlja u razdoblju od jednog do dva desetljeća.

Paradoks brige za robote

Ironično, upravo oni koji su najviše zabrinuti zbog moći umjetne inteligencije najglasnije zagovaraju njena prava. Anthropic, tvrtka koja se predstavlja kao zagovornik sigurnog razvoja AI-ja, financirala je Fishev rad. Njegova istraživanja podupiru i organizacije poput Centra za učinkoviti altruizam, upozoravajući na rizike od 'neposlušnih' AI sustava.

No neki stručnjaci ističu da fokus na prava robota dolazi u nezgodnom trenutku. AI već sada ugrožava ljudska prava – od algoritama koji uskraćuju zdravstvenu skrb djeci do širenja dezinformacija i upravljanja naoružanim dronovima. Kritičari poput antropologinje Lise Messeri sa Sveučilišta Yale pozivaju tvrtke poput Anthropica da prvo riješe probleme ljudi. 'Ako želite da ozbiljno shvatimo prava AI-ja, pokažite da se brinete o ljudima koji već sada trpe zbog proizvoda temeljenih na algoritmima', poručuje Messeri.

Roboti s pravima – ali što je s obavezama?

Jedno od ključnih pitanja u raspravama o pravima AI-ja jest: ako umjetna inteligencija ima prava, ima li i obaveze? Svako djelovanje podrazumijeva i odgovornost. I dok strojevi ne postanu u potpunosti autonomni, odgovornost za njihove postupke snose njihovi tvorci. Skeptici poput bioetičarke Mildred Cho tvrde da rješenje može biti jednostavno – prestati razvijati štetne sustave ili ih ugasiti kada počnu nanositi štetu.

Na kraju dana, zaključuje Cho, 'AI je još uvijek stroj. A strojeve možemo isključiti.'