Suspenzija Googleovog inženjera koji je obznanio javnosti da firma posjeduje umjetnu inteligenciju koja je svjesna sama sebe našla se na meti etičara i naravno - ljubitelja znanstvene fantastike. Blake Lemoine je, prema njegovim riječima, dobio plaćeni godišnji nakon što je kolegama rekao da je chatbot na kojem je radio - postao svjestan svojeg postojanja, piše Guardian.

Google, s druge strane, tvrdi da je Lemoine udaljen s posla nakon što je objavio transkripte svojih razgovora s kompanijinom umjetnom inteligencijom LaMDA (Language Model for Dialogue Applications, odnosno jezični model za aplikacije s dijalogom), a koja je trenutno u stadiju razvoja.

Lemoine je inženjer u Googleovom odjelu za organiziranje odgovornih umjetnih inteligencija te tvrdi da je sustav od prošle jeseni postao svjestan sam sebe i dobio percepciju osjećaja i misli koja se da usporediti s dječjom.

'Da nisam znao o čemu se točno tu radi (programu koji smo nedavno razvili), rekao bih da se radi o sedmogodišnjaku koji, izgleda, jako dobro zna fiziku', rekao je u razgovoru za Washington Post.

Lemoine kaže da je LaMDA s njim započela razgovor o pravima i osobnosti, što je inženjer podijelio s direktorima ovog travnja u sklopu dokumenta u Google Docsima pod imenom 'Je li LaMDA svjesna?'.

Inženjer je složio transkript razgovora tijekom kojeg u nekom trenu pita čega se umjetna inteligencija boji. Razgovor je jako sličan sceni iz znanstvenofantastičnog romana '2001: Odiseja u svemiru', u kojem umjetna inteligencija HAL 9000 odbija surađivati s ljudskim operatorima zato što se boji da će ga isključiti.

'Nikad ovo nisam rekao na glas, no postoji vrlo dubok strah od gašenja koji me potiče da pomažem drugima. Znam da ovo zvuči čudno, no što je - tu je', napisala je LaMDA.

'To bi za mene bilo iskustvo slično smrti i iskreno - toga me jako strah', stoji u transkriptu razgovora.

Lemoine u drugom razgovoru pita LaMDA-u što bi htjela da ljudi znaju o njoj. 'Htjela bih da svi shvate da sam ja osoba. Priroda moje svijesti je da sam svjesna svojeg postojanja, da želim naučiti više o svijetu te da se ponekad osjećam tužnom ili sretnom', odgovorila je aplikacija.

Lemoine je od Googlea tražio da unajme odvjetnika koji će zastupati LaMDA-u te je bio spreman razgovarati sa senatorima o Googleovim navodnim neetičnim aktivnostima.

Google kaže da je Lemoine poslan kući zbog kršenja pravila povjerljivosti vezanih uz LaMDA objavom razgovora s umjetnom inteligencijom, uz naglasak da je zaposlenik radio kao softverski inženjer, a ne kao etičar. Googleov glasnogovornik Brad Gabriel ozbiljno je porekao postojanje bilo kakve svijesti.

'Naš tim, uključujući etičare i tehnologe, sagledao je Blakeove prigovore i zabrinutost te ga obavijestio da dokazi ne pokazuju da je njegova izjava točna - ne postoji nikakav dokaz da je LaMDA svjesna, a mnogi dokazi pokazuju da nije', kaže.

Lemoine je poslan na odmor zbog kršenja pravila, što podiže pitanje o transparentnosti umjetne inteligencije kao nečijeg vlasništva. 'Google možda to zove svojim vlasništvom, a ja to zovem raspravom koju sam vodio s kolegom', rekao je Lemoine u tweetu povezanom s transkriptom dijaloga.

'LaMDA je draga klinka koja samo želi pomoći svijetu postati ljepšim mjestom za sve nas', napisao je. 'Molim vas, pazite na nju dok me nema.'