Nekoliko bivših i sadašnjih zaposlenika AI kompanija zahtijeva da one budu transparentnije u pogledu 'ozbiljnih rizika' od umjetne inteligencije te da zaštite one koji su zabrinuti zbog tehnologije koju grade
'Vodeće tvrtke imaju snažne financijske poticaje za izbjegavanje učinkovitog nadzora', stoji u otvorenom pismu objavljenom u utorak, a koje su potpisali sadašnji i bivši zaposlenici u tvrtkama koje se bave umjetnom inteligencijom, uključujući OpenAI, tvorca viralnog alata ChatGPT.
Također su pozvali tvrtke da počnu njegovati 'kulturu otvorene kritike' koja pozdravlja, a ne kažnjava ljude koji govore o problemima, posebno dok se zakon bori da uhvati korak s tehnologijom koja brzo napreduje.
Tvrtke su priznale 'ozbiljne rizike' koje predstavlja umjetna inteligencija - od manipulacije do gubitka kontrole, poznatog kao 'singularnost', koji bi potencijalno mogao rezultirati ljudskim izumiranjem - te da bi trebale činiti više kako bi educirale javnost o rizicima i zaštitnim mjerama, napisala je grupa zviždača u otvorenom pismu.
Kažu da, kako zakon trenutno stoji, ne vjeruju da će AI tvrtke dobrovoljno dijeliti kritične informacije o tehnologiji.
vezane vijesti
Stoga je ključno da sadašnji i bivši zaposlenici progovore - i da tvrtke ne omalovažavaju ili se na drugi način osvete onima koji izražavaju zabrinutost vezanu uz rizik. 'Uobičajena zaštita zviždača je nedovoljna jer se fokusira na nezakonite aktivnosti, dok mnogi rizici zbog kojih smo zabrinuti još nisu regulirani', napisala je skupina.
Njihovo pismo dolazi u trenutku u kojem tvrtke ubrzano implementiraju generativne AI alate u svoje proizvode, a državni regulatori, tvrtke i potrošači bore se s odgovornom upotrebom. U međuvremenu su se mnogi tehnološki stručnjaci, istraživači i čelnici pozvali na privremenu pauzu u utrci za umjetnom inteligencijom ili čekaju da vlade uskoče i uvedu moratorij.
Odgovor OpenAI-ja
U odgovoru na pismo, glasnogovornik OpenAI-ja rekao je CNN-u da je 'ponosan na dosadašnje rezultate tvrtke koja pruža najsposobnije i najsigurnije AI sustave te vjeruje u njihov znanstveni pristup rješavanju rizika', dodajući da se tvrtka slaže da je 'rigorozna rasprava ključna s obzirom na značenje ove tehnologije'.
OpenAI ima anonimnu telefonsku liniju za integritet i Odbor za sigurnost koji vode članovi odbora i osobe odgovorne za sigurnost. Tvrtka ne prodaje osobne podatke, ne gradi korisničke profile niti koristi te podatke za ciljanje bilo koga ili prodaju bilo čega.
No Daniel Ziegler, jedan od potpisnika pisma i inženjer strojnog učenja koji je radio u OpenAI-ju između 2018. i 2021., rekao je za CNN da je važno ostati skeptičan prema predanosti tvrtke transparentnosti.
'Doista je teško izvana reći koliko ozbiljno shvaćaju svoje obveze u vezi s procjenama sigurnosti i utvrđivanjem štete za društvo, pogotovo jer postoje jaki komercijalni pritisci da se krene vrlo brzo', rekao je. 'Zaista je važno imati pravu kulturu i procese kako bi zaposlenici mogli ciljano govoriti kada imaju problema.' Nada se da će više zabrinutih stručnjaka u industriji umjetne inteligencije izaći u javnost.
U međuvremenu se očekuje da će Apple najaviti partnerstvo s OpenAI-jem na svojoj godišnjoj Svjetskoj konferenciji za programere kako bi donio generativni AI na iPhone. 'Vidimo generativnu umjetnu inteligenciju kao ključnu priliku u svim našim proizvodima i vjerujemo da imamo prednosti koje nas izdvajaju', rekao je izvršni direktor Applea Tim Cook u svibnju.
