Brzorastući kineski laboratorij za umjetnu inteligenciju DeepSeek izaziva zabrinutost za nacionalnu sigurnost u SAD-u zbog straha da bi kineska vlada mogla koristiti njegove modele za špijuniranje američkih civila, krađu poslovnih tajni i kampanje za povećanje utjecaja na javno mnijenje.

Zbog toga američko Vijeće za nacionalnu sigurnost razmatra potencijalne sigurnosne implikacije DeepSeeka. Američka mornarica već je svojim pripadnicima zabranila njegovo korištenje zbog potencijalnih sigurnosnih i etičkih problema.

DeepSeek označava veliku točku preokreta u utrci u razvoju umjetne inteligencije između SAD-a i Kine. Posljednjih godina brojni vodeći tehnolozi i politički čelnici tvrdili su da će zemlja koja najbrže razvije umjetnu inteligenciju imati veliku ekonomsku i vojnu prednost nad suparnicima.

Tako DeepSeek pokazuje da se kineska umjetna inteligencija razvila znatno brže nego što su mnogi vjerovali, unatoč američkim nastojanjima da je uspore. Stručnjaci za privatnost tvrde da DeepSeekove politike prikupljanja podataka nisu ništa lošije od onih koje koriste njegovi američki konkurenti i brinu se da će uspon tvrtke te tvrtke biti iskorišten kao izgovor za pozivanje na deregulaciju.

DeepSeekovi AI modeli rade slično ChatGPT-ju, odgovarajući na pitanja korisnika zahvaljujući ogromnoj količini podataka i vrhunskim mogućnostima obrade. Ali bitno su jeftiniji. Tvrtka kaže da je osposobila svoj model R1 sa samo šest milijuna američkih dolara.

Izgradila je brojne resurse otvorenog računalnog koda, uključujući LLM v3, konkurentan sposobnostima OpenAI-jevog GPT-4o zatvorenog koda.

Postoji zabrinutost oko toga da bi tako moćna otvorena tehnologija mogla predstavljati priliku za slobodnije korištenje u zlonamjerne svrhe (recimo, stvaranje biološkog oružja, pokretanje velikih phishing kampanja...). S druge strane, ima i onih koji vjeruju da je razvoj otvorenog koda korisniji put naprijed za umjetnu inteligenciju.

Problemi s podacima

Stručnjaci tvrde da je većina velikih jezičnih modela, uključujući DeepSeekov, izgrađena na osjetljivim ili sumnjivim bazama podataka (dobivenim, primjerice, krađom podataka ili krađom biometrije).

Također, pitanje je kako bi DeepSeek mogao koristiti podatke. Politika privatnosti tvrtke navodi da automatski prikuplja mnoštvo ulaznih podataka od svojih korisnika, uključujući IP i obrasce tipkanja, i može ih koristiti za treniranje svojih modela.

Osobne podatke korisnika pohranjuju na web poslužiteljima koji se nalaze u Narodnoj Republici Kini. Amerikance to posebno brine jer se generativne alate umjetne inteligencije često koristi u osobnim ili zahtjevnim zadacima: za pomoć u razvoju poslovnih strategija, upravljanju financijama ili traženju zdravstvenih savjeta.

Takva vrsta podataka sada bi mogla biti pohranjena u državi s malo zakona koji bi regulirali kako ih se može pregledavati ili koristiti. Jedan od glavnih razloga zbog kojih je TikTok prvotno zabranjen u SAD-u bila je zabrinutost oko toga koliko je podataka kineska matična tvrtka ByteDance prikupljala od Amerikanaca. DeepSeek dolazi sa sličnim rizicima, samo uvećanima.

Egzistencijalna utrka

DeepSeek također je digao uzbunu među onima koji na razvoj umjetne inteligencije gledaju kao na egzistencijalnu utrku u naoružanju između SAD-a i Kine.

Kina bi sad mogla biti puno bliža razvoju umjetne inteligencije koja može razmišljati na ljudskoj razini ili višoj nego što se prije vjerovalo. Zasad nije jasno kako se DeepSeek brine o sigurnosti svojih sustava, a i već su se pojavile dvojbe oko toga koliko je otporan na kibernetičke napade.

Moćan i popularan model umjetne inteligencije mogao bi utjecati na mišljenje i ideologiju svojih korisnika diljem svijeta. Većina modela umjetne inteligencije primjenjuje cenzuru na određene ključne načine ili prikazuje pristranosti na temelju podataka na kojima se trenira.

Korisnici su otkrili da DeepSeekov R1 odbija odgovoriti na pitanja o masakru na trgu Tiananmen 1989. godine i tvrdi da je Tajvan dio Kine. Čelnici industrije umjetne inteligencije i neki republikanski političari odgovorili su pozivom na velika ulaganja u američki sektor umjetne inteligencije.

Spomenuta strahovanja mogla bi dovesti do jačanja američkih sankcija protiv kineskih tehnoloških tvrtki, možda i do zabrane DeepSeeka. S druge strane, etičari umjetne inteligencije tvrde da njegov uspon zapravo otkriva akutnu potrebu za zaštitnim mjerama u industriji u cjelini, piše Time.