Europske nadzorne agencije za zaštitu podataka pokrenule su istrage protiv kineske tvrtke za umjetnu inteligenciju DeepSeek, koja posljednjih mjeseci izaziva velike promjene u tehnološkom sektoru. Talijanske, irske, belgijske, nizozemske i francuske vlasti ispituju prakse prikupljanja podataka ove kompanije kako bi utvrdile krši li Opću uredbu o zaštiti podataka (GDPR) prenošenjem osobnih podataka korisnika u Kinu.

Zbog ovih sumnji, Italija je već blokirala aplikaciju DeepSeek dok traje istraga o tome koje podatke aplikacija prikuplja, u koje svrhe, gdje se pohranjuju i jesu li korišteni za treniranje najnovijih AI modela. To je učinilo i još nekoliko država, naknadno i Australija.

DeepSeek je u siječnju predstavio svoj chatbot R1, koji se reklamira kao energetski učinkovitiji i jeftiniji od OpenAI-jevog ChatGPT-a. No, unatoč tehničkim inovacijama, njegova politika privatnosti izazvala je brojne kritike, piše Euronews.

Što aplikacija prikuplja?

Prema uvjetima korištenja, DeepSeek prikuplja tri vrste podataka: one koje korisnici izravno daju, poput imena i e-mail adresa, automatski prikupljene podatke poput IP adresa, te informacije iz vanjskih izvora, poput Google i Apple prijava.

Osim toga, aplikacija prati interakcije korisnika kako bi, prema vlastitom nahođenju, 'zaštitila sigurnost i dobrobit zajednice'. Prikupljeni podaci mogu se pohraniti 'što je dulje moguće' i koristiti u različite svrhe, uključujući dijeljenje s trećim stranama poput oglašivača, analitičkih tvrtki, državnih tijela i nositelja autorskih prava.

Pohrana podataka u Kini

Poseban problem izaziva činjenica da se podaci pohranjuju na serverima u Kini. Prema DeepSeeku, podaci su zaštićeni 'razumno komercijalnim tehničkim, administrativnim i fizičkim sigurnosnim mjerama'. Međutim, stručnjaci poput Davida Erdosa, suvoditelja Centra za intelektualno vlasništvo i informacijsko pravo na Sveučilištu Cambridge, upozoravaju da DeepSeek ne pruža adekvatne garancije za prava europskih korisnika.

Erdos napominje da kineski zakon daje prednost 'stabilnosti zajednice' u odnosu na individualna prava, a postoje brojni izuzeci koji omogućuju vlastima pristup osobnim podacima. Uz to, nije jasno kako se podaci stranih državljana tretiraju u kineskom pravnom sustavu.

Prema izvješću tvrtke Cisco, DeepSeek R1 je ranjiv na sigurnosne prijetnje poput 'jailbreak' napada, čime postaje podložan zloupotrebama. 'Model nema čvrste zaštitne mehanizme, što ga čini osjetljivim na zloupotrebu algoritama“, stoji u analizi.

Korisnici koji se odluče koristiti aplikaciju trebali bi biti oprezni i izbjegavati dijeljenje osjetljivih podataka. 'Ljudi moraju biti svjesni da im usluga možda ne osigurava prava koja bi inače očekivali', zaključuje Erdos.