Skupina 20 vodećih tehnoloških tvrtki obvezala se na zajedničku borbu protiv dezinformacija uz pomoć umjetne inteligencije tijekom ovogodišnjih izborima.

Posebno se to odnosi na deepfake, koji može koristiti obmanjujući zvuk, video i slike za oponašanje ključnih sudionika u demokratskim izborima ili za pružanje lažnih informacija o glasovanju.

Prema podacima tvrtke za strojno učenje Clarity, broj stvorenih deepfakeova raste 900 posto iz godine u godinu.

Sporazum su, između ostalih, potpisali Microsoft, Meta Platforms, Google, Amazon, IBM, Adobe i dizajner čipova Arm. Startupi za umjetnu inteligenciju OpenAI, Anthropic i Stability AI također su se pridružili, zajedno sa društvenim medijima kao što su Snap, TikTok i X.

Za sada se te tvrtke dogovaraju o tome što predstavlja skup tehničkih standarda i mehanizama detekcije.

Potpisom na sporazum prihvatile su osam obaveza, uključujući procjenu rizika modela, potragu za otkrivanjem i rješavanje distribucije takvog sadržaja na svojim platformama i pružanje transparentnosti tih procesa javnosti.

Kao i kod većine dobrovoljnih obveza u tehnološkoj industriji i izvan nje, obveze se primjenjuju samo 'tamo gdje su relevantne za usluge koje svaka tvrtka pruža', navedeno je u objavi za javnost.

Protiv zloraba u superizbornoj godini

Tehnološke platforme pripremaju se za veliku godinu izbora diljem svijeta, čiji će rezultati imati utjecaja na više od četiri milijarde ljudi u više od 40 država.

Dezinformacije na izborima bile su veliki problem još od kampanje tijekom predsjedničkih izbora u Sjedinjenim Državama 2016. godine, kada su ruski akteri pronašli jeftine i jednostavne načine za širenje netočnog sadržaja na društvenim platformama.

Brz razvoj umjetne inteligencije uvelike olakšava posao zlonamjernim akterima, a tehnologije za otkrivanje i označavanje vodenim žigovima koje se koriste za identifikaciju deepfakeova ne napreduju dovoljno brzo kako bi mogle suzbiti prijetnje.

Čak i ako platforme pristanu ubaciti zaštitne mjere poput nevidljivih vodenih žigova i određenih vrsta metapodataka, postoje načini ih zaobići.

Vijest o sporazumu dolazi dan nakon što je tvorac ChatGPT-ja OpenAI najavio Soru, svoj novi model za video generiran umjetnom inteligencijom. Sora radi slično alatu za generiranje slika, DALL-E. Korisnik upiše željenu scenu i Sora će vratiti video isječak visoke razlučivosti.

Sora također može generirati videoisječke nadahnute fotografijama i proširiti postojeće videozapise ili popuniti nedostajuće okvire, piše CNBC.