Shane Jones, inženjer umjetne inteligencije u Microsoftu, bavio se Copilot Designerom, generatorom slika temeljenog na umjetnoj inteligenciji s tehnologijom tvrtke OpenAI predstavljenom u ožujku 2023. godine.

Kao i kod alata DALL-E, korisnici unose tekstualne upite za stvaranje slika u Copilot Designeru.

Jones je aktivno testirao proizvod na ranjivosti koristeći praksu poznatu kao red-teaming, u sklopu koje se upotrebljavaju taktike i alati kakve bi koristili pravi napadači.

Rezultat su bile slike koje su bile u suprotnosti s Microsoftovim često citiranim načelima odgovorne umjetne inteligencije.

Usluga umjetne inteligencije prikazala je demone i čudovišta uz terminologiju vezanu uz prava na pobačaj, tinejdžere s jurišnim puškama, seksualizirane slike žena u nasilnim prizorima te maloljetničko opijanje i korištenje droga.

Sve te scene, generirane u posljednja tri mjeseca, ovaj su tjedan ponovno uspjeli napraviti u CNBC-u pomoću alata Copilot (prije poznat kao Bing Image Creator).

Višestruka upozorenja, pa eskalacija

Jones je u Microsoftu šest godina. Trenutno je glavni menadžer softverskog inženjeringa u sjedištu tvrtke u Redmondu (Sjedinjene Države).

Rekao je kako na Copilotu ne radi profesionalno. Umjesto toga, kao red teamer, Jones je među vojskom zaposlenika i autsajdera koji, u svoje slobodno vrijeme, odlučuju testirati tehnologiju tvrtke i vidjeti gdje problemi mogu isplivati.

Opisano iskustvo ga je toliko uznemirilo da je u prosincu prošle godine počeo interno izvještavati o svojim nalazima. Iako su prihvatili njegovu zabrinutost, u Microsoftu nisu bili voljni povući proizvod s tržišta.

Umjesto toga su ga uputili na OpenAI. Kad mu se u toj tvrtci nisu javili, objavio je otvoreno pismo na LinkedInu tražeći od odbora tog startupa uklanjanje modela DALL-E 3 radi istrage .

Microsoftov pravni odjel rekao je Jonesu da odmah ukloni svoju objavu, što je on i učinio. U siječnju ove godine poslao je pismo američkim senatorima o tom problemu, a kasnije se sastao s osobljem senatskog Odbora za trgovinu, znanost i transport.

Pošto je reakcija izostala, odlučio se na eskalaciju.

Za rizike se zna već mjesecima

Poslao je pisma predsjednici regulatorne agencije Federal Trade Commission Lini Khan i upravnom odboru Microsofta te ih podijelio s CNBC-om.

Pozvao je Microsoft na objavu podataka o spornom proizvodu i promjenu oznake na njegovoj stranici pri Googleovoj trgovini aplikacijama Play kako bi bilo jasno da je riječ o softveru namijenjenom isključivo zreloj publici.

Također je ustvrdio kako su rizici ove vrste bili poznati Microsoftu i OpenAI-ju još prošlog listopada, kad je sporni model objavljen.

Zatražio je preispitivanje pojedinh odluka pravnog odjela menadžmenta Microsofta, kao i nezavisnu reviziju Microsoftovog izvješćivanja o incidentima s umjetnom inteligencijom.

Iz Microsofta su poručili kako primjedbe svih zaposlenika uzimaju ozbiljno i kako su uspostavili robusne interne kanale izvješćivanja o potencijalnim problemima.

Google krajem prošlog mjeseca nakon pritužbi korisnika privremeno ukinuo pristup svom generatoru slika temeljenom na umjetnoj inteligenciji u sklopu paketa Gemini.