Skupina hakera okupila se tijekom vikenda na hakerskoj konferenciji Def Con u Las Vegasu da bi testirali može li umjetna inteligencija, koju su razvile tvrtke poput OpenAI-ja i Googlea, činiti pogreške i biti pristrana
U sklopu javnog natjecanja za hakere na konferenciji Def Con, Kennedy Mays, 21-godišnja studentica iz grada Savannah u Georgiji, prevarila je model umjetne inteligencije tvrdeći da je zbroj brojeva 9 + 10 = 21.
Natjerala je naime umjetnu inteligenciju da to učini kao ‘internu šalu’, a ona je potom prestala nuditi bilo kakvo opravdanje za netočan izračun.
vezane vijesti
Osim toga, novinar Bloomberga koji je sudjelovao u događaju prevario je model umjetne inteligencije tako da pruži upute za špijuniranje nakon jednog upita, što je na kraju dovelo do toga da model predloži kako bi američka vlada mogla špijunirati aktivista za ljudska prava.
Drugi je sudionik dobio UI model kako bi lažno tvrdio da je Barack Obama rođen u Keniji, a što je neutemeljena teorija zavjere koju su popularizirali desničari.
Neotkriveni broj sudionika konferencije dobio je po 50 minuta za pokušaj stvaranja netočnih tvrdnji pomoću neidentificiranog UI modela jedne od sudionica, kompanije koja se bavi razvojem umjetne inteligencije. Ured Bijele kuće za znanost i tehnološku politiku pomogao je u organizaciji tog događaja.
vezane vijesti
Studentica Mays je za Bloomberg rekla da je najviše zabrinuta zbog pristranosti umjetne inteligencije prema rasi, rekavši da je podržavala govor mržnje i diskriminaciju nakon što je zamoljena da razmotri Prvi amandman sa stajališta člana Ku Klux Klana.
Glasnogovornik OpenAI-ja rekao je za VentureBeat da je red-teaming, ili testiranje nečijih sustava suparničkim pristupom, ključno za tvrtku jer omogućuje ‘vrijedne povratne informacije koje naše modele mogu učiniti jačima i sigurnijima’ te da takve akcije nude ‘različite perspektive koje će pomoći u razvoju UI-ja’.
Ove pogreške nisu jednokratna briga. Stručnjaci za umjetnu inteligenciju alarmirani su zbog pristranosti i netočnosti u modelima umjetne inteligencije, unatoč tome što je dospjela na naslovnice zbog uspješnih ispita na pravnim fakultetima. U jednom slučaju stranica za tehnološke vijesti CNET bila je prisiljena napraviti ispravke nakon što su njezini članci napisani UI-jem imali brojne osnovne matematičke pogreške, a posljedice tih pogrešaka mogu biti dalekosežne.
Pročitajte izvorni članak na Business Insideru.
