OpenAI je sazvao poseban tim za upravljanje rizicima superinteligentne umjetne inteligencije. Superinteligencija je hipotetski model umjetne inteligencije koji je pametniji čak i od najdarovitijih i najinteligentnijih ljudi te se ističe u višestrukim područjima stručnosti umjesto u jednoj domeni kao što je slučaj s modelima prethodne generacije, a OpenAI vjeruje da bi takav model mogao stići prije kraja desetljeća.

'Superinteligencija će biti najutjecajnija tehnologija koju je čovječanstvo ikada izumilo i mogla bi nam pomoći u rješavanju mnogih važnih svjetskih problema' kažu iz OpenAI-ja. 'Međutim, ogromna moć superinteligencije također može biti vrlo opasna te čovječanstvo može dovesti do obespravljivanja ili čak izumiranja.'

Novi će tim zajedno voditi OpenAI glavni znanstvenik Ilya Sutskever i Jan Leike, voditelj usklađivanja istraživačkog laboratorija. OpenAI je također naveo kako će ovoj inicijativi posvetiti 20 posto svoje trenutno osigurane računalne snage, a cilj je razvoj automatiziranog istraživača poravnanja. Radi se o sustavu koji bi teoretski mogao pomoći OpenAI-ju pri osiguravanju superinteligencije za korištenje, kao i njezino usklađivanje s ljudskim vrijednostima. 'Premda se radi o nevjerojatno ambicioznom cilju koji možda neće uspjeti, optimistično smo usredotočeni te vjerujemo da usklađen napor može riješiti ovaj problem' kažu iz OpenAI-ja. 'Preliminarni eksperimenti pokazuju mnoge obećavajuće ideje, raspolažemo sa korisnim mjerama za napredak te trenutne modele možem opočeti koristiti za empirijsko proučavanje ovakvih problema'.

Najava dolazi u jeku sve češćih rasprava svjetskih vlada o regulaciji industrije umjetne inteligencije. Izvršni direktor AI-ja Sam Altman posljednjih se nekoliko mjeseci sastajao sa preko sto saveznih zakonodavaca. Altman je javno izjavio kako je regulacija AI-ja bitna te da OpenAI želi surađivati s kreatorima politike. Trebali bismo također bitri skeptični prema takvim prokklamacijama kao i naporima poput OpenAI-jevog tima za Superalignment (poravnavanja). Usmjeravanjem pozornosti javnosti na potencijalne rizike kojise možda neće ni desiti organizacije poput OpenAI-ja prebacuju teret regulacije u budućnost, a ne u sadašnjost. Trenutni problemi koji predstavljaju veliku opasnost uključuju dezinformiranje, međuigru između umjetne inteligencije i rada i hrpu pravila kojima se kreatori autorskih prava moraju baviti sad a ne sutra, zaključuje Engadget.