Ilya Sutskever, jedan od suosnivača OpenAI-ja, pokrenuo je novu tvrtku - Safe Superintelligence Inc. (SSI) - samo mjesec dana nakon što je službeno napustio OpenAI
Sutskever, koji je bio dugogodišnji glavni znanstvenik OpenAI-ja, osnovao je SSI s bivšim partnerom Y Combinatora Danielom Grossom i bivšim inženjerom OpenAI-ja Danielom Levyjem.
U OpenAI-ju je Sutskever želio poboljšati sigurnost umjetne inteligencije uslijed porasta 'superinteligentnih' AI sustava. Na tome je radio s Janom Leikeom, bivšim suvoditeljem OpenAI-jevog Superalignment tima. Ipak, i Sutskever, a potom i Leike, napustili su tvrtku u svibnju nakon dramatičnog sukoba s vodstvom OpenAI-ja oko toga kako pristupiti sigurnosti umjetne inteligencije. Leike sada vodi tim u konkurentskoj AI kompaniji Anthropic.
vezane vijesti
Sutskever već duže vrijeme ističe problematične aspekte sigurnosti umjetne inteligencije. On i Leike lani su pisali da bi AI s inteligencijom nadmoćnom ljudskoj (opća umjetna inteligencija) mogla stići unutar desetljeća i da, kada se to dogodi, neće nužno biti dobronamjerna, što zahtijeva istraživanje načina za njenu kontrolu i ograničavanje, piše TechCrunch.
I dalje je predan tom cilju. Objava na X-u kojom najavljuje osnivanje nove tvrtke navodi sljedeće: 'SSI je naša misija, naše ime i cijeli naš proizvodni plan jer je to naš jedini fokus. Naš tim, investitori i poslovni model usklađeni su kako bi postigli SSI. Sigurnosti i sposobnostima pristupamo u tandemu, kao tehničkim problemima koje treba riješiti revolucionarnim inženjerskim i znanstvenim otkrićima.
Planiramo unaprijediti sposobnosti što je brže moguće, a pritom osigurati da sigurnost uvijek ostaje ispred nas. Ovako možemo u miru skalirati. Naš jedinstveni fokus znači da nema ometanja režijskim troškovima ili proizvodnim ciklusima, a naš poslovni model znači da su sigurnost i napredak izolirani od kratkoročnih komercijalnih pritisaka.'
Očito je da je, za razliku od OpenAI-ja - koji je izvorno pokrenut kao neprofitna organizacija 2015., a zatim se restrukturirao kada su goleme svote novca potrebne za njegovu računalnu snagu postale očitije - SSI osmišljen od temelja kao profitna organizacija. Sudeći prema interesu za umjetnu inteligenciju i vjerodajnicama, vrlo brzo bi se također mogao 'utopiti' u kapitalu. 'Od svih problema s kojima se suočavamo', kaže Gross za Bloomberg, 'prikupljanje kapitala neće biti jedan od njih.' SSI ima urede u Palo Altu i Tel Avivu, gdje trenutno zapošljava IT-jevce.
