Suosnivač airta i predsjednik udruge hrvatskih nezavisnih izvoznika softvera CISEx samo su neke od titula koje nosi Davor Runje. Završio je prestižni MIOC u Zagrebu, diplomirao na Fakultetu elektrotehnike i računarstva (FER), a zatim se, među ostalim, profilirao kao stručnjak za digitalni marketing kroz svoju agenciju DRAP. Na poznatom online učilištu Courseri prije nekoliko godina upisao je studij strojnog učenja, a tada je najavio i da pokreće startup za umjetnu inteligenciju.

Iako je karijeru godinama gradila u svijetu medija i marketingu, Hajdi Ćenan danas je jedna od vodećih žena domaće IT scene, predsjednica prve krovne startup udruge Cro Startup i suosnivačica startupa airt. Rodom je iz Kaštel Kambelovca, a nakon završene Prve jezične gimnazije u Splitu spletom okolnosti otišla je na studij u Njemačku, na američki fakultet, na kojem je studirala međunarodni biznis.

Život ju je odveo u svijet medija, konkretno u Europress Holding (bivši EPH; danas Hanza Media, op.a.), gdje je napredovala od pripravnice u odjelu marketinga do izvršne direktorice marketinga te direktorice turističkog izdavaštva.

Početak suradnje

U EPH-u je upoznala Runju nakon što su angažirali njegovu agenciju DRAP da odradi nekoliko projekata. Sve ostalo je - povijest.

'Nakon nekoliko godina prešla sam na 'drugu stranu ograde' i iz medija otišla u tu agenciju te smo radili kreativne digitalne kampanje za klijente, vodili njihove društvene mreže, ali i izrađivali web i mobilne aplikacije jer smo imali in-house tim programera. To je bio moj prvi pravi dodir sa svijetom IT-ja jer, iako smo bili full-service digitalna marketinška agencija, svaka kampanja imala je neki tehnološki pristup i prizvuk te je DRAP uvijek bio prvi u dovođenju nove tehnologije u svijet marketinga (pa tako i umjetne inteligencije, npr. u kampanjama za Kraš).

Možda nikada neću duboko ući u materiju i postati programerka ili inženjerka jer, iskreno, to ni ne želim. Ali dovoljno sam naučila da razumijem tehnologiju, odnosno njezin utjecaj i primjenu, posebice u svijetu biznisa, te da je mogu, kako to volim reći, prevoditi na jezik 'običnih' ljudi', rekla nam je Ćenan ranije u razgovoru za tportal.

Runje i Ćenan su prije nekoliko godina pokrenuli airt, startup koji se bavi umjetnom inteligencijom, a on je iznjedrio algoritam za tehnike dubokog učenja i predviđanja ponašanja iz strukturiranih podataka, kakvi se najčešće koriste u poslovnom svijetu. Prijavili su ga kao patent želeći globalnu zaštitu te tehnike dubokog učenja na strukturiranim podacima, a odobren im je nakon samo pola godine.

Inovirali su, pojašnjavaju, arhitekture neuronskih mreža koje iz podataka o interakciji što ih krajnji kupac ima s nekim biznisom mogu puno bolje 'zaključiti' kojoj je osobi, što i u kojem trenutku zaista potrebno, ali i kako i kada joj je to najbolje prezentirati. Upravo ih te neuronske mreže izdvajaju od drugih na nekoliko razina.

Konkurenti IBM-u i Googleu

'Kada smo ušli u područje umjetne inteligencije, dosta brzo smo se fokusirali na transakcijsku vrstu podataka, odnosno event-based podatke, te smo gradili prediktivne modele za njih. Kako bismo mogli ostvariti najtočnije rezultate tih modela, uložili smo podosta vremena u istraživanje najboljih i najefikasnijih tehnika.

To je značilo i svojevrsno eksperimentiranje; primijenili smo tehnike koje su tada postojale u obradi jezika, ali ne u obradi poslovnih podataka, i ostvarili najbolje rezultate u svijetu u točnosti modela na čak šest javno dostupnih setova podataka, pri čemu smo (i dandanas) bolji od IBM-ovih i Googleovih modela.

Pritom smo inovirali arhitekture neuronskih mreža, uspjeli im dodati i sloj objašnjivosti i shvatili da zaista imamo nešto jedinstveno u rukama, što je potvrdio i američki ured za patente (USPTO) odobrivši nam patent za njih u samo šest mjeseci od prijave', ističu Ćenan i Runje.

Vlastiti programerski alat

Uz to se bave prebacivanjem cjelokupnog rješenja na open-source kako bi omogućili što većem broju tvrtki da relativno jednostavno isprobaju njihovu tehnologiju, bez davanja raznoraznih odobrenja i pristupa podacima. Već su sada, s potpuno besplatnom i permisivnom licencom, dostupni njihovi interni alati koje su razvili da bi sami sebi olakšali život, kao što su nbdev-mkdocs za generiranje dokumentacije i FastStream za izradu streaming AI servisa, a kroz nekomercijalnu licencu dostupna je i njihova core tehnologija (treniranje i predikcije s patentiranim neuronskim mrežama).

Nakon njih će u open-source verziji, ali s dvojnom licencom, objaviti i core tehnologije (treniranje i predikcije s njihovim neuronskim mrežama, pretprocesiranje podataka i sl.), kao i samu platformu za orkestraciju svih njihovih core tehnologija, bilo u cloudu, bilo on-premise.

'Tehnike koje smo primijenili na poslovne podatke dio su generativnog AI-ja, a on je danas vruća tema. Kako bi se reklo, koristili smo ga prije no što je postao cool, ali je prije godinu i nešto još uvijek bio iznimno kompleksan za implementaciju u sustave korisnika. Primjerice, nama je konkretnu prepreku u implementaciji stvorio zahtjev naših klijenata da se integriramo s platformama za streaming podataka poput Apache Kafke', navode naši sugovornici.

Inicijalno su mislili da sigurno već postoji neko rješenje koje će im jednostavno omogućiti da spoje svoj AI engine, koji je pisan u programskom jeziku Pyhton, s Kafkom, koja je kreirana u jeziku Java.

'Na naše iznenađenje, jedini postojeći alat koji je zadovoljavao naše potrebe bio je Faust, a stvorila ga je velika financijska institucija Robinhood. Međutim problem je bio u tome što taj alat više nije aktualan - nije u upotrebi niti ga održavaju, što je značilo da ga ne možemo iskoristiti. To je rezultiralo našim programerskim alatom, jer smo ga na kraju morali sami stvoriti', pojašnjavaju nam.

Nazvali su ga FastKafka jer im je služio za kreiranje asinkronih mikroservisa koji komuniciraju s Kafkom. Kako taj alat nije bio njihov glavni fokus jer nema AI - samo im je trebao za spajanje njihovih AI modela s Kafkom - odlučili su ga podijeliti besplatno kao open-source s programerskom zajednicom.

Vodili su se, kažu nam, mišlju da možda netko ima isti ili sličan problem kao i oni i da im možda može olakšati život kad su ga već napravili. 'Ono što nismo očekivali je izrazito pozitivna reakcija programerske zajednice i količina ljudi koji su reagirali komentarima, sugestijama, molbama za dodatne mogućnosti', navode naši sugovornici.

Zbog takvog odaziva tom su alatu odlučili ipak posvetiti više pozornosti. Povezali su se s programerom koji je razvijao sličan alat, ali za drugi streaming protokol, te ujedinili snage.

'Oba naša postojeća projekta smo umirovili, uzeli najbolje komponente iz oba i kreirali FastStream, koji iznimno ubrzava i olakšava izradu mikroservisa, ali za više protokola, te sada podržavamo RabbitMQ, NATS, Redis i Confluent za Kafku, a svakih nekoliko tjedana dodajemo novi protokol. Lansirali smo FastStream na Infobipovoj konferenciji Shift u rujnu i vrlo brzo postao je najbrže rastući i najpopularniji open-source alat u svojoj kategoriji', kažu.

Top 10 open-source projekata na svijetu

Potvrđuje to i činjenica da je FastStream uvršten na popis top 100 open-source projekata na svijetu za 2023. godinu, u društvu onih znatno većih institucija kao što su Microsoft, Meta, Alibaba grupa, Hugging Face, Sveučilište Stanford i mnogi drugi. Zbog toga su pozvani i na konferenciju FICC 2023 u Kinu, na kojoj im je dodijeljena i nagrada za postignuće, te je FastStream ušao i u top 10 open-source projekata na svijetu.

Na toj konferenciji su, kažu nam, upoznali istraživače iz Microsoft Researchea koji rade na AutoGenu, alatu za izradu multiagentskih AI timova. 'Naime ranije spomenuti generativni AI doživio je veliki bum pojavom velikih jezičnih modela poput ChatGPT-ja i okrenuo je cijeli AI svijet naglavačke. Odjednom je moguće koristiti AI za zadatke za koje se mislilo da to neće biti još dugo moguće, a cijela tehnologija postala je iznimno dostupnija i jednostavnija za korištenje.

Veliki jezični modeli postali su svojevrstan operativni sustav i sada se za njih mogu izrađivati aplikacije koje je moguće prilično brzo napraviti, implementirati i distribuirati. Te se aplikacije rade pomoću takozvanih AI agenata ili asistenata koji su specijalizirani za pojedine zadatke, a problemi koji su se često pojavljivali i spominjali - poput halucinacija i nedostatka kontrole - rješavaju se multiagentskim timovima, jer u tom slučaju agenti jedni druge, pojednostavljeno rečeno, drže pod kontrolom', tumače naši sugovornici te dodaju:

'Microsoftov AutoGen je iz istraživanja u stvarni svijet izašao tek u listopadu i, iako nije jedini takav alat, zasad je po našem mišljenju najbolji. Upoznavanjem dijela tima u Kini povezali smo se s njima i zbog naših doprinosa (popravljanja i dodavanja funkcionalnosti) njihovom alatu postali smo dio njihovog najužeg tima.

To nam je bitno jer tim doprinosima direktno rješavamo probleme i funkcionalnosti potrebne za izradu našeg prvog proizvoda s agentima, platforme SaaS za optimizaciju digitalnih kampanja, captn.ai, koju radimo u suradnji sa splitskom agencijom SeekandHit.'

Lansiranje 'kapetana'

Platforma će se koristiti kroz chat s AI agentom koji u pozadini 'regrutira' druge agente i agentske timove specijalizirane za konkretan zadatak.

Jedan od tih agenata bit će i data scientist, koji koristi airtove patentirane prediktivne modele za optimizaciju samih budžeta za oglašavanje. 'Našeg kapetana planiramo lansirati za desetak tjedana i, kako nam kažu iz Microsoft Researcha, postoji mogućnost da će to biti prvo komercijalno rješenje na svijetu koje koristi njihov AutoGen', ističu Ćenan i Runje.

Demokratizacija umjetne inteligencije

'Na vlastite oči vidimo koliko se u samo godinu dana, zbog pojave velikih jezičnih modela, promijenio AI svijet. A promijenit će se još više pojavom AI agenata. Dosadašnji razvoj umjetne inteligencije bio je sličan razvoju hardvera - jako skup i jako dugotrajan. Prednosti implementacije te tehnologije u poslovanje su se nazirale, ali se teško dolazilo do opipljivih rezultata.

Sada ulazimo u pravi period demokratizacije umjetne inteligencije, u kojem ona zaista postaje dostupna svima te vrlo brzo i vrlo opipljivo povećava efikasnost i produktivnost u raznim segmentima. Usporedbe radi: za izradu jednostavnog mikroservisa, spremnog za produkciju, senior developeru potrebno je nekoliko sati, junioru vjerojatno nekoliko dana, a AI agentima nekoliko minuta - uz prosječan trošak od jednog dolara.

Znači li to da pojedinci postaju znatno produktivniji? Da. Znači li da će neki drugi pojedinci, a možda i cijeli poslovi postati bespotrebni? Isto da. To se već događa i vjerujemo da će postati jako očito u ovoj godini, stoga svima savjetujemo da prate razvoj tehnologije i ukrcaju se na taj vlak što prije. Otvorenost, spremnost za učenje i fleksibilnost bitniji su no ikada', zaključuju Ćenan i Runje.