Bivši pilot helikoptera u njemačkoj vojsci, 44-godišnji Florian Seibel, danas je izvršni direktor Quantum Systemsa, tvrtke sa sjedištem u Münchenu koja se može pohvaliti investitorima poput 'čarobnjaka' iz Silicijske doline Petera Thiela. Tvrtka proizvodi izviđačke bespilotne letjelice koje Ukrajina koristi za obranu od ruske invazije.

Seibel naglašava da će zbog brojčane razlike između vojski demokratskih zemalja i vojske Kine i Rusije oslanjanje na robote postati nužno, 'kako bi se nosili sa smanjenim brojem boraca.'

Pokrenuo je novu tvrtku pod nazivom Stark Defense, fokusiranu na napadačke dronove koji mogu raditi bez ljudske kontrole. Iako je tvrtka dobila ime po Aryji Stark, heroini iz serijala 'Pjesma leda i vatre' i TV serije 'Igra prijestolja', naziv također podsjeća na superheroja industrijalca iz Marvelovih stripova, Tonyja Starka.

Seibelova misija, kako je izjavio za POLITICO prošli mjesec, je 'ometati obrambenu industriju i izgraditi autonomne sustave, na kopnu, u vodi i na površini', sve s udarnim sposobnostima.

Ključni trenutak za autonomno oružje

Lansiranje Starka dolazi u ključnom trenutku povijesti autonomnog oružja. Uz rastuće geopolitičke napetosti, ukrajinsko vješto korištenje bespilotnih letjelica osvaja naslovnice, a tehnologija umjetne inteligencije postaje sve važnija. Vojne sile, uključujući Sjedinjene Države, Kinu i Rusiju, fokusirani na autonomne sposobnosti.

Oko 400 bespilotnih letjelica Quantum Systemsa već leti u Ukrajini, a još 800 bit će isporučeno u kolovozu prema dogovoru tijekom misije koju je u travnju organizirao njemački vicekancelar Robert Habeck. Tvrtka također otvara tvornicu u Ukrajini.

Razvoj ruskih tehnika ometanja koje mogu spriječiti bespilotna vozila da se orijentiraju ili komuniciraju s pilotima uvjerio je Seibela da dronovi na daljinsko upravljanje gube prednost.

AI, rastuća tehnologija koja može uočiti obrasce i donositi odluke, pružila je slamku spasa. Zahvaljujući AI-ju i Nvidijinim čipovima, dronovi Quantum Systemsa mogu navigirati bojno polje i uočavati mete bez ovisnosti o GPS-u ili ljudskom upravljaču. Zatim mogu odletjeti do cilja bez ometanja i poslati natrag ruske vojne mete.

Etika i izazovi autonomnog oružja

Konačna odluka o napadima još uvijek je na ukrajinskim vojnicima, što znači da bi odluke o ubijanju trebali donositi ljudi, a ne strojevi. No, Seibel smatra da će se ta norma morati promijeniti. 'Ako ne mogu uzvratiti komunikaciju', rekao je, 'dronovi će morati napraviti sljedeći korak u evoluciji: identificirati mete za sebe, klasificirati ih kao prijatelje ili neprijatelje i u slučaju nevolje - pogoditi ih.'

Seibel vjeruje da bi cijena nerazvijanja oružja koje može autonomno upravljati cijelim lancem napada - od odabira cilja do napada - mogla značiti ulazak u sljedeći rat kao gubitnici. 'Ako ne želimo da se naša djeca u budućnosti bore s kineskim ratnim robotima, moramo sami krenuti i raditi na ratnim robotima', rekao je Seibel.

U isto vrijeme, diplomati, aktivisti i tehnolozi žele obuzdati tehnologiju, zabrinuti da bi ona mogla ubrzati eskalaciju rata potaknutu umjetnom inteligencijom, masovna ubojstva pritiskom na gumb, pravu katastrofu i moralno odbojnu smrt po algoritmu.

Austrijska vlada predvodi napore za izradu međunarodnog ugovora kojim bi se zabranila autonomna oružja koja ne mogu kontrolirati ili predvidjeti njihovi ljudski vlasnici. 'Ne trebaju nam proizvođači oružja koji tvrde da će nepredvidivo i neetično oružje učiniti Europu sigurnijom', izjavila je Anna Hehir iz instituta Future of Life Institute.

Seibel smatra da autonomno oružje, ako je pravilno dizajnirano, može smanjiti kolateralnu štetu zahvaljujući superiornim analitičkim sposobnostima umjetne inteligencije: dron pokretan AI-em mogao bi razlikovati prijatelja od neprijatelja, ili civila od borca, s većom točnošću.

'Rasprave o autonomnom oružju slične su onima o autonomnoj vožnji: ljudska je priroda skeptična i ako je nešto novo, mora biti loše', rekao je Seibel. 'Mislim da je suprotno: autonomno oružje može donositi mnogo pametnije odluke.'

Budućnost ratovanja

Stark Defense još uvijek zapošljava i traži investicije rizičnog kapitala, ali Seibel je uvjeren da će moći implementirati svoje proizvode u kratkom roku, pogotovo ako ih Ukrajina zatraži. U međuvremenu, nastavlja predstavljati svoje ideje ključnim vojnim i političkim osobama.

'U Berlinu ponovno razgovaramo s generalom Carstenom Breuerom, načelnikom njemačkih oružanih snaga. Govorimo im da će sljedeći rat biti ratovanje bespilotnim letjelicama', rekao je Seibel za POLITICO u svibnju. 'Počinju djelovati, ali vrlo sporo.'

'Ovi sustavi su sposobni za rad bez čovjeka. Ali to nije moja odluka: mi ćemo pripremiti teren da to bude moguće', rekao je Seibel. 'Ali ako je odluka njemačke vlade da ne možemo imati autonomno oružje bez čovjeka, onda se ono neće koristiti.'