Faculty AI, konzultantska tvrtka koja je surađivala s britanskom vladom na projektima sigurnosti umjetne inteligencije, NHS-om (britanski Državni zavod za zdravstvom) i obrazovnim institucijama, također razvija AI tehnologije za vojne dronove. Prema informacijama jednog od partnera iz obrambene industrije, Faculty ima 'iskustvo u razvoju i primjeni AI modela na bespilotnim letjelicama'
Faculty AI se ističe kao jedna od najaktivnijih tvrtki koja pruža AI usluge u Velikoj Britaniji. Za razliku od tvrtki poput OpenAI-a ili DeepMinda, Faculty ne razvija vlastite modele već preprodaje postojeće modele, najviše od OpenAI-a, te savjetuje vlade i industriju o njihovoj primjeni.
Tvrtka je stekla ugled nakon što je sudjelovala u analizi podataka za kampanju Vote Leave pod vodstvom Dominica Cummingsa, savjetnika Borisa Johnsona. Tijekom pandemije, Johnsonova vlada angažirala je Faculty za različite projekte, a njihov izvršni direktor Marc Warner sudjelovao je na sastancima znanstvenog savjetodavnog odbora vlade.
Od tada, Faculty surađuje s Institutom za AI sigurnost (AISI), tijelom osnovanim 2023. pod bivšim premijerom Rishijem Sunakom, na ispitivanju sigurnosnih aspekata AI modela. Cilj je pomoći vladi da razumije sigurnosne implikacije umjetne inteligencije, posebice u kontekstu naglih inovacija u generativnom AI-ju, piše Guardian.
vezane vijesti
AI i vojni dronovi: Etička pitanja
Industrija oružja istražuje primjenu umjetne inteligencije na dronovima, uključujući autonomne sustave koji mogu identificirati, pratiti i eliminirati ciljeve bez ljudske intervencije. Takva tehnologija izaziva ozbiljne etičke i pravne zabrinutosti.
Faculty surađuje s londonskom tvrtkom Hadean na projektima vezanim uz 'identifikaciju subjekata, praćenje kretanja objekata i razvoj autonomnih dronova'. Iako Faculty tvrdi da njihova suradnja ne uključuje ciljano naoružanje, odbili su dati detalje o mogućim smrtonosnim aplikacijama svojih tehnologija, pozivajući se na ugovore o povjerljivosti.
Glasnogovornik Facultyja izjavio je kako tvrtka 'razvija inovativne AI modele za sigurnije i robusnije obrambene sustave' te da slijedi stroge etičke smjernice Ministarstva obrane. Dodao je kako Faculty ima desetljeće iskustva u sigurnosti AI-ja, uključujući borbu protiv zlostavljanja djece i terorizma.
Međutim, stručnjaci poput profesora Alberta Sancheza-Graellsa sa Sveučilišta u Bristolu upozoravaju na moguće sukobe interesa. Faculty istovremeno savjetuje vladu i surađuje s privatnim sektorom, što otvara pitanja o nepristranosti njihovih preporuka.
Politički izazovi
U 2023., Gornji dom britanskog parlamenta pozvao je vladu da regulira primjenu međunarodnog humanitarnog prava na smrtonosne autonomne sustave. Zelena stranka je zatražila potpuni zakonski zabranu takvih sustava, naglašavajući važnost ljudske kontrole nad oružjem.
Natalie Bennett, članica Gornjeg doma i predstavnica Zelene stranke, kritizirala je 'vrata koja se vrte' između industrije i vlade, ukazujući na to da Faculty istovremeno radi na razvoju AI-ja za vojsku i na procjeni sigurnosti modela za AISI.
Faculty, čiji je najveći dioničar holding registriran na Guernseyu, ostvario je prodaju od 32 milijuna funti do 31. ožujka, ali je zabilježio gubitak od 4,4 milijuna funti. Među značajnim izvorima prihoda su vladini ugovori vrijedni najmanje 26,6 milijuna funti, uključujući suradnju s NHS-om, Ministarstvom obrazovanja i Ministarstvom kulture, medija i sporta.
