Claude

Vaš miš u rukama AI-ja: Tehnološki napredak ili sigurnosna prijetnja?

23.10.2024 u 11:24

Bionic
Reading

Korisnici Anthropicovog Claudea mogu dati upute u više koraka za izvršavanje zadataka na korisničkom računalu 'gledanjem u zaslon, pomicanjem kursora, klikanjem gumba i tipkanjem teksta'

Softverska tvrtka za umjetnu inteligenciju Anthropic najavila je novi alat koji može preuzeti kontrolu nad pokazivačem miša korisnika i obavljati osnovne zadatke na računalu.

Najavljen zajedno s drugim poboljšanjima Anthropicovih modela Claude i Haiku, alat Computer Use dostupan je isključivo s tvrtkinim modelom srednje klase 3.5 Sonnet putem API-ja.

Korisnici mogu dati upute u više koraka (Anthropic tvrdi da može ići na desetke ili stotine) za izvršavanje zadataka na korisničkom računalu 'gledanjem u zaslon, pomicanjem kursora, klikanjem gumba i tipkanjem teksta'.

Kako to funkcionira?

Kad razvojni programer zaduži Claudea za korištenje dijela računalnog softvera i da mu potreban pristup, Claude gleda snimke zaslona onoga što je vidljivo korisniku, zatim broji koliko piksela okomito ili vodoravno treba da pomakne kursor da klikne u ispravno mjesto.

Uvježbavanje Claudea za točno brojanje piksela bilo je ključno. Bez ove vještine, modelu je teško davati naredbe mišem - slično kao što se modeli često muče s naizgled jednostavnim pitanjima poput 'Koliko slova a ima u riječi banana?'

Izvor: Društvene mreže / Autor: Antropic

Očekivano, nije savršen. Pošto radi brzim uzastopnim snimanjem zaslona umjesto videostreamom uživo, moguće je kako će propustiti kratkotrajne obavijesti ili druge promjene.

I dalje ne može obavljati neke uobičajene radnje, poput povlačenja i ispuštanja (drag and drop). Također je glomazan i ponekad sklon greškama.

Postoje i zaštine mjere

Alat je sada u javnoj beta verziji, ali je već neko vrijeme u partnerskim organizacijama. Zaposlenici tvrtki kao što su Amazon, Canva, Asana i Notion testiraju ga na ograničene načine.

Konkurentske tvrtke poput OpenAI-ja rade na ekvivalentnim alatima, ali ih još nisu učinile javno dostupnima. Predviđa se kako će ovi alati generirati puno prihoda za nekoliko godina, ostvare li očekivani napredak.

Vjeruje se kako bi ovi alati s vremenom mogli automatizirati mnoge sitne poslove u uredskim poslovima. Također bi mogao biti koristan alat za programere jer bi mogao automatizirati zadatke koji se ponavljaju i pojednostaviti mukotrpan rad na optimizaciji i kontroli kvalitete.

Uvedene su i pojedine zaštitne mjere. Primjerice, njegov se rad posebno prati kad se zatraži uključivanje u aktivnosti povezane s predsjedničkim izborima u Sjedinjenim Državama.

Uz to, potiče ga se na ustezanje od sudjelovanja u aktivnostima poput stvaranja i objavljivanja sadržaja na društvenim mrežama, registracije web domena ili interakcije s vladinim web stranicama.

Te mjere zaštite možda nisu savršene jer mogu postojati kreativni načini da ih se zaobiđe ili druge neželjene posljedice ili zlouporabe koje tek treba otkriti, piše Ars Technica.