Velike tehnološke tvrtke, uključujući Microsoft, Amazon i OpenAI, sudjeluju u značajnom međunarodnom sporazumu o sigurnosti umjetne inteligencije na Safety Summitu o umjetnoj inteligenciji u Seulu u Južnoj Koreji.

Tvrtke iz raznih država - uključujući SAD, Kinu, Kanadu, Ujedinjeno Kraljevstvo, Francusku, Južnu Koreju i Ujedinjene Arapske Emirate - dobrovoljno su se obvezale osigurati siguran razvoj svojih najnaprednijih modela umjetne inteligencije.

Tamo gdje to još nisu učinili, proizvođači modela umjetne inteligencije složili su se objaviti sigurnosne okvire koji navode kako će mjeriti izazove svojih naprednih modela, kao što je sprječavanje zlouporabe tehnologije.

Ti će okviri uključivati 'crvene linije' za tehnološke tvrtke koje definiraju vrste rizika povezanih s graničnim sustavima umjetne inteligencije, koje neće smjeti prijeći. Ovi rizici uključuju, ali nisu ograničeni na, automatizirane kibernetičke napade i prijetnju biološkim oružjem.

Kako bi odgovorile na takve ekstremne okolnosti, tvrtke planiraju implementirati kill switch, mehanizam koji bi zaustavio razvoj njihovih modela umjetne inteligencije ako ne mogu jamčiti ublažavanje ovih rizika. Sporazumom je također proširen prethodni skup obveza koje su prošlog studenog preuzele tvrtke uključene u razvoj softvera za generativnu umjetnu inteligenciju.

Tvrtke su se složile, prema potrebi, uzeti podatke o ovim ograničenjima od matičnih vlada i drugih sudionika kojima se može vjerovati, prije nego što ih objave prije AI Action Summita, koji bi trebao biti održan u Francuskoj početkom 2025. godine.

Dogovorene obveznike odnose se samo na takozvane modele predvodnike. Ovaj izraz opisuje tehnologiju koja stoji iza sustava generativne umjetne inteligencije kao što je, primjerice, obitelj velikih jezičnih modela OpenAI GPT, koja pokreće ChatGPT, piše CNBC.