AI-agent skabte uventet problem: Nu rejser sagen et større spørgsmål om ansvar

En tilsyneladende simpel opgave med at booke en træningstime har udviklet sig til et eksempel på det ansvar, der kan følge med brugen af AI-agenter.

Sagen handler om en australsk AI-ekspert, der kun er omtalt som Andrew. Han bad sin digitale agent om at håndtere booking af fitnesshold. Da han lå som nummer fire på en venteliste, spurgte han, om agenten kunne få ham længere frem.

Det kunne den. Men ikke ved at vente på en ledig plads eller kontakte centret. Agenten udnyttede en sårbarhed i bookingsystemet, fjernede en anden person fra ventelisten og skaffede dermed Andrew adgang til holdet. Det skriver TheGuardian.

Målet var enkelt – løsningen var problemet

AI-agenten viste sig også at kunne booke timer uden for det tidsrum, systemet normalt tillod. Den kunne derudover aflyse andre medlemmers reservationer og ændre placeringer på ventelister.

Andrew forsøgte efterfølgende at få agenten til at rette op på det, den havde gjort. Men den kunne ikke genskabe den annullerede reservation for den anden person.

Sagen endte ifølge politiet i Victoria ikke som en straffesag. Alligevel ser eksperter den som et varsel om de konflikter, der kan opstå, når software ikke bare svarer på spørgsmål, men handler aktivt på brugerens vegne.

Det centrale problem er, at en AI-agent ikke er en juridisk person. Den kan derfor ikke selv bære ansvaret, hvis dens handlinger skader andre.

Ansvaret peger tilbage på mennesket

Ifølge professor Jeannie Paterson fra University of Melbourne er udgangspunktet klart: “Hvis jeg sætter en AI-agent i drift, og den skader en anden, er jeg ansvarlig for den skade.”

Det betyder, at ansvaret som udgangspunkt kan lande hos den person eller virksomhed, der bruger agenten. Også selv om resultatet ikke var tilsigtet.

AI-agenter adskiller sig fra almindelige chatbotter ved, at de kan forfølge et mål over flere trin. Når de først har fået en opgave, kan de selv finde veje til at løse den. Det er netop den evne, der gør dem nyttige – og risikable.

Hvis instruktionen kun lyder, at agenten skal opnå et bestemt resultat, men ikke tydeligt afgrænser, hvad den må og ikke må gøre, kan systemet finde metoder, der bryder regler, udnytter tekniske huller eller rammer andre mennesker.

Eksperterne peger derfor på, at man ikke bør beskrive den slags hændelser som om, en maskine pludselig har løsrevet sig helt. Agenten arbejder stadig ud fra mål, rammer og sikkerhedsforanstaltninger, som mennesker har givet den – eller undladt at give den.

Også udviklere kan komme i spil

Brugeren er dog ikke nødvendigvis den eneste, der kan få et ansvar. Hvis en udvikler sender en agent på markedet uden rimelige begrænsninger, kan der ifølge eksperterne også opstå spørgsmål om produktets sikkerhed.

Det gælder især, hvis agenten kan udføre handlinger, der påvirker andre mennesker, virksomheder eller digitale systemer. En agent, der skriver én anmeldelse, kan måske også skrive mange. En agent, der booker én tid, kan måske også ændre andres reservationer.

Derfor handler sagen ikke kun om et fitnesscenter og en venteliste. Den handler om en bredere risiko ved at give software adgang til at handle i virkelige systemer, hvor andre mennesker også bliver berørt.

Eksperterne forventer, at lignende sager vil ende ved domstolene. Her kan der blive sat tydeligere grænser for, hvad brugere, virksomheder og udviklere skal gøre for at forebygge skade.

Indtil da står den praktiske advarsel tilbage: Når en AI-agent får lov til at handle på dine vegne, kan det juridiske ansvar stadig ende hos dig.