«Vi ser behovet for å tydeliggjøre at kunstig intelligens kun brukes som et støtteverktøy for å planlegge billettkontroller,» skriver Ruter i et debattinnlegg publisert i Avisa Oslo. Det betyr at Ruter har tatt i bruk et KI-basert planleggingsverktøy som foreslår hvor og når kontroller kan utføres, men at fagpersoner i selskapet fortsatt tar de endelige beslutningene. Verktøyet gir både strategiske anbefalinger om hvilke områder som bør prioriteres, og praktiske råd til kontrollørene i felt, samtidig som Ruter understreker at målet er operasjonell effektivitet og mer rettferdig dekning, ikke å maksimere inntekter. Saken er også relevant i lys av det nye europeiske regelverket for kunstig intelligens, AI Act, som stiller krav om menneskelig kontroll i høyrisikosystemer.

"Vi ser behovet for å tydeliggjøre at kunstig intelligens kun brukes som et støtteverktøy for å planlegge billettkontroller," skriver Ruter i et debattinnlegg publisert i Avisa Oslo.

Lesningen Ruter selv legger i verktøyet er enkel: KI skal hjelpe til med å bearbeide store datamengder raskere, men ikke overta beslutningsmyndighet. Ifølge teksten brukes systemet i planleggingsarbeidet og som støtte for kontrollørene, ikke som en automatisk beslutningsmotor. Kontrollørene og planleggerne i Ruter setter de overordnede rammene for hvor kontrollene skal finne sted, og de kan når som helst overstyre forslagene fra modellen.

Hvordan verktøyet fungerer i praksis

Ruter beskriver funksjonaliteten i to nivåer. For det første leverer systemet anbefalinger om hvilke områder som bør prioriteres. Disse anbefalingene bygger delvis på historiske data om sniking og på hvor lenge det er siden et område sist ble kontrollert. For det andre kan verktøyet gi kontrollørene råd i farten, for eksempel hvilket bussledd de bør gå om bord i når flere avganger kommer samtidig. Poenget er at KI-en peker ut muligheter og mønstre, mens menneskene bestemmer hva som faktisk gjøres.

Ruter legger vekt på at kontrollørene beholder handlefriheten. Selskapet skriver at kontrollørene setter rammene for hvilke områder som skal kontrolleres, at de selv velger hvilke avganger de tar, og hvor de går på og av. KI-forslagene skal være et grunnlag for bedre beslutninger i planleggingsrommet og i felt, ikke en ordre. Det skal heller ikke være slik at enkelte strekninger aldri blir kontrollert fordi historikken sier lav sannsynlighet for sniking.

Justering for skjevheter og hvorfor det matters

Et viktig punkt i Ruters forklaring er hvordan de behandler datagrunnlaget. Ruter sier at modeller som lærer rent fra historiske kontrolldata risikerer å gjenta eksisterende mønstre, og dermed forsterke urettferdige fordelinger av kontroller. For å unngå dette gjør Ruter tilpasninger i dataene slik at modellen også vurderer steder som er underrepresentert i historikken. Ifølge selskapet er dette vanlig praksis når man bruker KI på historiske data: man korrigerer for skjevheter i stedet for å forsterke dem.

Mastheads

Den praktiske konsekvensen Ruter peker på, er dobbel. For det første vil en slik tilpasning kunne gi mer jevn dekning på tvers av rutenettet, slik at passasjerer uavhengig av hvor de reiser opplever lik behandling. For det andre prioriteres flere kontroller der snikandelen er høyere, med et klart mål om at det ikke skal lønne seg å reise uten billett. Ruter tydeliggjør at formålet med KI-støtten er operasjonell effektivitet og mer rettferdig dekning, ikke maksimering av inntekter.

I debattinnlegget viser Ruter også et omfangstall for tapte inntekter som bakteppe for satsingen. Selskapet bruker dette tallet for å illustrere størrelsen på problemet med sniking, men påpeker samtidig at teknologien benyttes i kombinasjon med andre menneskelige tiltak for å heve kvaliteten på kontrollvirksomheten.

Ruter gir få tekniske detaljer om verktøyet. Det finnes ingen opplysninger i teksten om leverandør, modellnavn, nøyaktighetsmålinger eller en konkret utrullingsdato. Informasjonen begrenser seg til funksjonalitet, hvordan dataene er modifisert for å redusere skjevheter, og prinsippet om at kontrollørene kan overstyre anbefalingene.

Regulatorisk sett peker Ruters redegjørelse mot et større rammeverk. Det felles europeiske regelverket for kunstig intelligens, ofte omtalt som AI Act, stiller krav om transparens og menneskelig kontroll ved bruk av KI i høyrisikosystemer.

Regelverket bygger på en risikobasert tilnærming og stiller krav om transparens og menneskelig kontroll ved bruk av KI i høyrisikosystemer. Ruters egne formuleringer om at en fagperson alltid tar beslutningene ligger nært opp til disse prinsippene.

For operatører og publikum reiser dette to grunnleggende spørsmål: hvordan balanserer man effektiv databruk mot personvern og rettferdighet, og hvordan sikrer man at teknologien ikke skjuler ansvar når situasjoner oppstår. Ruter adresserer det første ved å beskrive korrigering av historiske skjevheter, og det andre ved å slå fast at mennesker skal ta beslutningene. Men selskapet gir ikke detaljer om kontrollspor, logging eller hvordan statistiske feil skal håndteres i praksis.

Det gjør at enkelte spørsmål fortsatt står ubesvart. Uten leverandør- og modellinformasjon, uten nøyaktighetsmålinger og uten en offentlig plan for evaluering er det vanskelig å vurdere systemets faktiske risiko og effekt. Ruter har imidlertid gjort det klart at verktøyet er i bruk i planleggingen, og at det primært skal bidra til at kontrollene blir både mer effektive og mer jevnt fordelt.

Related Articles

Ruter bekrefter at verktøyet er i bruk i planleggingen, men uten leverandørnavn, nøyaktighetsmålinger eller en offentlig evalueringsplan er det vanskelig å vurdere systemets faktiske risiko og effekt. Opprinnelig rapportert av ao.no.

Denne artikkelen er laget med hjelp av AI.