Az AI a lakóhelyük alapján is hátrányos helyzetbe hozhat embereket

A cím mögött álló rejtett hátrány

Egy jó fizetéssel, időben rendezett számlákkal és kiváló hitelpontszámmal rendelkező fiatal szakember is magasabb autóbiztosítási díjakat kaphat, mint egy néhány irányítószámmal arrébb élő, hasonló pénzügyi helyzetű ügyfél. Lakáskereséskor pedig kedvezőtlenebb jelzáloghitel-feltételeket ajánlhatnak neki.

A jelenséget a USC Viterbi School of Engineering kutatói a mesterséges intelligencia döntési rendszereinek térbeli torzításaként írják le. Nripsuta „Ani” Saxena, a Thomas Lord Department of Computer Science doktorandusza a vezető szerzője a Spatial Fairness: Foundations, Pitfalls, and a Path Forward című tanulmánynak. A kutatás azt vizsgálja, miként tehetnek különbséget az AI-rendszerek az emberek lakóhelye alapján akkor is, ha a modellekben nem szerepel közvetlenül a rassz vagy az etnikai hovatartozás.

A cím nem csak egy irányítószám

A kutatók szerint az AI a címekből jóval több információt nyerhet ki, mint azt sokan gondolnák. A lakóhelyi mintázatokban továbbra is tükröződnek a lakóingatlanok korábbi elkülönítése, az egyenlőtlen beruházások és más történelmi folyamatok. Emiatt egy modell úgy is hozhat a rasszhoz hasonló következtetéseket, hogy ezt a jellemzőt soha nem veszi figyelembe közvetlenül.

A tanulmány olyan korábbi eseteket is felidéz, amelyekben térbeli torzításra utaló eredmények jelentek meg. A ProPublica vizsgálata szerint kisebbségi negyedekben élő autósok gyakran jelentősen magasabb biztosítási díjakat fizettek, mint hasonló kockázati profilú, túlnyomórészt fehér környéken élő sofőrök. A Bloomberg arról számolt be, hogy az Amazon Prime aznapi kiszállítása egyes, jellemzően fekete lakosságú városrészeket kizárt, köztük egy jómódú bostoni negyedet. Más kutatások szerint a színes bőrű és magasabb szegénységi szintű környékekről induló utasok gyakran magasabb viteldíjakkal találkoztak.

Az idézett vizsgálatok egyike sem állapította meg, hogy a vállalatok szándékosan rassz, etnikum vagy jövedelem alapján diszkrimináltak volna. A kutatók szerint a probléma az, hogy az AI a földrajzi adatokba ágyazott történelmi mintákat, például a korábbi területi elkülönítéshez kapcsolódó magasabb bűnözési arányokat, felhasználhatja döntéseihez.

A helyadatot nem lehet egyszerűen törölni

A kutatók szerint a rassz eltávolítása önmagában nem oldja meg a problémát. Abigail Horn, a tanulmány társszerzője, úgy fogalmazott, hogy a gépi tanulási modelleket éppen a mintázatok felismerésére tervezték. A földrajzi adatokon keresztül ezért olyan összefüggések is megjelenhetnek, amelyek hátrányosan érintenek egész közösségeket.

A helyadat ugyanakkor fontos, jogszerűen szükséges információkat is tartalmazhat. A biztosítóknak tudniuk kell például, hogy egy ingatlan erdőtűzveszélyes területen fekszik-e, a jelzáloghitelezőknek ismerniük kell a helyi lakáspiacot, a fuvarmegosztó szolgáltatásoknak pedig azt, honnan és hová indulnak az utak. Saxena szerint ezért nem lehet egyszerűen elhagyni a helyadatokat. A cél az, hogy a rendszerek a döntéshez releváns információt használják, a földrajz pedig ne váljon olyan jellemzők helyettesítőjévé, amelyeket a modelleknek nem szabadna figyelembe venniük.

A kutatók korábbi ellenőrzést sürgetnek

A tanulmány nem egyetlen gyors technikai javítást javasol. A kutatók szerint már a rendszerek bevezetése előtt fel kell tenni a kérdést, hogy egy algoritmus hátrányosan érintheti-e az embereket a lakóhelyük miatt, és tesztelni kell, megjelennek-e egész városrészeket sújtó mintázatok. A működés közben is ellenőrizni kell, hogy bizonyos közösségek következetesen rosszabb eredményeket kapnak-e.

Vannak kezdeményezések a térbeli torzítások auditálására, de a szerzők szerint további kutatásra van szükség olyan modellek kidolgozásához, amelyek eleve térben igazságos működésre készülnek. A vállalatokat arra is ösztönzik, hogy már a tervezés korai szakaszában vonjanak be jogi szakértőket és az érintett közösségek képviselőit. A USC közleménye szerint a térbeli igazságosság hiánya az emberek pénztárcáját, egészségét és mindennapi életét is érinti az Egyesült Államokban. A tanulmányt 2026. szeptember 2-án tették közzé.