A CDT szigorúbb korlátokat sürget a rendőrségi arcfelismerésnél

Téves azonosítások és visszaélések

A Center for Democracy and Technology, röviden CDT, augusztus 3-án közzétett szakpolitikai anyagában az arcfelismerést olyan mesterségesintelligencia-alapú megfigyelési eszközként írja le, amelyet a rendőrség gyakran használ. A szervezet szerint a technológia akkor is veszélyes lehet, ha rosszul működik, és más módon akkor is, ha nagy pontossággal működik.

Az egyezések pontossága több tényezőtől függ, és a CDT számos olyan esetre hivatkozik, amikor az arcfelismerés hibája miatt amerikaiakat jogtalanul tartóztattak le és zártak börtönbe. A szervezet szerint 2025-ben és 2026-ban két ártatlan ember hónapokat töltött börtönben, miután a rendszer tévesen azonosította őket egy olyan bűncselekmény elkövetőjeként, amely egy általuk soha fel nem keresett államban történt.

A CDT arra is figyelmeztet, hogy az arcfelismerést békés tüntetéseken részt vevő emberek azonosítására és nyilvántartására is felhasználták. A szervezet szerint 2024-ben 15 amerikai állam vezetett be korlátokat az arcfelismerési megfigyeléssel szemben, és ezek a szabályok egyre szigorúbbá váltak.

Bírói engedély és kötelező tájékoztatás

A CDT elsődleges javaslata, hogy a rendőrség csak akkor használhasson arcfelismerést, ha egy bíró valószínűsíthető ok alapján engedélyt adott arra, hogy azonosítsanak egy személyt. A szervezet szerint ez megakadályozhatná, hogy a hatóságok bizonyíték és független ellenőrzés nélkül figyeljék meg az embereket érzékeny helyzetekben, például tüntetésen, politikai gyűlésen vagy istentiszteleten.

A CDT szerint ez a követelmény a közbiztonsági célú nyomozást sem akadályozná szükségképpen. A technológia egyik fő nyomozati alkalmazása az ismeretlen elkövetők azonosítása bűncselekmény közben készült fényképek alapján, ahol a fénykép szolgáltathatja a valószínűsíthető okhoz szükséges bizonyítékot. Maine-ben a törvény valószínűsíthető okot ír elő, Montana és Utah pedig teljes bírói engedélyhez kötötte a kereséseket.

A szervezet azt is előírná, hogy a hatóságok közöljék a bíróságokkal és a vádlottakkal, ha egy nyomozásban arcfelismerést használtak. A CDT szerint az alkalmazás gyakran rejtve marad, miközben az eredmények megbízhatatlanok lehetnek. Colorado, Maryland és Washington törvénye már előírja a tájékoztatást a vádlottak számára, New Jerseyben pedig bírósági gyakorlat követeli meg ugyanezt.

Csak súlyos bűncselekményeknél, ellenőrzött rendszerekkel

A CDT az arcfelismerés használatát a súlyos bűncselekmények, például az erőszakos bűntettek nyomozására és megelőzésére korlátozná. A szervezet szerint korlátozások nélkül a technológia szelektív rendőri fellépést és széles körű megfigyelést tehet lehetővé. Maine, Maryland, Utah és Vermont már a súlyos bűncselekményekhez köti a rendőrségi használatot.

A javaslatok között szerepel a rendszerek független tesztelése és felülvizsgálata, valamint olyan modellek engedélyezése, amelyek magas pontosságot mutatnak és elkerülik az algoritmikus torzítást. A CDT szerint az arcfelismerési találat nem lehet egy letartóztatás egyetlen alapja, de az ennél gyengébb szabályok azt is lehetővé tehetik, hogy egy hibás egyezés legyen a letartóztatás elsődleges alapja.

A szervezet betiltaná az úgynevezett célpont nélküli tömeges szkennelést is, amikor a rendszer folyamatosan minden arcot összevet megfigyelési listákkal. A CDT szerint ilyen kísérletekben a téves pozitív találatok aránya akár 91 százalék is lehetett. Emellett kötelező képzést írna elő az eszközöket használó rendőröknek, és csak a megfelelő használatra, korlátokra és szerepre felkészített tisztek férhetnének hozzájuk.