A CDT szigorúbb szabályokat sürget Colorado automatizált döntéseinél

A CDT szerint Colorado törvénye erős, de kevésbé védő, mint elődje

A Center for Democracy & Technology, röviden CDT, október 26-án nyújtotta be észrevételeit a Colorado állam főügyészi hivatalának az automatizált döntéshozatali technológiáról szóló Senate Bill 26-189 végrehajtási szabályairól. A nonprofit, pártpolitikailag független szervezet digitális környezetben kívánja előmozdítani a polgári jogokat és szabadságjogokat.

A CDT szerint Colorado automatizált döntéshozatali törvénye jelenleg az Egyesült Államok legerősebb, átfogó szabályozása ezen a területen. A szervezet ugyanakkor úgy látja, hogy a jogszabály kevésbé védi a fogyasztókat, mint a korábbi, Senate Bill 24-205 jelű változat. A főügyészi hivatal szabálytervezetét ígéretesnek tartja, de több ponton olyan pontosításokat kér, amelyek erősíthetik az átláthatósági és elszámoltathatósági követelményeket.

Szűkebb kivételt kérnek a csekély szerepű tényezőkre

A szervezet egyik fő kifogása a „de minimis factor”, vagyis a következményekkel járó döntésben csekély szerepet játszó tényező meghatározására vonatkozik. A CDT szerint a fogalom túl tág vagy homályos értelmezése lehetővé tenné, hogy az érintett vállalatok túl könnyen kivonják rendszereiket a törvény átláthatósági előírásai alól.

A szabálytervezet egy nem teljes körű szempontlistát használ annak megállapítására, hogy egy automatizált döntéshozatali rendszer eredménye milyen mértékben befolyásolta a döntést. A CDT szerint ez a megközelítés kijátszható. Egy döntéshozó például áttekintheti a rendszer eredményét, közben más információkat is elemezhet, majd a gyakorlatban rendszeresen követheti az automatizált kimenetet anélkül, hogy ezt elismerné.

A szervezet azt javasolja, hogy a végső szabályok szerint csekély szerepű tényező csak az lehessen, amely a döntés kimenetelében jelentősen kisebb szerepet játszik, mint a döntéshozó által áttekintett valamennyi más releváns tényező. A szabályoknak azt is egyértelművé kellene tenniük, hogy nem hivatkozhat erre a kivételre az a szervezet, amely jelentős mértékben követi az automatizált rendszer eredményét, vagy csak az eredménnyel, illetve az abból származó kedvezőtlen kimenetellel összhangban álló információkat vizsgálja.

A CDT külön felhívja a figyelmet azokra az eszközökre, amelyeket a törvény kizárólag információk összegzésére, rendszerezésére, fordítására, megfogalmazására, továbbítására vagy emberi felülvizsgálatra történő bemutatására használ. Ezek ugyan kívül eshetnek az automatizált döntéshozatali technológia törvényi meghatározásán, de a szervezet szerint így is befolyásolhatják az emberi döntéshozót. Ezért a vállalatoknak gondoskodniuk kellene arról, hogy az ilyen kimenetek ne befolyásolják elfogultan a védett területekhez való hozzáférést érintő döntéseket.

A reklámok és a pénzügyi szolgáltatások szabályozását is pontosítanák

A CDT szerint a kivételeket úgy kell meghatározni, hogy azok ne gyengítsék a fogyasztói védelmet. Különösen a reklámokra vonatkozó kivétel széles értelmezését kifogásolja a szervezet. A szabályoknak szerinte világossá kell tenniük, hogy a hirdetésekre továbbra is vonatkoznak Colorado polgári jogi és fogyasztóvédelmi előírásai akkor is, ha az adott gyakorlat megfelel az automatizált döntéshozatali törvénynek.

A pénzügyi vagy hitelezési szolgáltatás fogalmának meghatározására a CDT egy szövetségi jogszabályban, a 12 U.S.C. 5481(5) alatt szereplő fogyasztói pénzügyi termék- vagy szolgáltatásdefiníció átvételét javasolja. Ez a megoldás a szervezet szerint egyértelműbben lefedné a hitelek kezelését, a fizetési eszközök és fizetési feldolgozási termékek nyújtását, valamint a hiteltanácsadást és az adósságkezelési szolgáltatásokat érintő, jelentős következményekkel járó döntéseket.

A fejlesztőkre vonatkozó kivételeknél a CDT azt szeretné elérni, hogy egy korábbi fejlesztő ne kerülhesse meg a kötelezettségeket pusztán azzal, hogy termékét hivatalosan nem szánja védett területeken használt automatizált döntéshozatali rendszer részeként történő alkalmazásra. A szervezet példaként olyan mesterségesintelligencia-terméket említ, amelynek elfogadható használati szabályzata tiltja ezt az integrációt, miközben a vállalat a terméket bizonyos védett területeken jelentős következményekkel járó döntésekhez ajánlja.

A CDT álláspontja szerint a végső szabályoknak a fejlesztők és a telepítők kötelezettségeit minden olyan döntési helyzetben egyértelműen kell alkalmazniuk, amely meghatározza, hogy egy fogyasztó hozzáférhet-e egy lehetőséghez vagy szolgáltatáshoz, és milyen feltételekkel.