Az FPF módosításokat javasol Colorado új automatizált döntési szabályaihoz

Januárban lép hatályba az új coloradói törvény

A Future of Privacy Forum (FPF) október 26-án nyújtotta be észrevételeit a Colorado Department of Law hivatalos szabályalkotási folyamatához. A szervezet a Colorado Automated Decision-Making Technology Act, vagyis az SB 26-189 végrehajtásához kapcsolódó, október 6-án közzétett ideiglenes szabálytervezetre reagált. A közleményt október 29-én tették közzé.

Az FPF szerint az ajánlások célja az együttműködést segítő szabályok kialakítása, a megfelelési kötelezettségek pontosítása, valamint az érdemi átláthatóság és az emberi felügyelet támogatása a jelentős következményekkel járó döntésekben.

Az SB 26-189-et 2026 májusában fogadták el. A törvény hatályon kívül helyezi és felváltja a korábbi Colorado AI Actet, az SB 24-205-öt. Új követelményeket állapít meg az olyan automatizált döntéshozatali technológiák fejlesztői és alkalmazói számára, amelyek érdemben befolyásolnak jelentős következményekkel járó döntéseket. A jogszabály 2027. január 1-jén lép hatályba.

Kevesebb szempont alapján határoznák meg a törvény hatályát

A szabálytervezet hat szempontot sorol fel annak megítélésére, hogy egy automatizált döntéshozatali technológia eredménye csak elhanyagolható szerepet játszott-e egy jelentős döntésben. Ez a kérdés határozza meg, hogy a technológia érdemben befolyásolta-e a döntést, és ezért a törvény hatálya alá tartozik-e.

Az FPF az első négy szempont megtartását javasolja. Ezek azt vizsgálják, hogy a döntéshozó áttekintette-e a technológia eredményét, önállóan elemezte-e a további releváns információkat, rendelkezett-e a szükséges szakterületi ismeretekkel, illetve volt-e hatásköre a döntés meghozatalára vagy módosítására.

A szervezet törölné a két további szempontot, amelyek a szervezeti szabályzatokra, valamint a feldolgozott személyes adatok mennyiségére, típusára vagy összetettségére vonatkoznak. Az FPF álláspontja szerint ezek inkább az emberi közreműködés körülményeit írják le, ezért alátámasztó bizonyítékként kellene kezelni őket. Az adatok feldolgozásának összetettsége önmagában nem bizonyítja, hogy a technológia eredménye érdemben befolyásolta a döntést, különösen akkor, ha az emberi döntéshozó önálló mérlegelést végzett.

A fejlesztőknek a felhasználói tájékoztatást is támogatniuk kellene

Az FPF másik fő javaslata, hogy a fejlesztők dokumentációs kötelezettségeit hangolják össze az alkalmazók fogyasztókkal szembeni kötelezettségeivel. A tervezet szerint a fejlesztőknek többek között a technológia tervezett felhasználásáról, ismert korlátairól és ismert kockázatairól kell dokumentációt adniuk.

Az FPF szerint eltérés alakulhat ki aközött, amit a fejlesztőnek kell átadnia, és amit az alkalmazónak kell közölnie a fogyasztókkal. Emiatt az alkalmazó olyan rendszerjellemzők magyarázatáért is felelős lehet, amelyeket önállóan nem tud felmérni.

A szervezet azt javasolja, hogy a fejlesztők a tudomásuk szerint elegendő információt adjanak az alkalmazóknak törvényi kötelezettségeik teljesítéséhez. A „ismert korlátok” és „ismert kockázatok” fogalmát ki kellene egészíteni a teljesítmény korlátaival, a tervezett felhasználói körrel és a fejlesztői tesztelések során azonosított, észszerűen előre látható kockázatokkal.

Az FPF az állandó tájékoztatási kötelezettségeket is pontosítaná. A szabályoknak meg kellene határozniuk, mikor kell értesíteni az alkalmazókat a lényeges frissítésekről, a tervezett felhasználás módosításáról vagy az újonnan azonosított jelentős kockázatokról. Emellett szabványos dokumentációs formátumok, például modellkártyák és rendszerkártyák használatát is ösztönözné.

A törvény fogyasztói jogokat is biztosít

Az SB 26-189 előírja, hogy a fejlesztők általános tájékoztatást adjanak a törvény hatálya alá tartozó technológiákról, azok tervezett felhasználásáról és ismert korlátairól. Az alkalmazóknak értesítéseket és magyarázatokat kell adniuk a technológia jelentős következményekkel járó döntésekben való használatáról.

A törvény emellett lehetőséget ad a fogyasztóknak bizonyos személyes adataikhoz való hozzáférésre és azok helyesbítésének kérésére. Hátrányos következményekkel járó döntés után érdemi emberi felülvizsgálatot is kérhetnek. Az FPF javaslatai a szervezet szerint azt szolgálják, hogy az alkalmazók ezekhez a kötelezettségekhez megfelelő információkat kapjanak, miközben a szabályozás az emberi részvételt is világosabban mérje.