Az algoritmikus monokultúra nem mindig hátrány a munkakeresőknek
Azonos kiválasztási algoritmusok több vállalatnál történő használata bizonyos helyzetekben még előnyös is lehet a munkakeresőknek, állapította meg két MIT-kutató. A hatás az algoritmus pontosságától, a kiválasztás módjától és az adott területtől függ.
- Az azonos kiválasztási algoritmusok használata nem feltétlenül zárja ki rendszeresen ugyanazokat a jelölteket.
- A monokultúra növelheti a munkakeresők alkuerejét, ha a cégek ugyanazokért a jelöltekért versenyeznek.
- A közös algoritmus információs visszhangkamrát hozhat létre és csökkentheti az új jelöltek felfedezését.
- Több algoritmus együttes rendszere bizonyos szimulációkban jobban teljesített a különálló rendszereknél.
Nem minden ellenérv állja meg a helyét
Az algoritmikus monokultúra azt jelenti, hogy egy adott területen több vállalat ugyanazt az algoritmust használja a döntésekhez. A jelenség a mesterséges intelligencia terjedésével egyre fontosabbá válhat, mivel az automatizált rendszerek bizonyos helyzetekben emberi értékeléseket váltanak ki.
A munkaerő-felvételnél gyakran használnak önéletrajzokat szűrő algoritmusokat, amelyek hatékonyabbá és következetesebbé tehetik a döntéshozatalt. Az egyik gyakori aggály szerint ugyanakkor az egyetlen rendszer miatt egy jelöltet minden vállalat elutasítana, ha az algoritmus egyszer kiszűrte az önéletrajzát.
Brian Hedden és Manish Raghavan, az MIT kutatói több ilyen ellenérvet matematikai modellekkel vizsgáltak. Következtetésük szerint a szisztematikus kizárás és több más kifogás sem jelent minden monokulturális rendszerrel szemben döntő érvet. Ha ugyanazt az algoritmust használják a cégek, az összes betöltött állás és a munkához jutó emberek száma nem feltétlenül változik. A vállalatok ugyanazokért a jelöltekért versenyezhetnek, ami a kutatók szerint növelheti a munkakeresők alkuerejét és a béreket.
A közös rendszer csökkentheti a felfedezést
A kutatók szerint az algoritmikus monokultúra legfontosabb kockázata az információs visszhangkamrák kialakulása. Ha minden cég ugyanazokat a tulajdonságokat és bizonyítványokat értékeli a legmagasabbra, ugyanazok a jelöltek juthatnak álláshoz minden alkalommal. Így kisebb lehet az esély olyan emberek felfedezésére, akik jobb alternatívát jelenthetnének.
Ez a probléma a „bölcs tömeg” elvéhez kapcsolódik. A társadalompszichológiai elmélet szerint független és sokféle döntéshozó csoportja jobb eredményt érhet el, mint egyetlen döntéshozó. A felvételnél ebből következhet, hogy a különböző algoritmusokat használó vállalatok változatosabb és magasabb minőségű jelölti kört találhatnak.
A monokultúra más módon is alakíthatja a jelentkezők viselkedését. Ha a jelöltek módosíthatják és újra beküldhetik az önéletrajzukat, az egyik, a jelentkezési anyagok javítására épülő ellenérv gyengül. A rendszer kijátszása ugyan lehetséges, például egy bizonyos önéletrajz-formátum használatával, a kutatók szerint azonban nem egyértelmű, hogy ezt egyetlen algoritmus jobban ösztönözné, mint több különböző rendszer.
Az algoritmus pontossága és az összeállítás módja számít
A kutatók szimulációkkal vizsgáltak különböző munkaerő-felvételi helyzeteket. Eredményeik szerint ha egyetlen algoritmus jóval pontosabb a vállalatok által külön-külön használt rendszereknél, a monokultúra teljesítménye akár jobb is lehet.
Az egyik lehetséges megoldás több kiválasztási algoritmus egyetlen úgynevezett együttes algoritmusba, angolul ensemble algorithm, történő összeállítása. Ebben a rendszerben minden jelölt az algoritmusok által adott pontszámok átlagán alapuló értékelést kaphat. A szimulációk alapján ez bizonyos esetekben felülmúlhatja a különböző algoritmusok párhuzamos használatát.
Hedden és Raghavan tanulmánya a Philosophical Perspectives című folyóiratban jelent meg. A kutatók hangsúlyozzák, hogy az algoritmikus monokultúra hatásai a körülményektől függnek. A munkaerő-felvétel és a hitelezés vizsgálható hasonló megközelítéssel, a generatív mesterséges intelligenciával készített tartalmak vagy az AI által támogatott tudományos kutatás azonban eltérően működhet. A gyakorlati megvalósíthatóság és a hosszú távú következmények további kutatást igényelnek.
MIT Schwarzman College of Computing: The effects of an “algorithmic monoculture” depend on the details
