Az algoritmikus monokultúra nem feltétlenül rossz a MIT kutatói szerint

Nem mindenki ugyanattól az elutasítástól tart

Az algoritmikus monokultúra azt jelenti, hogy egy adott területen több vállalat ugyanazt az algoritmust használja a döntésekhez. A MIT kutatói a munkaerő-felvételre összpontosítva vizsgálták, milyen következményekkel járhat ez a gyakorlat.

A vita egyik központi félelme a rendszeres kizárás. Ha egy felvételi rendszer elutasítja egy jelölt önéletrajzát, akkor ugyanaz a jelölt más vállalatoknál is hasonló eredményre számíthat. A kutatók több, különböző helyzetet leíró modellen keresztül vizsgálták ezt az érvet, és arra jutottak, hogy az nem meggyőző minden monokulturális rendszer esetében.

Elemzésük szerint attól, hogy a vállalatok azonos algoritmust használnak, az összes betöltött állás száma nem változik. A cégek ugyanazokért a jelöltekért versenyezhetnek, ami növelheti az álláskeresők alkupozícióját, és a kutatók szerint magasabb bérekhez vezethet.

A közös rendszer információs visszhangkamrát hozhat létre

A tanulmány szerint az algoritmikus monokultúra legfontosabb problémája az információ homogenizálódása lehet. A társadalomtudományokban ismert „tömeg bölcsessége” elv alapján sok, egymástól független döntéshozó bizonyos helyzetekben jobb eredményt érhet el, mint egyetlen döntési rendszer.

Munkaerő-felvételnél a különböző algoritmusokat használó vállalatok változatosabb jelöltkört fedezhetnek fel. Az azonos rendszer viszont újra és újra ugyanazokat a jellemzőket és végzettségeket részesítheti előnyben. Ez csökkentheti annak esélyét, hogy a cégek olyan jelölteket találjanak, akik jobb alternatívát jelenthetnének.

Brian Hedden, a tanulmány társszerzője szerint az algoritmikus monokultúra megítélése részletektől függ, például a vizsgált területtől és az algoritmus pontosságától. Manish Raghavan társszerző úgy fogalmazott, hogy a monokultúra akadályozhatja az összesített felfedezést. Ez különösen fontos lehet olyan területeken, mint a tudomány, a művészet vagy az írás.

Ensemble rendszerrel javítható a teljesítmény

A kutatók szimulációkban vizsgálták, hogyan teljesíthetnek az eltérő felvételi rendszerek, illetve az azonos algoritmusra épülő megoldások. Arra jutottak, hogy ha több vállalat algoritmusát egyetlen „ensemble algoritmusba” csomagolják, a rendszer minden jelölthöz az algoritmusok átlagán alapuló pontszámot rendelhet.

A szimulációk alapján ez a megoldás bizonyos felvételi helyzetekben felülmúlhatja azt is, amikor a vállalatok különböző algoritmusokat használnak. A monokulturális rendszer teljesítménye attól is függ, mennyivel pontosabb az egyetlen alkalmazott algoritmus a különálló rendszereknél.

A kutatók szerint véletlenszerűség beépítése is növelheti a felfedezést, és mérsékelheti a homogenizálódás problémáját. Ugyanakkor azt még vizsgálni kell, hogy az algoritmusok ilyen összevonása mennyire kivitelezhető a gyakorlatban.

A hatás területenként eltérhet

A tanulmány a munkaerő-felvételt vizsgálta, de a megközelítés más területekre, például a hitelezésre is alkalmazható lehet. A kutatók szerint a generatív AI által készített tartalmak vagy az AI által támogatott tudományos kutatás eltérő módon működhet, és ezeken a területeken a monokultúra problémásabb lehet.

A MIT közleménye szerint a kutatás a Philosophical Perspectives folyóiratban jelent meg. A szerzők további vizsgálatokat sürgetnek az algoritmikus monokultúra hosszú távú következményeiről és a munkaerőpiac összetett, valós körülményeiről. A felhasználók számára ez azt jelenti, hogy az azonos AI-alapú döntési rendszer önmagában nem jelzi előre a hatást, a konkrét algoritmus és az alkalmazás módja kulcsfontosságú.