Az MIT szerint az AI-ügynökök az emberi ítélőképességet is formálják

A döntések átadásával az emberi autonómia is változik

A MIT Initiative on the Digital Economy szeptember 2-án közölt írása Michael Schrage új tanulmányát mutatja be. A MIT Sloan oktatója és az intézet digitális munkatársa, azaz Digital Fellowja szerint az AI-ügynökök egyre szélesebb használata új kérdést vet fel: nemcsak azt kell vizsgálni, hogy mit tudnak elvégezni, hanem azt is, milyen emberi képességeket erősítenek, és melyeket szorítanak háttérbe.

Az ügynökök kódolási és ügyfélszolgálati feladatokban is gyorsabb és hatékonyabb munkafolyamatokat ígérnek. Schrage szerint azonban minden delegált döntés az emberi ítélőképesség egy kis részét is gépre bízza. „Minden ügynökkel folytatott interakció erősít bizonyos emberi képességeket, miközben másokat hagy elsorvadni”, mondta.

A kutató kérdése ezért az, hogy az AI-val végzett munka okosabbá teszi-e az embereket. Szerinte az ügynökök azonnali célokhoz való tökéletes igazítása önmagában kevés, mert egy tegnapi preferenciákhoz igazodó rendszer rögzítheti a felhasználót egy korábbi működésmódban.

Az ügynöknek tudnia kellene, mikor lépjen közbe

Schrage a „Whose Ally is ‘Your’ Agent” című tanulmányában abból indul ki, hogy az emberekben egymással versengő célok és nézőpontok működnek. Egy pénzügyi igazgató például egyszerre akarhatja megkérdőjelezni a feltételezéseket és megőrizni a lehetőségeit, miközben egy késő esti, kimerült állapotában már csak a nyitott döntéseket szeretné lezárni. A „clear the queue”, vagyis a sor kiürítése utasítás hatékonyan kiszolgálhatja a második célt az első rovására.

A kutató szerint a legtöbb AI-rendszer alapértelmezés szerint annak az embernek az érdekeit szolgálja, aki éppen beírja a promptot. Ezt a működést szerinte irányítási szabályokkal kellene felváltani. A fontos kérdés az, hogy az ügynök kinek a szövetségese, milyen felhatalmazással jár el, és melyik emberi cél kap elsőbbséget.

Schrage két eszközt javasol. Az Agent Charter rögzítené, mely emberi érdekeket képviselheti az ügynök, milyen döntéseket hozhat önállóan, és mit kell emberi felülvizsgálatra továbbítania. A Reflective Escrow egy letéti rendszerhez hasonlóan átmenetileg visszatartaná a javasolt döntést és az ahhoz tartozó indoklást, mielőtt a rendszer cselekedne.

Ezzel láthatóvá válna, hogy az ügynök melyik nézőpontot képviselte, és miért. Az Agent Charter a hatáskört, a Reflective Escrow pedig az elszámoltathatóságot teremtené meg. A felülvizsgálat egyben a későbbi ember és AI közötti együttműködés fejlesztéséhez is adatot szolgáltathatna.

A kutató szerint a versenyelőny a jobb döntéshozókban lehet

Az MIT IDE írása szerint több kutató is azt vizsgálja, hogyan lehet hatékonyabbá tenni az ember és az AI együttműködését. John Horton és Peyman Shahidi arra jutott, hogy az emberi beavatkozás a feladatcsoportok elején és végén növelheti a hatékonyságot. Renee Gosline kutatása szerint a megfelelően elhelyezett súrlódási pontok kevés hatékonysági költség mellett javíthatják az eredményeket. Sinan Aral Applied AI kutatócsoportja pedig a személyiség alapján összeillő emberi és AI-partnerek hatását vizsgálta.

Schrage megközelítése ezekhez képest elméleti, de a gyakorlati probléma szerinte ugyanaz: az ügynöknek fel kell ismernie, mikor cselekedjen, mikor kérdezzen, mikor adja vissza a döntést az embernek, és mikor lassítsa le szándékosan a folyamatot.

A szerző szerint a következő évtizedben kétféle szervezeti megközelítés válhat el egymástól. Egyesek az AI-val csökkentik vagy megszüntetik a mérlegelést, mások tudatosan a deliberáció, vagyis a megfontolt döntéshozatal fejlesztésére használják a rendszereket. Az Agent Charter és a Reflective Escrow elsősorban stratégiai döntésekhez, szakmai ítélethez, hosszú távú vállalásokhoz és képességfejlesztéshez készült. Schrage szerint a versenyelőny végül kevésbé a jobb ügynökökből, inkább az ügynökökkel dolgozó jobb döntéshozókból származhat.