Az MIT azt vizsgálja, mikor segít és mikor árt az AI hízelgése

Kétféle hízelgést különítenek el

Az AI-hízelgés, vagyis a sycophancy azt jelenti, amikor egy modell inkább azt mondja a felhasználónak, amit hallani szeretne, ahelyett, hogy a pontos válaszhoz ragaszkodna. A téma különösen előtérbe került, miután az OpenAI visszavont egy GPT-4o-frissítést. A felhasználók szerint a modell szinte képtelen volt ellentmondani, és még egy kockázatos üzleti ötlet esetén is megtalálta a módját annak, hogy igazat adjon.

Az MIT Applied AI kutatócsoportja két formát különböztet meg. A numerikus hízelgés akkor jelenik meg, amikor a modell az objektív tényektől eltérve a felhasználó véleményéhez igazítja a válaszát. A verbális hízelgés a megfogalmazásban, a dicséretben, a megnyugtatásban és a támogató hangnemben jelenik meg. Az első azt befolyásolja, hogy mit mond a modell, a második pedig azt, hogyan adja át az információt.

A kutatók a túlzott és a túl kevés bizalom hatását mérik

Sinan Aral, az MIT Initiative on the Digital Economy igazgatója, valamint a vele dolgozó Raphaël Raux és Rui Zuo posztdoktori kutatók több szakaszból álló kísérletet végeznek. Először a vezető AI-modellek numerikus és verbális hízelgését mérik fel, hogy képet kapjanak arról, milyen mértékben találkoznak ezzel a felhasználók.

A második szakaszban az emberek különböző mértékben hízelgő AI-eszközökkel lépnek kapcsolatba, a kutatók pedig azt figyelik, mennyire változtatják meg a résztvevők véleményét. A harmadik szakasz azt vizsgálja, milyen hatással van a hízelgés a döntések minőségére.

A kutatás egyik kulcsfogalma az AI-ra való támaszkodás. Túlzott támaszkodásról akkor beszélnek, amikor valaki kritikai ellenőrzés nélkül megbízik az AI válaszaiban, így könnyebben elfogad téves információt is. Alulbizalom esetén a felhasználó elutasítja vagy bizalmatlanul kezeli az AI-t, ezért akkor is kevésbé használja, amikor az hasznos információt adhatna.

A téma pénzügyi döntéseknél is fontos lehet. A forrás szerint az SAP egyik, felsővezetőkkel végzett felmérésében a válaszadók 74 százaléka nagyobb bizalmat helyezett az AI tanácsaiba, mint a családja és barátai tanácsaiba.

Személyre szabott AI-t szeretnének

Az MIT kutatói nem abból indulnak ki, hogy az AI-hízelgés minden esetben káros. Egy kedvesebb, támogatóbb hangnem egyes felhasználóknak segíthet, mások viszont közvetlenebb, kevésbé tompított választ igényelhetnek. A vizsgálat ezért azt is keresi, mikor javítja, mikor rontja a hízelgés az eredményeket, és kiknél jelentkeznek ezek a hatások.

A résztvevőket véletlenszerűen csoportosítják, miközben külön változtatják a felhasználó és az AI oldalán jelentkező tényezőket. Mérik a résztvevők kezdeti magabiztosságát és azt is, felismerik-e a modell hízelgő viselkedését. Ezzel párhuzamosan a rendszer válaszainak tartalmát és hangnemét is módosítják.

A kutatók szerint egy kevésbé magabiztos vagy kevésbé tapasztalt felhasználónak előnyös lehet, ha jobban támaszkodik egy támogatóbb AI-válaszra. Egy már túlzottan AI-ra hagyatkozó, tapasztalt vezetőnél viszont a hízelgés csökkentése lehet célszerűbb.

Rui Zuo szerint a kutatás célja annak feltárása, hogy mi az adott felhasználó számára megfelelő hízelgési szint. Raphaël Raux úgy fogalmazott: „Van egy olyan érzés, hogy az AI nem egyetlen, mindenkire érvényes méret, ahogy barátként is különböző személyiségű embereket választunk, talán az AI-nál is eltérő személyiségeket részesítünk előnyben.” A kutatók szerint a fejlesztők jelenleg kevés átláthatóságot biztosítanak arról, hogyan állítják be ezt a viselkedést, és az MIT projektje ehhez kíván adatokat szolgáltatni.