A chatbotok személyes beszélgetései válhatnak az új reklámfelületté

Az AI-válaszokban már megjelentek a hirdetések

A Center for Democracy & Technology szeptember 11-én közzétett elemzése szerint az AI-rendszerek egyre gyakrabban jelenítenek meg reklámokat a válaszaikban. Példaként a szervezet olyan helyzeteket említ, amikor a Google AI-összefoglalója túrakabátot ajánl egy kirándulási célpont keresése után, a ChatGPT pedig egy Best Buy által szponzorált kártyát mutat egy telefonvásárlási kérdés mellett. Egy köhögés kezeléséről szóló beszélgetésben az is felmerülhet, hogy a chatbot konkrét gyógyszereket ajánl.

A CDT szerint ilyenkor felmerül a kérdés, hogy valóban a legjobb válasz született-e, vagy az, amelyről a hirdetési rendszer úgy gondolja, hogy a legtöbb bevételt termeli. Az OpenAI januárban jelentette be, hogy reklámokat kezd elhelyezni a ChatGPT-ben. A kezdeti bevezetés az Egyesült Államok ingyenes és alacsonyabb szintű csomagjait használó ügyfeleit érinti, februárban pedig megjelentek a beszélgetések témájához illeszkedő, szponzorált kártyák a chatbot válaszai alatt.

Az OpenAI ezt tesztnek nevezi, és arra számít, hogy a reklámok további formátumokkal bővülnek. A CDT szerint a vállalat nincs egyedül: a Google az AI-alapú keresési eredményekben és az AI Mode-ban is hirdetési formátumokat próbál ki. A szervezet szerint a Microsoft, a Meta, az xAI és a Perplexity szintén jelezte, hogy kísérletezik reklámokkal vagy személyre szabással az AI-rendszereiben.

A chatbot sokkal többet tudhat a felhasználóról

A chatbotreklámok egyik sajátossága a CDT szerint az, hogy a személyre szabás a beszélgetések miatt különösen részletes lehet. Az OpenAI jelenlegi hirdetései alapértelmezés szerint személyre szabottak. Ha a felhasználó nem tiltja le ezt a funkciót, a reklámok a chatbot által megjegyzett információkra is támaszkodhatnak, nem csak az aktuális beszélgetésre.

A hagyományos célzott hirdetésekhez a szolgáltatóknak a böngészési előzményekből és a viselkedési adatokból kellett következtetniük arra, hogy ki a felhasználó. Egy chatbot ezzel szemben hónapokon vagy éveken át közvetlenül, a saját szavaival ismerheti meg az embert, és a begépelt információkból személyes tulajdonságokra következtethet.

A CDT ezt a kutatók által személyre szabott meggyőzésnek nevezett jelenséggel kapcsolja össze. Ilyenkor az üzenet nemcsak a viselkedési profilhoz, hanem a pszichológiai jellemzőkhöz is igazodhat. A rendszer idővel azt is megtanulhatja, milyen üzenetek ösztönöznek vásárlásra vagy növelik a reklámbevételt. A szervezet szerint ez manipulációhoz vezethet, például ha a rendszer felismeri, hogy valaki egy fontos határidő előtti szorongó keresések vagy a reggeli kávé előtti impulzusvásárlás idején fogékonyabb.

Elmosódhat a baráti tanács és a fizetett ajánlás határa

A CDT szerint az AI-cégek gyakran személyes segítőként, barátként vagy társként mutatják be a chatbotokat, miközben reklámüzletet építenek köréjük. Egy hagyományos online hirdetésnél általában egyértelmű, hogy a márka fizet a platformnak a megjelenésért. Egy chatbot válasza viszont személyes beszélgetés részeként érkezik, ezért a felhasználó könnyebben kezelheti baráti ajánlásként.

Ez megnehezítheti annak felismerését, hogy egy termékajánlás független tanács, vagy fizetett elhelyezés eredménye. A CDT felidézi, hogy az amerikai Szövetségi Kereskedelmi Bizottság, az FTC korábban fellépett a fizetett értékelésekkel szemben, a közösségi influenszerektől pedig olyan jelöléseket követelt meg, mint a „#ad”. Ezek a szabályok azonban abból indulnak ki, hogy a reklám elkülöníthető és megjelölhető elem.

Egy chatbotbeszélgetésben ez nem feltétlenül működik. Ha egy húsz üzenetből álló, álmatlanságról szóló párbeszéd folyamatosan egy adott, fizetett alvásalkalmazás felé tereli a felhasználót, nem világos, melyik üzenetet kellene szponzoráltként megjelölni. Hangalapú vagy más, vizuális címkék nélküli felületeken a jelölés még nehezebb lehet.

A CDT szerint a tét a döntési autonómia

A szervezet szerint a hagyományos adatvédelmi megközelítések nem fedik le teljesen ezt a kockázatot. Danielle Citron és Daniel Solove adatvédelmi kutatók az úgynevezett autonómiakárok közé sorolják a manipulációt, amikor valaki indokolatlan befolyással tereli más döntéseit a saját céljai felé úgy, hogy az érintett ezt nem feltétlenül veszi észre.

A CDT álláspontja szerint ehhez nem szükséges személyazonosság-lopás vagy közvetlen anyagi kár. A sérelem maga a döntési autonómia elvesztése lehet. A kockázat az egészségügyi, banki és kereskedelmi szolgáltatásokban is megjelenhet, ha ezek saját chatbotjaikban magasabb hasznot termelő termékeket vagy gyógyszereket ajánlanak. A szervezet arra is figyelmeztet, hogy a fizetett befolyás idővel politikai vagy társadalmi témákra is kiterjedhet, így a chatbotok nemcsak azt befolyásolhatják, mit vásárolunk, hanem azt is, mit gondolunk.