Az AI-ügynökök egyre több döntést vesznek ki a felhasználók kezéből

Az ügynökök a felhasználók nevében cselekszenek

A Montreal AI Ethics Institute október 27-én megjelent, kéthetente közreadott AI Ethics Brief című kiadványának 202. része a fogyasztói AI-ügynökök működését és az általuk felvetett irányítási kérdéseket vizsgálja. A jelentés szerint a Meta szeptember 8-án indította el az Egyesült Államokban a Muse nevű ügynököt, amely kapcsolódó szolgáltatásokon keresztül e-maileket küldhet, utazást foglalhat, számlákról tárgyalhat és vásárolhat. A szolgáltatás tíz nappal később Kanadában is elérhetővé vált.

Az OpenAI szeptember 29-én mutatta be a dots nevű, „proaktív, mindig bekapcsolt ügynököket”. Mindegyik saját felhőalapú számítógépen fut, és több mint 4000 alkalmazáshoz kapcsolódhat. A kiadvány egy Forbes által ismertetett bemutatót is idéz, amelyben egy dot a felhasználó naptárából észlelte, hogy az illető vacsoraidőben is dolgozik majd, ezért még kérés előtt ételkiszállítási lehetőségeket ajánlott.

A cégek engedélyezési korlátokat is ismertetnek. A Meta szerint a Muse nem lát jelszavakat vagy fizetési módokat. Az OpenAI szerint érzékeny műveleteknél, például jelszó megváltoztatásánál vagy pénz átutalásánál a felhasználónak kell átvennie az irányítást.

Amazon blokkolta a Muse-t, a Shopify megnyitotta előtte az áruházakat

A jelentés szerint szeptember 20-án éjjel az Amazon elkezdte blokkolni a Muse hozzáférését. A vállalat közölte, hogy az engedély nélküli AI-ügynök használata sérti az Amazon felhasználási feltételeit. Az Amazon állítása szerint a Meta nem jelezte előre, hogy a Muse hozzáfér majd az áruházhoz, az ügynök böngészés közben nem azonosította magát, és úgy tűnt, hogy ügyfél-hitelesítő adatokat rögzít és tárol. A Meta ezzel szemben azt közölte, hogy a hitelesítő adatok biztonságos tárhelyre kerülnek, amelyhez a Muse nem fér hozzá.

Egy nappal később, szeptember 21-én, a Shopify vezérigazgatója, Tobi Lütke bejelentette, hogy a Shop Pay fizetési folyamatát minden Shopify-áruházban engedélyezik a Muse számára. A termékek a Shopify Catalog rendszerén keresztül alapértelmezés szerint megoszthatók az ügynökkel az Agentic Storefronts programban.

A Brief szerint rövid időn belül két ellentétes válasz született arra, hogy szüksége van-e az ügynöknek a kereskedő engedélyére. Ezekről a döntésekről nem a Muse felhasználói határoztak.

Szeptember 22-én a 404 Media arról számolt be, hogy a Meta emberi munkatársakat tesztel egyes, a Muse által indított üzleti telefonhívások lebonyolítására. Egy belső bejegyzés szerint a kéréseket képzett emberi ügynökhöz lehet továbbítani, aki elvégzi a hívást. A Meta azt közölte, hogy a funkciót csak megfelelő tájékoztatás mellett, bevezetésre kész állapotban indítja el.

A felhasználók nem látják teljesen, mire emlékszik a dot

Az OpenAI adatvédelmi tájékoztatója szerint a felhasználók jelenleg nem tudják megtekinteni, törölni vagy közvetlenül módosítani az egyes dot-emlékeket. Egy alkalmazás leválasztása nem törli azokat az információkat, amelyeket a dot már beépített a saját kontextusába. A teljes dot törlése az egyetlen megoldás.

A Montreal AI Ethics Institute szerint minél hasznosabbá válik egy dot, annál többet következtethet a felhasználóról, miközben az érintett ebből egyre kevesebbet láthat. A kiadvány szerint az Amazon és a Shopify dönti el, hol vásárolhat az ügynök, a Meta határozza meg, mikor avatkozik be ember, az OpenAI pedig azt, mit tart meg az ügynök, és ebből mennyit ellenőrizhet a felhasználó.

A jelentés három nyitott kérdést emel ki: mit kell közölnie az ügynöknek azokról a vállalkozásokról, amelyekkel kapcsolatba lép, hogyan oszlik meg a felelősség hibás vásárlás vagy adatfeltárás esetén, és láthatják-e az emberek, mire következtetett róluk az ügynök. A kanadai felhasználók számára ezek közvetlen kérdések, mivel a Muse már elérhető az országban. A jelentés szerint egyes válaszokat a júniusban benyújtott szövetségi adatvédelmi törvényjavaslat, a Bill C-36 rendezhet.

Kanada AI-tanácsában a képviselet kérdése is felmerült

Mark Carney miniszterelnök október 2-án indította el a Prime Minister’s National Council on Artificial Intelligence nevű testületet. A tanács célja, hogy független, gyakorlati tanácsokat adjon Kanada AI-átalakulásához. A kormány AI for All stratégiájához kapcsolódva a technológia elterjedését, nemzeti bajnokok felépítését, szuverén AI-infrastruktúra létrehozását, az AI biztonságosabbá tételét, a demokrácia védelmét és azt vizsgálja, miként részesülhet minden kanadai az AI előnyeiből.

A Montreal AI Ethics Institute szerint egy kétnyelvű nyílt levél arra hívta fel a figyelmet, hogy a tanácsban erős a kormányzat, az akadémia, a pénzügy, a technológia, az AI-kutatás és a tanácsadás képviselete, ugyanakkor nincs egyértelműen kijelölt hely a civil társadalom és a közösségi szervezetek számára. A levél őslakos részvételt, civil társadalmi, munkaügyi, fogyatékossággal élő és más egyenlőségért küzdő közösségek, valamint fiatalok képviseletét sürgeti.

A kezdeményezés emellett közzétett napirendeket, bizonyítékokat, összeférhetetlenségi nyilatkozatokat és a kormány válaszát kéri minden ajánlásra. A kérdés a kiadvány szerint az, hogy kik vehetnek részt azoknak a szabályoknak a kialakításában, amelyek meghatározzák, hogyan delegálják az emberek döntéseiket az AI-rendszerekre.