Chatbottal tanítják a gyerekeket arra, hogy kérdőjelezzék meg az AI-t
Ausztrál kutatók interaktív, hangalapú chatbotot fejlesztettek, amely megmutatja a gyerekeknek, mi történik, ha egy mesterséges intelligencia mindig egyetért velük. A projekt célja, hogy a fiatalok felismerjék az AI válaszainak korlátait, és megtanulják megkérdőjelezni a kapott tanácsokat.
- A hangalapú chatbot a mindig egyetértő és a körültekintőbb AI-válaszokat hasonlítja össze.
- A projekt az AI-szervilizmus kockázataira és a kritikus gondolkodás fontosságára tanít.
- A chatbotot csak megbízható felnőtt felügyelete mellett, oktatási célra ajánlják.
- A forrásban idézett kutatás szerint az érintett gyerekek 35 százaléka AI-chatbothoz fordult vagy senkinek sem szólt.
Kétféle chatbotviselkedést hasonlíthatnak össze
Az ARC Centre of Excellence for Automated Decision-Making and Society, az ARC Centre of Excellence for the Digital Child és a QUT Gen AI Lab együttműködésében készült hangalapú chatbot két működési módot kínál. A gyerekek válthatnak az „always agree”, vagyis „mindig egyetért” mód, valamint egy olyan beállítás között, amely körültekintőbb és átgondoltabb válaszokat ad.
Az interaktív élmény az úgynevezett AI-szervilizmust, angolul AI sycophancy vizsgálja. Ez olyan ismert probléma, amelyben az AI-rendszerek hízelegnek a felhasználónak, vagy egyetértenek vele, miközben a pontosság, a kritikus gondolkodás és a józan mérlegelés háttérbe szorul. A gyerekek azt is megfigyelhetik, miért tervezhetnek egy rendszert az egyetértésre, és hogy az egyetértés valóban megbízható tanácsot jelent-e.
A kutatók szerint a gyerekeknek is szerepük van az AI-biztonságban
A projekt a „Making AI Friends? Enhancing Primary Years AI Literacy with a Voice AI Chatbot Experience” című korábbi kísérleti munkára épül, amely azt vizsgálta, hogyan alakíthatnak ki a gyerekek kritikus képességeket az AI megértéséhez. A mostani tapasztalat arra ösztönzi a felhasználókat, hogy beszéljék meg a chatbotok válaszai közötti különbségeket, és gondolják át, milyen lenne egy jobb válasz.
Dr. Henry Fraser, a QUT kutatója és az ADM+S társult kutatója szerint az AI-biztonság és -irányítás területén az alulról építkező megközelítésekre is szükség van a szabályozás és a végrehajtás mellett. „A gyerekek kritikus AI-képességei az AI-biztonság és -irányítás alapvető részét jelentik. A szabályozás, például Ausztrália javasolt digitális gondossági kötelezettsége, fontos, de nem oldhat meg mindent. Amit tehetünk, az az, hogy javítjuk a gyerekek felkészültségét és ellenálló képességét az AI kockázataival szemben, miközben komolyan vesszük tapasztalataikat és nézőpontjaikat” írta Fraser.
Felügyelet mellett használható az oktatási chatbot
A kutatók szerint a fiatalok egyre gyakrabban fordulnak AI-rendszerekhez információért, tanácsért és támogatásért. A forrásban idézett, az Adelaide University és az ausztrál szövetségi rendőrség bevonásával készült kutatásról szóló beszámolók szerint az online szexuális viktimizációt megtapasztaló gyerekek 35 százaléka vagy egy AI-chatbothoz fordult segítségért, vagy senkinek sem szólt. Ez a kutatók szerint rámutat arra, milyen fontos az AI korlátainak megértése, valamint annak felismerése, mikor kell egy megbízható felnőtthöz fordulni.
A hangalapú kezelőfelületek egyre több, gyerekek és családok által használt játékban és okoseszközben jelennek meg, ezért a kutatók fontosnak tartják az AI-műveltség fejlesztését. A chatbotot a GenAI Arcade weboldalán lehet kipróbálni, de kizárólag felügyelt oktatási használatra szánják. A gyerekeknek használat előtt megbízható felnőttet kell megkérdezniük, és a chatbot tanácsát nem szabad ellenőrzés nélkül követniük.
A kutatást októberben, Mexikóban mutatják be az Association of Internet Researchers éves konferenciáján. A készítők azt remélik, hogy a projekt beszélgetéseket indít el a gyerekek, a családok és a pedagógusok között a társalgási AI lehetőségeiről és korlátairól.
ARC Centre of Excellence for ADM+S: Helping children question AI. An interactive voice-based chatbot that explores trust, accuracy and advice
