Halálbotokat vizsgáltak az ADM+S mesterségesintelligencia-hackathonján
Az elhunytakat imitáló chatbotok, vagyis halálbotok biztonsági, etikai és szabályozási kérdéseit vizsgálták az ARC Centre of Excellence for Automated Decision-Making and Society hackathonján. A négyszervezetes esemény résztvevői olyan megoldásokat kerestek, amelyek a gyászban és az emlékezésben is használhatóvá tehetik ezeket a rendszereket.
- Négy csapat vizsgálta a halálbotok biztonsági kérdéseit.
- A chatbotok egy elhunyt személyt imitálnának.
- A résztvevők a gyász és az emlékezés lehetőségeit is elemezték.
- A javaslatok között szabályozási keretek és etikai beavatkozások szerepeltek.
- A Calico Cat team 500 dollár kutatási támogatást kapott.
A Turing-teszt utáni kérdéseket vizsgálták
Az ARC Centre of Excellence for Automated Decision-Making and Society, röviden ADM+S, 2026. szeptember 30-án számolt be a háromnapos hackathonról. Az esemény témája „A Turing-teszt után: a mesterségesintelligencia-biztonság újragondolása” volt.
A programban négy csapat vett részt. A résztvevők az ADM+S, valamint a Swinburne Social Innovation Research Institute kutatóiból érkeztek. A szervezők arra kérték őket, hogy vizsgálják meg, milyen biztonsági megközelítésekre van szükség egy olyan világban, ahol a mesterséges intelligencia egyre meggyőzőbben képes utánozni az embereket, akár a haláluk után is.
Dr. Dominique Carlon, a szervezőbizottság vezetője és az ADM+S kutatója szerint a fő kérdés az volt, mit lehet tenni most, hogy a mesterséges intelligencia meggyőzően képes imitálni az embereket.
Mind a négy csapat halálbotot választott
A csapatoknak olyan biztonsági stratégiát kellett kidolgozniuk, amely technikai és tervezési megoldásokat, társadalmi beavatkozásokat, valamint irányítási és szabályozási eszközöket is kombinál. Ezeket konkrét, valós környezetekben kellett alkalmazniuk.
A négy lehetséges forgatókönyv közül minden csapat a digitális utánzatok egyik legösszetettebb és legérzékenyebb felhasználási területét, az örökséggel és a halálhoz kapcsolódó technológiákkal foglalkozó szektort választotta. A három nap során azt elemezték, milyen biztonsági szempontokat vet fel egy olyan chatbot használata, amely egy elhunyt személyt jelenít meg.
A feladat nehézségét az adta, hogy a rendszernek lehetőséget kellene adnia a produktív használatra, például a gyász feldolgozására és az emlékezésre, miközben el kell kerülni a nem szándékolt vagy negatív következményeket. Carlon szerint a résztvevők szakterületi tudásukat és személyes tapasztalataikat is felhasználták az AI-alapú utánzási technológiák által felvetett összetett problémák vizsgálatában.
Szabályozási beavatkozásokat is javasoltak
Daniel Reeders, az ADM+S együttműködő szervezete, a National Organisation of People with HIV Australia vezető projektfelelőse meglepőnek és egyben meggyőzőnek találta, hogy mind a négy csapat halálbotot választott a feladathoz. Mentorként és zsűritagként vett részt a hackathonon.
Reeders szerint az eseményen különböző szabályozási nézőpontokról folytattak érdemi beszélgetéseket. A résztvevők az etikai, politikai és technológiai kérdéseket is megvitatták, amelyek a halálhoz kapcsolódó technológiák alkalmazásakor felmerülnek.
A csapatok többféle megoldást javasoltak, köztük szabályozási kereteket és olyan beavatkozásokat, amelyek az új technológia ezen alkalmazásának kritikus etikai problémáira reagálnának. A hackathont a „Calico Cat team” néven induló csapat nyerte. Tagjai Phoebe Matich, Ned Watt, James Marshall, Cindy Han, Yanheng Fang és Jayme Verhagen voltak. A győztes csapat résztvevői a zsűri visszajelzését és elismerését, valamint 500 dollár kutatási támogatást kaptak.
Az ADM+S szerint a rendezvény célja az volt, hogy további együttműködést, kutatást és innovációt ösztönözzön az érintett egyetemek között. A résztvevőket a központ mentorai és csapatvezetői támogatták a hackathon során.
ARC Centre of Excellence for ADM+S: ADM+S Hackathon explores Death-Bots while rethinking AI Safety
