Halálbotokat vizsgáltak az AI-biztonság újragondolására
Az elhunyt embereket utánzó chatbotok, vagyis halálbotok biztonsági, etikai és szabályozási kérdéseit vizsgálták egy ausztrál kutatói hackathon résztvevői. A négy csapat olyan megoldásokat keresett, amelyek a gyászt és az emlékezést segíthetik, miközben mérséklik a technológia káros következményeit.
- Négy csapat vizsgálta a halálbotok biztonságos használatát.
- A chatbotok egy elhunyt személyt képviselnének a halála után.
- A résztvevők a gyászt és az emlékezést segítő használatot is elemezték.
- A javaslatok között szabályozási keretek és etikai beavatkozások szerepeltek.
- A Calico Cat team 500 dollár kutatási támogatást nyert.
A Turing-teszten túl keresték az AI-biztonság válaszait
Az ARC Centre of Excellence for Automated Decision-Making and Society, röviden ADM+S, háromnapos hackathont szervezett a „The Post Imitation Game: Re-thinking the Turing Test for AI Safety” témában. A rendezvényen az ADM+S és a Swinburne Social Innovation Research Institute kutatói vettek részt, összesen négy csapatban.
A szervezők abból a kérdésből indultak ki, hogy mit kell tenni akkor, amikor a mesterséges intelligencia már meggyőzően képes utánozni embereket. Dr. Dominique Carlon, a szervezőbizottság vezetője és az ADM+S kutatója szerint a csapatok feladata olyan biztonsági stratégia kidolgozása volt, amely műszaki és tervezési megoldásokat, társadalmi beavatkozásokat, valamint szabályozási megközelítéseket kapcsol össze.
A stratégiákat konkrét, valós környezetekben kellett alkalmazniuk az utánzó technológiák kockázatainak és lehetőségeinek kezelésére.
Mind a négy csapat a haláltechnológiát választotta
A résztvevők négy lehetséges forgatókönyv közül választhattak, végül mindegyik csapat az utánzó technológiák egyik legösszetettebb és legérzékenyebb területét, a hagyatékhoz és a halálhoz kapcsolódó technológiákat vizsgálta.
A három nap során azt elemezték, milyen biztonsági szempontokat vet fel egy olyan chatbot használata, amely egy ember halála után az adott személyt képviseli. A cél az volt, hogy a halálbotot az emberek például gyászfeldolgozásra és emlékezésre is használhassák, miközben elkerülhetők a nem szándékolt vagy negatív következmények.
Daniel Reeders, a National Organisation of People with HIV Australia vezető projektfelelőse és az ADM+S együttműködő szervezetének képviselője szerint meglepte és lenyűgözte, hogy mind a négy csapat ezt a területet választotta. Mentorként és bíróként is részt vett a hackathonon, így betekintést kapott az etikai, politikai és technológiai kérdésekről folytatott beszélgetésekbe.
Szabályozási kereteket és beavatkozásokat javasoltak
A csapatok többféle megoldást dolgoztak ki, köztük szabályozási kereteket és olyan beavatkozásokat, amelyek a haláltechnológia használata során felmerülő fontos etikai problémákra reagálnak. A résztvevők a saját tudományterületi ismereteiket és élettapasztalataikat is felhasználták a javaslatok kidolgozásához.
A hackathont a „Calico Cat team” néven induló csapat nyerte. Tagjai Phoebe Matich, Ned Watt, James Marshall, Cindy Han, Yanheng Fang és Jayme Verhagen voltak. A győztesek a zsűri visszajelzését és elismerését kapták, valamint 500 dollár kutatási támogatásban részesültek.
Dominique Carlon szerint a résztvevők energiája, kreativitása és együttműködési készsége erős benyomást tett a szervezőkre. Az ADM+S abban bízik, hogy a rendezvény további együttműködések, kutatások és innovációk kiindulópontja lesz az érintett egyetemeken. A hackathon eredményei a felhasználók számára azt jelzik, hogy a halálbotok fejlesztését a kutatók a gyász és az emlékezés lehetőségei mellett etikai, társadalmi és szabályozási szempontból is vizsgálják.
ARC Centre of Excellence for ADM+S: ADM+S Hackathon explores Death-Bots while rethinking AI Safety
