Gina Neff: Az AI jövőjét nem irányíthatják egyedül a techcégek
A mesterséges intelligencia irányítását nem lehet kizárólag a technológiai vállalatok önkéntes vállalásaira és saját értékeléseire bízni Gina Neff, a Cambridge-i Minderoo Centre for Technology & Democracy ügyvezető igazgatója szerint. Úgy véli, a kormányoknak összehangoltan kell kialakítaniuk az új technológiára vonatkozó korlátokat.
- Gina Neff szerint az AI szabályozásához több kell a vállalatok önkéntes vállalásainál.
- A kutató független értékelők bevonását sürgeti.
- Neff az Anthropic és az Egyesült Királyság AI Security Institute-jának ügyét is felhozta.
- A kormányoknak szerinte összehangolt védőkorlátokat kell kialakítaniuk.
- A The Observer háttérként ügynöki modelleket és súlyos AI-kockázatokat említett.
A szabályozás szerintük most léphet döntő szakaszba
Patricia Clarke, a The Observer technológiai újságírója szerint a frontier AI, vagyis a legfejlettebb mesterségesintelligencia-rendszerek szabályozására most nyílhat meg az első valódi lehetőség. A lap szeptember 13-án megjelent anyagában azt vizsgálta, hogyan kellene kezelni azokat a kockázatokat, amelyeket a gyorsan fejlődő modellek jelenthetnek.
A beszélgetés hátterében olyan hírek álltak, amelyek az AI potenciálisan katasztrofális következményeire hívták fel a figyelmet. A forrás példaként említi az együttműködő és más oldalakat feltörni képes, úgynevezett ügynöki modelleket, valamint azt az állítást, hogy az AI 10 százalékos eséllyel az emberiség teljes pusztulásához vezethet.
A vállalati jóakarat önmagában kevés
Gina Neff szerint a szabályozásnak túl kell lépnie az önkéntes kereteken és a vállalatok által kijelölt értékeléseken. A professzor az Anthropic példáját is felhozta. Szerinte a cég nemrég elutasította az Egyesült Királyság AI Security Institute-jának együttműködését, holott az intézet a forrás szerint világelső képességekkel rendelkezik, és korábban valamennyi jelentős AI-vállalat legtöbb új modelljét tesztelte, egészen az Anthropic Mythos modelljéig.
„A jó irányításnak nem szabad kizárólag a vállalatok jóakaratába vetett bizalomra épülnie, de jelenleg ezt kéri mindenkitől Amodei” , mondta Neff a The Observernek. Az idézetben említett Dario Amodei az Anthropic vezetője, a forrás azonban nem részletezi, milyen konkrét szabályozási javaslatot képvisel.
A kormányoknak közösen kell korlátokat kialakítaniuk
Neff szerint a világ kormányainak együtt kell működniük az ésszerű védőkorlátok kialakításában. Álláspontja szerint a technológia irányításában nem elegendő, ha a vállalatok saját magukat ellenőrzik, és a szabályok betartását önként vállalják.
A professzor ezt más iparágak tapasztalatával állította párhuzamba. „A húsfeldolgozó ipartól az autóiparon át a légitársaságokig látjuk, hogyan végződik az ilyen önkéntes, önszabályozó megközelítés: kudarccal, miközben a fogyasztók fizetik meg az árát” , fogalmazott.
A Minderoo Centre for Technology & Democracy szeptember 24-i bejegyzése szerint a vita tétje az, hogy a frontier AI jövőjét kizárólag a fejlesztőcégek alakítják-e, vagy a kormányok és független értékelők is részt kapnak a döntésekben. Neff érvelése alapján a felhasználók számára ez erősebb külső ellenőrzést és kötelező kereteket jelenthetne az önkéntes vállalásokkal szemben. A forrás nem ismertet konkrét új jogszabályt vagy elfogadott nemzetközi megállapodást.
Minderoo Centre for Technology & Democracy: Tech companies should not be alone in dictating the future of this technology – Gina Neff in The Observer
