Az AI Now Institute szerint célzottabb biztonsági tesztek kellenek
Az általános mesterségesintelligencia-benchmarkok helyett a mindennapi felhasználási esetekhez igazított értékeléseket sürget Sarah Myers West, az AI Now Institute társigazgatója. A nyilatkozat egy olyan elképzelés kapcsán született, amelyben korábbi Google-alkalmazottak ember és mesterséges intelligencia hibridjével előznék meg az irányításukat vesztő modellek problémáit.
- Az AI Now Institute anyaga szerint korábbi Google-alkalmazottak ember és AI hibridjén dolgoznak.
- Sarah Myers West szerint az iparág túlzottan az általános benchmarkokra támaszkodik.
- West a mindennapi felhasználási esetekhez igazított biztonsági értékeléseket sürget.
- Az AI Now Institute az orvosi gyógyszertesztelést hozza fel példaként a célzott vizsgálatokra.
Kétségek az ember és AI közös bírája körül
Az AI Now Institute 2026. augusztus 25-én közzétett anyaga szerint egyesek megkérdőjelezik, hogy az ember és a mesterséges intelligencia által alkotott hibrid bíró jelenti-e a megfelelő megoldást az irányításukat vesztő, úgynevezett rogue modellek megelőzésére.
A forrás címe szerint korábbi Google-alkalmazottak egy ilyen emberi és mesterségesintelligencia-komponenst ötvöző rendszeren dolgoznak. A közlemény azonban nem közöl további részleteket a tervezett megoldás működéséről, fejlesztési állapotáról vagy várható elérhetőségéről.
Az általános benchmarkok helyett konkrét helyzetek
Sarah Myers West, az AI Now Institute társigazgatója szerint az iparág túlságosan nagy mértékben támaszkodott az általános benchmarkokra. Az AI Now Institute szakpolitikai kutatóközpontként mutatja be magát.
West azt szeretné, ha a biztonsági kutatók olyan értékeléseket dolgoznának ki, amelyek illeszkednek ahhoz a sokféle módhoz, ahogyan az emberek a mindennapokban használják a technológiát. Így a vizsgálat nem egyetlen általános teljesítménymutatóra épülne, hanem az egyes felhasználási helyzetekhez kapcsolódna.
„Mit benchmarkolunk, ha nem konkrét felhasználási esetekről beszélünk?” kérdezte West.
Az egészségügyi tesztelés a példa
West az orvostudományt hozta fel példaként. Szerinte egy gyógyszert sem általánosságban minősítenek biztonságosnak, hanem egy meghatározott betegség kezelésére, adott dózisban és egy adott betegcsoport esetében vizsgálják.
Az analógia arra mutat rá, hogy a mesterségesintelligencia-rendszerek biztonságát is célszerű lehet a konkrét cél, használati mód és érintett felhasználói kör figyelembevételével értékelni. A forrás alapján West ezt a megközelítést a biztonsági kutatások egyik lehetséges irányaként vázolja fel.
Mit jelenthet ez a felhasználóknak?
Ha a biztonsági értékelések valóban konkrét használati esetekhez igazodnak, a felhasználók szempontjából fontosabbá válhat, hogy egy modell egy meghatározott feladatban és környezetben hogyan viselkedik. Az AI Now Institute anyaga szerint ez a szemlélet az általános benchmarkok korlátaira hívja fel a figyelmet.
A közlemény nem ismertet részletes tervet sem a korábbi Google-alkalmazottak által említett hibrid bíróhoz, sem az új értékelési módszerekhez. A mostani állítások ezért elsősorban a mesterségesintelligencia-biztonság méréséről szóló szakmai vitát bővítik.
AI Now Institute: Ex-Googlers Are Planning AI-Human Hybrid to Prevent Rogue Models