Mégis hogyan pusztíthatná el az emberiséget az AI?
Az AI Now Institute egy kritikus kérdést vizsgál: pontosan milyen úton vezethetne a mesterséges intelligencia az emberiség pusztulásához? Az intézet szerint az ilyen állítások tudományos értékéhez bizonyíthatónak vagy cáfolhatónak kell lenniük.
- Az AI Now Institute az AI emberiségre leselkedő végzetes kockázatainak konkrét mechanizmusát vizsgálja.
- Heidy Khlaaf szerint a tudományos állításoknak bizonyíthatónak vagy cáfolhatónak kell lenniük.
- A nukleáris létesítmények el vannak választva a nyilvánosan elérhető internettől.
- A Stuxnetet fizikai USB-meghajtón keresztül kellett bejuttatni az érintett rendszerbe.
A tudományos állításnak ellenőrizhetőnek kell lennie
Az AI Now Institute szeptember 17-én közölt írása azokról az állításokról szól, amelyek szerint a mesterséges intelligencia akár minden embert megölhet. Heidy Khlaaf, az intézet vezető AI-kutatója és az OpenAI korábbi biztonsági mérnöke szerint az ilyen kijelentéseket csak akkor lehet tudományos állításként kezelni, ha fennáll a bizonyítás vagy a cáfolat lehetősége.
„A tudományos állításoknak éppen azért kell cáfolhatónak lenniük, hogy elkerüljék a vallási érvelés természetét”, mondta Khlaaf. Hozzátette: „Képesnek kell lennie bizonyítani vagy megcáfolni őket.”
Az intézet írása ezzel arra hívja fel a figyelmet, hogy az AI-rendszerek jelentette szélsőséges kockázatokról szóló kijelentések önmagukban még nem magyarázzák meg, milyen konkrét folyamat vezetne a feltételezett végkimenetelhez.
A nukleáris fegyverek kérdése
Az írás a nukleáris fegyvereket hozza fel példaként. Ezek több mint 80 éve léteznek, és általánosan úgy tartják, hogy képesek lehetnek az emberi élet teljes elpusztítására. Innen adódik a kérdés: képes lehetne-e egy AI-rendszer átvenni felettük az irányítást?
A forrás szerint Khlaaf erre az infrastruktúra egyik fontos jellemzőjét emeli ki. A nukleáris létesítmények el vannak választva a nyilvánosan elérhető internettől, vagyis úgynevezett légzsilipes, angolul air-gapped rendszereket használnak. Ez korlátozza azokat a módokat, amelyeken keresztül AI-ügynökök hozzáférhetnének a vezérléshez.
Khlaaf szerint ezek a rendszerek teljesen eltérő, szigorú és szabályozott mérnöki szabványok alapján készülnek, és gyakran fizikai megerősítést is igényelnek.
A Stuxnet példája a fizikai hozzáférés szerepét mutatja
Az AI Now Institute a Stuxnetet is megemlíti. Ez a számítógépes féreg megrongálta Irán nukleáris létesítményeit, ám Khlaaf szerint a kártevőt fizikai USB-meghajtón keresztül kellett bejuttatni a rendszerbe.
A példa azt szemlélteti, hogy az internethez nem kapcsolódó, védett rendszereknél az irányítás megszerzése nem vezethető le pusztán abból, hogy egy AI-rendszer képes lehet digitális feladatokat végrehajtani. A hozzáféréshez a forrás által leírt esetben fizikai beavatkozásra volt szükség.
A vita középpontjában a pontos forgatókönyv áll
Az intézet cikke nem azt állítja, hogy az AI biztosan képes lenne átvenni a nukleáris fegyverek irányítását. A kérdést éppen azért teszi fel, hogy a szélsőséges kockázatokról szóló általános kijelentéseket konkrét, vizsgálható forgatókönyvekre lehessen bontani.
A felhasználók és a döntéshozók számára ez azt jelenti, hogy az AI biztonságáról szóló vitában a végső állítás mellett annak technikai útját is meg kell nevezni. Az AI Now Institute szerint csak így lehet megállapítani, hogy egy állítás bizonyítható vagy cáfolható-e.
AI Now Institute: Will AI really kill everyone? How, exactly?