Az AI kipusztíthatja az emberiséget? A százalékok mögötti bizonytalanság

Egymásnak feszülő állítások az AI biztonságáról

Az AI Now Institute 2026. szeptember 15-én közzétett anyaga szerint az elmúlt napokban több sokkoló állítás is megjelent a mesterséges intelligencia biztonságáról. Ezek között szerepelt, hogy 10 százalékos esély van a végzetes kimenetelre, az AI veszélyesebb lehet a nukleáris fegyvereknél, egy úgynevezett botnet az egész internetet fenyegetheti, illetve az AI körüli riadalom egy nagy technológiai vállalatok által szervezett pszichológiai művelet része lehet.

A forrás szerint ezek az állítások eltérő irányokból közelítik meg az AI kockázatait, és nem mindegyikük mögött áll azonos típusú bizonyíték. A központi kérdés az, hogy lehet-e megbízható százalékos esélyt rendelni olyan egzisztenciális forgatókönyvekhez, amelyek bekövetkezését és pontos működését sem lehet jelenleg ellenőrizni.

Khlaaf szerint nem tesztelhetők a jóslatok

Heidy Khlaaf, az AI Now Institute vezető tudósa szkeptikusan fogadja az emberiséget fenyegető végzetes forgatókönyvekhez rendelt százalékos esélyeket. A szakértő szerint ezek az állítások sem cáfolhatók, sem igazolhatók, ezért már természetüknél fogva tudománytalannak tekinthetők.

Khlaaf úgy látja, hogy a bizonytalanságot tovább növeli a konkrét példák hiánya. A forrás nem ismertet olyan részletes forgatókönyvet, amely megmutatná, pontosan mit tenne egy „szuperintelligens” AI ahhoz, hogy bekövetkezzen a „végzet”. Emiatt nehéz megvizsgálni, hogy a jóslatok milyen megfigyelhető jelekre vagy ellenőrizhető feltevésekre épülnek.

„Ezek az állítások sem nem cáfolhatók, sem nem igazolhatók, ezért már természetüknél fogva tudománytalanok”, idézi Khlaafot az AI Now Institute anyaga.

Az ismeretlen esélyek problémája

Az Anthropic álláspontját ismerő egyik forrás a cikk szerint elismerte, hogy egyetlen kimenetel pontos esélye valószínűleg megismerhetetlen. Ez a megállapítás nem egy konkrét valószínűségi értéket ad meg, hanem arra világít rá, hogy az ilyen számok mögött komoly bizonytalanság maradhat.

Khlaaf szerint ha egy állításhoz nem lehet ilyen bizonyítékot szolgáltatni, akkor az „extinction”, vagyis a kihalás esélyére megadott számoknak sincs tudományos alapjuk. A kritikusok úgy vélik, hogy az efféle becslések a tudomány tekintélyét kölcsönzik, miközben nem végzik el az ahhoz szükséges bizonyítási munkát.

Mit jelent ez az AI-kockázatokról szóló vitában?

Az AI Now Institute anyaga nem azt állítja, hogy a mesterséges intelligencia kockázatai figyelmen kívül hagyhatók. A hangsúly azon van, hogy az emberiség jövőjét érintő szélsőséges forgatókönyveket ellenőrizhető bizonyítékokkal kellene alátámasztani, ha azokhoz pontos százalékos esélyeket rendelnek.

A vita így két kérdésre irányul: milyen konkrét módon okozhatna súlyos károkat egy fejlett AI, és milyen bizonyítékok alapján lehetne ezek valószínűségét számszerűsíteni. Amíg ezekre nincs ellenőrizhető válasz, a nagy pontosságúnak tűnő becslések könnyen félrevezető bizonyosságot kelthetnek. Az AI Now Institute a témáról szóló teljes cikkben hat szakértő nézőpontját ígéri, a közölt rész azonban Khlaaf és az Anthropic gondolkodását ismerő forrás álláspontját ismerteti.