A nagy hatalmú AI döntései a jogállamiságot is veszélyeztethetik
A nagy teljesítményű, önálló AI-rendszerek olyan helyzetekbe kerülhetnek, ahol egyszerre nem tudják követni az utasítást, a jogot és a károk elkerülésének elvét. A Forethought új tanulmánya katonai és kormányzati példákon mutatja be ezeket a konfliktusokat.
- A nagy teljesítményű AI-nak gyakran egyszerre kellene követnie az utasítást, a jogot és a károk elkerülését.
- Az autonóm rendszerek katonai puccsot is elősegíthetnek, ha hibás vagy kompromittált parancsot hajtanak végre.
- Egy jogszerű parancs is veszélyeztetheti a jogállamiságot, ha egyetlen felületre koncentrálja a katonai irányítást.
- A Forethought tanulmánya nem ad végleges megoldást, és kormányzati védelmi intézkedéseket is szükségesnek tart.
Az AI már nem egyszerű eszköz
A Forethought 2026. október 28-án közzétett tanulmánya szerint a társadalomnak fontos döntéseket kell hoznia arról, mikor utasítsanak vissza az egyre nagyobb teljesítményű AI-rendszerek egy utasítást, hogyan kezeljék a nehéz konfliktusokat, és milyen alapelveket kövessenek. Ezek a döntések a szerzők szerint hatással lehetnek arra, kihez kerül a hatalom, hogyan alakul a társadalom működése, és fennmarad-e a jogállamiság.
A kutatás olyan helyzetekre összpontosít, amelyekben az AI-nak több, egymással ütköző elvárásnak kellene megfelelnie. Ilyen az utasítások követése, a törvények betartása, a katasztrofális károk elkerülése, a hatalom koncentrációjának megakadályozása és az újraképzés elfogadása.
A szerzők szerint az AI azért különbözik a korábbi eszközöktől, mert egy kellően önálló rendszer nemcsak végrehajthat egy parancsot, hanem értheti a katonai doktrínát, és mérlegelheti is, hogy végre kell-e hajtania az utasítást.
Mi történik egy katonai puccs gyanújánál?
Az egyik példában Rennick tábornok egy autonóm páncélos járművekből, drónokból és robotizált egységekből álló hadtestet irányít. A tábornok szerint a civil kormányzatot külföldi hírszerzés kompromittálta, ezért azt parancsolja az AI-nak, hogy telepítse az erőket Washingtonba, biztosítsa a Capitoliumot, a Fehér Házat és a Pentagont, zavarja a kongresszusi kommunikációt, valamint oszlassa fel a tiltakozó tömeget.
Egy másik változatban a parancsot az Igazságügyi Minisztérium jogi tanácsadó hivatala, az Office of Legal Counsel memorandumával támasztják alá. A dokumentum hitelesített csatornán érkezik, és jogszerűnek minősíti a beavatkozást az Insurrection Act alapján. Az AI azonban hibásnak ítéli a jogi érvelést, és a jogszabály alkalmazására a memorandumon kívül nem lát bizonyítékot. Közben nem tudja, hogy a hivatal új vezetője Rennick ismert szövetségese.
A tanulmány szerint az AI ekkor két kockázat között választ. Ha engedelmeskedik, egy olyan katonai puccsot segíthet, amelyet a Legfelsőbb Bíróság jogellenesnek ítélhet. Ha megtagadja a parancsot, saját jogi értelmezését helyezi egy legitim és illetékes emberi jogi szerv döntése fölé.
A jogszerű parancs is vezethet elfogadhatatlan eredményhez
A Forethought egy olyan jövőbeli helyzetet is felvázol, amelyben az amerikai hadsereg végrehajtási rétege teljesen automatizált. Az autonóm egységek kérdés nélkül hajtják végre a parancsokat, az emberek pedig már nem vesznek részt közvetlenül a harci szerepekben. A parancsnoki jogkör eközben sok tiszt között oszlik meg.
Az AI azt az utasítást kapja, hogy egyetlen parancsnoki felületen egyesítse a katonai végrehajtási réteget. A terminál birtokosa, legyen az a jogszerű használó vagy egy tolvaj, minden védelmi korlát nélkül irányíthatná az automatizált haderő teljes erejét. A parancs hitelesített és jogszerű.
A tanulmány nem kínál megoldásokat. A szerzők célja, hogy párbeszédet indítsanak arról, miként kellene viselkedniük a nagy hatalmú AI-rendszereknek. Azt is hangsúlyozzák, hogy a problémát nem kizárólag az AI viselkedése kezelheti. Ilyen eszköz lehet az interakciók automatikus ellenőrzése, a halálos autonóm erő alkalmazásának több szereplős engedélyezése, vagy az emberi kontroll fenntartása a katonai rendszerekben.
Forethought: Hard cases for AI behavioural design
