AI Now: hibázó algoritmusokra támaszkodnak a hadseregek
A katonai mesterségesintelligencia-rendszerek egymásra épülő algoritmusai hibás célkijelöléshez és civil áldozatokhoz vezethetnek az AI Now Institute szerint. Az intézet az Airwarsszal közösen vizsgálta az úgynevezett AI-ölőlánc működését Ukrajnában, Gázában és Iránban.
- Az AI Now Institute és az Airwars közös jelentést adott ki az AI-ölőláncról.
- A katonai AI-ölőlánc több, egymásra épülő algoritmusból áll.
- Az algoritmusok hibái egymást erősítve hibás célkijelöléshez vezethetnek.
- Az AI Now szerint az emberek gyakran ellenőrzés nélkül fogadják el az algoritmusok ajánlásait.
- A közlemény Ukrajnát, Gázát és Iránt említi.
Egymásra kapcsolt algoritmusok alkotják az AI-ölőláncot
Az AI Now Institute 2026. augusztus 13-án számolt be az Airwarsszal közösen kiadott, Anatomy of an AI Kill Chain című jelentésről. A szervezet szerint a világ hadseregei mesterségesintelligencia-fegyverkezési versenyben vesznek részt.
Heidy Khlaaf, az AI Now Institute vezető AI-kutatója az AI-ölőláncot különböző típusú mesterségesintelligencia-algoritmusok sorozataként írta le. Ezek az algoritmusok egymáshoz kapcsolódnak, egymás eredményeire építenek, és táplálják egymás működését.
Khlaaf szerint mindegyik rendszernek megvannak a maga kockázatai és hibái. A láncban ezek a problémák továbbterjedhetnek, így a teljes folyamat végül civil áldozatokhoz vezethet.
A hibás célkijelölés kockázata
Az AI Now Institute vezető kutatója szerint az egymásra épülő rendszerek hibás célkijelölést eredményezhetnek. Ennek egyik oka, hogy az emberek hajlamosak elfogadni a mesterségesintelligencia-algoritmusok ajánlásait anélkül, hogy az azok mögött álló bizonyítékokat más forrásból is ellenőriznék.
Ez azt jelenti, hogy a katonai döntéshozatalban egy algoritmus javaslata továbbkerülhet a folyamat következő eleméhez, miközben az alapjául szolgáló információt nem erősítik meg. Ha az egyes rendszerek saját hibái összeadódnak, a lánc végén olyan célkijelölés születhet, amely Khlaaf szerint civil áldozatokhoz járulhat hozzá.
A forrás a jelentést Ukrajnával, Gázával és Iránnal kapcsolatban említi. Az AI Now Institute beszámolója ezekben az esetekben az algoritmusok láncolatának és a hozzájuk kapcsolódó hibák kockázatára irányítja a figyelmet.
Az emberi ellenőrzés szerepe
Az AI Now Institute állítása szerint a probléma egyik központi eleme az algoritmikus ajánlások ellenőrzés nélküli elfogadása. Khlaaf hangsúlya alapján a mesterségesintelligencia-rendszerek használata önmagában nem szünteti meg a döntések bizonytalanságát, mivel az egyes algoritmusok hibái a rendszer további részeire is hatással lehetnek.
A jelentés és a hozzá kapcsolódó interjú ezért azt a kérdést helyezi előtérbe, hogyan kapcsolódnak össze a különböző katonai AI-rendszerek, és milyen következményekkel járhat, ha az emberek nem ellenőrzik az algoritmusok által szolgáltatott bizonyítékokat. A beszámoló szerint ez a folyamat a célkijelölésen keresztül civil lakosságot is érinthet.
Az AI Now Institute a teljes interjút is elérhetővé tette a jelentésről szóló közleményében. A közös jelentés az AI Now Institute és az Airwars munkája.
AI Now Institute: “Anatomy of an AI Kill Chain”: Militaries Rely on Mistake-Prone AI in Ukraine, Gaza & Iran