A CSET szerint az AI az amerikai hadsereg emberi döntéseit is gyengítheti
Az amerikai hadsereg egyre szélesebb körű AI-használata a katonai döntéshozatalt és az emberi ítélőképességet is átalakíthatja. A CSET szakértője szerint a kockázatok kezeléséhez az emberi viselkedés feletti kontrollt is fenn kell tartani.
- A Pentagon egyre fejlettebb AI-rendszereket építene be a műveletekbe és a kiképzésbe.
- Emelia Probasco a katonai döntéshozatal és az emberi ítélőképesség változásait vizsgálta.
- A CSET szerint az AI mellett az emberi viselkedés feletti kontrollt is fenn kell tartani.
- A szervezet kapcsolódó anyagai a Maven Smart System és az AI-fegyverkezési verseny kérdéseit is érintik.
A Pentagon egyre fejlettebb rendszereket integrálna
Az amerikai Georgetown Egyetemhez kötődő Center for Security and Emerging Technology, a CSET közlése szerint Emelia Probasco, a szervezet vezető kutatója a Foreign Affairs oldalán vizsgálta, milyen hatással lehet az AI növekvő katonai alkalmazása az Egyesült Államok haderejére.
Az augusztus 20-án közzétett ismertető szerint a Pentagon egyre nagyobb képességű AI-rendszereket igyekszik beépíteni a katonai műveletekbe és a kiképzésbe. Probasco írása azt járja körül, hogy ez a folyamat miként érintheti a katonai döntéshozatalt és az emberi ítélőképességet.
A CSET nem közölte a teljes Foreign Affairs-cikk tartalmát, az intézet rövid összefoglalója azonban az emberi döntési szerep fenntartását helyezi a középpontba. A kérdés így nem kizárólag az, hogy mire képesek az AI-rendszerek, hanem az is, hogyan alkalmazzák őket a katonai szervezetek és az azokban dolgozó emberek.
Az emberi viselkedés feletti kontroll is kulcskérdés
Probasco szerint az AI katonai bevezetése során az emberi ítélőképesség megőrzésére is figyelni kell. A CSET által idézett mondatban így fogalmazott: „A Terminátor-szerű disztópiák elkerüléséhez nemcsak az AI, hanem az emberi viselkedés felett is fenn kell tartani az ellenőrzést.”
Az idézet alapján a szerző a katonai AI kockázatait az emberi döntésekkel együtt vizsgálja. A rendszerek műveletekben és kiképzésben való alkalmazása ugyanis olyan környezetet teremt, amelyben az emberi szerep, a mérlegelés és a döntési felelősség továbbra is meghatározó marad.
A CSET összefoglalója nem állítja, hogy az AI önmagában átvenné az amerikai hadsereg irányítását. A hangsúly azon van, hogy a Pentagon integrációs törekvései mellett az emberi ítélet és az emberi viselkedés ellenőrzése se szoruljon háttérbe.
A CSET több Pentagon-projekthez kapcsolódó vitát is követ
A CSET kapcsolódó anyagai között szerepel a Maven Smart System jövője is. Az intézet áprilisi ismertetője szerint a Pentagon a rendszert hivatalos programként kívánja folytatni, és a rendszer szerepének bővítését tervezi. Egy másik, szintén Probasco által jegyzett anyag a Pentagon AI-alapú döntéshozatallal kapcsolatos irányelvének következményeit vizsgálta.
A CSET további kapcsolódó tartalmai a globális AI-fegyverkezési versennyel, valamint az AI katonai műveletekben való használatával foglalkoznak. Ezek az anyagok azt mutatják, hogy az intézet az AI katonai alkalmazását technológiai és stratégiai kérdésként is követi.
A most ismertetett Foreign Affairs-cikk jelentősége a CSET szerint abban áll, hogy az AI-rendszerek képességei mellett a katonai döntéshozatal emberi oldalára irányítja a figyelmet. A felhasználók és a katonai szervezetek számára ez az emberi kontroll fenntartásának szükségességét emeli ki a műveleti és kiképzési alkalmazások bővítésekor.
CSET Georgetown: How AI Could Hollow Out the U.S. Military
