UC Berkeley-professzor: meg kell állítani az autonóm fegyvereket
Az autonóm fegyverek fejlesztésének és használatának leállítását sürgeti Stuart Russell, a UC Berkeley mesterségesintelligencia-kutatója. Szerinte a szabályozással nem szabad megvárni egy tömeges áldozatokkal járó eseményt.
- Stuart Russell az autonóm fegyverek szabályozását sürgeti.
- A professzor elsőként a kis, emberek ellen bevethető autonóm fegyvereket tiltaná be.
- Szerinte az ilyen fegyverek olcsón, nagy mennyiségben terjedhetnek.
- Oroszország és Ukrajna egyre inkább az autonóm célpontkiválasztás felé mozdul.
- Az Egyesült Államok és Kína fejlesztései mellett a nemzetközi jog lemaradásban van.
Russell több mint egy évtizede figyelmeztet
Stuart Russell, a Berkeley villamosmérnöki és számítástechnikai tanszékének professzora több mint egy évtizede beszél az autonóm fegyverek veszélyeiről. A UC Berkeley szeptember 3-án közzétett anyaga szerint a kutató úgy látja, hogy ezeknek a fegyvereknek a fejlesztése és használata továbbra is riasztó irányba halad.
Russell 2017-ben társalapítója volt a Center for Human-Compatible Artificial Intelligence nevű intézetnek, és ő vezeti az International Association for Safe and Ethical AI szervezetet. A Berkeley professzora emellett azt a tankönyvet is megírta, amelyből mesterségesintelligencia-szakértők generációi tanulták a terület alapjait.
A kutató elismeri, hogy frusztráló lehet újra és újra figyelmeztetni a veszélyekre, miközben úgy tűnik, senki sem hallgat rá. Többféle módon próbálta felhívni a figyelmet a problémára, köztük a Slaughterbots című, 2017-es rövidfilmmel, amely egy olyan világ veszélyeit mutatta be, ahol az AI-fegyverek nagy számban terjednek. Russell most úgy fogalmazott: „nagyjából már ott tartunk”.
A kis autonóm fegyverek betiltásával kezdené
Russell szerint első lépésként a kis, emberek ellen bevethető autonóm fegyvereket kellene betiltani. Ezeket ugyanis várhatóan olcsón és nagy mennyiségben lehetne előállítani. A professzor szerint „egy ember megnyomhatna egy gombot, elindíthatna egymillió fegyvert, és megölhetne egymillió embert”, ezért ezeket a rendszereket könnyen terjedő tömegpusztító fegyvereknek tekinti.
A Berkeley beszámolója szerint Russell úgy látja, hogy a technológia több helyen is ebbe az irányba fejlődik. Oroszországban és Ukrajnában a drónok többségénél továbbra is ember erősíti meg a célpontot a parancsnoki láncban, de a jelek arra utalnak, hogy mindkét fél egyre inkább áttér az autonóm célpontkiválasztásra. A kommunikációt nehezítő jelzavarás problémákat okoz az emberek és a drónok közötti kapcsolatban.
A fegyverkezési verseny gyorsabb lehet a jogalkotásnál
A forrás szerint az Egyesült Államok és Kína egyaránt gyors ütemben fejleszt AI-alapú fegyverrendszereket, miközben a nemzetközi jog nem tart lépést a technológiával. Izrael több mesterségesintelligencia-rendszert használ célpontok azonosítására Gázában.
Russell szerint mindenkinek meg kell értenie, mi történik. A kutató úgy véli, hogy ha többen tisztában lesznek a lehetséges következményekkel, akkor a törvények is felzárkózhatnak a technológiai fejlődéshez. A professzor ezért továbbra is azon dolgozik, hogy megváltozzon az autonóm fegyverek fejlesztésének jelenlegi iránya.
A UC Berkeley az anyagban további, oktatási célú, egyperces videókat is ajánl, amelyekben az egyetem oktatói és szakértői mutatják be szakterületük alapvető kérdéseit.
UC Berkeley: Watch: UC Berkeley professor calls for a halt to AI weapons
