Az AI Now szerint az AI majdnem amerikai-kínai háborút indított
Az AI Now Institute szerint a mesterséges intelligencia használata már majdnem amerikai-kínai háborús konfliktushoz vezetett, miközben a történtekre alig figyelnek. Az intézet főtudósa a kritikus infrastruktúrákban alkalmazott, megbízhatatlan rendszerek veszélyeire figyelmeztetett.
- Az AI Now Institute szerint az AI majdnem amerikai-kínai háborúhoz vezetett.
- Az intézet a védelmi és nukleáris infrastruktúrákban való AI-használat kockázataira figyelmeztet.
- Heidy Khlaaf szerint az AI kritikus környezetben nem elég megbízható és pontos.
- Az AI Now szerint a biztonsági problémák elismerése lassíthatná az AI elterjedését.
Az AI Now a katonai alkalmazások kockázataira figyelmeztet
Az AI Now Institute szeptember 28-án közölt bejegyzése szerint a mesterséges intelligencia majdnem elindított egy Egyesült Államok és Kína közötti háborút. A bejegyzés címe arra is utal, hogy a nyilvánosság és a döntéshozók látszólag nem fordítanak kellő figyelmet erre a kockázatra.
Az intézet a mesterséges intelligencia kritikus, nemzetbiztonsági jelentőségű rendszerekben való használatát állítja a középpontba. Ide sorolja a védelmi és nukleáris infrastruktúrát is. Az AI Now szerint az ilyen környezetekben egy technológiai hiba következményei különösen súlyosak lehetnek.
A megbízhatóság hiánya lehet a fő veszélyforrás
Heidy Khlaaf, az AI Now Institute főtudósa és az OpenAI korábbi rendszerbiztonsági mérnöke a The Interceptnek nyilatkozva azt mondta, hogy az AI-cégek folyamatosan figyelmeztetnek termékeik lehetséges károkozására, akár hipotetikus helyzetekben is. Khlaaf szerint ezzel párhuzamosan azt támogatják, hogy a megbízhatatlan termékeiket nemzetbiztonsági és biztonságkritikus infrastruktúrákban használják.
„Tekintettel arra, hogy az AI ilyen kritikus környezetben nem elég megbízható és pontos, végül ez vezet majd egy katasztrofális balesethez”, mondta Khlaaf a The Interceptnek. A szakértő szerint a problémák elismerése csökkentené az AI-cégek profitját, és lassítaná a technológia elterjedését.
Az AI Now szerint a gazdasági érdek akadályozza a kockázatok felismerését
Khlaaf állítása szerint az AI-rendszerek kritikus alkalmazásainak egyik problémája, hogy a vállalatok érdekeltek a használatuk bővítésében. Az AI Now által közölt idézet alapján a biztonsági hiányosságok nyílt elismerése visszafoghatná az elfogadást, ezért az intézet szerint a kockázatok és az üzleti ösztönzők között feszültség alakul ki.
A forrás nem ismerteti részletesen, milyen esemény vezetett a címben említett, majdnem bekövetkezett amerikai-kínai háborús helyzethez. Az AI Now ugyanakkor teljes cikkre hivatkozik, és a figyelmeztetés középpontjába a mesterséges intelligencia megbízhatóságát, pontosságát, valamint védelmi és nukleáris rendszerekben való alkalmazását helyezi.
AI Now Institute: AI Almost Started a U.S.–China War — and No One Seems to Care