AI-verseny Kínával: a biztonság helyett a mélybe vezethet a hajszolás
Az Egyesült Államok és Kína közötti mesterségesintelligencia-verseny könnyen a biztonsági követelmények leépítéséhez vezethet Aya Ibrahim szerint. Az AI Now Institute szakértője úgy látja, a legnagyobb veszélyt nem feltétlenül egy önállóan működő, irányíthatatlanná váló rendszer, hanem a technológiát fejlesztő és bevezető emberek gondatlansága jelenti.
- Aya Ibrahim szerint az AI-verseny a biztonsági követelmények leépítéséhez vezethet.
- A legnagyobb kockázatot szerinte a gondatlan emberek jelentik.
- A fejlesztők és üzemeltetők állítják fel a védőkorlátokat.
- Ibrahim szerint a vállalatok lazán kezelték a telepítési és tesztelési környezeteket.
A versenylogika a biztonság rovására mehet
Az AI Now Institute szeptember 13-án közölt bejegyzése szerint Aya Ibrahim az Al Jazeerának beszélt arról, hogyan alakítja a mesterséges intelligenciáról szóló közbeszédet az Egyesült Államok és Kína közötti „verseny” narratívája. Ibrahim szerint ez a megközelítés valójában a „mélybe vezető versennyé” válhat.
A megfogalmazás arra utal, hogy az egymással versengő szereplők a gyorsabb fejlesztés és bevezetés érdekében lazíthatnak a biztonsági eljárásokon. A forrás nem részletez konkrét vállalatokat, termékeket vagy eseteket, a figyelmeztetés középpontjában a fejlesztési és bevezetési környezetek állnak.
Ibrahim szerint a gondatlan emberek jelentik a fő kockázatot
„A legnagyobb kockázat nem feltétlenül egy elszabadult ügynök, hanem a gondatlan emberek” , mondta Ibrahim az Al Jazeerának. A szakértő ezzel a felelősséget azokhoz köti, akik a mesterségesintelligencia-rendszereket fejlesztik és telepítik.
Ibrahim szerint ezek az emberek állítják fel a védőkorlátokat, és ők határozzák meg a tesztelési környezetet is. Így a rendszerek biztonsága nem kizárólag a modellek működésén múlik. A fejlesztők és üzemeltetők döntései meghatározzák, milyen feltételek között jelennek meg az AI-ügynökök, modellek és rendszerek.
A tesztelési környezetekre is figyelmeztetett
Az AI Now Institute bejegyzése szerint Ibrahim úgy fogalmazott, hogy a vállalatok meglehetősen lazán kezelték azokat a környezeteket, amelyekben ügynökeiket, modelljeiket és rendszereiket telepítik. A szakértő állítása szerint ez világosan megmutatkozott a vállalati gyakorlatokban.
A nyilatkozat alapján a biztonsági korlátok és a tesztelési feltételek a fejlesztési verseny fontos részei. Ha ezeket a vállalatok lazán kezelik, akkor a verseny nem a megbízhatóbb rendszerek létrehozását ösztönzi. Ibrahim figyelmeztetése szerint a versenylogika ilyen körülmények között lefelé húzhatja a biztonsági színvonalat.
Mit jelenthet ez a felhasználóknak?
A forrásban szereplő figyelmeztetés szerint a felhasználók szempontjából kulcsfontosságú, hogy a mesterségesintelligencia-rendszereket milyen védőkorlátokkal és milyen tesztelési környezetben fejlesztik. A kockázatot Ibrahim nem egyetlen önállóan működő rendszerhez köti, hanem azokhoz az emberi döntésekhez, amelyek a technológia bevezetését megelőzik.
Ibrahim az AI Now Institute vezető gazdasági és nemzetbiztonsági munkatársa, korábban pedig a Fehér Ház Tudományos és Technológiai Hivatalának vezető tanácsadója volt. Az Al Jazeerának adott interjú teljes egészében az AI Now Institute bejegyzésében érhető el.
AI Now Institute: AI race with China risks ‘a race to the bottom’, expert warns