Az OpenAI közzétette nemzetbiztonsági partnerségeinek alapelveit
Az OpenAI közzétette nemzetbiztonsági alapelveit, amelyek szerint a kormányzati felhasználásnak demokratikus elszámoltathatóságra, emberi mérlegelésre és jogállami keretekre kell épülnie. A vállalat közben újabb együttműködéseket jelentett be az Egyesült Államokkal és szövetségeseivel a kiberbiztonság és a biológiai biztonság területén.
- Az OpenAI közzétette National Security Principles dokumentumát.
- A vállalat demokratikus elszámoltathatóságot és emberi mérlegelést vár el.
- Kilenc országgal és az ENISA-val Trusted Access for Cyber partnerségeket hozott létre.
- A GPT-Rosalindhoz kiválasztott kormányzati és szövetséges partnerek kapnak bővített hozzáférést.
- Továbbra is tiltják a tömeges belföldi megfigyelést, az autonóm fegyverrendszerek irányítását és a nagy jelentőségű automatizált döntéseket.
Átláthatóbb kereteket ígér az OpenAI
Az OpenAI július 8-án tette közzé a National Security Principles nevű dokumentumát. A vállalat közlése szerint az alapelvek célja, hogy átláthatóbbá tegyék, miként közelít a kormányzati partnerségekhez és technológiáinak nemzetbiztonsági alkalmazásához.
A cég szerint a kormányok egyre fontosabb feladatokra használják a legfejlettebb mesterségesintelligencia-rendszereket, köztük nemzetbiztonsági célokra is. Emiatt az AI-laboroknak, a kormányoknak és a civil társadalomnak együtt kell dolgozniuk azon, hogyan alkalmazhatók ezek az eszközök érzékeny környezetben.
Az OpenAI szerint a demokratikus társadalmaknak képesnek kell lenniük arra, hogy mesterséges intelligenciát használjanak az emberek védelmére, a kritikus infrastruktúra védelmére, a közszolgáltatások biztosítására és új fenyegetések kezelésére. A vállalat külön kiemelte a kiberbiztonságot és a biológiai biztonságot, ahol állítása szerint az AI jelentős előnyt adhat a védekező félnek.
Emberi döntés és demokratikus elszámoltathatóság
Az alapelvek szerint az egyre nagyobb képességű rendszereket úgy kell bevezetni, hogy erősítsék a demokratikus elszámoltathatóságot, a tényleges emberi mérlegelést és a jogállamiságot. Az OpenAI azt is hangsúlyozza, hogy a technológiának a demokratikus intézményeket kell támogatnia, és nem szabad a hatalom koncentrációját elősegítenie.
Az alapelvek kidolgozásában a vállalat több területe részt vett, a kutatástól és a biztonságtól kezdve a szakpolitikai és kormányzati partnerségekkel foglalkozó csapatokig. A folyamatot David Kris nemzetbiztonsági szakértő segítette, aki a vállalat szerint független véleményt is adott. Az OpenAI ezen kívül a cégen belül meghallgatásokat tartott, és több csapat munkatársaival egyeztetett.
A dokumentum a jelenlegi és jövőbeli nemzetbiztonsági, illetve bűnüldözési partnerségekre is vonatkozik. Ide tartozik a vállalat meglévő együttműködése a Department of Warral is.
Kiberbiztonsági és biológiai biztonsági együttműködések
Az OpenAI közlése szerint az alapelvek közzétételével párhuzamosan bővíti együttműködését az amerikai kormánnyal és szövetségeseivel kritikus védekezési területeken. A vállalat különösen a kiberbiztonságot és a biológiai biztonságot emelte ki.
Az elmúlt hónapban a Daybreak kiberbiztonsági program részeként Trusted Access for Cyber partnerségeket hoztak létre Ausztráliával, Kanadával, Japánnal, a Koreai Köztársasággal, Franciaországgal, Németországgal, Lengyelországgal és Hollandiával. A felsorolásban európai uniós intézményként az ENISA is szerepel. Az OpenAI szerint az Egyesült Királyság kormányával szintén növekvő és bizalmon alapuló együttműködést folytatnak a kiberbiztonság területén, beleértve a tesztelést és az értékelést.
Hasonló megközelítést alkalmaznak a biológiai biztonságban is. A vállalat a múlt hónapban jelentette be, hogy kiválasztott amerikai kormányzati és szövetséges partnerek számára bővíti a GPT-Rosalind modellhez biztosított hozzáférést. Ezek a partnerek közegészségügyi és biológiai védekezési feladatokat támogatnak.
Három felhasználást továbbra is korlátoznak
Az OpenAI szerint az év elején bejelentett megállapodásában több szerződéses korlátozást is rögzített. Ezek összhangban vannak a most közzétett alapelvekkel.
- Az OpenAI technológiája nem használható tömeges belföldi megfigyelésre.
- A technológia nem használható autonóm fegyverrendszerek irányítására.
- A technológia nem használható nagy jelentőségű, automatizált döntések meghozatalára.
A vállalat szerint fontos egyértelművé tenni, hogy technológiája mire használható és mire nem. Ugyanakkor úgy látja, hogy a kormányzati AI legfontosabb kérdéseiről, különösen a nemzetbiztonságban, demokratikus folyamatban kell dönteni. Az OpenAI támogatja azokat a jogalkotási kezdeményezéseket, amelyek biztosítékokat alakítanának ki a mesterséges intelligencia legnagyobb kockázatú katonai alkalmazásaira, köztük a belföldi megfigyelésre és az autonóm fegyverrendszerekre. A vállalat szerint a cégek feladata ezeknek a döntéseknek a megalapozása, nem pedig az, hogy egyedül hozzák meg őket.
