Az Anthropic újabb 20 millió dollárt ad az AI-szabályozást támogató szervezetnek

Az adomány célja az AI-politika alakítása

Az Anthropic július 21-i közleménye szerint a mostani adomány a vállalat februárban adott első, 20 millió dolláros támogatását egészíti ki. A teljes, 40 millió dolláros összeg kizárólag a Public First Action nyilvános tájékoztatási és közpolitikai küldetését szolgálhatja.

A Public First Action pártoktól független szervezetként oktatja a nyilvánosságot a mesterséges intelligenciáról, és republikánus, demokrata, valamint független politikusokkal is együttműködik, ha azok érdemi AI-biztosítékok bevezetését támogatják. Az Anthropic közlése alapján az adományok nem használhatók fel szövetségi, állami vagy helyi tisztségre pályázó jelöltek választási befolyásolására.

A vállalat szerint gyorsan nőnek a kockázatok

Az Anthropic az adomány szükségességét az AI-modellek gyors fejlődésével indokolja. A vállalat szerint a Claude Mythos Preview az év elején több ezer súlyos szoftveres sebezhetőséget fedezett fel, köztük minden jelentős operációs rendszerben és böngészőben.

A modellt a cég nem tette széles körben elérhetővé. A Project Glasswing keretében a Claude Mythos Preview-hoz csak korlátozott számú kiberbiztonsági szakember férhetett hozzá, hogy megbízható szereplők még a kihasználásuk előtt megtalálhassák és kijavíthassák ezeket a hibákat. Az Anthropic szerint egy hasonló képességű modell rossz kezekben olyan kritikus rendszereket is veszélyeztethet, mint a kórházak vagy az energiahálózat.

A vállalat közben az AI fejlesztésének lehetséges előnyeit is hangsúlyozza. Ide sorolja a gyógyszerkutatás felgyorsítását, eddig kezelhetetlen betegségek terápiáinak fejlesztését, a tudományos haladás gyorsítását, az emberi élettartam meghosszabbítását és a széles körben megosztott gazdasági növekedést. Álláspontja szerint ezekhez az előnyökhöz előbb a kockázatok kezelését kell biztosítani.

Átláthatóságot és ellenőrizhető biztonsági gyakorlatokat sürgetnek

Az Anthropic régóta azt képviseli, hogy a legfejlettebb AI-modelleket fejlesztő vállalatoknak tájékoztatást kell adniuk modelljeik képességeiről és a kockázatok kezeléséről. A cég támogatja azokat az újonnan elfogadott állami törvényeket is, amelyek nagyobb átláthatóságot írnak elő az AI-fejlesztők számára.

A vállalat szerint azonban az átláthatóság önmagában nem elegendő. Az Anthropic Advanced AI Framework nevű javaslata alapján a kormányoknak ellenőrizniük kellene a cégek biztonsági állításait, pénzügyi szankciókkal kikényszeríteniük a biztonságos működést, valamint végső esetben lelassítaniuk vagy megakadályozniuk az olyan modellek bevezetését, amelyek súlyos, katasztrofális kárral fenyegetnek.

A javaslat szerint a fejlesztőknek tesztelniük kellene a katasztrofális kockázatot jelentő modelleket, nyilvánosságra kellene hozniuk az eredményeket, független értékelésnek kellene alávetniük rendszereiket, és erős biztonsági programot kellene fenntartaniuk.

A támogatás a technológiai versenyre is kiterjed

Az Anthropic a mesterséges intelligencia nemzetbiztonsági jelentőségét is kiemeli. Közlése szerint az Egyesült Államok és demokratikus szövetségesei jelenleg előnyben vannak, de ez az előny bizonytalan. A vállalat ezért támogatja a fejlett chipekre és félvezetőgyártó berendezésekre vonatkozó exportkorlátozások szigorítását, valamint az illegális modellhozzáférés és a modellek lepárlására épülő támadások visszaszorítását.

A Public First Actionnak adott újabb támogatást az Anthropic annak egyik eszközeként mutatja be, amellyel sürgetőbbé kívánja tenni a közpolitikai vitát. A vállalat szerint a bemutatott keretek kiindulópontot jelentenek a kormányok és a politikai szereplők számára.