Az Anthropic nem tiltaná be az open-weights modelleket

Az Anthropic elutasítja a tiltás vádját

Dario Amodei, az Anthropic vezérigazgatója július 27-én közzétett bejegyzésében reagált az open-weights modellekről zajló vitára. A vita középpontjában különösen a kínai modellek állnak, miközben amerikai tisztviselők egyes jelentések szerint a kínai open-weights modellek használatának korlátozását mérlegelik az amerikai vállalatoknál.

Az Anthropic vezetője szerint a vállalatot tévesen vádolták azzal, hogy üzleti érdekei védelmében ilyen modellek betiltását szeretné elérni. Amodei egyértelművé tette, hogy az Anthropic soha nem szorgalmazta az open-weights modellek betiltását. A cég szerint azok a nyílt súlyú modellek, amelyek nem rendelkeznek veszélyes képességekkel, közjót jelentenek: futtatásukhoz a számítási kapacitás költségén túl nem szükséges fizetni, és értéket teremthetnek a vállalatok, a fejlesztők és a kutatók számára.

Két fő kockázatra figyelmeztetnek

Amodei két kiemelt nemzetbiztonsági veszélyt nevezett meg. Az első, hogy autoriter kormányok, köztük mindenekelőtt a Kínai Kommunista Párt, az Egyesült Államokban fejlesztetteknél erősebb AI-modelleket építhetnek, majd ezeket tartós katonai fölény kialakítására vagy saját lakosságuk mélyreható elnyomására használhatják. Szerinte ebből a szempontból lényegtelen, hogy egy modell nyílt súlyokkal jelenik-e meg, illetve használják-e amerikai vállalatok.

A második kockázat a fejlett modellek kiber- vagy biológiai támadásokra való felhasználása, valamint az úgynevezett igazodási problémák jelenléte. Az Anthropic szerint az open-weights modellek e téren nagyobb veszélyt jelenthetnek a zárt modelleknél, mivel nehezebb rájuk biztonsági korlátokat alkalmazni és használatukat figyelni. A súlyok közzététele után azok nem vonhatók vissza.

A vállalat ugyanakkor úgy látja, hogy az amerikai cégek használatának általános tiltása egyik problémát sem kezelné. A rosszindulatú szereplők ugyanis várhatóan nem legitim amerikai vállalatok lesznek. Egy ilyen intézkedés inkább az amerikai AI-cégeket védené a versenytől, amit Amodei nem tekint céljának.

Három intézkedést támogatnak

Az Anthropic három konkrét lépést tart szükségesnek. Elsőként azt, hogy az Egyesült Államok ne értékesítsen fejlett chipeket és chipgyártó berendezéseket Kínának, valamint lépjen fel a csempészet és a kijátszási módszerek ellen. A vállalat érvelése szerint Kína korlátozott hazai gyártókapacitása miatt, a skálázási törvények következtében, amerikai chipek nélkül nem tudna az Egyesült Államokénál fejlettebb modelleket építeni.

Másodikként az ipari méretű modelllepárlás, vagyis a distillation visszaszorítását sürgetik. Ez a módszer kevesebb számítási kapacitást igényel, mint egy modell teljesen újratanítása, így Kína a rendelkezésére álló chipek alapján várhatónál jobb modelleket készíthet. Az Anthropic szerint ez a folyamat akár néhány hónapra megközelítheti a kínai fejlesztéseket az amerikai élvonalhoz, ezért célzott jogi és kereskedelmi intézkedéseket tart szükségesnek.

Harmadikként minden kellően fejlett, nyílt és zárt modellt kötelező biztonsági tesztelésnek vetnének alá. A vizsgálatoknak a kiberbiztonsági, biológiai és igazodási kockázatokra kellene kiterjedniük, a kevésbé fejlett, például startupok vagy akadémiai csoportok által készített modellek kivételével. A vállalat szerint a kockázatokat teszteléssel kellene megállapítani, nem előre eldönteni.

A nyílt modellekről szóló levéllel részben egyetértenek

Az Anthropic egy nyílt levél több állítását támogatja. Elismeri, hogy az open weights szélesíti az AI-gazdasághoz való hozzáférést, egyes felhasználási területeken erősíti a versenyt, és nagyobb kontrollt ad az ügyfeleknek. A distillation problémáját azonban célzott szabályozással kezelné, és vitatja, hogy a széles hozzáférés szükségszerűen inkább a védekezőket segíti, mint a támadókat.

Amodei szerint különösen a biológiai területen alakulhat ki jelentős támadó-védekező aszimmetria. A bejegyzés alapján egy kellően fejlett modell gyorsan segíthet világjárványos szintű vírusok fegyverré alakításában széles körben elérhető anyagokból, miközben az ilyen kórokozók elleni védekezés a legjobb esetben is többéves művelet lehet. Az Anthropic ezért a globális, kibocsátás előtti tesztelést tartja a megfelelő iránynak, nyílt és zárt modellek esetében egyaránt.