Az Anthropic vállalati védelmi rendszert vezet be frontier modellekhez

Ügyféloldali adattárolás, Anthropic-féle észlelés

Az Anthropic szerint az Enterprise Frontier Safeguards úgy működik, hogy az adatokat az ügyfél által kontrollált felhős infrastruktúrában tárolja, nem az Anthropic rendszereiben. A vállalat ezt a zero data retention, vagyis ZDR adatvédelmi megközelítésével és a visszaélések felismerésére szolgáló védelmi mechanizmusokkal kapcsolja össze.

Az EFS fokozatosan jut el az ügyfelekhez, a bevezetés később, az ősz folyamán indul. Az átállás megkönnyítésére a jogosult ügyfelek ZDR-t kapnak Fable 5 és Fable 5.1 modelleken addig, amíg az EFS elkészül.

A megoldást az Anthropic több mint 100 ügyféllel közösen fejlesztette, többek között a pénzügyi szolgáltatások, az egészségügy, a gyártás, a telekommunikáció, a jog, a kiskereskedelem és a közszféra szereplőivel. A munkában felhőpartnerei, az Amazon Web Services, a Google Cloud és a Microsoft Azure is részt vettek.

Az EFS támogatott lesz a Claude Code, a Claude Enterprise, a Claude Platform, az Amazon Bedrock, a Claude Platform on AWS, a Google Agent Platform és a Microsoft Foundry környezetekben.

Miért kellett új modell a vállalati biztonságra?

Az Anthropic a bejelentésben azt írja, hogy a Mythos-osztályú modellek, például a Claude Fable 5.1, jelentős előrelépést jelentenek intelligenciában és ügynökszerű képességekben. A cég szerint ezzel együtt nő a visszaélés és az autonóm hibás működés kockázata is.

A vállalat az elmúlt hónapokban jelentős bizonyítékot látott AI-modellekkel kapcsolatos visszaélési kísérletekre. Ezek a tipikus visszaélésektől, például csalástól, a kifinomult kibertámadásokig terjednek, amelyekben ügynökök autonóm módon is végezhetnek romboló tevékenységet.

Az Anthropic szerint egyes esetekben vállalati ügyfelek hitelesítő adatainak ellopása vagy jogosulatlan felhasználása is megjelenik. Ezeket nehéz felismerni forgalomfigyelés és rendellenes viselkedés észlelése nélkül. A vállalat azt is állítja, hogy a kifinomult visszaélések sok feladatra, több munkamenetre és több fiókra oszthatók szét, ezért nem elég minden interakciót külön elemezni, majd az adatokat azonnal törölni.

Ez volt az oka annak, hogy az Anthropic a Fable 5-től kezdve 30 napos adatmegőrzést vezetett be. A cég hangsúlyozza: ezt nem az motiválta, hogy vállalati adatokon tanítson, és állítása szerint soha nem tanított vállalati adatokon kifejezett engedély nélkül, és a jövőben sem fog.

Szabályozott iparágak igényeire tervezték

Az Anthropic szerint a vállalatok általában értették az adatmegőrzés biztonsági értékét, de sokan, különösen a szabályozott iparágakban, nehezen tudtak adatmegőrzéssel működő modelleket használni. Az EFS erre a feszültségre ad választ: az adat a vállalatnál maradhat, miközben az automatizált rendszerek időben és fiókokon átívelő mintákat kereshetnek.

A fejlesztésben biztonsági, termék-, megfelelőségi és szállítási csapatok adtak visszajelzést. Az Anthropic együtt dolgozott az Analysis and Resilience Center for Systemic Risk, azaz ARC szervezettel is, amelynek tagjai között a legnagyobb amerikai bankok információbiztonsági vezetői szerepelnek, köztük a Goldman Sachs, a Morgan Stanley, a Citi, a Bank of America és a Wells Fargo. A vállalat emellett olyan cégek vezetőivel is egyeztetett, mint a Comcast, a KPMG, a Mastercard, a Salesforce és a Visa.

A bejelentés szerint az egyeztetések a Fortune 100 negyedét, minden amerikai globálisan rendszerszinten fontos bankot és gyakorlatilag minden szabályozott iparágat érintettek.

Az ügyfelek egyik fő igénye az volt, hogy ők irányíthassák, miként történik az adatok áttekintése. Az EFS-ben, ha a monitoring figyelmet igénylő mintát érzékel, a jelzések közvetlenül az ügyfélhez kerülnek, így ő vizsgálhatja meg, mit talált az automatizált rendszer.

A naplók maradhatnak a vállalat saját felhőjében

Az EFS architektúrájának egyik központi eleme, hogy az ügyfelek meglévő felhős infrastruktúrájukban tárolhatják az adatokat. Az Anthropic példaként az Amazon S3, az Azure Blob Storage és a Google Cloud Storage szolgáltatásokat említi.

A vállalatok saját titkosítási kulcsokkal, hozzáférési szabályokkal és auditnaplózással kezelhetik az adatokat. Ez azért fontos az Anthropic szerint, mert sok szervezetnél komoly teher új megbízható adatszállítót bevezetni, ügyfeleket értesíteni, szerződéseket frissíteni, valamint belső adattárolási és auditkövetelményeknek megfelelni.

Az EFS automatizált biztonsági monitoringot használ, és nem igényel Anthropic-alkalmazotti emberi áttekintést. A rendszer gördülő forgalmi ablakot elemez súlyos visszaélések jelei után kutatva, beleértve offenzív kiber- vagy biológiai képességek fejlesztésére irányuló kísérleteket, valamint ellopott vagy kiszivárgott hitelesítő adatokra utaló jeleket.

Ha a rendszer jelzést ad, az közvetlenül az ügyfélhez kerül. Az Anthropic szerint ez illeszkedik ahhoz az igényhez, hogy érzékeny, szabályozott információkat, például privilegizált jogi anyagokat, nem nyilvános információkat vagy gyógyszerbiztonsági jelentéseket az adott vállalat saját, erre felkészített munkatársai kezeljenek.

Mit jelent ez a vállalati AI-használatnak?

Az Anthropic bejelentése alapján az EFS fő célja, hogy a legnagyobb képességű modellek használatát olyan vállalatok számára is kezelhetőbbé tegye, amelyeknél az adatkezelés, a megfelelőség és az auditálhatóság szigorú feltétel.

A megoldás a vállalati AI-bevezetés egyik gyakorlati akadályát célozza: a szervezetek szeretnék használni a frontier modelleket, de közben meg akarják tartani az adat- és hozzáféréskezelés feletti kontrollt. Az Anthropic szerint az EFS-ben a naplók az ügyfél által kezelt környezetben és kulcsok alatt maradhatnak, miközben a visszaélésészlelés továbbra is működik.

A felhasználói és piaci hatás ezért elsősorban a szabályozott és nagy kockázatú vállalati környezetekben lehet jelentős. A forrás alapján az EFS nem új modellként jelenik meg, hanem olyan biztonsági és adatkezelési rétegként, amely a Claude-termékek és több nagy felhőplatform köré épül.