A New Relic három pillérrel készül az AI üzemi kihívásaira

A gyorsabb fejlesztés új üzemeltetési kockázatokat hoz

A New Relic októberi összefoglalója szerint az AI gyorsíthatja a szoftverek létrehozását, de ez önmagában nem garantálja a megbízható produkciós működést. Az AI által generált kódok, alkalmazások és ügynökök új függőségeket, működési vakfoltokat és összetettebb környezetet hoznak azoknak a csapatoknak, amelyek a rendszerek üzemben tartásáért felelnek.

A vállalat erre egy közös alapot javasol: a kapcsolt, megbízható kontextust. Ez egyesíti a telemetriai adatokat, a függőségeket, a tulajdonosi információkat, a szervezeti tudást és az üzleti környezetet. Így az emberek és az AI is több bizonyíték alapján értheti meg, mi történik, miért fontos, és mi lehet a következő lépés.

AI Observability az AI teljes életciklusára

Az AI Observability célja, hogy a csapatok a fejlesztéstől a produkcióig követni tudják az AI működését. A New Relic szerint ehhez az alkalmazások hagyományos állapotának figyelése mellett szükség van a modellek viselkedésének, a kéréseknek és válaszoknak, a tokenfelhasználásnak, a késleltetésnek, a visszakeresés minőségének, valamint a modellek, ügynökök, eszközök és szolgáltatások kapcsolatainak láthatóságára is.

• AI Coding Observability: az AI-kódasszisztensek használatát, elterjedtségét, költségét és lehetséges biztonsági kockázatait követi.
• AI Evaluation: az AI-alkalmazások válaszainak minőségét, relevanciáját és teljesítményét értékeli.
• AI Agent Monitoring: az ügynökök viselkedését, eszközhívásait, átadásait és munkafolyamatait teszi láthatóvá.
• AI Observability for OpenTelemetry: az OpenTelemetry GenAI telemetriáját használja az AI-alkalmazások és ügynökök megfigyelésére.

Bizonyítékokra épülő incidensvizsgálat

Az Autonomous Operations az incidensek kivizsgálását támogatja. A New Relic szerint a riasztások ritkán magyarázzák el teljes körűen, mi változott, mely környezeti elemek érintettek, és mi legyen a következő lépés. A csapatoknak ezért gyakran külön kell összegyűjteniük és összevetniük a bizonyítékokat.

A New Relic Ground Truth a telemetriát, a változásokat, a függőségeket és a szervezeti tudást a fejlesztők és az SRE-csapatok termináljába viszi. A New Relic Autopilot a rendelkezésre álló bizonyítékokat vizsgálja, és segít megérteni, mi történt, miért számít, valamint hol érdemes folytatni a vizsgálatot. A New Relic Ground Truth CLI ugyanezt a működési kontextust közvetlenül a terminálban teszi elérhetővé.

A vállalat hangsúlyozza, hogy az emberek irányításban maradnak. A New Relic a kontextust, a bizonyítékokat és az útmutatást adja, a csapatok pedig ezek alapján dönthetnek a következő lépésről.

Platform Engineering élő telemetriára építve

A Platform Engineering pillér a platformcsapatok feladatát célozza, akiknek a New Relic szerint egyszerre kell gyors és megbízható fejlesztést támogatniuk, kezelniük a töredezett infrastruktúrát, a megfigyelhetőség költségeit, a kormányzási elvárásokat és az AI növekvő jelenlétét.

A Service Architecture Intelligence a New Relic részeként, külön díj nélkül elérhető belső fejlesztői platformként szolgál. Élő telemetriából épít szolgáltatáskatalógusokat, megmutatja a kapcsolatokat és a tulajdonosi viszonyokat, valamint pontozókártyákkal méri az olyan szabványok érettségét, mint a címkézés és a riasztási lefedettség.

Az Infrastructure 360 egységes képet ad az infrastruktúra-erőforrásokról. Felfedezi a nyilvános felhő eszközeit, jelzi a hiányzó lefedettséget, feltérképezi az alkalmazások és az infrastruktúra függőségeit Kubernetes, hálózatok, terheléselosztók és alkalmazásátjárók esetében, továbbá követi a konfigurációs változásokat.

A három pillér közös, megbízható működési kontextusra épül. A New Relic szerint ez segíthet a csapatoknak abban, hogy az AI által támogatott fejlesztést és üzemeltetést nagyobb átláthatóság mellett végezzék, miközben az emberi felügyelet megmarad.