Több mint havi egymillió dollárt spórol AI-használatán a Datadog
Több mint havi 1 millió dollárral csökkentette AI-kiadásait a Datadog, miután mérni kezdte a modellek, tokenek és fejlesztői munkafolyamatok költségét. A vállalat többek között Claude Opusról Sonnetre váltott, és automatikus költségriasztásokat vezetett be.
- A Datadog több mint havi 1 millió dolláros AI-megtakarításról számolt be.
- A Claude Opus 4.8-ról Sonnet 4.6-ra váltás több mint 687 ezer dollárt takarított meg egy hónap alatt.
- A Claude Code CLI erőfeszítési szintjének csökkentése havi 288 ezer dollárnál nagyobb megtakarítást hozott.
- Az automatikus költségriasztásokat 768 felhasználó váltotta ki az első héten.
- A riasztások után a Datadog több mint 150 ezer dollárral alacsonyabb heti kiadást mért.
A költségek részletes feltérképezésével kezdték
A Datadog 2026. augusztus 26-án közzétett beszámolója szerint a vállalat célja, hogy mérnökei jó minőségű AI-eszközökhöz és munkafolyamatokhoz férjenek hozzá, miközben az AI-felhőkiadás és a megtérülés egyensúlyban marad. A cég szerint a tokenhasználat költséges lehet, ezért az infrastruktúra méretezéséhez hasonlóan az AI-eszközök beállításainak finomhangolásával is megtakarítás érhető el.
A költségek feltérképezéséhez a Datadog az Anthropic, a Cursor és az OpenAI használatát, az egyes modelleket, valamint az API-használatot is követte. Az AI Costs funkció a szolgáltatót, a modell nevét és a tokenek kategóriáját is címkézi, így elkülöníthetők a bemeneti, kimeneti, gyorsítótárazáshoz és keresési műveletekhez kapcsolódó tokenek.
Minden Claude Code-kérés egy AI-átjárón halad keresztül, amely a csapathoz vagy termékhez kapcsolódó címkékkel látja el a kérést. Az Agent Observability a felhasználót, a csapatot, a modellt, a tokenszámokat és a becsült költséget is megjeleníti. Ezekből az adatokból a vállalat irányítópultot készít, amely alapján az AI Developer Experience csapata azonosítja a magas kiadásokat és a költségtrendeket.
A Claude Opusról Sonnetre váltás 687 ezer dollárt hozott
A Datadog mérései szerint a Claude Opus modellek az AI-kiadások jelentős részét tették ki. A vállalat közlése alapján a Claude Sonnet a listaáras bemeneti és kimeneti tokenköltségben 60 százalékos csökkentést kínált az Opushoz képest. Korábban a Claude Code és az ügynöki készségek alapértelmezett modellje az Opus 4.8 volt.
A váltás előtt a Datadog több mint 140 értékelésen futtatott különböző modelleket. A teljesítményt determinisztikus eredmények és nyelvi modellek által végzett értékelések súlyozott pontszámai alapján számították, az átlagos költséget és teljesítménypontszámot pedig éjszakánként kalkulálták.
Az Opus 4.8 kapta a legmagasabb teljesítménypontszámot, ugyanakkor ennél volt a legmagasabb az értékelésenkénti költség is. A Sonnet 4.6-ra váltás a Datadog számítása szerint 8 százalékos teljesítménycsökkenést jelentett a vállalat saját munkafolyamatainak végrehajtásában, miközben 36,7 százalékkal csökkentette az AI-költségeket. A cég ezt az átváltást elfogadható kompromisszumnak ítélte, és a váltás az elmúlt hónapban több mint 687 ezer dollár megtakarítást eredményezett.
Hasonló módszerrel a Claude Code CLI alapértelmezett erőfeszítési szintjét magasról közepesre állították, ami további havi 288 ezer dollárnál nagyobb megtakarítást hozott.
Automatikus riasztásokkal terelik olcsóbb használatra a fejlesztőket
A Datadog költségriasztásokat is létrehozott, amelyek értesítik a felhasználókat a drága AI-használati mintákról, és belső dokumentációra irányítják őket. Ehhez a Datadog Cloud Cost monitorait és a Datadog Workflow Automation által vezérelt értesítési munkafolyamatokat kombinálják.
Egy Cursorhoz kapcsolódó példában a munkafolyamat akkor indul el, amikor egy felhasználó napi kiadása átlép egy meghatározott küszöböt. A rendszer lekéri a felhasználó e-mail-címét, megkeresi a hozzá tartozó profilt a Datadog Slack-munkaterében, majd üzenetet küld a költségcsökkentési lehetőségekről.
Az Anthropic által biztosított kulcsokra beállított riasztások első heti tesztjében 768 különálló felhasználó kapott automatikus tájékoztatást. A Datadog a riasztás előtti és utáni hetet összehasonlítva több mint 150 ezer dollárral alacsonyabb AI-kiadást mért. A vállalat szerint hasonló riasztások más AI-keretrendszerekhez és ügynökökhöz is beállíthatók.
