Az AI-munkaterhelések új megfigyelhetőségi elvárásokat támasztanak

Az AI új feladatokat ad az SRE-csapatoknak

A Dynatrace augusztus 25-én közzétett összefoglalója szerint a csapatok két irányban használják az AI-t. Egyrészt az AI segítségével próbálják egyszerűsíteni és nagyobb méretben működtetni az IT- és DevOps-folyamatokat, másrészt egyre nagyobb felelősséget vállalnak az AI-munkaterhelések megbízhatóságáért, teljesítményéért és költségeiért.

Az AI-rendszerek a hagyományos szoftverektől eltérő módon hibázhatnak. Ahogy a projektek a kísérleti szakaszból az éles működés felé haladnak, az SRE- és platformmérnöki csapatokra két elvárás nehezedik: az AI-munkaterhelések kiszámítható működtetése, valamint olyan AI-alapú automatizálás kialakítása, amely támogatja ezt a megbízhatóságot.

Az SRE-k számára az AI-rendszerek figyelése lett a legfontosabb AI-hoz kapcsolódó felhasználási eset, ezt a válaszadók 58 százaléka jelölte meg. Az AI-alapú funkciókat az SRE-k 67 százaléka tartja a megfigyelhetőségi platform legfontosabb képességének.

A fejlesztés és az éles működés között még rés tátong

A kutatás egyik problémaként azonosítja, hogy az AI fejlesztéséhez, értékeléséhez és finomhangolásához használt eszközök gyakran elkülönülnek az éles környezetet figyelő platformoktól. Emiatt nehezebb összekapcsolni azt, ahogyan egy rendszert a fejlesztés során értékeltek, azzal, ahogyan ténylegesen viselkedik termelési környezetben.

A megfigyelhetőség széles körben jelen van, a bevezetése azonban egyenetlen. A platformmérnökök 77 százaléka legalább bizonyos szolgáltatásokba beépíti a megfigyelhetőséget, minden telepítés esetében viszont csak 40 százalékuk tesz így. Az SRE-k 97 százaléka használ valamilyen megfigyelhetőségi megoldást, a minimális naplózástól és monitorozástól a teljes eszközkészletig.

Az AI-munkaterheléseknél a megfigyelhetőségnek többek között a modell sodródását, az ügynökök váratlan viselkedését és az emelkedő következtetési költségeket is fel kell tárnia. Ha egy AI-rendszer olyan részeken működik, amelyeket nem fed le a megfigyelhetőség, a csapatok elveszíthetik a rálátást arra, hogy a rendszer továbbra is a tesztelés során tapasztalt módon működik-e.

Erős az automatizálás, de a széttagolt telemetria lassít

A Dynatrace kutatása szerint a válaszadók 92 százaléka legalább bizonyos mértékű vezetői támogatást lát az SRE számára, 64 százalékuk pedig úgy nyilatkozott, hogy az IT-működés legtöbb vagy minden folyamata teljesen automatizált. A szolgáltatási szintre vonatkozó célokat, azaz az SLO-kat a csapatok 89 százaléka használja legalább egyes rendszereknél vagy csapatoknál. A minőségi kapuk szintén széles körben automatizáltak, például küszöbértékek, teljesítménymutatók és SLO-megfelelés ellenőrzésére.

A fejlődést ugyanakkor akadályozza a telemetria széttagoltsága. A szervezetek körülbelül fele szerint a túl sok adatforrás megnehezíti az SLO-k meghatározását és létrehozását. A gyakori nehézségek között szerepel a túl sok mérőszám, az összetett monitorozási eszközök használata és annak bizonytalansága, hogy mit kellene figyelni.

A Dynatrace szerint a felhő- és AI-alapú munkaterhelésekhez az operatív adatok és a megbízhatósági információk központi forrásaként kell használni a megfigyelhetőséget.

A platformmérnökség az önkiszolgálást és a szabályozást erősíti

A platformmérnöki csapatok legfontosabb AI-fókusza a fejlesztők AI-alapú támogatása, például chatbotokkal és másodpilótákkal, ezt 55 százalékuk jelölte meg. A leggyakoribb önkiszolgáló képesség a megfigyelési és monitorozási irányítópultokhoz való hozzáférés, amelyet a szervezetek 74 százaléka biztosít.

A platformmérnökséget használó szervezetek 89 százalékának van belső fejlesztői platformja, ezek széles körű használatáról 60 százalék számolt be. A legnagyobb nehézség az eszközök és rendszerek integrációja, ezt 37 százalék jelölte meg. Az AI-eszközök saját üzembe helyezési és szabályozási módszerei tovább növelik ezt a kihívást.

Az SRE és a platformmérnökség szorosan kapcsolódik egymáshoz. Az SRE-programmal rendelkező szervezetek 92 százalékában platformmérnöki program is működik vagy indul, a platformmérnöki programok 82 százalékában pedig SRE-program is létezik vagy bevezetés alatt áll. A válaszadók 73 százaléka szerint a két csapat együttműködik és megosztja a felelősségeket.

A szervezetek közel 70 százaléka a biztonságot platformként kezelt kódba építi, több mint 60 százalékuk pedig a megfelelőségi követelményeket az infrastruktúra- és CI/CD-folyamatokba foglalja. A Dynatrace ajánlásai között szerepel a megbízhatóság, a biztonság és a megfigyelhetőség közös követelményként való kezelése, az emberi felügyelet fenntartása, valamint a szabályozás kódként történő működtetése. Ez a megközelítés egységesebb kontrollt és auditálhatóbb működést támogathat az AI-alapú automatizálás terjedése mellett.