A LegalOn felére csökkentette a Codex költségeit

A korlátlan használat után célzott modellválasztás jött

A jogi munkát és más üzleti feladatokat támogató Professional AI-t kínáló LegalOn Technologies a fejlesztési folyamatába is beépítette a Codexet, majd a vállalat mindennapi működésében is szélesítette a használatát. A fejlesztők kezdetben korlátlanul hozzáfértek a GPT-5.5 Fast módjához, és a modellt tervezésre, megvalósításra, valamint napi munkára is alkalmazták.

A nagy teljesítményű modellek korlátlan használata azonban várhatóan túllépte volna az éves költségkeretet. A vállalat AI-powered Development CoE nevű csapata, az AID CoE ezért modellválasztási irányelveket dolgozott ki. A csapat tesztelte és figyelte a modelleket, a vezetők pedig megosztották az eredményeket a munkatársakkal.

Az új megközelítés szerint a fejlesztők először könnyebb modellt választanak, majd a feladat összetettségének növekedésével lépnek tovább nagyobb képességű modellekre.

Három modell, eltérő feladatokra

A LegalOn belső irányelvei szerint a GPT-6 Luna az egyértelmű követelmények alapján végzett kódmegvalósításra, mindennapi automatizálásra és viszonylag egyszerű elemzésre alkalmas. A modellt főként alügynökként használják.

A GPT-6.1 Sol a szokásos tervezési és elemzési feladatokat, az egyszerűbb szoftvertervezést, a rutinszerű számszerű elemzést és a dokumentumkészítést támogatja. Olyan feladatokra is használják, amelyeknél rövidebb teljesítési időre van szükség, mint a Lunával.

A GPT-6 Astra a legnagyobb képességű modell a három közül. Összetett elemzésre és tervezésre, összetett szoftvertervezésre, dokumentumkészítésre, valamint ügynökök koordinálására, vagyis ork kesztrátorként alkalmazzák.

A vállalat emellett alapértelmezés szerint korlátozta a Fast módot, és csak szükség esetén engedélyezte az egyes kérésekhez. A fejlesztési tempó fenntartásához a csapatok többek között párhuzamosan futtatott feladatokat használtak. A LegalOn részlegekre, csoportokra és egyénekre szabott költségplafonokat is bevezetett.

A napi becsült költség 65 százalékkal esett

A vállalat bejáratott üzletágaitól akár körülbelül 20 százalékos költséghatékonyság-javítást vártak el, miközben az induló üzletágak nagyobb keretet kaptak az AI aktív használatára. Yuta Tokitake, a LegalOn Technologies vezető mérnöki menedzsere szerint az új üzletágaknál a növekedés és a működés gyorsasága elsőbbséget élvezett a költséghatékonysággal szemben.

A modellválasztás, a Fast mód korlátozása és az üzletágakhoz igazított költségkeretek együtt a GPT-5.5 használatához képest körülbelül 65 százalékkal csökkentették a becsült napi költségeket. Az OpenAI közleménye szerint a teljes költség így a felére esett, miközben a fejlesztési sebesség megmaradt.

Tokitake szerint az AI gyorsíthatja a rendszerek fejlesztését és frissítését, de a vállalat azt is szeretné mérni, hogy ez a gyorsulás valóban értéket teremt-e az ügyfeleknek. A LegalOn ezért olyan mérőszámot alakít ki, amely egy-egy funkciókiadást tekint egységnek, és az általa biztosított ügyfélértéket összekapcsolja a tényleges AI-költségekkel.

A cég emellett tudásbázist épít, hogy összegyűjtse és megossza a modellek tervezéshez, megvalósításhoz és ellenőrzéshez kapcsolódó bevált használati módjait. Tokitake szerint a túlzott szabályozás és a túl szigorú költségkeretek gyengíthetik a szervezet lendületét, ezért olyan rugalmas működési modellre van szükség, amely egyensúlyt teremt a kockázatkezelés és a csapatok sebességigénye között.