Az AI21 három vállalati feladatra szabott modelleket tanított be
Az AI21 Labs a Gonggal, a Deellel és az Alice-szel együttműködve három különböző vállalati feladatra tanította be utólag az NVIDIA Nemotron 3.5 Super VL modellt. A vállalat szerint a speciális modellek több esetben a vezető modellek szintjét érték el, miközben olcsóbban működnek.
- Az AI21 a Gonggal, a Deellel és az Alice-szel dolgozott együtt.
- A Nemotron 3.5 Super VL modellt három vállalati feladatra tanították be.
- A Deel tesztjén a modell 72 százalékos pontosságot ért el.
- A Deel modellje 33-szor alacsonyabb lekérdezési költség mellett működött.
- Az Alice esetében 41 ponttal javult a támadásokkal szembeni ellenállás.
Három hét alatt készültek el a speciális modellek
Az AI21 Labs közlése szerint a munkát a vállalat Forward-Deployed Researchers, vagyis ügyféligényekre telepített kutatói végezték az elmúlt három hétben. A csapat a NVIDIA Nemotron 3.5 Super VL modellt tanította be utólag a Gong, a Deel és az Alice konkrét feladataira.
A Nemotron 3.5 Super VL nyílt, multimodális modell hosszú ideig futó ügynökökhöz. A modell képes látni, következtetni és cselekedni, kialakításából adódóan pedig egy szervezet saját adataira, eszközeire és szabályzataira is betanítható. Az AI21 ehhez Lab-as-a-Service szolgáltatást, valamint saját Harness és Model training platformját használta.
A vállalat szerint a cégek több okból szeretnének saját, speciális intelligenciát birtokolni az általános modellek bérlése helyett. Ilyen lehet a költség, az adatok feletti ellenőrzés vagy a versenyelőny megőrzése.
A Gongnál a minőség megtartása mellett csökkentették a költséget
A Gong Data Extractor ügyfélhívásokat, e-maileket és webkonferenciákat vizsgál, hogy az értékesítési csapatok számára fontos üzleti és ügyféladatokat azonosítsa. Az eredményeket mezőkben tárolja, amelyek új információk érkezésekor automatikusan frissülhetnek, és szinkronizálhatók az ügyfélkapcsolat-kezelő rendszerek rekordjaival.
A Gong havonta több tízmillió interakciót dolgoz fel, ezért a lekérdezések költsége gyorsan összeadódik. Az AI21 és a Gong két hét alatt különleges tanítási adathalmazt épített, felügyelt finomhangolást, vagyis SFT-t, valamint DPO-t alkalmazott, és értékelési infrastruktúrát készített a CRM-módosítások minőségének ellenőrzésére. A nagy kockázatú mutatókhoz további értékelési rétegeket is bevezettek.
A Gong saját mérései szerint a betanított modell sebességben és pontosságban elérte az olyan élvonalbeli modellek szintjét, mint a Claude Opus 5.5, miközben a költsége ennek töredéke.
A Deel modellje 8 százalékponttal előzte meg a Claude Opus 5.5-öt
A Deel több mint 40 ezer vállalatot támogat több mint 150 országban, és olyan bérszámfejtési kérdésekre válaszol, amelyek helyi adószabályoktól, munkaszerződésektől és vállalati szabályzatoktól függnek. Ezek a feltételek rendszeresen változnak, és a részleges válasz ebben a területen hibás válasznak számít.
Az AI21 kutatói az Emet by Deel értékelési laboratórium szakértők által ellenőrzött adataira és tesztjeire támaszkodtak. Az első vizsgálatok alapján a Nemotron 3.5 Super rendelkezett a legtöbb szükséges ismerettel, ezért a csapat elsősorban a válaszok részletességét és stílusát alakította át. A tanítás SFT-vel, majd SDPO-val, vagyis önlepárlásra épülő szabályzatoptimalizálással folytatódott.
Az eredmény a nyolc ország bérszámfejtési tesztjén 72 százalékos pontosság lett. Ez 8 százalékponttal magasabb a Claude Opus 5.5 eredményénél, miközben az AI21 szerint egy lekérdezés költsége 33-szor alacsonyabb.
Az Alice modellje ellenállóbb lett a promptinjekciós támadásokkal szemben
Az AI-biztonsági és biztonságtechnikai vállalatként bemutatott Alice olyan megerősítéses tanulási környezeteket épít, amelyekben az ügyfelek valódi szoftverplatformokon taníthatják ügynökeiket biztonsági fenyegetések kezelésére. A közös munkában a Nemotron 3.5 Super modellt Slack- és GitHub-környezetben jelentkező közvetett promptinjekciós támadások felismerésére készítették fel.
A csapat először SFT- és DPO-módszerekkel javította a modell kezdeti eredményeit és válaszainak változatosságát. Ezt követően GRPO-alapú online megerősítéses tanulást alkalmazott. Az Alice „Rabbit Hole” adathalmaza valós fenyegetési szereplők viselkedéséről származó információkra, valamint több mint 150 biztonsági kutató és szakértői hálózati tag közreműködésére épül.
Az AI21 és az Alice szerint a modell támadásokkal szembeni ellenálló képessége 41 ponttal javult az általános feladatteljesítmény romlása nélkül, és felülmúlta az olyan élvonalbeli modelleket, mint a GPT-6.1 Sol.
Az AI21 szerint a három példa azt mutatja, hogy a Nemotron 3.5 Super utólagos betanítása három hét alatt a kiinduló állapotból speciális vállalati intelligenciát hozott létre. A megközelítés a vállalat állítása alapján költségcsökkentést, az ügynökök viselkedése feletti kontrollt és olyan egyedi képességeket adhat, amelyeket az általános modellek használata önmagában nem biztosít.
AI21 Labs: AI21 Partners with Gong, Deel and Alice to Post-Train Specialized Models on NVIDIA Nemotron 3.5 Super VL | AI21
