A Scale AI és az NVIDIA vállalati Nemotron-modelleken dolgozik

Vállalati munkafolyamatokra szabható Nemotron-modellek

A Scale AI október 15-i bejelentése szerint a szolgáltatás a Scale GenAI Portfolio új eleme. A cég az NVIDIA-val együttműködve segít a vállalatoknak a Nemotron nyílt modellek testreszabásában. A Scale már a bejelentés előtt hozzáfért a Nemotron 3.5 Super VL modellhez, és olyan vállalatokkal végzett utótréninget, mint a Skydance és az EY.

Az utótréning során egy meglévő modellt egy adott feladatra tanítanak meg olyan példák segítségével, amelyek jól mutatják az elvárt munkát. Így az általános célú modell egy konkrét feladatra specializálható. A Scale szerint az együttműködésben saját értékelési módszertanát, adatait és tréningtapasztalatát kapcsolja össze az NVIDIA utótréningeszközeivel.

A cél, hogy a vállalatok az ügynökalapú rendszerek és munkafolyamatok kialakításakor egyensúlyt teremthessenek a költség, a teljesítmény és az irányítás között. Ezek a rendszerek a vállalatok saját környezetében futhatnak.

A Scale szerint a specializáció a döntő

A Scale értelmezése szerint a vállalatok számára egyre kevésbé az a fő kérdés, hogy általánosságban melyik modell a legjobb. Fontosabb, hogy egy adott feladatra melyik modell kínál megfelelő teljesítményt, fenntartható költség és sebesség mellett. A cég szerint a termelési mennyiségnél a következtetési költségek gyorsan összeadódnak, ezért a telepítések több, különböző méretű, képességű és költségű modellt kombinálhatnak.

A nyílt súlyú modellek a Scale szerint azért lehetnek hasznosak a vállalatoknak, mert saját infrastruktúrában futtathatók, és konkrét feladatokra hangolhatók. Ez nagyobb kontrollt adhat a minőség, a költségek és az adatfeldolgozás helye felett.

„A nyílt modellek előnyt adnak a vállalatoknak ahhoz, hogy saját adataikkal és intelligenciájukkal építkezzenek”, mondta Joey Conway, az NVIDIA Nemotron modellekért és szoftverért felelős vezető igazgatója. Francis deSouza, a Scale AI vezérigazgatója szerint a vállalati mesterséges intelligencia jövője több modellre épül, és azok a szervezetek kerülhetnek előnybe, amelyek bizonyítani tudják, melyik modell a legjobb az egyes feladatokra.

Skydance és EY: költség- és sebességadatok

A Scale a Skydance-szel egy pénzügyi munkafolyamat automatizálásán dolgozik. A Nemotron 3.5 Super VL ügynöke beszállítói jóváírási értesítőket, kimutatásokat és számlákat vizsgál, köztük szkennelt dokumentumokat is, majd összeveti ezeket a vállalat pénzügyi nyilvántartásaival. A Scale állítása szerint a valódi termelési munkafolyamatból származó feladatokon a Scale által utótréningezett modell a Skydance jelenlegi, élvonalbeli modelljével azonos pontosságot ért el, körülbelül 40-szer alacsonyabb következtetési költség és ötször gyorsabb válaszidő mellett.

Az EY-jal egy átvilágítási ügynököt fejlesztenek, amely egy vállalati felvásárlási és összeolvadási virtuális adatszobában található több száz fájlból keres és egyeztet információkat az üzleti kérdések megválaszolásához. A Scale szerint a több száz, elkülönített adatszobából származó kérdéssel végzett értékelésekben a modell az EY által jelenleg használt élvonalbeli modell pontosságát hozta, körülbelül tizennyolcad akkora következtetési költséggel és több mint kétszer gyorsabb válaszokkal.

A szolgáltatás már elérhető a vállalatoknak

A Scale egy globális biztosítótársasággal is dolgozik egy olyan másodpilótán, amely élő, francia nyelvű segélyhívások során támogatja az ügyfélszolgálati munkatársakat. A rendszer összegyűjti az eset kulcsfontosságú tényeit, javaslatot tesz a biztosítás által fedezett szolgáltatásokra, és jelzi, ha az ügyintéző olyasmit ígérhet, amit a kötvény nem tartalmaz. Kontrollált értékelésekben a Scale szerint a Scale Post-Traininggel utótréningezett Nemotron 3.5 Super VL legfeljebb 31 százalékponttal pontosabb volt a biztosító jelenlegi termelési modelljénél, körülbelül negyedakkora következtetési költség mellett.

A Scale Post-Training mostantól minden vállalat számára elérhető, amely saját munkafolyamataira szeretné szabni a nyílt súlyú modelleket, köztük a Nemotron 3.5 Super VL-t. A szolgáltatás a Scale szerint egyebek mellett értékelési adatkészletek kialakítását, tréningadatok létrehozását, az utótréninges eljárás kiválasztását és a termelési ügynöki munkafolyamatban végzett tesztelést foglalja magában.