Az NVIDIA Nemotron helyi szabályokhoz is igazítható

A nyelv önmagában nem elég

Az NVIDIA október 27-én közzétett bemutatója egy francia útlevélügyintézési példán keresztül szemlélteti a különbséget. Egy utóhangolás nélküli alapmodell arra a kérdésre, hogy mit tehet az, aki egészségi állapota miatt nem tud eljutni az ügyintézés helyszínére, postai benyújtást javasolhatott. A vállalat szerint ez pontatlan volt, és ellentmondott a kormányzati weboldalakon elérhető hivatalos eljárásrendnek.

A bemutatott, utóhangolt válasz ehelyett azt írta, hogy az ügyfél kérheti egy ügyintéző otthoni felkeresését, ehhez pedig három hónapnál nem régebbi orvosi igazolás szükséges. A válasz kitért az online ügyintézésre, a megfelelően felszerelt polgármesteri hivatalokra, a szükséges eredeti dokumentumokra és az illetékbélyegre is.

Szintetikus lakók a helyi kontextushoz

Az NVIDIA Nemotron-Personas-France és Nemotron-Personas-Belgium adatkészletei szintetikus lakókat írnak le. A profilok regionális demográfiai, földrajzi, nyelvi és kulturális eloszlásokra épülnek. Egy ilyen persona életkorral, településsel, foglalkozással és háztartással rendelkezik, a munkájáról és mindennapjairól szóló leírás pedig azt is meghatározza, hogyan kérdezhet.

Ez a helyi különbségeket is kezelheti. Az NVIDIA példája szerint Francia Guyanában az útlevélbélyegző 43 euróba kerül, míg Franciaország szárazföldi részén 86 euró az ára. A belga adatkészlet holland, francia, német és angol nyelvű profilokat foglal magában. A két adatkészlet része az NVIDIA nyílt Nemotron adatprogramjának, amely 12 országhoz kínál helyi kontextusra épülő persona-adatkészleteket.

A bemutatott utóhangolási folyamat

A munkafolyamat először meghatározza a kívánt viselkedést, majd egy elkülönített tesztkészletet rögzít. A persona-adatokat hivatalos eljárásszövegekkel párosítják, ezekből szintetikus beszélgetéseket állítanak elő, majd a Nemotron 3.5 Lightning modellt LoRA-val hangolják a NVIDIA NeMo segítségével. Az adapter összeolvasztása után a modellt egy változatlan tesztkészleten értékelik.

A Nemotron tárolója a vállalat szerint újrahasznosítható lépéseket kínál az adatgeneráláshoz, a tanításhoz és az értékeléshez. Agentképességek is segítik a kódoló ügynököket a munkafolyamat összeállításában, köztük a NVIDIA NeMo Automodelre épülő testreszabásban. A bemutatóhoz Python 3.11 és 3.13 közötti verzió, uv, Git, Docker, NVIDIA Container Toolkit, valamint a Nemotron tárolóhoz való hozzáférés szükséges. Az NVIDIA egy DGX Station GB300 vagy egy DGX Spark használatát írja elő a példához, ugyanakkor a folyamat más NVIDIA GPU-rendszerekhez is igazítható.

Egészségügyi felhasználás és korlátok

A francia és belga adatok mellett a Pleias három Nemotron-Personas-adatkészletet használ a Lamina nevű, gerincápolási asszisztenshez. A persona-adatokkal néhány valódi betegesetből változatosabb tanítási beszélgetéseket készítenek, és különböző betegprofilokon tesztelik az asszisztenst. A Pleias megfogalmazása szerint: „A jobban megalapozott adatok teszik életképessé a kicsi, hatékony, regionális sajátosságokra épülő modellt.”

Az NVIDIA hangsúlyozza, hogy a persona-alapú megalapozás a tanítási adatok lefedettségének javítását és a vakfoltok csökkentését szolgálja. Ez önmagában nem garantálja a méltányosságot vagy a megfelelő reprezentációt. A megközelítés a fejlesztőknek olyan eszközöket ad, amelyekkel az alkalmazás nyelvét, terminológiáját, válaszstruktúráját és eszkalációs szabályait helyi elvárásokhoz igazíthatják.