Az NVIDIA nyílt modellekkel építene európai közszolgálati rendszereket
Az NVIDIA több európai közszolgálati projektet mutatott be, amelyek nyílt modelleket használnak egészségügyben, foglalkoztatásban, közigazgatásban és digitális szolgáltatásokban. A kezdeményezések közös eleme, hogy a kormányzati szervezetek helyi nyelvekre szabhatják a rendszereket, miközben saját infrastruktúrájukon tarthatják az adatokat.
- Az NVIDIA európai közszolgálati projektekhez kínál nyílt modelleket és gyorsított infrastruktúrát.
- Lengyelországban egészségügyi képalkotáshoz és több mint 400 munkaügyi hivatal támogatására fejlesztenek rendszereket.
- A Nemotron-Personas-UK és a Nemotron-Personas-Germany szintetikus személyiségekkel segíti a modellek tesztelését.
- Németországban minősített adatokhoz használható szuverén felhőszolgáltatáson dolgoznak.
- Franciaországban több mint 2500 közintézmény számára készül közös digitális munkatér.
A közszféra saját kontrollt szeretne az AI felett
Az NVIDIA szerint a nyílt modellek lehetővé teszik a kormányzatok számára, hogy értékeljék, helyi nyelvekre és közszolgáltatásokra szabják, valamint saját infrastruktúrájukon futtassák az AI-rendszereket. Az intézmények emellett saját védelmi szabályokat alkalmazhatnak, és ellenőrzött környezetben tarthatják az érzékeny adatokat.
Egyes nyílt modellek esetében a tanításhoz használt adathalmazokat is közzéteszik. Így a kormányzati szervek ellenőrizhetik, hogy a képzési adatok használata jogszerű volt-e, tartalmaznak-e torzításokat, illetve megfelelnek-e az előírásoknak. Az NVIDIA partnereivel és európai kormányokkal együtt dolgozik fejlett modellek közszolgálati alkalmazásán.
A vállalat több partnerrel a NVIDIA Nemotron-Personas gyűjtemény helyi változatait is fejleszti. Ezek a partneri adatokra épülő készletek a NeMo User Sim nevű, nyílt forráskódú könyvtárral használhatók. A könyvtár helyi nyelveken képes szimulált felhasználókkal értékelni és tanítani modelleket, illetve ügynöki rendszereket.
Egészségügytől a munkaügyig több területen indulnak projektek
Lengyelországban a Deloitte az egészségügyi és foglalkoztatási szolgáltatásokhoz fejleszt ügynöki rendszereket nyílt modellek felhasználásával. Az ország eHealth Centre intézménye az NVIDIA DGX BasePOD és a MONAI keretrendszer segítségével épít intelligens platformot orvosi képalkotáshoz. A rendszer röntgenfelvételek, CT- és MRI-képek elemzésében, rendellenességek felismerésében és a sürgős esetek rangsorolásában segítheti az orvosokat.
A lengyel Család-, Munkaügyi és Szociálpolitikai Minisztérium több mint 400 munkaügyi hivatal támogatására fejleszt ügynöki gyárat NVIDIA gyorsított számítási infrastruktúrán. A rendszerben többek között a PLLuM, a GPT OSS és az Inkling modelljei futhatnak dokumentumkereséshez, összefoglaláshoz és digitális asszisztensekhez.
Az Egyesült Királyságban a Locai Labs kiadta a Nemotron-Personas-UK adatkészletet. Ez 1 millió szintetikus személyiséget tartalmaz, amelyek az ország demográfiai és földrajzi sokféleségét jelenítik meg, miközben csökkentik az adatvédelmi kockázatot. Az adatkészlet egészségügyi értékeléshez és torzításvizsgálathoz is használható különböző életkorú, végzettségű, vidéki és városi közösségek esetében.
Németországban a Materna a Sinfonie nevű, helyben telepíthető platformot vezeti be. A rendszer generatív AI-t, hangalapú interakciót és 3D-s avatárokat kombinál, az NVIDIA Audio2Face pedig az animációt támogatja. Egy német tartományi közigazgatás projektjére épül, és a munkatársaknak segít hangalapú kérdésekkel hozzáférni az intézményi tudáshoz.
Szuverén infrastruktúrák és helyi nyelvű megoldások
Minősített információkat kezelő szervezetek számára a secunet, az NVIDIA, a Red Hat és a deepset szuverén felhőszolgáltatáson dolgozik. A tervezett rendszer a secunet SINA Cloud alapjára épül, amely minősített adatok használatára engedélyezett biztonsági komponenseket tartalmaz. A megoldás része lenne az NVIDIA gyorsított számítási infrastruktúrája és Nemotron nyílt modelljei, a Red Hat OpenShift AI, a deepset Haystack ügynöki összehangoló rendszere, valamint a secunet német adatközpontokban működtetett infrastruktúrája.
A német Soofi kutatási kezdeményezés a német ipar és közszektor számára fejleszt nyílt alapmodelleket. Ennek része a Nemotron-Personas-Germany, egy 1 millió rekordból álló nyílt adatkészlet. Minden rekord hat szintetikus személyiséget tartalmaz, a 2022-es népszámlálásra támaszkodik, és mind a 16 szövetségi tartomány, valamint 400 járás adataira épül. A készletet valódi emberek személyes adatai nélkül, az NVIDIA NeMo Data Designer használatával hozták létre.
Franciaországban a CANUT közbeszerzési szervezet a LINAGORA és a Docaposte vállalatot választotta a Twake.ai-ra épülő, szuverén együttműködési munkatér biztosítására. A kerethez több mint 2500 jogosult szervezet, köztük önkormányzatok, iskolák és egészségügyi intézmények férhet hozzá saját tender lebonyolítása nélkül. Görögországban a KIEFER NVIDIA DGX SuperPOD, DGX GB200, valamint Sophea nyílt súlyú modellek felhasználásával fejleszt helyi nyelvű eszközöket tudáskereséshez, beszédfeldolgozáshoz és digitális asszisztensekhez.
Az NVIDIA Open Models Codefest startupokat, szoftverszállítókat és kutatólaborokat hozott össze európai közszolgálati alkalmazások fejlesztésére. A bemutatott területek között szerepel az orvosi következtetés, az AI-alapú oktatás és a modellirányítás. Az öt legjobb csapat a Pleias, a Zehnlab.ai, a Disseqt, az Algoritmica GmbH és az ABA Technology lett. A Deutsche Telekom és a T-Systems számítási infrastruktúrát biztosított a nagy nyelvi modellek tanításához és telepítéséhez.
