Az NVIDIA szerint nyílt modellekre építik AI-stratégiájukat a távközlési cégek
A távközlési szolgáltatók egyre gyakrabban nyílt modellekre alapozzák mesterségesintelligencia-stratégiájukat, mert ezek nagyobb ellenőrzést és testreszabhatóságot kínálnak. Az NVIDIA október 6-i beszámolója szerint a megkérdezettek 89 százaléka fontosnak tartja a nyílt forrású modelleket és szoftvereket vállalata AI-stratégiájában.
- A távközlési felmérés válaszadóinak 89 százaléka fontosnak tartja a nyílt modelleket.
- Az NVIDIA 30 milliárd paraméteres Nemotron 3 Large Telco Modelt jelentett be.
- A SoftBank saját SoftBank Large Telecom Model modelljét fejleszti nyílt alapmodellekre építve.
- Az NVIDIA a NeMo könyvtáraival használható finomhangolási receptet tett közzé.
- Az Indosat Ooredoo Hutchison helyi nyelvi és kulturális igényekre fejleszti a Sahabat-AI-t.
A költségen túl a kontroll is számít
Az NVIDIA szerint a nyílt modellek értéke a távközlési vállalatok számára öt területen jelenik meg. Alacsonyabb költség mellett szélesebb hozzáférést adhatnak a legfejlettebb képességekhez, így a szolgáltatók a zárt modelleket azokra a feladatokra tartalékolhatják, ahol azok hozzák a legnagyobb értéket. Az Artificial Analysis Intelligence Index v4.3.2 független mérései alapján a vezető nyílt modellek egyre versenyképesebbek az összetett következtetési, programozási, tudományos és ügynökalapú feladatokban.
A nyílt súlyok és a tanítási receptek lehetővé teszik, hogy a szolgáltatók saját hálózati, ügyfél- és iparági adataikkal finomhangolják a modelleket. A vállalatok így nagyobb rálátást és kontrollt kaphatnak a modellek működése felett, ami megkönnyítheti az értékelést, az átalakítást és a szabályozási, illetve üzleti elvárásokhoz igazodó irányítást. A modellek nyilvános felhőben, saját infrastruktúrán és peremkörnyezetekben is futtathatók, a szolgáltatók pedig helyi igényekre szabott AI-szolgáltatásokat kínálhatnak vállalati és kormányzati ügyfeleknek.
Nyílt alapmodellek távközlési feladatokra
Az NVIDIA Nemotron modellcsaládját nyílt súlyokkal, tanítási adatokkal és receptekkel kínálja. A cég szerint a család fejlett következtetési teljesítményre és ügynökalapú munkafolyamatokra van optimalizálva, emellett beszédképességeket is biztosít hangalapú alkalmazásokhoz.
A SoftBank Corp. a nyílt modelleket saját, távközlési célú fejlesztéseinek alapjaként használja. Rajeev Koodli, a SoftBank Corp. principal fellow munkatársa és az SB Telecom America senior alelnöke szerint ezek a modellek lehetővé teszik, hogy a vállalat a globális alapmodellek gyors fejlődésére építsen, miközben felhasználja a hálózatokról és az üzemeltetésről évek alatt felhalmozott tudását. A cég többek között NVIDIA Nemotron modelleket alkalmaz SoftBank Large Telecom Model modelljének fejlesztéséhez. A cél a hálózatüzemeltetéshez, a tervezéshez és az általános irányításhoz kapcsolódó távközlési feladatok támogatása.
Az NVIDIA bejelentette a 30 milliárd paraméteres Nemotron 3 Large Telco Modelt is. A modellt az AdaptKey nyílt forrású távközlési adathalmazokon finomhangolta. A modell a közlemény szerint érti a távközlési szakkifejezéseket, és olyan munkafolyamatokban képes következtetni, mint a hálózati konfiguráció vagy az ügyfélhibák kezelése. Az NVIDIA a teljes finomhangolási receptet is közzétette a NeMo nyílt könyvtáraival.
A modellekből termelési rendszerre van szükség
Az NVIDIA hangsúlyozza, hogy az önálló távközlési működés biztonságos éles bevezetéséhez önmagukban a modellek nem elegendők. Az AT&T olyan megközelítést követ, amelyben minden munkaterheléshez a teljesítmény, a költség és az ellenőrzés megfelelő kombinációját választják ki. Andy Markus, az AT&T adat- és AI-vezetője szerint a nyílt modellek ennek a modellválasztási stratégiának alapvető elemei, az NVIDIA technológiái pedig a szükséges méretezést, megbízhatóságot és irányítást biztosítják.
A szolgáltatóknak olyan adatfeldolgozási folyamatokra van szükségük, amelyek a finomhangolás előtt anonimizálják az érzékeny adatokat, és adatvédelmet támogató szintetikus adathalmazokat hoznak létre. Az NVIDIA ehhez az AI Enterprise szoftverre és az NVIDIA Agent Toolkitre épülő, végponttól végpontig terjedő platformot kínál. Ez az adatfolyamatokat, a nyílt modelleket, az ügynökök összehangolását, a biztonságos futtatási környezeteket és a szimulációt is lefedi.
A vállalat szerint ez a megközelítés utat adhat a nyílt modellek termelésre kész, irányított AI-munkafolyamatokba való átültetéséhez. A helyi nyelvekre, iparágakra, szabályokra és adatkezelési elvárásokra szabott modellek a távközlési szolgáltatók saját platformjain is üzemeltethetők. Az indonéz Indosat Ooredoo Hutchison Sahabat-AI modellcsaládja ezt az irányt követi, az ország nyelvére, kultúrájára, adataira és gyakorlati igényeire építve.
