OpenAI bemutatta Jalapeño nevű első saját inference chipjének méréseit

Saját chip az inference feladatokra

Az OpenAI közlése szerint Jalapeño az InferenceX nyilvános benchmarkon, GPT‑OSS 120B használata mellett több csúcsterhelési áteresztést adott kilowattonként, és alacsonyabb tokenkésleltetést ért el, mint az összehasonlításban szereplő kereskedelmi rendszerek. A vállalat azt is állítja, hogy a chip erősen teljesített DeepSeek R1 és Kimi K2 modelleken is, ami szerintük azt mutatja, hogy az előnyök több modellcsaládra is kiterjednek.

A bejelentésben az OpenAI Jalapeñót az inference, vagyis a modellek futtatása és kiszolgálása feletti nagyobb kontroll eszközeként írja le. A cég szerint a modell, a kiszolgáló szoftver, a chip, a memória és a hálózat közös fejlesztése egyszerre javíthatja az áteresztést, a késleltetést, az energiahatékonyságot és a költséget.

Az OpenAI úgy fogalmazott, hogy már működő, saját fejlesztésű szilíciummal és mért eredményekkel rendelkezik, a következő generációkon pedig már dolgoznak. A vállalat ezt első fél által kínált, hiteles útként mutatja be a partnerektől használt gyorsítók mellett.

Portfólió több beszállítóval és többféle feladatra

A közlemény szerint az OpenAI számítási stratégiája abból indul ki, hogy a különböző terhelések eltérő követelményeket támasztanak. A frontier tréning, a nagy volumenű inference és a folyamatosan működő ügynökök más igényeket jelentenek a chipek, a szoftverek, a hálózatok, az energiaellátás és a késleltetés terén.

Az OpenAI célja a képesség, a sebesség, a megbízhatóság, a hatékonyság és a költség legerősebb kombinációjának keresése minden feladathoz. A cég szerint különböző chipek és szolgáltatók más-más területeken vezethetnek, ezért többféle megoldásból álló portfóliót tart fenn.

A vállalat kiemelte, hogy a Microsoft számítási kapacitása és az NVIDIA chipjei alapvető szerepet játszottak az OpenAI növekedésében. A jelenlegi portfólióban a közlemény szerint AWS, AMD, Broadcom, Cerebras, CoreWeave, Oracle, SB Energy és SoftBank is szerepel. Az OpenAI ezeket a partnereket felhőinfrastruktúra, gyorsított számítás, alacsony késleltetésű inference, adatközpont-fejlesztés és energiaszállítás területén említi.

Az OpenAI azt írja, hogy prémium rendszereket használ ott, ahol a képesség a legfontosabb, és hatékonyságra optimalizál ott, ahol a skála és a költség számít jobban. A közvetlen kontrollt ott tartja fontosnak, ahol a szorosabb integráció az egész rendszert javíthatja, míg partnerségeket ott alkalmaz, ahol az ökoszisztéma gyorsabb haladást tesz lehetővé.

Adatközpontok és a Project Camellia

Az OpenAI az adatközpontokat is a stratégia egyik fontos pontjaként írja le. Példaként a georgiai Project Camellia projektet említi, amelyet a közlemény szerint az ügyfélterhelések köré terveznek.

A vállalat állítása szerint a projekt munkahelyeket teremt, támogatja a helyi vállalkozásokat, fedezi a projekt infrastruktúra- és energiaköltségeit, zárt rendszerrel takarékoskodik a vízzel, valamint vállalásait évente független, nyilvános auditnak veti alá.

Kevesebb számításból hasznosabb eredményt ígérnek

Az OpenAI a rendszer értékét abban méri, hogy mennyi hasznos intelligenciát állít elő egy egységnyi számítási kapacitásból. A vállalat szerint a jobb modellek kevesebb próbálkozással jutnak el a megfelelő válaszig, az okosabb útválasztás és kontextuskezelés csökkenti a pazarlást, az optimalizált szoftver és a célhardver pedig javítja a sebességet és az energiahatékonyságot.

A közlemény egy konkrét mérési pontot is említ: az Artificial Analysis Coding Agent Indexen a GPT‑5.6 Sol max reasoning beállítással új csúcsot ért el, miközben 54% kevesebb kimeneti tokent használt, mint egy másik vezető modell.

Az OpenAI szerint az ilyen javulások az ügyfeleknek gyorsabb eredményeket, megbízhatóbb termékeket, kevesebb újrapróbálkozást, hosszabb munkafolyamatokat végigvivő ügynököket és alacsonyabb teljes költséget jelenthetnek a sikeresen elvégzett munkára vetítve.

Mit jelenthet ez a felhasználóknak és a piacnak

A bejelentés alapján az OpenAI nem egyetlen chipet kezel elszigetelt termékként, hanem a teljes számítási lánc részeként tekint Jalapeñóra. A cég logikája szerint a hardver, a szoftver, a modellek, a termékek és az adatközpontok összehangolása jobb gazdaságosságot adhat, ez pedig több ügyfél kiszolgálását teheti lehetővé alacsonyabb költség mellett.

A vállalat Jevons-paradoxonnal írja le a várható hatást: ha a hatékonyság javul, több felhasználási mód válhat gazdaságilag értelmessé. Az OpenAI példái szerint egy cég személyre szabott elemzést adhat minden ügyfélnek, átnézhet minden szerződést, élő pénzügyi forgatókönyveket futtathat, és segíthet a mérnököknek több ötlet tesztelésében.

A cég szerint a termelékenyebb számítás és a versenyképesebb beszállítói bázis több ügyfél kiszolgálását segítheti alacsonyabb költséggel, a növekedés pedig további kutatási, infrastrukturális és biztonsági beruházásokat finanszírozhat.