GPT-Live 1 hangmodell érkezett a Vercel AI Gatewayre
A Vercel AI Gatewayen elérhetővé vált az OpenAI GPT-Live 1 modellje, amely teljes duplex hangkommunikációt kínál. A modell beszéd közben is képes figyelni, így a felhasználó megszakíthatja, pontosíthatja vagy kiegészítheti a mondandóját.
- A GPT-Live 1 elérhetővé vált a Vercel AI Gatewayen.
- A teljes duplex modell egyszerre képes hallgatni és beszélni.
- A felhasználó beszéd közben szünetet tarthat vagy megszakíthatja a modellt.
- A háttérmunka külön, az AI Gatewayen elérhető szöveges modellhez delegálható.
- A delegált modell kéréseit külön számlázza az AI Gateway.
Megszakítható beszélgetések a GPT-Live 1-gyel
A Vercel szeptember 17-i közleménye szerint a GPT-Live 1 már használható az AI Gatewayen. Az OpenAI hangmodellje teljes duplex működésű, vagyis egyszerre tud hallgatni és beszélni.
Sok hangmodell fordulóészlelést használ a válaszadás vezérlésére. Ilyenkor a rendszer jellemzően megvárja, amíg a felhasználó befejezi a megszólalást. A GPT-Live 1 esetében ez a határ megszűnik. A felhasználó beszéd közben szünetet tarthat, félbeszakíthatja a modellt, vagy további részleteket fűzhet hozzá a mondandójához.
Ez a működés olyan hangalapú alkalmazások fejlesztését teszi lehetővé, amelyekben a beszélgetés nem merev kérdés-válasz sorrendben zajlik. A Vercel közleménye a modell működését és az AI Gatewayhez kapcsolódó fejlesztői használatot mutatja be.
A háttérben külön szöveges modell dolgozhat
A GPT-Live 1 támogatja a kliensoldali delegálást is. Ennek lényege, hogy az alkalmazás fejlesztője a hangmodelltől függetlenül választhatja ki azt a háttérmodellt, amely a mélyebb vagy összetettebb munkát végzi.
Egy alapvető munkamenetben kizárólag a hangmodell fut. Ha azonban további feldolgozásra van szükség, az alkalmazás egy, az AI Gatewayen elérhető szöveges modellhez továbbíthatja a feladatot, miközben a beszélgetés folytatódik.
A Vercel példája az openai/gpt-5.6-sol modellt használja, de a közlemény szerint bármely, az AI Gatewayen elérhető szöveges modell behelyettesíthető. A szöveges modell eredménye a visszajelzési csatornán, commentary channelen keresztül adható vissza a GPT-Live 1-nek, amely azt felolvashatja.
A delegált munkát, valamint annak jogosultságait, a megerősítéseket és a megszakítást maga az alkalmazás vezérli. A delegált modell kéréseit az AI Gateway külön számlázza, miközben a hangmunkamenet használata tovább folytatódik.
Mire van szükség a használatához?
A Vercel útmutatója szerint a fejlesztőknek az AI SDK 7-et, az @ai-sdk/openai 4.0.67-es vagy újabb verzióját, valamint egy WebSocket-klienst kell telepíteniük. A szükséges csomagok telepítéséhez a közlemény a következő parancsokat adja meg:
pnpm add ai@latest @ai-sdk/openai@latest ws
pnpm add -D @types/ws @types/node
A kapcsolat létrehozásához az OpenAI kliens kísérleti, valós idejű funkciója használható a openai/gpt-live-1 modellel és a live API-beállítással. A Vercel kiemeli, hogy a hangküldést csak a session-started esemény megérkezése után szabad elkezdeni.
A közzétett kódrészletek nem tartalmazzák a WebSocket-kapcsolat felépítését, az események feldolgozását, az átiratok összeállítását, a hangfolyam kezelését és a kapcsolat lezárását. Ezekhez a Vercel a GPT-Live útmutatóját ajánlja az AI Gateway dokumentációjában, ahol a kapcsolat beállítása, a hangfolyam továbbítása és teljes példák is megtalálhatók.
Mit jelent ez az AI Gateway felhasználóinak?
A GPT-Live 1 AI Gatewaybe integrálása egyetlen fejlesztői felületen kapcsolja össze a valós idejű hangkommunikációt és a külön választható szöveges modelleket. A fejlesztő így a hangos beszélgetést fenntarthatja akkor is, amikor egy másik modellre bízza a háttérben végzett feladatot.
A használathoz szükséges SDK-k és a WebSocket-kliens telepítése mellett az alkalmazásnak magának kell kezelnie a delegált munkát, annak engedélyeit, a megerősítéseket és a megszakítást. A Vercel az AI Gateway modelllistájára irányítja azokat, akik az összes elérhető hangmodellt szeretnék áttekinteni.
Vercel: GPT-Live 1 now available on AI Gateway
