A Google új formátummal gyorsítaná a generatív felületek készítését

A Google bemutatta az A2UI Express nevű új következtetési formátumot, amely a vállalat szerint akár háromszorosára csökkentheti a késleltetést, és akár 3-szor kevesebb tokent használhat a Direct JSON formátumnál. A fejlesztés célja a gyorsabb és megbízhatóbb generatív felületek létrehozása.
- A Google bemutatta az A2UI Express új következtetési formátumot.
- Az Express a Direct JSON-hoz képest akár 3-szor kevesebb tokent használhat.
- A Google szerint a késleltetés akár háromszorosára csökkenthető.
- Az A2UI Express Python, TypeScript és Dart SDK-ban is elérhető.
- A Jev döntési modell előre definiált elrendezések kiválasztására használható.
Az A2UI eddigi korlátai
Az A2UI, vagyis az agentekre optimalizált protokoll generatív felületekhez, úgy működik, hogy a kliens közzéteszi a megbízható komponensek katalógusát, az agent pedig ebből állít össze egy egyedi felületet leíró A2UI-üzeneteket. A kliens megjelenítője ezután kirajzolja a felületet.
A korábbi megoldásban az agent közvetlenül JSON formátumban generálta ezeket az üzeneteket. A Google szerint a bonyolult JSON-sémák alapján felépített fák létrehozása lassú és hibára hajlamos lehet a nagy nyelvi modellek számára. Ez az A2UI-t a szöveget kibocsátó modellekhez kötötte, és megnehezítette a gyorsabb, úgynevezett System One döntési modellek használatát.
Az A2UI Express kevesebb tokent használ
Az új A2UI Express egy, a következtetés sebességére és pontosságára optimalizált köztes formátum. A modell ezt állítja elő, az A2UI agent SDK-k pedig meghatározott kód segítségével lefordítják a választ a szabványos, JSON-alapú átviteli protokollra.
Az Express soronként egy utasítást ír, a Pythonhoz hasonló stílusban. Minden sor egy komponenst rendel egy változóhoz, a változó neve pedig a komponens azonosítójává válik. Az argumentumok sorrendben kapcsolódnak a katalógus sémájában szereplő tulajdonságokhoz. Az adatmodellhez a $/ jelölés köti az értékeket, a szerveroldali műveleteket pedig események írják le.
A Google szerint az Express ugyanazokat a felületeket a Direct JSON formátumhoz képest legfeljebb háromszor kevesebb tokenből képes előállítani. A vállalat közlése szerint az új formátum használatával a késleltetés akár háromszorosára csökkenthető.
A formátum cserélhető. A fejlesztő a generátor létrehozásakor egyetlen argumentummal választhatja ki az inference_format értékét. Az SDK a katalógus JSON-sémája alapján elkészíti a modellnek szóló formátumleírást, majd a választ érvényesített A2UI-üzenetekké fordítja. A séma azt is biztosítja, hogy a választott formátum ne hivatkozhasson olyan komponensre vagy tulajdonságra, amely nem szerepel a katalógusban.
A fejlesztői támogatás és a döntési modellek
Az A2UI Express elérhető a Python agent SDK-ban, az a2ui-agent-sdk 0.9.0 csomagban a PyPI-n, a TypeScript agent SDK-ban az @a2ui/agent csomagban az npm-en, valamint a Dart SDK-ban az a2ui_agent 0.0.1-wip004 csomagban a pub.dev-en. A Python és a TypeScript SDK képes a Direct JSON darabonkénti továbbítására, az Express formátumot viszont a teljes válaszból fordítja le.
A Google négy formátumot vizsgált egy 51 feladatból álló teszten, a gemini-3.5-flash modelllel, bekapcsolt és kikapcsolt gondolkodási mód mellett. A vizsgált lehetőségek a Direct JSON, az Express, az Atom és az Elemental voltak. A vállalat szerint az Express kikapcsolt gondolkodási mód mellett is hasonlóan működött, ami gyorsabb következtetést tehet lehetővé.
A jól meghatározott felépítésű képernyőknél, például egy beállítási, fizetési vagy megerősítő oldalon, a modellnek nem feltétlenül kell teljes elrendezést terveznie. Ilyenkor előre elkészített elrendezések közül kell választania. A TypeSafe Jev nevű System One modellje ilyen strukturált döntésekre készült. Nem szöveget vagy JSON-t generál, hanem egy állapot és típusos kérdések alapján kalibrált valószínűségeket ad.
A Jev egy kérésben sok kérdésre válaszol, a Google példája szerint nagyjából 100 és 300 ezredmásodperc közötti idő alatt. Az Apparite, vagyis a jev2ui nyílt forráskódú tervezőeszköz egy lehetséges kapcsolódást mutat be: a Jev meghatározza a képernyő szerkezetét, a kód felépíti az A2UI-komponenseket, egy kisebb modell, a gemini-3.5-flash-lite pedig csak a szövegek előállítását végzi.
Mit jelent ez a fejlesztőknek?
A bejelentés az A2UI-t használó fejlesztők számára többféle sebesség és rugalmasság közötti választást kínál. Az Express lehetővé teszi, hogy a modellek rövidebb formátumban írják le ugyanazokat a felületeket, miközben az SDK végzi a szabványos A2UI-üzenetek előállítását. A fejlesztők más, saját felhasználási esetükhöz illő leíró nyelvet és fordítót is választhatnak.
A Google megközelítése a generatív felületek eltérő típusait is külön kezeli. Az előre ismert szerkezetű képernyőknél döntési modell választhat a fejlesztők által meghatározott elrendezések közül, míg a szabadabb felületeknél az A2UI Express adhat gyorsabb modellalapú előállítást.
Google for Developers: Fast, reliable A2UI, with swappable inference formats- Google Developers Blog


