A Databricks ai_decide gyors döntéseket hoz strukturálatlan adatokból
A Databricks bemutatta az ai_decide nevű AI-függvényét, amely strukturálatlan szövegből készít strukturált döntéseket és valószínűségeket a másodperc törtrésze alatt. A vállalat szerint a döntésekre optimalizált megoldás hasonló feladatoknál kisebb késleltetést és költséget kínál, mint a nagy nyelvi modellek.
- Az ai_decide strukturált döntéseket készít strukturálatlan szövegből.
- A Databricks szerint hasonló feladatoknál gyorsabb és olcsóbb lehet a nyelvi modelleknél.
- A funkció béta állapotban SQL-ből és REST API-n keresztül érhető el.
- Ügyfélvélemények címkézésére, modellválasztásra és AI-válaszok értékelésére is használható.
- Valós idejű alkalmazások és ügynökök döntési folyamataiba is beépíthető.
Döntések szöveggenerálás helyett
A Databricks 2026. szeptember 30-án jelentette be az ai_decide funkciót, amelyet irányított, vagyis governance-szabályok szerint kezelt adatokon használhatnak a vállalatok. A szolgáltatás strukturálatlan szöveget fogad, majd egy vagy több kérdésre ad választ.
A kimenet kérdésenként többféle lehet: valószínűség, előre megadott szempontok közül választott kategória, vagy rendezett skálán adott pontszám. Ilyen kérdés lehet például, hogy melyik kategóriába tartozik egy ügyfélszolgálati jegy, szükség van-e emberi ellenőrzésre, vagy melyik modell kezelje az adott felhasználói kérést.
A Databricks szerint sok nagyvállalati munkafolyamatban nincs szükség összetett következtetésre és szöveggenerálásra. Ilyenkor a nyelvi modellek késleltetése és költsége nagy mennyiségű adatnál összeadódhat. Az ai_decide döntési modellt használ, amely közvetlenül a döntést és annak valószínűségét adja vissza.
SQL-ben és valós időben is használható
Az ai_decide jelenleg béta állapotban érhető el a Databricks platformon. SQL-ből hívva nagy mennyiségű, irányított adaton lehet vele osztályozni és pontozni, a REST API pedig valós idejű alkalmazások és ügynökök számára teszi elérhetővé a funkciót.
A TypeSafe AI API-jával már dolgozó csapatok számára a függvény közvetlenül kompatibilis. A Databricks példaként említi az ügyfélvélemények elemzését: egyetlen SQL-lekérdezéssel címkézhető, hogy mi a vélemény elsődleges problémája, illetve vissza szeretné-e küldeni a vásárló a terméket. Az eredmények termék és hónap szerint összesíthetők, így követhetők a visszatérő panaszok.
Egy másik felhasználás a felhasználói kérések megfelelő modellhez irányítása. Az ai_decide meghatározhatja a kérés nehézségét és a szükséges következtetési szintet, majd ezek alapján kiválasztható a megfelelő költségű és képességű modell.
Értékelés és alkalmazásvezérlés
Az ai_decide egy AI-asszisztens válaszainak ellenőrzésére is használható. A Databricks példája szerint egy online kereskedő az ügyfél kérdését, a generált választ és a vonatkozó visszatérítési szabályzatot adhatja át a funkciónak. A rendszer megvizsgálhatja, hogy a válasz követi-e a szabályzatot, és pontozhatja, mennyire teljesen válaszolja meg a kérést.
A gyors válaszidő miatt a funkció olyan alkalmazásokban is használható, ahol az aktuális állapot alapján kell azonnal döntést hozni. A Databricks ehhez egy Databricks Apps felületen futó Snake-demót készített. Az alkalmazás minden játékkörben elküldi a táblát az ai_decide számára, amely meghatározza, merre mozogjon a kígyó.
A vállalat szerint ugyanez a működés ügynökök és alkalmazások más döntési pontjainál is alkalmazható: kiválasztható vele a meghívandó eszköz, a követendő ág vagy a következő művelet. Az ai_decide SQL-dokumentációjában és a REST API útmutatójában lehet elkezdeni a használatát. A Databricks emellett nyílt súlyú döntési modellek bővülő ökoszisztémáját is említi, amelyek közvetlenül kiszolgálhatók és futtathatók SQL-ben a platformon.
Databricks: Introducing ai_decide: make fast decisions on your governed data
