Snowflake Decision érkezik a Cortex AI Functionsbe

Nagy mennyiségű döntési feladatokra szánják

A Snowflake október 8-i bejelentése szerint számos vállalati mesterségesintelligencia-feladat döntési probléma. Ilyen lehet annak meghatározása, hogy egy rekord melyik kategóriába tartozik, mennyire kockázatos egy tranzakció, vagy tovább kell-e küldeni egy ügyfélszolgálati jegyet.

A vállalat szerint ezekhez a feladatokhoz gyakran elegendő néhány előre meghatározott válaszlehetőség, miközben a feldolgozás akár több ezer vagy több millió soron történik. Az általános célú nagy nyelvi modellek erre is használhatók, de költségük és késleltetésük nagyobb lehet a szükségesnél. A döntési modelleket ezzel szemben egyszerű, nagy volumenű feladatokra tervezték. Strukturált eredményt adnak, például kategóriát, pontszámot vagy egy 0 és 1 közötti valószínűséget.

Egyetlen hívással több kérdésre is válaszol

A Snowflake Decision az AI_COMPLETE függvényen keresztül használható a Cortex AI Functionsben. A felhasználó JSON formátumban adhatja meg a bemenetet és a kérdéseket, a modell pedig minden sorhoz strukturált válaszokat készít. A támogatott kérdéstípusok között szerepel a választás egy előre megadott listából, a pontozás egy rendezett értékelési skálán, valamint a yes vagy no típus, amely valószínűséget ad egy állításra.

A Snowflake példája egy ügyfélszolgálati munkafolyamatot mutat be. Egyetlen modellhívás meghatározhatja, hogy a jegyet a számlázási, műszaki vagy értékesítési csapat kezelje, pontozhatja az ügyfél frusztrációját, és megbecsülheti, hogy az üzenet sürgősséget fejez-e ki. A válasz tartalmazza a kiválasztott értéket, az egyes lehetőségek valószínűségeit, továbbá a choice és score típusoknál a megbízhatósági értéket.

A hívás a Snowflake Cortex AI Functions környezetében fut, ezért a vállalat szerint a meglévő irányítási, hozzáférés-kezelési és auditálási szabályok minden döntésre érvényesek.

A Snowflake saját mérése szerint 72 modell közül lett első

A Snowflake közlése szerint a Snowflake Decision 57,63-as minőségi pontszámot ért el a Jev Decision Index 0.2.1 benchmarkjain. A vállalat állítása szerint ez volt a legmagasabb eredmény a vizsgált 72 modell között.

Az összehasonlítás 29 olyan benchmarkra terjedt ki, amely a jelenlegi felületen teljes egészében lefuttatható. Ezek összesen 88 837 tesztkérést tartalmaztak, és a gondolkodást, a nyelvkezelést, a visszakeresést, az eszközhasználatot és a kreatív megítélést vizsgálták. A 29 teszt a szélesebb Hugging Face benchmark részhalmaza. A teljes mérésre a jelenlegi felület korlátai miatt nem került sor, ezek között a legfeljebb 32 válaszlehetőség megadása is szerepel. A Snowflake közlése szerint minden modell pontszámát ugyanazokból a benchmarkeredményekből és az index közzétett, véletlen találatokat figyelembe vevő módszertanával számolták.

Privát előzetesben kérhető hozzáférés

A döntési modell olyan munkafolyamatokhoz illeszkedhet, ahol az eredmény ismert lehetőségek közül kerül ki, a feladat több ezer soron fut, és fontos a sebesség vagy a költség. A Snowflake példái között szerepel az ügyfélszolgálati jegyek triázsa, az ügyfélvélemények kategorizálása és súlyosságuk pontozása, valamint az AI-asszisztensek válaszainak szabályzat szerinti ellenőrzése.

A vállalat szerint a modell egy többlépcsős AI-adatfolyamat első szűrőjeként is használható. A könnyebb kéréseket a döntési modell kezelheti, míg a nagyobb gondolkodást igénylő esetek továbbküldhetők egy általános célú modellhez. Összefoglalókhoz, nyitott végű gondolkodáshoz, szabad formátumú információkinyeréshez és kreatív tartalomgeneráláshoz a Snowflake továbbra is az általános célú modelleket tartja megfelelőbbnek.

A Snowflake Decision jelenleg privát előzetesben érhető el. Hozzáféréshez a Snowflake ügyfélkapcsolati csapatát kell megkeresni, amely ezt követően a következő lépésekről és az előzetes dokumentációról ad tájékoztatást.