A WRITER új modellje olcsóbban futtat hosszú, önálló feladatokat
A WRITER bemutatta a Palmyra X6 modellt, a gyorsabb WRITER Agentet és az AI Studio új irányítási funkcióit. A vállalat szerint az újdonságokkal a marketing- és értékesítési csapatok nagyobb léptékben futtathatnak önálló, többlépéses feladatokat, miközben jobban kontrollálhatják a költségeket.
- A Palmyra X6 az előző generációhoz képest nagyjából feleakkora feladatonkénti költséget és késleltetést ígér.
- A modell egyetlen célon akár 8 órán át is dolgozhat felügyelet nélkül.
- A WRITER Agent átlagosan 44 százalékkal gyorsabb és 41 százalékkal olcsóbb lett a vizsgált modellekkel.
- Az AI Studio tokenfigyelést, riasztásokat és fogyasztási korlátokat kínál az adminisztrátoroknak.
- Az Agent külső modelleket, valamint Azure, AWS Bedrock és NVIDIA NIM modelleket is támogat.
A Palmyra X6 a költséghatékonyságra épít
A WRITER augusztus 13-i bejelentése szerint a Palmyra X6 a vállalat új zászlóshajómodellje. A modellt olyan, nagy volumenű feladatokra tervezték, mint a személyre szabás, a kutatás és a tartalomkészítés, amelyeknél a marketing- és értékesítési csapatoknak sok munkát kell elvégezniük rövid idő alatt.
A WRITER állítása szerint a Palmyra X6 a határterületi modellekhez mérhető teljesítményt nyújtja, miközben alacsonyan tartja az egy feladatra jutó költséget és a késleltetést. Ezek az értékek az előző generációhoz képest nagyjából a felükre csökkentek, mért minőségromlás nélkül. A modell a vállalat szerint egyetlen célon akár 8 órán át is képes felügyelet nélkül dolgozni.
A Palmyra X6 ára 2,00 dollár 1 millió bemeneti tokenenként és 8,00 dollár 1 millió kimeneti tokenenként. A WRITER egy tipikus, 3:1 arányú használat mellett körülbelül 3,50 dolláros vegyes árat ad meg. A feladatonkénti költség a közlemény szerint nagyjából 0,25 dollárról 0,12 dollárra csökken az előző generációhoz képest.
Gyorsabb lett a WRITER Agent
A frissítés a WRITER Agent működését is érinti. A vállalat kutatásában vizsgált WRITER- és külső modellekkel az Agent átlagosan 44 százalékkal gyorsabban teljesítette a feladatokat, miközben az egy feladatra jutó költség 41 százalékkal alacsonyabb lett. A WRITER szerint a minőség eközben megmaradt.
A Palmyra X6-tal együtt használva az eredmény átlagosan 52 százalékkal alacsonyabb költség, 48 százalékkal nagyobb sebesség és 10 százalékkal jobb minőség volt. Az Agent a feladat összetettségéhez igazítja a gondolkodási folyamatát: az egyszerű kérdésekre közvetlenül válaszol, az összetettebb munkákhoz pedig strukturált tervet készít.
A rendszer nagy volumenű feladatokat kötegelt feldolgozással vagy alügynökök bevonásával is végrehajthat. Megbízhatóbban áll helyre hibák után, és egyértelműbben jelzi, mi van folyamatban, illetve mi maradt hátra. A csatlakoztatott eszközök műveleteit és eredményeit szintén megjeleníti, például az Outlook-piszkozatokat és a Snowflake adattábláit.
Új költség- és modellkezelés az AI Studio felületén
Az AI Studio új jelentési és irányítási funkciói központi nézetben mutatják meg, hogyan használják a szervezeten belül a WRITER Agentet. Az adminisztrátorok láthatják a munkameneteket, a playbook- és készségfuttatásokat, az aktív felhasználókat, az elkészült anyagokat, a tokenfelhasználást és az időbeli trendeket.
Az adatok csapat, számlázási csoport vagy felhasználói hely alapján szűrhetők. Az adminisztrátorok valós időben követhetik a tokenfogyasztást, riasztásokat állíthatnak be, illetve le is tilthatják a meghatározott korlát feletti fogyasztást. A WRITER szerint ez segíthet abban, hogy az ügynöki munkafolyamatok költségeit a megtérüléshez igazítsák.
A WRITER Agent többmodelles támogatást is kapott. Az adminisztrátorok más szolgáltatók modelljeit is engedélyezhetik, a felhasználók pedig a munkamenet kezdetén választhatnak közülük. Külön modellek rendelhetők bizonyos képességekhez, például képgeneráláshoz, a szervezetek pedig saját modelleket is hozhatnak a Microsoft Azure, az AWS Bedrock és az NVIDIA NIM felhőszolgáltatásaiból.
A Palmyra X6, a frissített WRITER Agent, valamint az AI Studio új irányítási és jelentési funkciói a bejelentés szerint azonnal elérhetők. A fejlesztéseket a vállalati marketing-, értékesítési és GTM-csapatoknak, továbbá az ügynöki munkát kísérleti használatból éles, szervezeti szintű működésbe átvezető ügyfeleknek szánják.
