Elérhető az Amazon Bedrockon az OpenAI GPT-6.1 Sol modellje
Általánosan elérhetővé vált az Amazon Bedrockon a GPT-6.1 Sol, amelyet az OpenAI szerint kódolási, számítógép-használati és professzionális munkafolyamatokra optimalizáltak. A modell a GPT-6 Sol jelentős frissítéseként érkezik, és az ügynöki feladatok elvégzéséhez szükséges lépések számának csökkentését célozza.
- A GPT-6.1 Sol általánosan elérhető az Amazon Bedrockon.
- Az OpenAI szerint a modell a GPT-6 Astra szintjét hozza a DeepSWE v1.1 teszten, nagyjából ötödannyi feladatonkénti költséggel.
- A modell kódolási, dokumentumelemzési és üzleti munkafolyamatokhoz használható.
- Az Amazon Bedrock IAM-házirendeket, CloudTrail-auditot és VPC-végpontokat kínál a futtatás szabályozásához.
- A GPT-6.1 Sol a Bedrock konzolján és támogatott API-kon keresztül érhető el.
A teljes feladat költsége számít
Az AWS szeptember 29-i bejelentése szerint egy AI-ügynöknek egy feladat teljesítéséhez információkat kell gyűjtenie, eszközöket kell használnia, több megközelítést is kipróbálhat, hibákból kell felépülnie, majd ellenőriznie kell az eredményt. Minden döntés hatással van a következő lépésre. Egy rossz irány további modellinterakciókat, eszközhívásokat, késleltetést és emberi beavatkozást tehet szükségessé.
Az AWS szerint ezért az ügynökök gazdaságosságát nem kizárólag az egyes interakciók tokenára határozza meg. A költség attól is függ, hogy az érvelés minősége hány interakciót tesz szükségessé, illetve ezek sikeres eredményhez vezetnek-e. A GPT-6.1 Sol az Amazon Bedrock teljesítményre, biztonságra és nagy léptékű megbízhatóságra épített következtetési motorján fut.
Kódolás és összetett dokumentumok
Az OpenAI szerint a GPT-6.1 Sol a DeepSWE v1.1 teszten a GPT-6 Astra szintjét éri el, nagyjából az egy feladatra jutó költség ötödéért. A modell emellett 6,4 százalékponttal meghaladja a GPT-6 Sol legjobb eredményét, miközben az előbbi eredményhez képest alacsonyabb érvelési erőfeszítést használ.
A fejlesztők a Codexet is beállíthatják úgy, hogy a modellt Amazon Bedrockon használja. A Codex a teljes fejlesztési ciklusban alkalmazható, így a tárházak és függőségek vizsgálatától a megvalósításon át a tesztelésig dolgozhat. Hozzáfér a tárházakhoz, helyi fájlokhoz, terminálokhoz és fejlesztői eszközökhöz, és elérhető asztali alkalmazásként, parancssori felületként, valamint támogatott fejlesztőkörnyezetekben.
Az AWS fejlesztéséhez készült Agent Toolkit for AWS egyetlen terminálparanccsal köti össze a Codexet az AWS dokumentációjával, API-jaival és szolgáltatásaival. Az OpenAI szerint a GPT-6.1 Sol összetett dokumentumelemzésben megközelíti a GPT-6 Astra teljesítményét, és javulást mutat a GPT-6 Solhoz képest, amikor üzleti eszközökön átívelő, többlépcsős munkafolyamatokat kell teljesítenie.
Ellenőrzések és vállalati vezérlés
A modellnek azt is fel kell ismernie, ha egy eszköz hibázott, egy művelet korlátozott, vagy hiányosak az információk. Az OpenAI szerint a GPT-6.1 Sol a GPT-6 Solhoz képest jobb eredményeket ér el a kommunikáció átláthatóságát, a felhasználói szándékot és a kifejezett korlátozásokat vizsgáló nehéz értékeléseken.
Az Amazon Bedrock API-jain keresztül a fejlesztők meghatározhatják a modell számára elérhető eszközöket, valamint azt is, hogyan reagáljon az alkalmazás, ha egy művelet jóváhagyást igényel vagy nem hajtható végre. Így a munkafolyamat következményekkel járó döntéseknél emberi beavatkozást is lehetővé tesz.
A hozzáférést AWS Identity and Access Management házirendekkel lehet szabályozni, a modellhívások pedig AWS CloudTrailben auditálhatók. A hálózati határokon belüli forgalomhoz VPC-végpontok használhatók AWS PrivateLinkkel. A következtetés hardveresen elkülönített infrastruktúrán fut, és az AWS szerint az üzemeltetők sem férnek hozzá a kéréshez és a modell válaszához. A következtetési adatokat nem használják modelltréningre, a GPT-6.1 Sol használatához pedig nem kell hozzájárulni az adatok OpenAI-val való megosztásához.
A modell az Amazon Bedrock konzolján vagy a támogatott API-kon keresztül indítható. A régiókról, végpontokról, API-król, funkciókról, következtetési profilokról és árakról az Amazon Bedrock dokumentációja ad további információt.
