GitHub: a Copilotért nem csak a modellhozzáférést fizetik a fejlesztők
A GitHub szerint a GitHub Copilot és a közvetlen API-hozzáférés eltérő problémákat old meg. A Copilot a kódolási munkafolyamatot köti össze a tárházzal, a hibajegyekkel, a terminállal és a szervezeti szabályokkal, míg az API saját rendszerek építéséhez ad alapot.
- A Copilot a modellhozzáférés mellett fejlesztői munkafolyamatokat és szervezeti vezérlést kapcsol össze.
- A fizetős csomagokban a kód-kiegészítések és a Next Edit Suggestions továbbra is benne vannak.
- A közvetlen API saját ügynöki, termék- és automatizálási rendszerek építéséhez ad alapot.
- A BYOK nyilvános előzetesként saját szolgáltatói kulcs használatát teszi lehetővé a Copilotban.
- A szervezeti adminisztrátorok modelleket engedélyezhetnek, költségkereteket állíthatnak be és követhetik a használatot.
A Copilot több, mint modellhívás
A GitHub július 22-i bejegyzése szerint a kérdésre, hogy miért fizetne valaki a Copilotért, ha ugyanazokat a modelleket API-n keresztül is elérheti, a válasz attól függ, melyik munkaréteget akarja saját maga kezelni.
Egy tipikus karbantartási feladat során a fejlesztő egy GitHub Issue-ból indul, átnézi a tárházat, módosítja az érintett fájlokat, a terminálban lefuttatja a teszteket, majd felülvizsgálatra megnyit egy pull requestet. A modellhívás ennek csak egyetlen lépése. A teljes folyamathoz szükség van a hibajegyre, a módosításokra, a tárház utasításaira, az engedélyezett parancsokra és a szervezet szabályzataira is.
A GitHub Copilot ezeket a felületeket köti össze a szerkesztőben, a tárházban, a pull requestekben, az issue-kban, a terminálban és a szervezeti vezérlőkben. A GitHub szerint a csomagok a modellhozzáférés mellett ezt a fejlesztői környezetet is lefedik.
AI Creditsek és szervezeti költségkezelés
A Copilot-csomagok havi mennyiségű GitHub AI Creditet tartalmaznak. A mérés a kiválasztott modell bemeneti, kimeneti és gyorsítótárazott tokenjei alapján, a közzétett díjszabás szerint történik. A kód-kiegészítések és a Next Edit Suggestions a fizetős csomagokban továbbra is benne vannak, az AI Creditsek pedig az erőforrás-igényesebb csevegésre és ügynöki munkára vonatkoznak.
A feladatonkénti költséget ezért a tokenár mellett a kiválasztott kontextus, az eszközhasználat, az újrapróbálkozások és a hibajegytől a felülvizsgált pull requestig vezető folyamat is befolyásolja. A szervezeti csomagokban az AI Creditsek közös keretbe kerülnek. Az adminisztrátorok költségkereteket állíthatnak be, és a számlázási irányítópulton követhetik a használatot.
A közvetlen API saját rendszerekhez készült
A GitHub a közvetlen API-hozzáférést azoknak ajánlja, akik termékfunkciót, belső ügynöki platformot, értékelési rendszert vagy automatizálási folyamatot építenek. Ilyenkor a fejlesztőcsapat kezében maradnak a promptok, a dokumentum-visszakeresés, a modellek közötti útválasztás, az újrapróbálkozások, a naplók, a biztonsági modell és a számlázás.
Egy belső ügynök például címkézett issue-kat olvashat, vállalati dokumentációt kereshet vissza, külön rendszerben hozhat létre módosítási kérelmet, és teljes auditnaplót írhat. Ehhez a csapatnak kell kialakítania az adatkezelési határokat, az eseményindítókat és a jóváhagyási pontokat. Az API ehhez az alapvető építőelemeket biztosítja, de az architektúra döntéseit nem hozza meg a fejlesztők helyett.
Az ügynöki SDK-k a két réteg közé kerülnek. A GitHub Copilot SDK-ja a Copilot CLI-t működtető ügynöki futtatókörnyezetet teszi beágyazhatóvá, így a fejlesztők saját rendszer építése helyett ezt a környezetet használhatják. A futtatás történhet Copilot-előfizetéssel vagy saját szolgáltatói kulccsal.
BYOK: a munkafolyamat marad, a modellszámla változik
A jelenleg nyilvános előzetesben elérhető Bring Your Own Key, vagyis BYOK lehetővé teszi, hogy a fejlesztők támogatott szolgáltatói modelleket használjanak a Copilot Chatben, a Copilot CLI-ben és a VS Code-ban. A támogatott szolgáltatók között szerepel az Anthropic, az AWS Bedrock, a Google AI Studio, a Microsoft Foundry, az OpenAI, az OpenAI-kompatibilis szolgáltatók és az xAI.
A BYOK-modellek ugyanazt a futtatókörnyezetet és integrációkat használják, amelyeket a GitHub fejleszt és tart karban, a tokenek költségét viszont a szolgáltató számlázza. A GitHub szerint a Copilot több mint 20 modellt támogat, és a vállalati, illetve szervezeti adminisztrátorok dönthetik el, mely modellek legyenek elérhetők. A GitHub azt javasolja, hogy vásárlási vagy architekturális döntés előtt a felhasználók ellenőrizzék az aktuális dokumentációt, mivel a BYOK továbbra is nyilvános előzetes.
A GitHub megközelítése szerint a nyers API akkor illik jobban egy projekthez, ha egyedi működésre, integrációkra és vezérlőkre van szükség. A Copilot azoknak szól, akik a fejlesztést a már használt eszközökben és tárházakban szeretnék végigvinni, az issue-k, pull requestek, ellenőrzések, műveletek és biztonsági folyamatok összekapcsolásával.
