Kilenc mérnök 1211 pull requestet olvasztott be egyetlen nap alatt

Négy és fél hónap alatt jutott el a globális rajtig

A Microsoft januárban kezdte el építeni a Copilot Coworköt, amelyet a vállalat több lépésből álló munkafolyamatokat a felhasználó nevében végrehajtó ügynöki végrehajtási rétegként ír le. A cél az volt, hogy a fejlesztők számára elérhető, mesterséges intelligenciával támogatott eszközök és képességek a mindennapi tudásmunkát végzők számára is használhatóvá váljanak.

A projekt első commitja január 13-án készült. Az első vállalati ügyfelek március 30-án, a Frontier programban kaptak hozzáférést. A Copilot Cowork június 16-án érte el a globális általános elérhetőséget, nagyjából négy és fél hónappal az első commit után. A kiadás több modellt és 16 plugint tartalmazott.

A csapat létszáma kilenc mérnök volt. Október 21-én 1211 pull request került be a Copilot Cowork háttérrendszerének főágába. A havi összeolvasztások száma januárban 257, májusban már 2754 volt. A legforgalmasabb hét az általános elérhetőség előtt 783 összeolvasztott pull requestet hozott.

A kódolás előtt specifikáció készül

A Microsoft beszámolója szerint a fejlesztés elején nem az ügynökök sebessége jelentette a legnagyobb akadályt, hanem az, hogy a csapat nem mindig határozta meg pontosan, mit akar. Ezért olyan szabályt vezettek be, amely ma is érvényes: markdown formátumú specifikáció nélkül nem készül kód.

A specifikációnak három kérdésre kell válaszolnia: mit csinál a változtatás, honnan tudják majd, hogy működik, és mit nem szabad elrontania. A csapat gyakran szóban kezdi el a munkát, ezt egy ügynök alakítja első specifikációtervezetté, amelyet később egy ember szerkeszt.

A feladatokat szűk egységekre bontották. Minden ügynök a kód saját példányán, egyetlen specifikáció alapján dolgozik. Az egyszerre futó ügynökök száma egyből ötre, majd több tucatra nőtt. A modell kiválasztását minőségi és költségszempontú döntésként kezelték. Egyes feladatokhoz erősebb következtetési képességű modell kellett, másokhoz a gyorsabb és olcsóbb modell adott megfelelő egyensúlyt.

Az ügynök javasolhat, de a gazdagép dönt

A Copilot Cowork architektúrájában a modell egy olyan konténerben fut, amely nem tartalmaz felhasználói hitelesítő adatokat. A konténernek nincs közvetlen hálózati útvonala a Microsoft 365-höz. Egy megbízható, a konténeren kívüli gazdagép kezeli az identitást, a szabályokat, a jóváhagyásokat és az eszközök futtatását, miközben minden Microsoft 365-művelet ezen a gazdagépen halad keresztül.

Így az ügynök megtervezheti és kérheti a műveleteket, de nem rendelkezik közvetlen jogosultsággal azok végrehajtására. A gazdagép az ellenőrzést, a szabályok alkalmazását, a jóváhagyást és a naplózást a végrehajtás pontján végzi. A Microsoft szerint ezt a szétválasztást már a rendszer elején kialakítani könnyebb volt, és később lehetővé tette a teljes gazdagép lecserélését anélkül, hogy az ügynökön módosítani kellett volna.

A csapat az automatikus ellenőrzést és az ügynöki kódvizsgálatot minden változtatásnál alkalmazta, de a kritikus módosításokhoz legalább egy emberi ellenőrzést is megtartott. Az automatikus ellenőrzők első visszajelzése általában néhány percen belül megérkezett, egy friss pull requesteket vizsgáló mintában a medián körülbelül négy és fél perc volt.

A rendszer korlátai a Microsoft szerint a felhasználók és az üzemeltetők szempontjából is fontosak. Az ügynökök önállóan javasolhatnak kódot és módosításokat, de hogy ezek bekerülhetnek-e, azt szabályok, automatizált ellenőrzések és emberi döntés határozza meg. Egy érzékeny kódrészlet vizsgálatakor több ügynöki ellenőrző sem talált hibát, az emberi átnézés viszont négy blokkoló problémát azonosított. Ezeket még a beolvasztás előtt kijavították.