Háromféleképpen építi be Netflix az alapmodelljét az ajánlásokba

Egy modellből több ajánlási rendszer

A Netflix kezdőoldalát több specializált modell működteti. Ezek karbantartása és továbbfejlesztése jelentős időt és erőforrást igényel, ezért a vállalat a felhasználói preferenciák tanulását egy központi alapmodellbe szervezte.

A Netflix Foundation Model nagy léptékben, átfogó felhasználói interakciós előzményekből és tartalmi adatokból tanul. A cél, hogy a modellben megszerzett tudást más modellek is felhasználhassák. A Netflix Technology Blog 2025. november 17-én megjelent bejegyzése szerint a vállalat három integrációs megközelítést próbált ki, amelyek közül mindegyiket használják már különböző éles alkalmazásokban.

Beágyazások, az egyszerűbb belépési pont

A transzformer-alapú modell felhasználói profilokat és tartalmakat leíró reprezentációkat, vagyis beágyazásokat készít. A profilbeágyazás az utolsó felhasználói esemény rejtett állapotából származik, a tartalmakhoz tartozó beágyazásokat pedig a modell elemtornyának súlyai adják.

A Netflix havonta a nulláról előtanítja a modellt, majd naponta finomhangolja a legfrissebb adatokkal. A napi folyamat az újonnan megjelenő címek azonosítóit is hozzáadja. Ezután kötegelt következtetéssel frissítik a profil- és tartalom-beágyazásokat, amelyeket az Embedding Store-ba, egy beágyazásokra specializált jellemzőtárba publikálnak.

A rendszer verziózza és időbélyegzi a beágyazásokat, valamint offline és online hozzáférést is biztosít hozzájuk. Mivel az újratanítás és a napi finomhangolás megváltoztathatja a beágyazási teret, a Netflix stabilizálási technikát használ, hogy a különböző futások eredményei közös térbe kerüljenek.

Ez a megoldás alacsony belépési küszöböt és a többi módszerhez képest várhatóan kisebb tanítási és következtetési költséget kínál. Hátránya, hogy a beágyazások elkészítése és a downstream modellek következtetése között idő telhet el, ami elavultabb ajánlásokhoz vezethet.

A modell részgráfként is működhet

A második módszernél a Foundation Model dekóderrétegei az alkalmazás teljes modellgráfjának részévé válnak. A részgráf a nyers felhasználói interakciós sorozatokat dolgozza fel, majd az így létrehozott reprezentációkat továbbadja az alkalmazás modelljének.

Az alkalmazás csapata a saját tanítási folyamatában finomhangolhatja ezt a részgráfot. Így nincs időbeli rés az alapmodell és az alkalmazás következtetése között, ezért a rendszer a legfrissebb tanult mintákat használhatja. Olyan modellrétegek is elérhetővé válhatnak, amelyeket az Embedding Store nem tesz közzé.

A megoldás ugyanakkor növeli a jellemző-előállítás idejét, a számítási igényt és a kód összetettségét. A részgráf az alkalmazás modelljének méretét és következtetési idejét is növeli. A Netflix szerint ezt ezért elsősorban nagy hatású felhasználási esetekre érdemes fenntartani, ahol a mérőszámok javulása ellensúlyozza a többletköltséget és a bonyolultságot.

Finomhangolás közvetlen termékhasználattal

A harmadik megközelítésben az alkalmazáscsapatok a Foundation Modelt saját, termékspecifikus adataikkal hangolják tovább, majd a módosított modellt közvetlenül az adott termék működtetésére használják.

Az egyes Netflix-felületek másként értékelhetik a felhasználói interakciókat. A „Trending now” sor esetében például a felkapott címekkel kapcsolatos friss interakciók fontosabbak lehetnek a régebbi eseményeknél. A csapatok teljes paraméteres finomhangolást végezhetnek, egyes rétegeket rögzíthetnek, vagy eltérő célfüggvényt használó kimeneti fejet adhatnak a modellhez.

A Netflix ehhez olyan finomhangolási keretrendszert épített, amely megkönnyíti az alkalmazásokhoz igazított modellváltozatok fejlesztését. A három módszer közül így az alkalmazás igényei döntik el, hogy az alacsonyabb költségű beágyazások, a mélyebb, de összetettebb részgráf-integráció, vagy a közvetlenül használt finomhangolt modell a megfelelő választás.