Az open-weight modellek több kontrollt adnak, de új felelősséget is

A súlyok nyilvánosak, a fejlesztés nagy része nem

A Montreal AI Ethics Institute szeptember 1-jén megjelent, kéthetente közölt AI Ethics Brief kiadványa szerint az open-weight modell olyan rendszer, amelynek betanított paramétereit közzéteszik. Ezek a paraméterek kódolják, amit a modell megtanult, ezért megfelelő hardverrel bárki futtathatja, finomhangolhatja és telepítheti a modellt anélkül, hogy minden tokenért a fejlesztőnek fizetne.

Ez azonban nem jelenti azt, hogy a modell fejlesztésének minden részlete hozzáférhető. Az Open Source Initiative nyílt forrású mesterséges intelligenciára vonatkozó meghatározása a tanítási adatokra, a tanítási és futtatási kódra, valamint a modellparaméterekre vonatkozó információkat is elvár. Egy weights-only kiadás ezek közül csak a paramétereket adja át.

A kiadvány a DeepSeek R1 2025. januári megjelenését hozza példaként. A modell a négy, Timnit Gebru által a valódi nyitottsághoz kapcsolt elem közül a kódot, az architektúrát és a súlyokat tette elérhetővé, miközben a tanítási adatokhoz nem adott hozzáférést. Emiatt az „open-weight” megnevezés pontosabb, mivel nem sugall teljes hozzáférést a modell létrehozásához.

A kontroll a modell használójához kerül

API-n keresztül használt modellnél a fejlesztő állítja be az árat, tartja karban a védelmi korlátokat, módosíthatja a rendszert, és akár meg is szüntetheti a hozzáférést. A súlyok letöltése után ezeknek a döntéseknek jelentős része ahhoz kerül, aki a modellt futtatja. Ezzel együtt a költségek, a kockázatok és a felelősségek is lefelé, a felhasználóhoz kerülnek.

A kiadvány szerint a 2026-os open-weight történet egyik központi szereplője a kínai Moonshot AI. A vállalat július 16-án kiadta a Kimi K3 modellt, amely 2,8 billió paraméterrel és egymillió tokenes kontextusablakkal rendelkezik. A Moonshot saját értékelési rendszere alapján élvonalbeli teljesítményről számolt be, ugyanakkor elismerte, hogy a K3 elmarad a legerősebb zárt rendszerektől. A súlyok július 27-én váltak letölthetővé a vállalat hivatalos GitHub-tárházából.

A Montreal AI Ethics Institute szerint az amerikai exportkorlátozások akadályozzák a kínai laborok hozzáférését a fejlett chipekhez. A súlyok közzététele így lehetővé teszi, hogy máshol működő felhőszolgáltatók, tárhelyplatformok és vállalatok biztosítsák a futtatáshoz szükséges hardvert. Hszi Csin-ping a World AI Conference rendezvényén a „nyílt forráskód, együttműködés és megosztás” mellett foglalt állást.

A nyitottság biztonsági és piaci kérdéseket is felvet

Ha a súlyok terjedni kezdenek, a fejlesztő többé nem tudja teljesen ellenőrizni a modell további sorsát. A másolatok tartósan fennmaradhatnak, a védelmi korlátok finomhangolással megváltoztathatók vagy eltávolíthatók, és ugyanazok a fájlok védelmi, illetve támadó célokra is használhatók. A brit AI Security Institute ezeket a kockázatokat tartósnak és nehezen visszafordíthatónak írja le, miközben az open-weight modellek adatvédelmi, alkalmazkodási, kutatási és védelmi előnyeire is rámutat.

A saját futtatás adatkezelési előnyt is adhat. A DeepSeek nyilvános szabályzatai engedélyezik a bemenetek és kimenetek használatát szolgáltatásfejlesztésre és modelloptimalizálásra, de a kiadvány szerint nem teszik egyértelművé, az API-adatok mekkora részét használják tanításra, és nem dokumentálnak világosan API-specifikus letiltási vagy nulla adatmegőrzési lehetőséget. Saját infrastruktúrán a felhasználói kérések nem haladnak át a DeepSeek rendszerén.

Az önállóságért viszont infrastruktúra, energia, mérnöki munka, értékelés, biztonság és irányítás szükséges. A hír lényege a szervezetek számára, hogy a súlyok letöltése nem szünteti meg a függőségeket és az ellenőrzési feladatokat. A kontroll áthelyeződik, ezért azt is fel kell mérniük, ki működteti, értékeli és felügyeli a modell alatti rétegeket.