Az OSI szerint az open weights hasznos, de az Open Source többet ad
Az Open Source Initiative szerint az open-weight modellek több lehetőséget kínálnak a zárt rendszereknél, de nem biztosítják teljes körűen a használat, tanulmányozás, módosítás és megosztás szabadságát. A szervezet az Open Source AI-ban látja az együttműködés és az ellenőrizhetőség nagyobb lehetőségét.
- Az open-weight modellek hozzáférhetővé teszik a modell súlyait.
- A nyílt súlyú rendszerek helyben futtathatók és saját adatokkal finomhangolhatók.
- A kód és a tanítási adatok hiányában a modell nem vizsgálható teljes körűen.
- Az Open Source AI mind a négy szoftverszabadság gyakorlását célozza.
- Az OSI az Ai2 Olmo modelljét hozza fel az átlátható kutatás példájaként.
Nagyobb hozzáférés, korlátozott szabadság
Az Open Source Initiative (OSI) szeptember 16-i bejegyzésében az open-weight mesterségesintelligencia-modellek körüli vitához szólt hozzá. A szervezet szerint az elmúlt időszakban számos vállalat támogatta a nyílt súlyú modelleket, amelyek könnyebbé teszik a fejlett mesterséges intelligenciához való hozzáférést és segítik a piaci versenyt.
Az OSI szerint ezek az érvek helytállók, ugyanakkor fontos különbséget tenni az open weights és az Open Source AI között. A szervezet a nyílt forráskódú mozgalom alapjának a négy szoftverszabadságot tekinti: a modellek engedélykérés nélküli használatát, tanulmányozását, módosítását és megosztását.
Az open-weight modellek a súlyokat, vagyis a modellben tárolt információk egy részét teszik hozzáférhetővé. Ez lehetőséget ad a modell bizonyos módosítására és viselkedésének alakítására. A felhasználó helyben is futtathatja a modellt, ekkor a hardver és az áram költségével kell számolnia, vagy külső szolgáltatónál hosztolhatja. Saját adatokkal finomhangolhatja is, így jobban kézben tarthatja az adatokat és a konkrét felhasználási célra szabhatja a rendszert.
Mi hiányzik a nyílt súlyú modellekből?
Az OSI meghatározása szerint egy AI-modell három fő összetevőből áll: a tanítási adatokból, a súlyokból és a kódból, amelyet az adatok előkészítéséhez és a tanításhoz használnak. A hozzáférhető összetevők köre határozza meg, hogy a modell zárt, open-weight vagy Open Source AI-rendszernek tekinthető.
Az open-weight modellek a súlyokon kívül nem teszik közzé a többi összetevőt. Emiatt a felhasználó ugyan többet tehet velük, mint egy teljesen zárt modellel, például a ChatGPT-vel, a Claude-dal vagy számos önvezető rendszerrel, de nem gyakorolhatja teljes körűen mind a négy szoftverszabadságot.
A kód és a tanítási adatok, illetve azok részletes leírása nélkül a modell működése sem vizsgálható teljesen. Nehezebb megérteni, miért adott egy rendszer bizonyos választ, és ellenőrizni azt is, hogy az eredmény megbízható-e. Az OSI szerint ezek a kérdések az AI mindennapi használatának terjedésével és a kiberbiztonsági incidensek növekedésével egyre fontosabbá válnak.
Az Open Source AI a teljesebb ellenőrzést célozza
Az OSI által meghatározott Open Source AI a súlyok mellett a modell tanításához használt kódot, valamint a tanítási adatokat vagy az adatok összeállításának részletes leírását is elérhetővé teszi. Ezekkel az összetevőkkel a felhasználók használhatják, tanulmányozhatják, módosíthatják és megoszthatják a modellt.
A szervezet példaként az Ai2 Olmo nevű nagy nyelvi modelljét említi. A teljes tanítási adatkészlet és a modell ellenőrzőpontjainak hozzáférhetősége lehetővé tette a kutatók számára annak vizsgálatát, hogyan tanul a modell. A kutatás során új információkat építettek be a tanítási adatokba, majd megfigyelték, hogyan jegyezte meg vagy felejtette el ezeket a rendszer.
Az OSI szerint az AI nyitottságáról szóló közfigyelem segít tisztázni, mit jelent egy modell ilyen jelölése. A szervezet úgy látja, hogy a nyílt súlyú modellek előnyei a zárt rendszerekhez képest egyértelműek, a technológia következő fejlődési szakaszában azonban az Open Source AI biztosíthatja a szélesebb körű együttműködést, ellenőrzést és innovációt.
Open Source Initiative: Open Weights Are Good. Open Source Is Better.