A Microsoft közösségekre bízná, hogyan jelenjenek meg az AI-képeken
A Microsoft Community Library Creator nevű kutatási eszköze közösségeknek ad lehetőséget arra, hogy saját képeikkel és leírásaikkal alakítsák, hogyan jelenjenek meg az AI által generált képeken. A platform a képviselet szempontjait és az adatok felhasználását is a részt vevő közösségekre bízná.
- A Community Library Creator közösségeknek segít saját képadatkönyvtárat létrehozni.
- A résztvevők képekkel, leírásokkal és értékelésekkel határozzák meg a kívánt ábrázolást.
- A Microsoft körülbelül 400 valós képet céloz meg könyvtáranként.
- Az adatok megosztásáról és eltávolításáról a közösség dönthet.
- Az eszközt jelenleg meghatározott érdekvédelmi szervezetekkel, ellenőrzött módon használják.
A közösségek saját képadatbázist építhetnek
A Community Library Creator a Microsoft kutatási projektje, amelyet Anja Thieme és csapata a Microsoft Accessibility Team közreműködésével fejlesztett. Az eszköz segítségével közös tapasztalatokkal rendelkező emberek, például fogyatékossággal vagy meghatározott identitással élő közösségek, érdekvédelmi szervezeteken keresztül hozhatják létre saját könyvtárukat.
Egy közösségi könyvtár képekből vagy videókból áll, amelyeket a résztvevők válogatnak össze, majd részletes leírásokkal látnak el. Ezek a leírások nemcsak azt rögzítik, mi látható a jeleneten, hanem azt is, hogy az adott részlet mit jelent a közösség tagjai számára. A döntéseket arról, mi kerüljön be, mit kell kiemelni vagy módosítani, maga a közösség hozza meg.
A Microsoft szerint a folyamat általában néhány jelentős kép kiválasztásával kezdődik. A résztvevők elmagyarázzák, miért fontosak ezek a képek, majd az így azonosított témák, például a családi élet, a munka vagy a mindennapi rutinok köré nagyobb gyűjteményt építenek.
A cél a hiányos vagy torz ábrázolás korrigálása
Az AI-modellek nagy kép- és szöveggyűjteményekből tanulnak, így a Microsoft szerint az interneten meglévő hiányosságokat és torzulásokat is továbbadhatják. Thieme példaként említi, hogy a törpenövésű emberekhez kapcsolódó online képek között sok a misztikus törpéket ábrázoló tartalom, ezért a rendszerek hegyes fülekkel vagy más fantasy-jegyekkel jeleníthetik meg őket.
A végtagkülönbséggel élő emberek online ábrázolása gyakran orvosi vagy sportolási helyzetekre korlátozódik. Emiatt az AI-rendszereknek kevés kontextusuk lehet arról, hogyan jelenjenek meg például munka közben vagy egy baráti kávézás során.
A platform része az értékelés is. A közösség tagjai AI által generált képeket tekintenek át, és pontozzák, mennyire felelnek meg annak az ábrázolásnak, amelyet saját közösségük számára megfelelőnek tartanak. A Microsoft szerint ezek a visszajelzések idővel visszacsatolási hurkot hozhatnak létre, amely pontosabban jelzi a rendszereknek, mit jelent a jó képviselet az adott közösség szerint.
A közösség dönt az adatok sorsáról
A Microsoft leírása szerint egy-egy könyvtár célja körülbelül 400, közösségi tagoktól származó, valós helyzeteket bemutató kép összegyűjtése. A hangsúly a minőségen és a tapasztalatok sokféleségén van. Az annotációkkal kiegészített képek képzési anyagként szolgálhatnak, a könyvtárból létrehozott promptok pedig AI-képek előállítására használhatók.
Az adatok tulajdonjoga az érdekvédelmi szervezet révén a közösségnél marad. A közösség döntheti el, hogy megosztja-e az adatokat kutatókkal és fejlesztőkkel, például a Hugging Face platformján, illetve korlátozhatja a felhasználásukat. A képeket hozzájárulással gyűjtik, és ha valaki később kéri az adatainak eltávolítását, a közösség ezt végrehajthatja.
Jelenleg a Community Library Creator ellenőrzött módon, meghatározott érdekvédelmi szervezetekkel működik. Thieme és Cecily Morrison olyan mérnökökből és kutatókból álló csapatot vezet, amely a bővítéshez szükséges műszaki, biztonsági és jogi megoldásokon dolgozik. A Microsoft szerint a későbbiekben több közösség vehet részt a jövőbeli AI-modellek képzésében és értékelésében.
Microsoft: A new approach to AI data puts communities in charge
