A Berkeley kutatói szerint az AI kiléphet az adatközpontokból

A helyi futtatás csökkentheti az erőforrásigényt

Az Eric és Wendy Schmidt Center for Data Science & Environment, valamint a Colorado Boulder-i Egyetem három kutatója a Nature folyóiratban augusztus 11-én megjelent kommentárban vázolta javaslatát. A szerzők szerint a nyílt forráskódú AI-modellek praktikus alternatívát jelenthetnek az adatközpontokra épülő szolgáltatásokkal szemben.

A nyílt forráskódú modellek letölthetők személyi számítógépre, és teljes egészében ugyanazon a gépen futtathatók. A felhasználóknak nem kell adatközpontot vagy külső vállalatot igénybe venniük, miközben az adataik felett is teljes kontrollt tarthatnak. A Berkeley kutatói szerint ezek a modellek akár százszor kevesebb energiát használhatnak, mint kereskedelmi társaik, mivel a számítások helyben történnek.

Cassie Buhler, a Colorado Boulder-i Cooperative Institute for Research in Environmental Sciences és az Environmental Data Science Innovation and Impact Lab posztdoktori kutatója, valamint a Schmidt DSE munkatársa szerint az adatközpontok rendkívül erőforrás-igényes módját jelentik az AI elérésének. A kutató úgy fogalmazott, hogy a laptopokon futó alternatívák felé is érdemes fordulni.

A tudományos munkában is használhatók

Fernando Pérez, a Schmidt DSE egyik igazgatója és a Berkeley statisztikai tanszékének docense szerint számos feladatra alkalmasak lehetnek azok a nyílt modellek, amelyek laptopon vagy asztali számítógépen futnak. Állítása szerint ezek egyes esetekben ugyanolyan hatékonyak lehetnek, mint a legnépszerűbb, egy évvel korábbi szabadalmaztatott rendszerek, a megfelelő tudományos eszközökkel együtt pedig még hatékonyabbá is válhatnak.

Pérez szerint a helyi modellek használata megőrizheti a kutatási adatok integritását és magánszféráját. A Schmidt DSE 2022-es indulása óta kilenc nyílt forráskódú, döntéstámogató eszköz közös fejlesztésében vett részt kutatók és szakpolitikai döntéshozók számára.

A központ egyre inkább helyi AI-eszközök fejlesztésére összpontosít. Ezek között szerepelnek az Egyesült Nemzetek Szervezetének szánt megoldások is, amelyek a globális üvegházhatásúgáz-kibocsátás csökkentését és új tengeri védett területek kijelölését segíthetik.

Egy tengeri kutatási eszköz példája

A Geospatial LLM-Enabled Navigator, röviden GLEN High Seas Explorer, összegyűjti és megjeleníti a meglévő védett területekre, a tengerfenék földtani viszonyaira, a biodiverzitásra és a globális halászati tevékenységre vonatkozó adatokat. Ezeket az ENSZ szakpolitikai szövegeivel is összekapcsolja.

A chatbot segítségével a felhasználók olyan kérdéseket tehetnek fel, hogy egy ország határa mellett, a nyílt tengeren létrehozott, 100 kilométer széles új védett terület hány tenger alatti hegyet és bálnavándorlási útvonalat érintene. A forrás szerint az eszköz ezekre a kérdésekre percek alatt tudományosan megalapozott válaszokat ad.

A kutatók fenntarthatóbb AI-t sürgetnek

Carl Boettiger, a Schmidt DSE tudományos tanácsadója és a Berkeley környezettudományi, szakpolitikai és menedzsment tanszékének docense szerint sok klímakutató az adatközpontok környezeti és adatvédelmi költségei miatt eddig elkerülte az AI használatát. A kutató szerint felelősségteljes alkalmazás mellett az AI hasznos eszköz lehet, ezért a helyi, nyílt forráskódú modellek használatát is előtérbe kell helyezni.

A szerzők úgy látják, hogy az adatközpontok gyors terjeszkedése környezeti és gazdasági szempontból sem fenntartható. Ugyanakkor a kommentár szerint egy-két éven belül a korábban speciális számítási kapacitást igénylő infrastruktúra egyre inkább elérhetővé válhat fogyasztói hardveren.

Július végén a Microsoft nyílt levélben sürgette az iparágat az úgynevezett nyílt súlyú modellek nagyobb használatára. A levelet több mint 200 technológiai vállalat írta alá, köztük az NVIDIA, a Google, az Amazon és az OpenAI. A Berkeley kutatói szerint a helyi, nyílt modellek erősíthetik a tudományos innovációt, a felhasználói adatvédelmet és a versenyt a technológiai gazdaságban.