Két európai nyílt modell érkezik a Cloudflare Workers AI-ra

Két európai modell a Workers AI-n

A Cloudflare október 1-jei bejelentése szerint az EuroLLM és az Apertus is bekerül a Workers AI kínálatába, az érdeklődők pedig már hozzáférést kérhetnek hozzájuk. A vállalat a kezdeményezést az úgynevezett szuverén mesterséges intelligencia kérdéséhez kapcsolja, amelynek központi eleme szerinte az, hogy az országok szabadon választhassanak a különböző eszközök között, és szükség esetén válthassanak is.

Az EuroLLM 35 nyelvet támogat, köztük az Európai Unió mind a 24 hivatalos nyelvét. A modellt a Horizon Europe, az Európai Kutatási Tanács és az EuroHPC támogatásával fejlesztette egy egyetemekből és kutatóintézetekből álló konzorcium. A felsorolt résztvevők között szerepel többek között az Instituto Superior Técnico, az Edinburghi Egyetem, az Université Paris-Saclay, a Sorbonne University és az University of Amsterdam. A képzéshez a MareNostrum 5 szuperszámítógépet használták. A konzorcium állítása szerint az EuroLLM hasonló méretű modelleknél jobb eredményeket ér el európai többnyelvű teszteken és gépi fordításban.

Az Apertus több mint 1500 nyelven készült

Az Apertus Svájc első nagyméretű, teljesen nyílt és többnyelvű nyelvi modellje. Több mint 15 ezermilliárd tokenen, több mint 1500 nyelv adataival tanították, a tanítóanyag 40 százaléka pedig nem angol nyelvű. A fejlesztésben az ETH Zurich, az EPFL és a Svájci Nemzeti Szuperszámítógép-központ vett részt a Swiss AI Initiative részeként.

A projekt közzéteszi a modell architektúráját, súlyait, tanítóadatait és módszereit. A fejlesztők szerint az Apertust a svájci és európai szabályok, köztük az EU AI Act és a GDPR figyelembevételével tervezték. Ennek része a tanításból való kilépési kérelmek tiszteletben tartása, a személyes adatok eltávolítása és a betanított információk megjegyzésének megakadályozása. A modellt a CSCS Alps szuperszámítógépén tanították, amely több mint 10 000 GH200 GPU-val rendelkezik. A fejlesztők állítása szerint az Apertus a ritka és regionális nyelveken, például a romans és a svájci német nyelven, több vezető zárt és nyílt modellnél is jobb teljesítményt nyújt.

A nyílt modellek gyakorlati felhasználása

A Cloudflare szerint az előző évben a Workers AI-ra felkerült nemzeti modellekre több száz diák, startup, kisvállalkozás és közalkalmazott épített alkalmazásokat az ázsiai és csendes-óceáni térségben. Indiában az Indian Institute of Technology Delhi hallgatói olyan hangvezérelt segédet készítettek, amely 22 indiai nyelven vezeti végig a felhasználókat a támogatási űrlapokon.

Szingapúrban a MedBridge 14 nyelven, köztük a hokkienen és a kantonin, segíti az egészségügyi beszélgetéseket az idős páciensek és az ápolók között. Japánban az Anshin Concierge a felhasználó saját szavaival leírt problémát a megfelelő tokiói önkormányzati ügyfélszolgálathoz irányítja, telefonon vagy weboldalon keresztül.

Modellfüggetlen AI-védelem kormányzati szerveknek

A Cloudflare biztonsági csapata az elmúlt évben olyan vezérlőréteget, úgynevezett harness-t épített, amely több AI-modellt hangol össze a sérülékenységek kereséséhez, az eredmények ellenőrzéséhez és a fenyegetések rangsorolásához. A vállalat közzétette a zárt és nyílt modellek közös használatáról szerzett tapasztalatait, a vezérlőréteget pedig nyílt forráskódúvá tette.

Mivel a rendszer bármilyen, zárt vagy nyílt modellhez kapcsolható, egy szolgáltatóhoz való hozzáférés elvesztése a Cloudflare szerint nem kapcsolja le automatikusan a védelmet. A vállalat kormányzati kiberbiztonsági ügynökségek és kritikus infrastruktúrák üzemeltetői számára gyakorlati workshopokat indít. A résztvevők saját AI-biztonsági vezérlőréteget és többrétegű védelmet építhetnek, az első képzés pedig októberben, a Singapore International Cyber Week alatt lesz. A program moduljai a Cloudflare szerint nemzeti AI-képzési és kiberreziliencia-programokba is beilleszthetők.