Kolibrit mutatott be az Aleph Alpha német nyelvű AI-feladatokra
Az Aleph Alpha kiadta a Kolibrit, egy német és angol nyelvet támogató nagy nyelvi modellt, amelyet kritikus fontosságú közigazgatási és ipari alkalmazásokhoz fejlesztettek. A modell az ügyfelek által ellenőrzött infrastruktúrán is telepíthető, dokumentált adatkezelési és fejlesztési háttérrel.
- Az Aleph Alpha kiadta a Kolibri nagy nyelvi modellt.
- A modell 78 milliárd paramétert tartalmaz, tokenenként körülbelül 3 milliárd aktív.
- A Kolibri német és angol nyelvet támogat, német nyelvi feladatokra optimalizálva.
- Támogatja az RAG-ot, az ügynöki munkafolyamatokat és a natív eszközhívást.
- A modell és dokumentációja a Hugging Face-en érhető el.
Német nyelvre optimalizált modell
Az Aleph Alpha október 5-én jelentette be a Kolibrit, amely október 3. óta érhető el. A vállalat szerint a modellt Európában fejlesztették és tanították, elsősorban a közigazgatásban és az iparban használt, küldetéskritikus alkalmazásokhoz.
A Kolibri összesen 78 milliárd paramétert tartalmaz, tokenenként azonban körülbelül 3 milliárd aktív paraméterrel dolgozik. Ezt a keverék szakértőkből álló architektúra (mixture of experts) teszi lehetővé, amely a következtetés során a modellnek csak bizonyos részeit aktiválja.
A modell németül és angolul használható. A német nyelvű szövegek a betanítási adatok körülbelül 23 százalékát tették ki, a Kolibri pedig német nyelvű gondolkodásra is ki lett képezve. Tokenizálója kifejezetten a német nyelvhez készült, és a vállalat szerint a német szövegeket kevesebb tokennel képes reprezentálni.
Ügynöki munkafolyamatok és dokumentumalapú válaszok
A Kolibri támogatja az ügynöki munkafolyamatokat, a visszakereséssel támogatott generálást (RAG) és a natív eszközhívást. RAG-használat esetén a modell a megadott dokumentumokra támaszkodva válaszol a kérdésekre, és arra is betanították, hogy tartózkodjon a válaszadástól, ha a dokumentumok nem tartalmaznak elegendő bizonyítékot.
A beépített gondolkodási vezérlők lehetővé teszik a felhasználóknak, hogy beállítsák a gondolkodásra fordított erőforrás és a válaszadás sebessége közötti egyensúlyt. A modellt olyan infrastruktúrán való telepítésre tervezték, amelyet az ügyfelek maguk ellenőriznek.
Az Aleph Alpha vezérigazgatója, Ilhan Scheer szerint a Kolibri azt mutatja, hogy Németországban megvan a tehetség és a szakértelem versenyképes AI-modellek fejlesztéséhez. Scheer úgy fogalmazott, hogy a vállalat számára az AI-szuverenitás a választás szabadságát jelenti, vagyis azt, hogy képesek maradjanak a technológia fejlesztésére, miközben az ügyfelek ellenőrzik annak használatát.
Dokumentált adatkezelés és elérhetőség
A Kolibri technikai jelentése a szerzői joggal, az adatvédelemmel és az uniós mesterséges intelligencia rendeletének követelményeivel kapcsolatos intézkedéseket is bemutatja. A betanítási adatokat több mint 4,5 millió URL-t tartalmazó tiltólista alapján szűrték, amelyhez az Európai Bizottság Piracy Watch Listája is forrásként szolgált.
Az Aleph Alpha közlése szerint minden harmadik féltől származó adatkészletet megvizsgáltak a licencfeltételek, a jogszerű beszerzés és a leiratkozási kérelmeknek való megfelelés szempontjából. A vállalat a modell architektúrájáról, értékeléseiről és betanítási módszertanáról külön technikai jelentést és blogbejegyzést is közzétett.
A Kolibri, a vonatkozó licencfeltételek és a kapcsolódó dokumentáció a Hugging Face felületén érhető el. Az Aleph Alpha közben bejelentette, hogy a Cohere vállalattal egy transzatlanti, szuverén AI-cég létrehozásáról állapodott meg. A tranzakció hatósági jóváhagyásra vár, ezért a lezárásig az Aleph Alpha önállóan működik tovább.
Aleph Alpha: Aleph Alpha releases Kolibri — Aleph Alpha
