A Hugging Face Transformers már llama.cpp kvantált modelleket is futtat

Új támogatás a Transformersben

A Hugging Face 2026. szeptember 22-én olyan bejelentést tett közzé, amely szerint a Transformers már futtatja a llama.cpp kvantált modelljeit. A cím alapján a változás a Transformers és a llama.cpp kvantált modellformátumai közötti kompatibilitást érinti.

A megadott forrásszöveg nem tartalmaz további technikai részleteket a támogatott modellekről, a használat módjáról vagy a szükséges beállításokról.

A bejelentésben szereplő információk

A forrás címe: „Transformers now runs llama.cpp quants”. A szövegben a Transformers és a multimodális Transformers kifejezés is megjelenik, de a bejelentés nem ismerteti, hogy a llama.cpp kvantált modellek támogatása pontosan mely modellekre vagy feladatokra vonatkozik.

Az oldalon több, a Hugging Face blogjához kapcsolódó felületi elem és más bejegyzések metaadatai is láthatók. Ezek között szerepel az „Image-Text-to-Text”, a „4B”, az „Updated Mar 2”, valamint a blog további bejegyzéseire utaló információ. A megadott forrás alapján ezekről nem állapítható meg, hogy közvetlenül az új támogatás részletei lennének.

Mit jelent ez a felhasználóknak?

A bejelentés alapján a Transformers felhasználói számára elérhetővé válik a llama.cpp kvantált modellek futtatása. A forrás azonban nem ad útmutatót a funkció bekapcsolásához, nem nevez meg támogatott modelleket, és nem közöl teljesítményadatokat vagy rendszerkövetelményeket.

A változás jelentőségét ezért egyelőre csak a kompatibilitás bővüléseként lehet leírni. A gyakorlati használatról további dokumentáció vagy részletesebb bejelentés adhat majd pontosabb képet.