Az Oracle OCI-jára érkeznek a Google TPU-i

A Google Tensor Processing Unitjai, vagyis TPU-i az Oracle Cloud Infrastructure kínálatában is megjelennek. Az együttműködés révén az OCI lesz az első Google-on kívüli hyperscale felhőplatform, amely Google TPU-kat kínál.
- Google TPU-k érkeznek az Oracle Cloud Infrastructure platformjára.
- Az OCI lesz az első Google-on kívüli hyperscale felhőplatform Google TPU-kkal.
- A TPU-k nagy modellképzésre, következtetésre és ügynökalapú AI-ra is használhatók.
- A Google TPU-k 2027-ben, többéves felfutással válnak elérhetővé az OCI-ban.
- A TPU 8t tanításra, a TPU 8i következtetésre készült.
Külön infrastruktúrán futtathatók az AI-feladatok
Az Oracle és a Google október 27-én jelentette be, hogy a Google célzottan mesterséges intelligenciára tervezett Tensor Processing Unitjai az Oracle Cloud Infrastructure platformján is elérhetők lesznek. Az Oracle szerint ez az első alkalom, hogy Google TPU-k a Google saját környezetén kívül hyperscale felhőplatformon jelennek meg.
Az OCI biztosítja a TPU-k nagyléptékű telepítéséhez szükséges áramellátást, hűtést és adatközponti hálózatot. Az Oracle közlése szerint az ügyfelek így egyetlen felhőben több vezető AI-számítási architektúra közül választhatnak, a teljesítmény-, áteresztőképességi és költségigényeik alapján.
„A különböző AI-munkaterhelések különböző számítási igényekkel rendelkeznek”, mondta Mahesh Thiagarajan, az Oracle Cloud Infrastructure elnöke. Hozzátette, hogy a Google TPU-k OCI-ba hozása nagyobb rugalmasságot ad az infrastruktúra kiválasztásában.
Képzéshez és következtetéshez is szánják
A Google TPU-it egyedi gyorsítóként, nyílt szoftverrel együtt tervezték az AI-életciklus teljes folyamatára. A vállalat szerint a technológia használható a legnagyobb modellek betanítására, nagyléptékű következtetésre, valamint az ügynökalapú AI több lépésből álló következtetési feladataira.
A TPU-k támogatják a nagy modellek tanítását és utólagos tanítását, beleértve a sűrű és a szakértőkeverék, vagyis MoE-modelleket is. Éles környezetben futó következtetéshez is készültek, például érvelő, ügynökalapú és hosszú kontextust használó alkalmazásokhoz.
A Google közlése szerint az architektúra célja, hogy minden watt energiából minél több AI-feldolgozást hozzon ki, miközben gyors hozzáférést biztosít a modelladatokhoz és gyors kommunikációt a chipek között. Amin Vahdat, a Google AI- és infrastruktúra-területének vezető technológusa szerint a TPU-k célzottan kialakított lehetőséget jelentenek az igényes tanítási és következtetési munkaterhelésekhez.
A TPU 8t és TPU 8i 2027-től jelenhet meg az OCI-ban
A Google több mint egy évtizede fejleszt egyedi AI-szilíciumot. A vállalat nyolcadik generációs TPU-portfóliója két, eltérő célra kialakított architektúrát tartalmaz: a TPU 8t a tanításra, a TPU 8i pedig a következtetésre készült.
A Google állítása szerint a TPU 8t a legfejlettebb modellek fejlesztési ciklusát hónapokról hetekre rövidíti, és podonként közel háromszor nagyobb számítási teljesítményt nyújt az előző generációnál. A TPU 8i-t sok specializált ügynök ismétlődő feladatainak kezelésére tervezték.
A Google TPU-k az Oracle Cloud Infrastructure-ben a naptári év szerinti 2027-ben lesznek elérhetők. A bevezetés több éven keresztül, fokozatosan történik majd, hogy az Oracle az ügyféligényekhez igazítsa a kapacitást.
Az ügyfelek több AI-számítási lehetőség közül választhatnak
Az Oracle szerint az együttműködés azoknak a szervezeteknek ad további választási lehetőséget, amelyek növekvő modellméretekkel és termelési következtetési igényekkel dolgoznak. Az OCI ügyfelei a terhelésükhöz, teljesítménykövetelményeikhez és költségcéljaikhoz igazítva választhatják majd ki a Google TPU-kat.
A bejelentés alapján a Google TPU-k Oracle-féle elérhetősége a felhőben futó nagy modellképzést, a következtetést és az ügynökalapú AI-alkalmazások infrastruktúráját is érinti. A konkrét hozzáférés a 2027-ben induló, többéves felfutás során válik elérhetővé az OCI-n.
Oracle: Oracle Brings Google TPUs to Oracle Cloud Infrastructure
PR Newswire: Oracle Brings Google TPUs to Oracle Cloud Infrastructure


