Amazon EC2
Az Amazon EC2 az Amazon Web Services felhőalapú számítási szolgáltatása, amely rugalmas infrastruktúrát biztosít alkalmazások és mesterségesintelligencia-rendszerek futtatásához. Az MI fejlődésében különösen fontosak a nagy teljesítményű chipek, a hatékony modellkiszolgálás és az ezekhez kapcsolódó felhős eszközök.
Ezen a címkeoldalon az AWS mesterséges intelligenciát érintő infrastruktúrájáról és fejlesztéseiről szóló hírek gyűlnek. Szó esik a Deepgram hangfeldolgozásáról a Trainium2 chipeken, a vLLM válaszidejét javító új KV-átvitelről, valamint a Vercel Sandbox környezetéhez kapcsolódó fejlesztői kihívásról.
A Deepgram akár 70 százalékkal több hangot dolgozott fel Trainium2-n
A Deepgram az AWS Trainium2 chipeire optimalizálta Nova-3 beszédfelismerő modelljét. A vállalat offline, kötegelt munkafolyamatokban 11, 70 százalékkal több hangot…
Az AWS szerint gyorsíthatja a vLLM válaszidejét az új KV-átvitel
Az AWS push alapú kulcsérték-átviteli megoldást mutatott be a vLLM-hez, amely a vállalat mérése szerint akár háromszoros javulást hozott az első tokenig eltelt időben. A…
Egymillió dollárt fizet a Vercel annak, aki kijut a Sandboxból
A Vercel akár 1 000 000 dollár összdíjazású, két hétig tartó biztonsági kihívást indított a Vercel Sandbox elszigetelésének tesztelésére. A HackerOne programban azok a…