Intel heeft zijn vijfde gelanceerd-generatie Xeon schaalbare processors, met als doel een revolutie teweeg te brengen in de toepassing van kunstmatige intelligentie (AI)-technologie rechtstreeks op centrale verwerkingseenheden (CPU’s). Tijdens het AI Everywhere Event in New York onthulde het bedrijf de nieuwe processors met aanzienlijk meer cores, een uitgebreide cache en een gestroomlijnde chipletarchitectuur. De x86-marktleider positioneert zijn nieuwste silicium als de ongeëvenaarde optie voor AI-taken, ondersteund door unieke AI-versnelling in de chip via Advanced Matrix Extensions (AMX)-instructies.
Xeon schaalbare processors: kern en cache Verbeteringen
De nieuwste versie van de Xeon-familie, met de codenaam Emerald Rapids, onderscheidt zich door verbeterde prestatie-en efficiëntiefuncties. Intel rust sommige modellen uit met maximaal 64 cores, wat een stap voorwaarts betekent ten opzichte van de reguliere Xeons van de vorige generatie, die een maximum van 56 cores bereikten. Ondanks dat ze achterlopen op sommige concurrenten wat betreft het aantal cores (AMD bereikte dat punt in 2019), bieden de nieuwe processors van Intel aanzienlijke verbeteringen.
Emerald Rapids beschikt over minder maar grotere rekentegels, met name twee XCC-dies met maximaal 32 kernen elk, een verandering die minder dataverkeer en bijgevolg een lager energieverbruik belooft. De nieuwe processors bevatten ook een opvallende L3-cache van 320 MB, een opmerkelijke stijging ten opzichte van de 112,5 MB van de vorige generatie. Bovendien vult Intel deze ontwikkelingen aan met snellere DDR5-geheugenondersteuning, met een piek van 5.600 MT/s en een aanzienlijke bandbreedte om de kernprestaties te behouden.
Concurrentielandschap en AI-inferentie
Gezien het beperkte aanbod van speciale AI-versnellers promoot Intel Emerald Rapids als een optimale infrastructuur voor AI-inferentie, waarbij de turbofrequenties van de AMX-versnellers worden gestroomlijnd om prestatiedalingen bij het uitvoeren van complexe instructies te minimaliseren. Volgens de interne benchmarks van Intel kunnen de nieuwe chips beter presteren dan de concurrentie op het gebied van specifieke workloads, hoewel concurrenten platforms aanbieden met een hoger aantal kernen.
Intel benadrukt de capaciteiten van de processors met populaire LLM’s, zoals GPT-4 en Meta’s Llama 2, en beweert dat zijn 5e generatie Xeons modellen tot ongeveer 20 miljard parameters met acceptabele latenties kunnen beheren. Desalniettemin kunnen grotere modellen nog steeds speciale AI-hardware vereisen, waarbij een rol blijft weggelegd voor oplossingen zoals Intel’s Habana Gaudi 2-accelerator.
Vooruitkijkend plaagt Intel zijn aankomende datacenterprocessors met de codenaam Granite Rapids en Sierra Forest, anticiperend op hogere core-aantallen , snellere geheugenondersteuning en gebruik van geavanceerde 7nm-procestechnologie. Ondertussen anticiperen concurrenten als AMD op hun eigen aanbod van de volgende generatie.
Terwijl Intel door een competitief landschap navigeert met innovatie als kern, is het bedrijf er vast van overtuigd dat zijn 5e generatie Xeon Scalable-processors een cruciale rol zullen spelen in AI ontwikkeling, waarbij wordt gepleit voor schaalbare en efficiënte CPU-gebaseerde oplossingen te midden van de groeiende vraag naar AI-technologieën.
