Cooper Lake : Intel optimise ses Xeon Scalable pour l’IA

Gigabyte, Lenovo, Supermicro… Autant de fabricants de serveurs qui ont annoncé, ce 18 juin, des modèles destinés à accueillir la 3^e génération des Xeon Scalable*.

Intel venait d’officialiser ces processeurs et la roadmap associée.

Pour le moment, n’est actée que la disponibilité de la lignée Cooper Lake, qui vise les configurations de 4 à 8 sockets.
Il faudra attendre plus tard cette année pour le lancement d’Ice Lake, qui cible les systèmes à 1 ou 2 sockets.

Le principal axe de communication d’Intel porte sur les performances en deep learning. Et plus particulièrement sur l’intégration du format de calcul bfloat16 (BF16).
Ce dernier conserve l’exposant 8 bits de FP32 (et donc sa portée), mais adopte une mantisse 7 bits pour une précision comparable à FP16.
Il en résulte, selon Intel, jusqu’à +93 % de performance en entraînement et +90 % en inférence par rapport aux Xeon Scalable 2^e génération (Cascade Lake) en FP32.

Cooper Lake : des Platinum plus énergivores

Il y a aussi du nouveau sur l’interconnexion des processeurs.

Avec Cascade Lake, chaque CPU dispose de 3 liens à 10,4 GT/s (gigatransferts par seconde).

Cooper Lake en reste à 3 contrôleurs par CPU, mais passe à 6 liens. La bande passante est donc doublée.

Concernant la mémoire, on notera la prise en charge de la DDR4-3200 sur les Xeon Scalable Cooper Lake série Platinum… mais avec une seule barrette par slot (on reste en DDR4-2933 sinon).
À souligner également que les CPU d’entrée de catalogue (série Silver) peuvent accueillir 1,125 To de mémoire, contre 1 To sur Cascade Lake. En haut de gamme, la capacité maximale est à 4,5 To avec la nouvelle génération Optane DC (série 200 « Barlow Pass », toujours en 128, 256 et 512 Go, en DDR4-2666).

Gravés en 14 nm, les Xeon Scalable Cooper Lake évoluent sur un nouveau socket (LGA4189), toujours en PCIe 3.0 (48 lignes par CPU).

Intel annonce onze configurations standard.
Six d’entre elles sont dans la série Platinum 8300 (4 ou 8 sockets). On monte jusqu’à 28 cœurs physiques à 2,9 GHz (4,3 GHz en Turbo) pour un TDP de 250 W (+ 45 W par rapport au plus énergivore des Cascade Lake, mais les fréquences nominale et « Turbo » sont respectivement plus élevées de 200 et de 300 MHz).

* Ci-dessous, dans l’ordre, les serveurs Lenovo ThinkSystem SR860 V2, Gigabyte R292-4S0 et Supermicro SYS-240P-TNRT, tous en 4 sockets.

Illustrations © Intel, Gigabyte, Lenovo & Supermicro