Benchmarks by Michael Larabel for a future article. 2 x Intel Xeon Max 9480 testing with a Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS) and ASPEED on Ubuntu 24.04 via the Phoronix Test Suite.
Compare your own system(s) to this result file with the
Phoronix Test Suite by running the command:
phoronix-test-suite benchmark 2405073-NE-UPLOAD15789
2024 Server CPUs
Benchmarks by Michael Larabel for a future article. 2 x Intel Xeon Max 9480 testing with a Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS) and ASPEED on Ubuntu 24.04 via the Phoronix Test Suite.
Xeon Platinum 8490H:
Processor: Intel Xeon Platinum 8490H @ 3.50GHz (60 Cores / 120 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 512GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED
OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200
Xeon Platinum 8490H 2P:
Processor: 2 x Intel Xeon Platinum 8490H @ 3.50GHz (120 Cores / 240 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1008GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T
OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200
Xeon Platinum 8592+:
Processor: INTEL XEON PLATINUM 8592+ @ 3.90GHz (64 Cores / 128 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 512GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED
OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200
Xeon Platinum 8592+ 2P:
Processor: 2 x INTEL XEON PLATINUM 8592+ @ 3.90GHz (128 Cores / 256 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1008GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T
OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200
Xeon Max 9468:
Processor: Intel Xeon Max 9468 @ 3.50GHz (48 Cores / 96 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 576GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED
OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200
Xeon Max 9468 2P:
Processor: 2 x Intel Xeon Max 9468 @ 3.50GHz (96 Cores / 192 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1136GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T
OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200
Xeon Max 9480:
Processor: Intel Xeon Max 9480 @ 3.50GHz (56 Cores / 112 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 576GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED
OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200
Xeon Max 9480 2P:
Processor: 2 x Intel Xeon Max 9480 @ 3.50GHz (112 Cores / 224 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1136GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T
OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200
WRF 4.2.2
Input: conus 2.5km
Seconds < Lower Is Better
Xeon Platinum 8490H .... 11980.81 |========================================
Xeon Platinum 8490H 2P . 6674.12 |======================
Xeon Platinum 8592+ .... 10602.41 |===================================
Xeon Platinum 8592+ 2P . 5601.10 |===================
Xeon Max 9468 .......... 13273.69 |============================================
Xeon Max 9468 2P ....... 7157.96 |========================
Xeon Max 9480 .......... 12410.29 |=========================================
Xeon Max 9480 2P ....... 6840.06 |=======================
OpenVKL 2.0.0
Benchmark: vklBenchmarkCPU ISPC
Items / Sec > Higher Is Better
Xeon Platinum 8490H .... 1734 |==========================
Xeon Platinum 8490H 2P . 2716 |========================================
Xeon Platinum 8592+ .... 2004 |==============================
Xeon Platinum 8592+ 2P . 3222 |================================================
Xeon Max 9468 .......... 1243 |===================
Xeon Max 9468 2P ....... 1776 |==========================
Xeon Max 9480 .......... 1356 |====================
Xeon Max 9480 2P ....... 1852 |============================
ASKAP 1.0
Test: tConvolve MT - Degridding
Million Grid Points Per Second > Higher Is Better
Xeon Max 9468 .... 8868.20 |==============================
Xeon Max 9468 2P . 14665.00 |==================================================
Xeon Max 9480 .... 9204.87 |===============================
Xeon Max 9480 2P . 14463.40 |=================================================
NWChem 7.0.2
Input: C240 Buckyball
Seconds < Lower Is Better
Xeon Platinum 8490H .... 2070.3 |======================================
Xeon Platinum 8490H 2P . 1960.9 |====================================
Xeon Platinum 8592+ .... 1878.3 |==================================
Xeon Platinum 8592+ 2P . 1809.7 |=================================
Xeon Max 9468 .......... 2530.5 |==============================================
Xeon Max 9468 2P ....... 1785.0 |================================
Xeon Max 9480 .......... 2245.2 |=========================================
Xeon Max 9480 2P ....... 1873.1 |==================================
RELION 4.0.1
Test: Basic - Device: CPU
Seconds < Lower Is Better
Xeon Platinum 8490H .... 373.18 |==========================================
Xeon Platinum 8490H 2P . 203.41 |=======================
Xeon Platinum 8592+ .... 290.45 |================================
Xeon Platinum 8592+ 2P . 155.74 |=================
Xeon Max 9468 .......... 412.37 |==============================================
Xeon Max 9468 2P ....... 214.42 |========================
Xeon Max 9480 .......... 384.38 |===========================================
Xeon Max 9480 2P ....... 201.38 |======================
easyWave r34
Input: e2Asean Grid + BengkuluSept2007 Source - Time: 2400
Seconds < Lower Is Better
Xeon Platinum 8490H .... 119.84 |==============================
Xeon Platinum 8490H 2P . 126.39 |================================
Xeon Platinum 8592+ .... 75.73 |===================
Xeon Platinum 8592+ 2P . 102.13 |==========================
Xeon Max 9468 .......... 173.01 |============================================
Xeon Max 9468 2P ....... 182.12 |==============================================
Xeon Max 9480 .......... 145.24 |=====================================
Xeon Max 9480 2P ....... 173.55 |============================================
ASKAP 1.0
Test: tConvolve MT - Gridding
Million Grid Points Per Second > Higher Is Better
Xeon Platinum 8490H .... 8088.11 |=============================================
Xeon Platinum 8490H 2P . 7630.06 |==========================================
Xeon Platinum 8592+ .... 5062.07 |============================
Xeon Platinum 8592+ 2P . 6038.92 |==================================
Xeon Max 9468 .......... 3375.32 |===================
Xeon Max 9468 2P ....... 3347.93 |===================
Xeon Max 9480 .......... 3406.96 |===================
Xeon Max 9480 2P ....... 4382.97 |========================
CockroachDB 22.2
Workload: KV, 95% Reads - Concurrency: 512
ops/s > Higher Is Better
Xeon Platinum 8490H .... 131999.7 |===========================================
Xeon Platinum 8490H 2P . 82341.2 |===========================
Xeon Platinum 8592+ .... 135861.9 |============================================
Xeon Platinum 8592+ 2P . 85613.1 |============================
Xeon Max 9468 .......... 128125.9 |=========================================
Xeon Max 9468 2P ....... 80804.7 |==========================
Xeon Max 9480 .......... 120494.3 |=======================================
Xeon Max 9480 2P ....... 76524.7 |=========================
BRL-CAD 7.38.2
VGR Performance Metric
VGR Performance Metric > Higher Is Better
Xeon Platinum 8490H .... 833892 |=======
Xeon Platinum 8490H 2P . 4136969 |====================================
Xeon Platinum 8592+ .... 916904 |========
Xeon Platinum 8592+ 2P . 5186677 |=============================================
Xeon Max 9468 .......... 713937 |======
Xeon Max 9468 2P ....... 3658790 |================================
Xeon Max 9480 .......... 767812 |=======
Xeon Max 9480 2P ....... 4075342 |===================================
CockroachDB 22.2
Workload: KV, 60% Reads - Concurrency: 512
ops/s > Higher Is Better
Xeon Platinum 8490H .... 116603.7 |==========================================
Xeon Platinum 8490H 2P . 72110.1 |==========================
Xeon Platinum 8592+ .... 121465.2 |============================================
Xeon Platinum 8592+ 2P . 73640.9 |===========================
Xeon Max 9468 .......... 110666.9 |========================================
Xeon Max 9468 2P ....... 71680.5 |==========================
Xeon Max 9480 .......... 109388.2 |========================================
Xeon Max 9480 2P ....... 71696.5 |==========================
PostgreSQL 16
Scaling Factor: 100 - Clients: 1000 - Mode: Read Only - Average Latency
ms < Lower Is Better
Xeon Platinum 8490H .... 0.572 |=====================
Xeon Platinum 8490H 2P . 1.293 |===============================================
Xeon Platinum 8592+ .... 0.589 |=====================
Xeon Platinum 8592+ 2P . 1.149 |==========================================
Xeon Max 9468 .......... 0.559 |====================
Xeon Max 9468 2P ....... 1.027 |=====================================
Xeon Max 9480 .......... 0.622 |=======================
Xeon Max 9480 2P ....... 1.098 |========================================
PostgreSQL 16
Scaling Factor: 100 - Clients: 1000 - Mode: Read Only
TPS > Higher Is Better
Xeon Platinum 8490H .... 1748146 |============================================
Xeon Platinum 8490H 2P . 778141 |====================
Xeon Platinum 8592+ .... 1699046 |===========================================
Xeon Platinum 8592+ 2P . 881881 |======================
Xeon Max 9468 .......... 1792636 |=============================================
Xeon Max 9468 2P ....... 976035 |=========================
Xeon Max 9480 .......... 1607424 |========================================
Xeon Max 9480 2P ....... 920725 |=======================
TensorFlow 2.16.1
Device: CPU - Batch Size: 512 - Model: ResNet-50
images/sec > Higher Is Better
Xeon Platinum 8490H .... 148.45 |=======================================
Xeon Platinum 8490H 2P . 174.95 |==============================================
Xeon Platinum 8592+ .... 140.53 |=====================================
Xeon Platinum 8592+ 2P . 169.75 |=============================================
Xeon Max 9468 .......... 117.53 |===============================
Xeon Max 9468 2P ....... 145.29 |======================================
Xeon Max 9480 .......... 125.14 |=================================
Xeon Max 9480 2P ....... 138.39 |====================================
CloverLeaf 1.3
Input: clover_bm16
Seconds < Lower Is Better
Xeon Platinum 8490H .... 328.47 |=====================================
Xeon Platinum 8490H 2P . 214.80 |========================
Xeon Platinum 8592+ .... 410.59 |==============================================
Xeon Platinum 8592+ 2P . 378.05 |==========================================
Xeon Max 9468 .......... 351.29 |=======================================
Xeon Max 9468 2P ....... 263.33 |==============================
Xeon Max 9480 .......... 357.57 |========================================
Xeon Max 9480 2P ....... 269.20 |==============================
NAMD 3.0b6
Input: STMV with 1,066,628 Atoms
ns/day > Higher Is Better
Xeon Platinum 8490H .... 1.05274 |=====================
Xeon Platinum 8490H 2P . 1.10900 |======================
Xeon Platinum 8592+ .... 1.43787 |=============================
Xeon Platinum 8592+ 2P . 2.25422 |=============================================
Xeon Max 9468 .......... 1.45223 |=============================
Xeon Max 9468 2P ....... 1.88679 |======================================
Xeon Max 9480 .......... 1.50214 |==============================
Xeon Max 9480 2P ....... 1.76778 |===================================
High Performance Conjugate Gradient 3.1
X Y Z: 144 144 144 - RT: 60
GFLOP/s > Higher Is Better
Xeon Platinum 8490H .... 31.07 |=====================
Xeon Platinum 8490H 2P . 60.85 |=========================================
Xeon Platinum 8592+ .... 35.14 |========================
Xeon Platinum 8592+ 2P . 69.30 |===============================================
Xeon Max 9468 .......... 25.24 |=================
Xeon Max 9468 2P ....... 54.41 |=====================================
Xeon Max 9480 .......... 30.59 |=====================
Xeon Max 9480 2P ....... 62.64 |==========================================
Apache IoTDB 1.2
Device Count: 500 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 400
Average Latency < Lower Is Better
Xeon Platinum 8490H .... 294.33 |=========================================
Xeon Platinum 8490H 2P . 317.36 |============================================
Xeon Platinum 8592+ .... 280.26 |=======================================
Xeon Platinum 8592+ 2P . 286.78 |========================================
Xeon Max 9468 .......... 314.44 |============================================
Xeon Max 9468 2P ....... 328.41 |==============================================
Xeon Max 9480 .......... 309.03 |===========================================
Xeon Max 9480 2P ....... 325.97 |==============================================
Apache IoTDB 1.2
Device Count: 500 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 400
point/sec > Higher Is Better
Xeon Platinum 8490H .... 87797206 |==========================================
Xeon Platinum 8490H 2P . 80169620 |======================================
Xeon Platinum 8592+ .... 92709751 |============================================
Xeon Platinum 8592+ 2P . 89231850 |==========================================
Xeon Max 9468 .......... 82455664 |=======================================
Xeon Max 9468 2P ....... 77501248 |=====================================
Xeon Max 9480 .......... 83475645 |========================================
Xeon Max 9480 2P ....... 78057728 |=====================================
ClickHouse 22.12.3.5
100M Rows Hits Dataset, Third Run
Queries Per Minute, Geo Mean > Higher Is Better
Xeon Platinum 8490H .... 481.66 |============================================
Xeon Platinum 8490H 2P . 501.63 |==============================================
Xeon Platinum 8592+ .... 458.23 |==========================================
Xeon Platinum 8592+ 2P . 438.60 |========================================
Xeon Max 9468 .......... 470.02 |===========================================
Xeon Max 9468 2P ....... 501.07 |==============================================
Xeon Max 9480 .......... 476.91 |============================================
Xeon Max 9480 2P ....... 471.79 |===========================================
ClickHouse 22.12.3.5
100M Rows Hits Dataset, Second Run
Queries Per Minute, Geo Mean > Higher Is Better
Xeon Platinum 8490H .... 486.05 |============================================
Xeon Platinum 8490H 2P . 507.56 |==============================================
Xeon Platinum 8592+ .... 455.79 |=========================================
Xeon Platinum 8592+ 2P . 443.58 |========================================
Xeon Max 9468 .......... 465.06 |==========================================
Xeon Max 9468 2P ....... 499.18 |=============================================
Xeon Max 9480 .......... 474.68 |===========================================
Xeon Max 9480 2P ....... 467.96 |==========================================
ClickHouse 22.12.3.5
100M Rows Hits Dataset, First Run / Cold Cache
Queries Per Minute, Geo Mean > Higher Is Better
Xeon Platinum 8490H .... 465.50 |============================================
Xeon Platinum 8490H 2P . 485.63 |=============================================
Xeon Platinum 8592+ .... 437.20 |=========================================
Xeon Platinum 8592+ 2P . 423.30 |========================================
Xeon Max 9468 .......... 446.40 |==========================================
Xeon Max 9468 2P ....... 491.89 |==============================================
Xeon Max 9480 .......... 461.62 |===========================================
Xeon Max 9480 2P ....... 460.66 |===========================================
OpenSSL 3.3
Algorithm: RSA4096
verify/s > Higher Is Better
Xeon Platinum 8490H .... 974189.9 |====================
Xeon Platinum 8490H 2P . 1916162.9 |========================================
Xeon Platinum 8592+ .... 1036735.6 |======================
Xeon Platinum 8592+ 2P . 2057021.6 |===========================================
Xeon Max 9468 .......... 697707.2 |===============
Xeon Max 9468 2P ....... 1395446.4 |=============================
Xeon Max 9480 .......... 813667.6 |=================
Xeon Max 9480 2P ....... 1627941.4 |==================================
OpenSSL 3.3
Algorithm: RSA4096
sign/s > Higher Is Better
Xeon Platinum 8490H .... 27431.1 |====================
Xeon Platinum 8490H 2P . 54601.1 |========================================
Xeon Platinum 8592+ .... 31594.4 |=======================
Xeon Platinum 8592+ 2P . 61499.6 |=============================================
Xeon Max 9468 .......... 22861.0 |=================
Xeon Max 9468 2P ....... 45531.0 |=================================
Xeon Max 9480 .......... 25441.5 |===================
Xeon Max 9480 2P ....... 48534.8 |====================================
TensorFlow 2.16.1
Device: CPU - Batch Size: 256 - Model: ResNet-50
images/sec > Higher Is Better
Xeon Platinum 8490H .... 143.67 |=========================================
Xeon Platinum 8490H 2P . 161.06 |==============================================
Xeon Platinum 8592+ .... 129.02 |=====================================
Xeon Platinum 8592+ 2P . 150.33 |===========================================
Xeon Max 9468 .......... 119.73 |==================================
Xeon Max 9468 2P ....... 141.95 |=========================================
Xeon Max 9480 .......... 123.69 |===================================
Xeon Max 9480 2P ....... 135.28 |=======================================
Timed Linux Kernel Compilation 6.8
Build: allmodconfig
Seconds < Lower Is Better
Xeon Platinum 8490H .... 362.45 |=======================================
Xeon Platinum 8490H 2P . 218.57 |=======================
Xeon Platinum 8592+ .... 316.90 |==================================
Xeon Platinum 8592+ 2P . 189.74 |====================
Xeon Max 9468 .......... 428.39 |==============================================
Xeon Max 9468 2P ....... 246.94 |===========================
Xeon Max 9480 .......... 384.06 |=========================================
Xeon Max 9480 2P ....... 231.03 |=========================
Xcompact3d Incompact3d 2021-03-11
Input: X3D-benchmarking input.i3d
Seconds < Lower Is Better
Xeon Platinum 8490H .... 357.01 |========================================
Xeon Platinum 8490H 2P . 196.81 |======================
Xeon Platinum 8592+ .... 323.25 |====================================
Xeon Platinum 8592+ 2P . 171.38 |===================
Xeon Max 9468 .......... 407.59 |==============================================
Xeon Max 9468 2P ....... 189.69 |=====================
Xeon Max 9480 .......... 351.64 |========================================
Xeon Max 9480 2P ....... 187.22 |=====================
Stockfish 16.1
Chess Benchmark
Nodes Per Second > Higher Is Better
Xeon Platinum 8490H .... 96887479 |===================
Xeon Platinum 8490H 2P . 187761769 |====================================
Xeon Platinum 8592+ .... 109766345 |=====================
Xeon Platinum 8592+ 2P . 222610378 |===========================================
Xeon Max 9468 .......... 68019088 |=============
Xeon Max 9468 2P ....... 137977203 |===========================
Xeon Max 9480 .......... 73592230 |==============
Xeon Max 9480 2P ....... 149409082 |=============================
SecureMark 1.0.4
Benchmark: SecureMark-TLS
marks > Higher Is Better
Xeon Platinum 8490H .... 277205 |=========================================
Xeon Platinum 8490H 2P . 275472 |=========================================
Xeon Platinum 8592+ .... 309896 |==============================================
Xeon Platinum 8592+ 2P . 308434 |==============================================
Xeon Max 9468 .......... 277647 |=========================================
Xeon Max 9468 2P ....... 277589 |=========================================
Xeon Max 9480 .......... 277260 |=========================================
Xeon Max 9480 2P ....... 277298 |=========================================
Apache IoTDB 1.2
Device Count: 800 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 100
Average Latency < Lower Is Better
Xeon Platinum 8490H .... 85.16 |==========================================
Xeon Platinum 8490H 2P . 92.23 |=============================================
Xeon Platinum 8592+ .... 81.73 |========================================
Xeon Platinum 8592+ 2P . 82.73 |=========================================
Xeon Max 9468 .......... 90.02 |============================================
Xeon Max 9468 2P ....... 94.84 |===============================================
Xeon Max 9480 .......... 89.53 |============================================
Xeon Max 9480 2P ....... 95.39 |===============================================
Apache IoTDB 1.2
Device Count: 800 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 100
point/sec > Higher Is Better
Xeon Platinum 8490H .... 90871770 |==========================================
Xeon Platinum 8490H 2P . 83651785 |=======================================
Xeon Platinum 8592+ .... 94616807 |============================================
Xeon Platinum 8592+ 2P . 92771639 |===========================================
Xeon Max 9468 .......... 85744542 |========================================
Xeon Max 9468 2P ....... 80770465 |======================================
Xeon Max 9480 .......... 86354518 |========================================
Xeon Max 9480 2P ....... 80139566 |=====================================
CockroachDB 22.2
Workload: KV, 50% Reads - Concurrency: 512
ops/s > Higher Is Better
Xeon Platinum 8490H .... 108953.6 |=========================================
Xeon Platinum 8490H 2P . 68524.7 |==========================
Xeon Platinum 8592+ .... 115715.8 |============================================
Xeon Platinum 8592+ 2P . 77327.1 |=============================
Xeon Max 9468 .......... 103089.8 |=======================================
Xeon Max 9468 2P ....... 69221.4 |==========================
Xeon Max 9480 .......... 112265.3 |===========================================
Xeon Max 9480 2P ....... 66816.9 |=========================
PyTorch 2.2.1
Device: CPU - Batch Size: 64 - Model: ResNet-152
batches/sec > Higher Is Better
Xeon Platinum 8490H .... 20.13 |========================================
Xeon Platinum 8490H 2P . 14.03 |============================
Xeon Platinum 8592+ .... 23.49 |===============================================
Xeon Platinum 8592+ 2P . 16.25 |=================================
Xeon Max 9468 .......... 19.01 |======================================
Xeon Max 9468 2P ....... 15.84 |================================
Xeon Max 9480 .......... 19.24 |======================================
Xeon Max 9480 2P ....... 14.96 |==============================
LuxCoreRender 2.6
Scene: Danish Mood - Acceleration: CPU
M samples/sec > Higher Is Better
Xeon Platinum 8490H .... 6.85 |===========================================
Xeon Platinum 8490H 2P . 7.00 |============================================
Xeon Platinum 8592+ .... 7.63 |================================================
Xeon Platinum 8592+ 2P . 7.70 |================================================
Xeon Max 9468 .......... 6.03 |======================================
Xeon Max 9468 2P ....... 6.23 |=======================================
Xeon Max 9480 .......... 6.29 |=======================================
Xeon Max 9480 2P ....... 5.91 |=====================================
Timed Gem5 Compilation 23.0.1
Time To Compile
Seconds < Lower Is Better
Xeon Platinum 8490H .... 210.93 |============================================
Xeon Platinum 8490H 2P . 178.28 |=====================================
Xeon Platinum 8592+ .... 187.51 |=======================================
Xeon Platinum 8592+ 2P . 157.36 |=================================
Xeon Max 9468 .......... 220.57 |==============================================
Xeon Max 9468 2P ....... 184.30 |======================================
Xeon Max 9480 .......... 215.50 |=============================================
Xeon Max 9480 2P ....... 181.63 |======================================
RocksDB 9.0
Test: Read While Writing
Op/s > Higher Is Better
Xeon Platinum 8490H .... 7841738 |============================
Xeon Platinum 8490H 2P . 12321300 |============================================
Xeon Platinum 8592+ .... 8926893 |================================
Xeon Platinum 8592+ 2P . 12425519 |============================================
Xeon Max 9468 .......... 7439663 |==========================
Xeon Max 9468 2P ....... 9624417 |==================================
Xeon Max 9480 .......... 7366500 |==========================
Xeon Max 9480 2P ....... 11223329 |========================================
LAMMPS Molecular Dynamics Simulator 23Jun2022
Model: 20k Atoms
ns/day > Higher Is Better
Xeon Platinum 8490H .... 34.89 |=============================
Xeon Platinum 8490H 2P . 50.52 |==========================================
Xeon Platinum 8592+ .... 37.46 |===============================
Xeon Platinum 8592+ 2P . 56.40 |===============================================
Xeon Max 9468 .......... 28.28 |========================
Xeon Max 9468 2P ....... 46.71 |=======================================
Xeon Max 9480 .......... 32.16 |===========================
Xeon Max 9480 2P ....... 51.82 |===========================================
Blender 4.1
Blend File: Barbershop - Compute: CPU-Only
Seconds < Lower Is Better
Xeon Platinum 8490H .... 261.97 |======================================
Xeon Platinum 8490H 2P . 141.54 |====================
Xeon Platinum 8592+ .... 236.73 |==================================
Xeon Platinum 8592+ 2P . 125.87 |==================
Xeon Max 9468 .......... 320.11 |==============================================
Xeon Max 9468 2P ....... 169.44 |========================
Xeon Max 9480 .......... 290.56 |==========================================
Xeon Max 9480 2P ....... 156.70 |=======================
Llamafile 0.7
Test: wizardcoder-python-34b-v1.0.Q6_K - Acceleration: CPU
Tokens Per Second > Higher Is Better
Xeon Platinum 8490H .... 5.85 |================================================
Xeon Platinum 8490H 2P . 3.82 |===============================
Xeon Platinum 8592+ .... 4.08 |=================================
Xeon Platinum 8592+ 2P . 3.05 |=========================
Xeon Max 9468 .......... 1.47 |============
Xeon Max 9468 2P ....... 1.77 |===============
Xeon Max 9480 .......... 1.54 |=============
Xeon Max 9480 2P ....... 1.54 |=============
Timed Node.js Compilation 21.7.2
Time To Compile
Seconds < Lower Is Better
Xeon Platinum 8490H .... 254.00 |===========================================
Xeon Platinum 8490H 2P . 172.99 |=============================
Xeon Platinum 8592+ .... 214.43 |====================================
Xeon Platinum 8592+ 2P . 145.41 |=========================
Xeon Max 9468 .......... 270.38 |==============================================
Xeon Max 9468 2P ....... 175.63 |==============================
Xeon Max 9480 .......... 252.65 |===========================================
Xeon Max 9480 2P ....... 171.17 |=============================
ONNX Runtime 1.17
Model: fcn-resnet101-11 - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 116.32 |==================================
Xeon Platinum 8490H 2P . 92.35 |===========================
Xeon Platinum 8592+ .... 109.67 |================================
Xeon Platinum 8592+ 2P . 100.74 |==============================
Xeon Max 9468 .......... 139.10 |=========================================
Xeon Max 9468 2P ....... 121.67 |====================================
Xeon Max 9480 .......... 155.79 |==============================================
Xeon Max 9480 2P ....... 121.78 |====================================
ONNX Runtime 1.17
Model: fcn-resnet101-11 - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 8.59719 |===================================
Xeon Platinum 8490H 2P . 10.83623 |============================================
Xeon Platinum 8592+ .... 9.11885 |=====================================
Xeon Platinum 8592+ 2P . 9.92684 |========================================
Xeon Max 9468 .......... 7.24187 |=============================
Xeon Max 9468 2P ....... 8.39962 |==================================
Xeon Max 9480 .......... 6.54965 |===========================
Xeon Max 9480 2P ....... 8.26016 |==================================
DuckDB 0.9.1
Benchmark: TPC-H Parquet
Seconds < Lower Is Better
Xeon Platinum 8490H .... 145.57 |==========================================
Xeon Platinum 8490H 2P . 155.73 |=============================================
Xeon Platinum 8592+ .... 132.87 |=======================================
Xeon Platinum 8592+ 2P . 144.26 |==========================================
Xeon Max 9468 .......... 146.87 |===========================================
Xeon Max 9468 2P ....... 156.14 |=============================================
Xeon Max 9480 .......... 145.24 |==========================================
Xeon Max 9480 2P ....... 158.31 |==============================================
easyWave r34
Input: e2Asean Grid + BengkuluSept2007 Source - Time: 1200
Seconds < Lower Is Better
Xeon Platinum 8490H .... 46.29 |=============================
Xeon Platinum 8490H 2P . 50.83 |================================
Xeon Platinum 8592+ .... 28.70 |==================
Xeon Platinum 8592+ 2P . 37.66 |========================
Xeon Max 9468 .......... 63.43 |========================================
Xeon Max 9468 2P ....... 74.87 |===============================================
Xeon Max 9480 .......... 64.88 |=========================================
Xeon Max 9480 2P ....... 68.86 |===========================================
OpenRadioss 2023.09.15
Model: Chrysler Neon 1M
Seconds < Lower Is Better
Xeon Platinum 8490H .... 207.20 |==========================================
Xeon Platinum 8490H 2P . 115.89 |=======================
Xeon Platinum 8592+ .... 157.56 |================================
Xeon Platinum 8592+ 2P . 86.93 |=================
Xeon Max 9468 .......... 228.74 |==============================================
Xeon Max 9468 2P ....... 125.15 |=========================
Xeon Max 9480 .......... 212.99 |===========================================
Xeon Max 9480 2P ....... 117.91 |========================
LuxCoreRender 2.6
Scene: DLSC - Acceleration: CPU
M samples/sec > Higher Is Better
Xeon Platinum 8490H .... 8.72 |================================
Xeon Platinum 8490H 2P . 11.12 |=========================================
Xeon Platinum 8592+ .... 9.38 |===================================
Xeon Platinum 8592+ 2P . 12.74 |===============================================
Xeon Max 9468 .......... 7.46 |============================
Xeon Max 9468 2P ....... 10.17 |======================================
Xeon Max 9480 .......... 8.00 |==============================
Xeon Max 9480 2P ....... 10.44 |=======================================
FFmpeg 7.0
Encoder: libx265 - Scenario: Upload
FPS > Higher Is Better
Xeon Platinum 8490H .... 24.97 |============================================
Xeon Platinum 8490H 2P . 24.56 |===========================================
Xeon Platinum 8592+ .... 26.93 |===============================================
Xeon Platinum 8592+ 2P . 26.80 |===============================================
Xeon Max 9468 .......... 23.33 |=========================================
Xeon Max 9468 2P ....... 22.34 |=======================================
Xeon Max 9480 .......... 23.77 |=========================================
Xeon Max 9480 2P ....... 23.30 |=========================================
ONNX Runtime 1.17
Model: yolov4 - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 50.35 |==================================
Xeon Platinum 8490H 2P . 64.29 |============================================
Xeon Platinum 8592+ .... 43.54 |=============================
Xeon Platinum 8592+ 2P . 58.94 |========================================
Xeon Max 9468 .......... 54.96 |=====================================
Xeon Max 9468 2P ....... 69.45 |===============================================
Xeon Max 9480 .......... 59.18 |========================================
Xeon Max 9480 2P ....... 69.20 |===============================================
ONNX Runtime 1.17
Model: yolov4 - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 19.86 |=========================================
Xeon Platinum 8490H 2P . 15.56 |================================
Xeon Platinum 8592+ .... 22.97 |===============================================
Xeon Platinum 8592+ 2P . 16.97 |===================================
Xeon Max 9468 .......... 18.22 |=====================================
Xeon Max 9468 2P ....... 14.48 |==============================
Xeon Max 9480 .......... 16.92 |===================================
Xeon Max 9480 2P ....... 14.46 |==============================
OpenSSL 3.3
Algorithm: AES-128-GCM
byte/s > Higher Is Better
Xeon Platinum 8490H .... 768804693697 |=================
Xeon Platinum 8490H 2P . 1533026300727 |==================================
Xeon Platinum 8592+ .... 889567506540 |====================
Xeon Platinum 8592+ 2P . 1769313146013 |=======================================
Xeon Max 9468 .......... 641200848170 |==============
Xeon Max 9468 2P ....... 1277583382757 |============================
Xeon Max 9480 .......... 747710702660 |================
Xeon Max 9480 2P ....... 1484669627050 |=================================
OpenSSL 3.3
Algorithm: AES-256-GCM
byte/s > Higher Is Better
Xeon Platinum 8490H .... 700239352717 |==================
Xeon Platinum 8490H 2P . 1369534328470 |====================================
Xeon Platinum 8592+ .... 744387683670 |===================
Xeon Platinum 8592+ 2P . 1497529939377 |=======================================
Xeon Max 9468 .......... 507456728087 |=============
Xeon Max 9468 2P ....... 1011898993323 |==========================
Xeon Max 9480 .......... 592014115453 |===============
Xeon Max 9480 2P ....... 1181148957353 |===============================
OpenSSL 3.3
Algorithm: ChaCha20-Poly1305
byte/s > Higher Is Better
Xeon Platinum 8490H .... 225038850730 |====================
Xeon Platinum 8490H 2P . 442202532977 |========================================
Xeon Platinum 8592+ .... 223625738013 |====================
Xeon Platinum 8592+ 2P . 444099144270 |========================================
Xeon Max 9468 .......... 161321058213 |===============
Xeon Max 9468 2P ....... 320396720447 |=============================
Xeon Max 9480 .......... 187796174440 |=================
Xeon Max 9480 2P ....... 372735215297 |==================================
OpenSSL 3.3
Algorithm: SHA512
byte/s > Higher Is Better
Xeon Platinum 8490H .... 22219927723 |====================
Xeon Platinum 8490H 2P . 42846254477 |======================================
Xeon Platinum 8592+ .... 23886054770 |=====================
Xeon Platinum 8592+ 2P . 46520760707 |=========================================
Xeon Max 9468 .......... 16199261277 |==============
Xeon Max 9468 2P ....... 32304222993 |============================
Xeon Max 9480 .......... 18893980783 |=================
Xeon Max 9480 2P ....... 37564522053 |=================================
OpenSSL 3.3
Algorithm: ChaCha20
byte/s > Higher Is Better
Xeon Platinum 8490H .... 316126421173 |==================
Xeon Platinum 8490H 2P . 624402972947 |====================================
Xeon Platinum 8592+ .... 344150916937 |====================
Xeon Platinum 8592+ 2P . 684284382760 |========================================
Xeon Max 9468 .......... 226597354153 |=============
Xeon Max 9468 2P ....... 449908494927 |==========================
Xeon Max 9480 .......... 263740690067 |===============
Xeon Max 9480 2P ....... 522912403347 |===============================
OpenSSL 3.3
Algorithm: SHA256
byte/s > Higher Is Better
Xeon Platinum 8490H .... 61806994523 |===================
Xeon Platinum 8490H 2P . 119106802107 |====================================
Xeon Platinum 8592+ .... 66573957920 |====================
Xeon Platinum 8592+ 2P . 131976050120 |========================================
Xeon Max 9468 .......... 44439185187 |=============
Xeon Max 9468 2P ....... 88635753413 |===========================
Xeon Max 9480 .......... 51840436763 |================
Xeon Max 9480 2P ....... 103382860113 |===============================
Speedb 2.7
Test: Random Read
Op/s > Higher Is Better
Xeon Platinum 8490H .... 276179617 |====================
Xeon Platinum 8490H 2P . 551286958 |========================================
Xeon Platinum 8592+ .... 315178381 |=======================
Xeon Platinum 8592+ 2P . 586147871 |===========================================
Xeon Max 9468 .......... 211457048 |================
Xeon Max 9468 2P ....... 419943570 |===============================
Xeon Max 9480 .......... 244070674 |==================
Xeon Max 9480 2P ....... 497907490 |=====================================
FFmpeg 7.0
Encoder: libx265 - Scenario: Video On Demand
FPS > Higher Is Better
Xeon Platinum 8490H .... 49.84 |===========================================
Xeon Platinum 8490H 2P . 48.77 |==========================================
Xeon Platinum 8592+ .... 53.99 |===============================================
Xeon Platinum 8592+ 2P . 53.29 |==============================================
Xeon Max 9468 .......... 47.34 |=========================================
Xeon Max 9468 2P ....... 45.29 |=======================================
Xeon Max 9480 .......... 48.14 |==========================================
Xeon Max 9480 2P ....... 46.79 |=========================================
FFmpeg 7.0
Encoder: libx265 - Scenario: Platform
FPS > Higher Is Better
Xeon Platinum 8490H .... 49.79 |===========================================
Xeon Platinum 8490H 2P . 48.76 |===========================================
Xeon Platinum 8592+ .... 53.92 |===============================================
Xeon Platinum 8592+ 2P . 53.22 |==============================================
Xeon Max 9468 .......... 47.32 |=========================================
Xeon Max 9468 2P ....... 45.95 |========================================
Xeon Max 9480 .......... 48.35 |==========================================
Xeon Max 9480 2P ....... 46.59 |=========================================
PyTorch 2.2.1
Device: CPU - Batch Size: 512 - Model: ResNet-152
batches/sec > Higher Is Better
Xeon Platinum 8490H .... 20.46 |=========================================
Xeon Platinum 8490H 2P . 14.59 |=============================
Xeon Platinum 8592+ .... 23.41 |===============================================
Xeon Platinum 8592+ 2P . 16.17 |================================
Xeon Max 9468 .......... 19.47 |=======================================
Xeon Max 9468 2P ....... 16.68 |=================================
Xeon Max 9480 .......... 19.29 |=======================================
Xeon Max 9480 2P ....... 14.74 |==============================
Zstd Compression 1.5.4
Compression Level: 19 - Decompression Speed
MB/s > Higher Is Better
Xeon Platinum 8490H .... 1032.0 |=======================================
Xeon Platinum 8490H 2P . 963.6 |====================================
Xeon Platinum 8592+ .... 1221.8 |==============================================
Xeon Platinum 8592+ 2P . 1165.8 |============================================
Xeon Max 9468 .......... 1126.4 |==========================================
Xeon Max 9468 2P ....... 1040.2 |=======================================
Xeon Max 9480 .......... 1127.5 |==========================================
Xeon Max 9480 2P ....... 1039.2 |=======================================
Zstd Compression 1.5.4
Compression Level: 19 - Compression Speed
MB/s > Higher Is Better
Xeon Platinum 8490H .... 14.6 |=======================================
Xeon Platinum 8490H 2P . 15.2 |=========================================
Xeon Platinum 8592+ .... 18.0 |================================================
Xeon Platinum 8592+ 2P . 17.8 |===============================================
Xeon Max 9468 .......... 14.4 |======================================
Xeon Max 9468 2P ....... 13.8 |=====================================
Xeon Max 9480 .......... 14.5 |=======================================
Xeon Max 9480 2P ....... 13.3 |===================================
oneDNN 3.4
Harness: Recurrent Neural Network Inference - Engine: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 409.59 |============
Xeon Platinum 8490H 2P . 633.29 |===================
Xeon Platinum 8592+ .... 488.92 |===============
Xeon Platinum 8592+ 2P . 538.23 |================
Xeon Max 9468 .......... 734.80 |======================
Xeon Max 9468 2P ....... 1498.58 |=============================================
Xeon Max 9480 .......... 632.15 |===================
Xeon Max 9480 2P ....... 719.23 |======================
John The Ripper 2023.03.14
Test: MD5
Real C/S > Higher Is Better
Xeon Platinum 8490H .... 9583000 |=======================
Xeon Platinum 8490H 2P . 18166000 |===========================================
Xeon Platinum 8592+ .... 10922667 |==========================
Xeon Platinum 8592+ 2P . 18438600 |============================================
Xeon Max 9468 .......... 7626333 |==================
Xeon Max 9468 2P ....... 12958000 |===============================
Xeon Max 9480 .......... 8957000 |=====================
Xeon Max 9480 2P ....... 14609417 |===================================
PyTorch 2.2.1
Device: CPU - Batch Size: 256 - Model: ResNet-152
batches/sec > Higher Is Better
Xeon Platinum 8490H .... 20.25 |=========================================
Xeon Platinum 8490H 2P . 14.08 |============================
Xeon Platinum 8592+ .... 23.33 |===============================================
Xeon Platinum 8592+ 2P . 16.00 |================================
Xeon Max 9468 .......... 19.20 |=======================================
Xeon Max 9468 2P ....... 16.30 |=================================
Xeon Max 9480 .......... 19.58 |=======================================
Xeon Max 9480 2P ....... 14.92 |==============================
OSPRay 3.1
Benchmark: particle_volume/scivis/real_time
Items Per Second > Higher Is Better
Xeon Platinum 8490H .... 21.89 |===================
Xeon Platinum 8490H 2P . 38.23 |=================================
Xeon Platinum 8592+ .... 30.68 |===========================
Xeon Platinum 8592+ 2P . 53.93 |===============================================
Xeon Max 9468 .......... 16.09 |==============
Xeon Max 9468 2P ....... 29.35 |==========================
Xeon Max 9480 .......... 18.49 |================
Xeon Max 9480 2P ....... 33.13 |=============================
DuckDB 0.9.1
Benchmark: IMDB
Seconds < Lower Is Better
Xeon Platinum 8490H .... 99.49 |===================================
Xeon Platinum 8490H 2P . 125.88 |============================================
Xeon Platinum 8592+ .... 99.18 |===================================
Xeon Platinum 8592+ 2P . 127.57 |=============================================
Xeon Max 9468 .......... 100.09 |===================================
Xeon Max 9468 2P ....... 127.70 |=============================================
Xeon Max 9480 .......... 99.62 |===================================
Xeon Max 9480 2P ....... 131.80 |==============================================
OSPRay 3.1
Benchmark: particle_volume/pathtracer/real_time
Items Per Second > Higher Is Better
Xeon Platinum 8490H .... 160.24 |======================================
Xeon Platinum 8490H 2P . 149.09 |====================================
Xeon Platinum 8592+ .... 193.14 |==============================================
Xeon Platinum 8592+ 2P . 176.40 |==========================================
Xeon Max 9468 .......... 144.48 |==================================
Xeon Max 9468 2P ....... 137.50 |=================================
Xeon Max 9480 .......... 143.48 |==================================
Xeon Max 9480 2P ....... 135.44 |================================
OSPRay 3.1
Benchmark: gravity_spheres_volume/dim_512/scivis/real_time
Items Per Second > Higher Is Better
Xeon Platinum 8490H .... 19.58 |======================
Xeon Platinum 8490H 2P . 35.60 |========================================
Xeon Platinum 8592+ .... 23.18 |==========================
Xeon Platinum 8592+ 2P . 41.91 |===============================================
Xeon Max 9468 .......... 15.50 |=================
Xeon Max 9468 2P ....... 15.34 |=================
Xeon Max 9480 .......... 16.27 |==================
Xeon Max 9480 2P ....... 15.82 |==================
LuxCoreRender 2.6
Scene: Orange Juice - Acceleration: CPU
M samples/sec > Higher Is Better
Xeon Platinum 8490H .... 13.46 |================================
Xeon Platinum 8490H 2P . 18.70 |============================================
Xeon Platinum 8592+ .... 14.74 |===================================
Xeon Platinum 8592+ 2P . 19.91 |===============================================
Xeon Max 9468 .......... 11.86 |============================
Xeon Max 9468 2P ....... 16.91 |========================================
Xeon Max 9480 .......... 12.50 |==============================
Xeon Max 9480 2P ....... 16.64 |=======================================
Timed LLVM Compilation 16.0
Build System: Ninja
Seconds < Lower Is Better
Xeon Platinum 8490H .... 187.02 |========================================
Xeon Platinum 8490H 2P . 122.31 |==========================
Xeon Platinum 8592+ .... 165.05 |====================================
Xeon Platinum 8592+ 2P . 106.82 |=======================
Xeon Max 9468 .......... 212.48 |==============================================
Xeon Max 9468 2P ....... 134.42 |=============================
Xeon Max 9480 .......... 197.84 |===========================================
Xeon Max 9480 2P ....... 128.07 |============================
NAMD 3.0b6
Input: ATPase with 327,506 Atoms
ns/day > Higher Is Better
Xeon Platinum 8490H .... 2.97021 |==================
Xeon Platinum 8490H 2P . 2.21948 |==============
Xeon Platinum 8592+ .... 4.64814 |=============================
Xeon Platinum 8592+ 2P . 5.85267 |====================================
Xeon Max 9468 .......... 5.97130 |=====================================
Xeon Max 9468 2P ....... 7.30065 |=============================================
Xeon Max 9480 .......... 5.92501 |=====================================
Xeon Max 9480 2P ....... 2.56319 |================
VVenC 1.11
Video Input: Bosphorus 4K - Video Preset: Fast
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 6.719 |===========================================
Xeon Platinum 8490H 2P . 6.480 |=========================================
Xeon Platinum 8592+ .... 7.392 |===============================================
Xeon Platinum 8592+ 2P . 6.960 |============================================
Xeon Max 9468 .......... 6.324 |========================================
Xeon Max 9468 2P ....... 6.023 |======================================
Xeon Max 9480 .......... 6.501 |=========================================
Xeon Max 9480 2P ....... 6.077 |=======================================
Numpy Benchmark
Score > Higher Is Better
Xeon Platinum 8490H .... 455.57 |========================================
Xeon Platinum 8490H 2P . 456.18 |========================================
Xeon Platinum 8592+ .... 520.22 |==============================================
Xeon Platinum 8592+ 2P . 519.89 |==============================================
Xeon Max 9468 .......... 461.61 |=========================================
Xeon Max 9468 2P ....... 435.21 |======================================
Xeon Max 9480 .......... 464.72 |=========================================
Xeon Max 9480 2P ....... 439.84 |=======================================
PyTorch 2.2.1
Device: CPU - Batch Size: 512 - Model: ResNet-50
batches/sec > Higher Is Better
Xeon Platinum 8490H .... 56.44 |==========================================
Xeon Platinum 8490H 2P . 37.55 |============================
Xeon Platinum 8592+ .... 63.30 |===============================================
Xeon Platinum 8592+ 2P . 40.83 |==============================
Xeon Max 9468 .......... 51.05 |======================================
Xeon Max 9468 2P ....... 41.65 |===============================
Xeon Max 9480 .......... 51.86 |=======================================
Xeon Max 9480 2P ....... 37.84 |============================
LuxCoreRender 2.6
Scene: LuxCore Benchmark - Acceleration: CPU
M samples/sec > Higher Is Better
Xeon Platinum 8490H .... 7.10 |======================================
Xeon Platinum 8490H 2P . 8.82 |================================================
Xeon Platinum 8592+ .... 8.06 |============================================
Xeon Platinum 8592+ 2P . 8.88 |================================================
Xeon Max 9468 .......... 6.30 |==================================
Xeon Max 9468 2P ....... 6.81 |=====================================
Xeon Max 9480 .......... 6.82 |=====================================
Xeon Max 9480 2P ....... 7.41 |========================================
OpenFOAM 10
Input: drivaerFastback, Medium Mesh Size - Execution Time
Seconds < Lower Is Better
Xeon Platinum 8490H .... 420.65 |============================================
Xeon Platinum 8490H 2P . 196.50 |=====================
Xeon Platinum 8592+ .... 302.06 |================================
Xeon Platinum 8592+ 2P . 137.04 |==============
Xeon Max 9468 .......... 440.83 |==============================================
Xeon Max 9468 2P ....... 201.11 |=====================
Xeon Max 9480 .......... 410.29 |===========================================
Xeon Max 9480 2P ....... 186.33 |===================
OpenFOAM 10
Input: drivaerFastback, Medium Mesh Size - Mesh Time
Seconds < Lower Is Better
Xeon Platinum 8490H .... 160.73 |==============================================
Xeon Platinum 8490H 2P . 162.03 |==============================================
Xeon Platinum 8592+ .... 148.40 |==========================================
Xeon Platinum 8592+ 2P . 139.62 |========================================
Xeon Max 9468 .......... 153.12 |===========================================
Xeon Max 9468 2P ....... 134.78 |======================================
Xeon Max 9480 .......... 150.67 |===========================================
Xeon Max 9480 2P ....... 159.31 |=============================================
PostgreSQL 16
Scaling Factor: 100 - Clients: 1000 - Mode: Read Write - Average Latency
ms < Lower Is Better
Xeon Platinum 8490H .... 14.04 |======================
Xeon Platinum 8490H 2P . 14.86 |=======================
Xeon Platinum 8592+ .... 13.26 |=====================
Xeon Platinum 8592+ 2P . 30.20 |===============================================
Xeon Max 9468 .......... 14.29 |======================
Xeon Max 9468 2P ....... 16.96 |==========================
Xeon Max 9480 .......... 13.85 |======================
Xeon Max 9480 2P ....... 16.66 |==========================
PostgreSQL 16
Scaling Factor: 100 - Clients: 1000 - Mode: Read Write
TPS > Higher Is Better
Xeon Platinum 8490H .... 71227 |============================================
Xeon Platinum 8490H 2P . 67315 |==========================================
Xeon Platinum 8592+ .... 75396 |===============================================
Xeon Platinum 8592+ 2P . 33110 |=====================
Xeon Max 9468 .......... 69969 |============================================
Xeon Max 9468 2P ....... 58952 |=====================================
Xeon Max 9480 .......... 72225 |=============================================
Xeon Max 9480 2P ....... 60046 |=====================================
OpenRadioss 2023.09.15
Model: Rubber O-Ring Seal Installation
Seconds < Lower Is Better
Xeon Platinum 8490H .... 59.91 |================================
Xeon Platinum 8490H 2P . 88.39 |===============================================
Xeon Platinum 8592+ .... 54.14 |=============================
Xeon Platinum 8592+ 2P . 86.85 |==============================================
Xeon Max 9468 .......... 59.58 |================================
Xeon Max 9468 2P ....... 70.73 |======================================
Xeon Max 9480 .......... 59.32 |================================
Xeon Max 9480 2P ....... 81.65 |===========================================
OpenRadioss 2023.09.15
Model: INIVOL and Fluid Structure Interaction Drop Container
Seconds < Lower Is Better
Xeon Platinum 8490H .... 140.43 |========================================
Xeon Platinum 8490H 2P . 107.36 |===============================
Xeon Platinum 8592+ .... 128.74 |=====================================
Xeon Platinum 8592+ 2P . 100.00 |=============================
Xeon Max 9468 .......... 160.56 |==============================================
Xeon Max 9468 2P ....... 114.29 |=================================
Xeon Max 9480 .......... 146.03 |==========================================
Xeon Max 9480 2P ....... 110.56 |================================
Zstd Compression 1.5.4
Compression Level: 19, Long Mode - Decompression Speed
MB/s > Higher Is Better
Xeon Platinum 8490H .... 1069.1 |========================================
Xeon Platinum 8490H 2P . 992.1 |=====================================
Xeon Platinum 8592+ .... 1242.6 |==============================================
Xeon Platinum 8592+ 2P . 1189.7 |============================================
Xeon Max 9468 .......... 1131.1 |==========================================
Xeon Max 9468 2P ....... 1041.8 |=======================================
Xeon Max 9480 .......... 1133.3 |==========================================
Xeon Max 9480 2P ....... 1046.0 |=======================================
Zstd Compression 1.5.4
Compression Level: 19, Long Mode - Compression Speed
MB/s > Higher Is Better
Xeon Platinum 8490H .... 7.94 |=======================================
Xeon Platinum 8490H 2P . 8.16 |========================================
Xeon Platinum 8592+ .... 9.80 |================================================
Xeon Platinum 8592+ 2P . 9.67 |===============================================
Xeon Max 9468 .......... 7.76 |======================================
Xeon Max 9468 2P ....... 7.62 |=====================================
Xeon Max 9480 .......... 7.72 |======================================
Xeon Max 9480 2P ....... 7.46 |=====================================
Timed Godot Game Engine Compilation 4.0
Time To Compile
Seconds < Lower Is Better
Xeon Platinum 8490H .... 140.23 |===========================================
Xeon Platinum 8490H 2P . 118.57 |=====================================
Xeon Platinum 8592+ .... 122.72 |======================================
Xeon Platinum 8592+ 2P . 103.38 |================================
Xeon Max 9468 .......... 149.38 |==============================================
Xeon Max 9468 2P ....... 123.88 |======================================
Xeon Max 9480 .......... 143.81 |============================================
Xeon Max 9480 2P ....... 122.70 |======================================
Xmrig 6.21
Variant: GhostRider - Hash Count: 1M
H/s > Higher Is Better
Xeon Platinum 8490H .... 5808.8 |================
Xeon Platinum 8490H 2P . 11263.2 |===============================
Xeon Platinum 8592+ .... 8378.3 |=======================
Xeon Platinum 8592+ 2P . 16324.7 |=============================================
Xeon Max 9468 .......... 5446.8 |===============
Xeon Max 9468 2P ....... 10975.8 |==============================
Xeon Max 9480 .......... 6122.3 |=================
Xeon Max 9480 2P ....... 12115.0 |=================================
TensorFlow 2.16.1
Device: CPU - Batch Size: 512 - Model: GoogLeNet
images/sec > Higher Is Better
Xeon Platinum 8490H .... 461.23 |=====================================
Xeon Platinum 8490H 2P . 576.08 |==============================================
Xeon Platinum 8592+ .... 462.78 |=====================================
Xeon Platinum 8592+ 2P . 577.76 |==============================================
Xeon Max 9468 .......... 383.57 |===============================
Xeon Max 9468 2P ....... 467.91 |=====================================
Xeon Max 9480 .......... 398.40 |================================
Xeon Max 9480 2P ....... 477.33 |======================================
ONNX Runtime 1.17
Model: CaffeNet 12-int8 - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 1.17292 |===============================
Xeon Platinum 8490H 2P . 1.43573 |======================================
Xeon Platinum 8592+ .... 1.10042 |=============================
Xeon Platinum 8592+ 2P . 1.32454 |===================================
Xeon Max 9468 .......... 1.37831 |====================================
Xeon Max 9468 2P ....... 1.65270 |===========================================
Xeon Max 9480 .......... 1.41662 |=====================================
Xeon Max 9480 2P ....... 1.71875 |=============================================
ONNX Runtime 1.17
Model: CaffeNet 12-int8 - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 852.33 |===========================================
Xeon Platinum 8490H 2P . 696.98 |===================================
Xeon Platinum 8592+ .... 908.19 |==============================================
Xeon Platinum 8592+ 2P . 754.81 |======================================
Xeon Max 9468 .......... 728.47 |=====================================
Xeon Max 9468 2P ....... 604.76 |===============================
Xeon Max 9480 .......... 705.61 |====================================
Xeon Max 9480 2P ....... 581.77 |=============================
ONNX Runtime 1.17
Model: GPT-2 - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 4.49976 |===========================
Xeon Platinum 8490H 2P . 5.55101 |=================================
Xeon Platinum 8592+ .... 3.69649 |======================
Xeon Platinum 8592+ 2P . 4.29531 |==========================
Xeon Max 9468 .......... 5.67700 |==================================
Xeon Max 9468 2P ....... 7.04111 |==========================================
Xeon Max 9480 .......... 5.91961 |===================================
Xeon Max 9480 2P ....... 7.53259 |=============================================
ONNX Runtime 1.17
Model: GPT-2 - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 222.03 |======================================
Xeon Platinum 8490H 2P . 180.03 |===============================
Xeon Platinum 8592+ .... 270.33 |==============================================
Xeon Platinum 8592+ 2P . 236.65 |========================================
Xeon Max 9468 .......... 176.33 |==============================
Xeon Max 9468 2P ....... 141.95 |========================
Xeon Max 9480 .......... 168.86 |=============================
Xeon Max 9480 2P ....... 132.71 |=======================
ONNX Runtime 1.17
Model: T5 Encoder - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 3.06500 |==================================
Xeon Platinum 8490H 2P . 4.05881 |=============================================
Xeon Platinum 8592+ .... 2.15980 |========================
Xeon Platinum 8592+ 2P . 2.81739 |===============================
Xeon Max 9468 .......... 2.97094 |=================================
Xeon Max 9468 2P ....... 4.05270 |=============================================
Xeon Max 9480 .......... 2.88734 |================================
Xeon Max 9480 2P ....... 3.95819 |============================================
ONNX Runtime 1.17
Model: T5 Encoder - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 326.14 |================================
Xeon Platinum 8490H 2P . 246.34 |========================
Xeon Platinum 8592+ .... 462.86 |==============================================
Xeon Platinum 8592+ 2P . 354.75 |===================================
Xeon Max 9468 .......... 337.00 |=================================
Xeon Max 9468 2P ....... 246.68 |=========================
Xeon Max 9480 .......... 346.21 |==================================
Xeon Max 9480 2P ....... 252.67 |=========================
OpenRadioss 2023.09.15
Model: Bird Strike on Windshield
Seconds < Lower Is Better
Xeon Platinum 8490H .... 117.41 |===========================================
Xeon Platinum 8490H 2P . 124.44 |=============================================
Xeon Platinum 8592+ .... 110.32 |========================================
Xeon Platinum 8592+ 2P . 113.15 |=========================================
Xeon Max 9468 .......... 126.89 |==============================================
Xeon Max 9468 2P ....... 116.49 |==========================================
Xeon Max 9480 .......... 120.76 |============================================
Xeon Max 9480 2P ....... 119.03 |===========================================
QMCPACK 3.17.1
Input: Li2_STO_ae
Total Execution Time - Seconds < Lower Is Better
Xeon Platinum 8490H .... 109.30 |=========================================
Xeon Platinum 8490H 2P . 101.63 |=======================================
Xeon Platinum 8592+ .... 105.98 |========================================
Xeon Platinum 8592+ 2P . 97.91 |=====================================
Xeon Max 9468 .......... 121.19 |==============================================
Xeon Max 9468 2P ....... 102.12 |=======================================
Xeon Max 9480 .......... 117.81 |=============================================
Xeon Max 9480 2P ....... 106.27 |========================================
Appleseed 2.0 Beta
Scene: Material Tester
Seconds < Lower Is Better
Xeon Platinum 8490H .... 126.15 |========================
Xeon Platinum 8490H 2P . 225.35 |===========================================
Xeon Platinum 8592+ .... 118.78 |======================
Xeon Platinum 8592+ 2P . 210.82 |========================================
Xeon Max 9468 .......... 136.49 |==========================
Xeon Max 9468 2P ....... 243.24 |==============================================
Xeon Max 9480 .......... 134.39 |=========================
Xeon Max 9480 2P ....... 239.73 |=============================================
ONNX Runtime 1.17
Model: ArcFace ResNet-100 - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 18.93 |==============================
Xeon Platinum 8490H 2P . 27.59 |============================================
Xeon Platinum 8592+ .... 15.04 |========================
Xeon Platinum 8592+ 2P . 26.09 |==========================================
Xeon Max 9468 .......... 21.22 |==================================
Xeon Max 9468 2P ....... 24.65 |=======================================
Xeon Max 9480 .......... 23.66 |======================================
Xeon Max 9480 2P ....... 29.44 |===============================================
ONNX Runtime 1.17
Model: ArcFace ResNet-100 - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 52.82 |=====================================
Xeon Platinum 8490H 2P . 36.25 |==========================
Xeon Platinum 8592+ .... 66.52 |===============================================
Xeon Platinum 8592+ 2P . 38.42 |===========================
Xeon Max 9468 .......... 47.27 |=================================
Xeon Max 9468 2P ....... 40.57 |=============================
Xeon Max 9480 .......... 42.27 |==============================
Xeon Max 9480 2P ....... 33.96 |========================
OSPRay 3.1
Benchmark: gravity_spheres_volume/dim_512/ao/real_time
Items Per Second > Higher Is Better
Xeon Platinum 8490H .... 19.85 |======================
Xeon Platinum 8490H 2P . 36.15 |========================================
Xeon Platinum 8592+ .... 23.73 |==========================
Xeon Platinum 8592+ 2P . 42.13 |===============================================
Xeon Max 9468 .......... 15.40 |=================
Xeon Max 9468 2P ....... 15.98 |==================
Xeon Max 9480 .......... 16.32 |==================
Xeon Max 9480 2P ....... 15.37 |=================
OSPRay 3.1
Benchmark: particle_volume/ao/real_time
Items Per Second > Higher Is Better
Xeon Platinum 8490H .... 21.93 |===================
Xeon Platinum 8490H 2P . 38.22 |=================================
Xeon Platinum 8592+ .... 30.84 |===========================
Xeon Platinum 8592+ 2P . 54.12 |===============================================
Xeon Max 9468 .......... 16.05 |==============
Xeon Max 9468 2P ....... 29.50 |==========================
Xeon Max 9480 .......... 18.55 |================
Xeon Max 9480 2P ....... 33.11 |=============================
oneDNN 3.4
Harness: Recurrent Neural Network Training - Engine: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 623.60 |==========
Xeon Platinum 8490H 2P . 635.15 |==========
Xeon Platinum 8592+ .... 703.47 |===========
Xeon Platinum 8592+ 2P . 626.14 |==========
Xeon Max 9468 .......... 1200.75 |===================
Xeon Max 9468 2P ....... 1966.88 |================================
Xeon Max 9480 .......... 1180.85 |===================
Xeon Max 9480 2P ....... 2776.52 |=============================================
Speedb 2.7
Test: Read While Writing
Op/s > Higher Is Better
Xeon Platinum 8490H .... 10695360 |===========================
Xeon Platinum 8490H 2P . 17297027 |===========================================
Xeon Platinum 8592+ .... 12168413 |==============================
Xeon Platinum 8592+ 2P . 17585737 |============================================
Xeon Max 9468 .......... 8795408 |======================
Xeon Max 9468 2P ....... 13859254 |===================================
Xeon Max 9480 .......... 9988176 |=========================
Xeon Max 9480 2P ....... 15354400 |======================================
Memcached 1.6.19
Set To Get Ratio: 1:100
Ops/sec > Higher Is Better
Xeon Platinum 8490H .... 4481667.95 |========================================
Xeon Platinum 8490H 2P . 3245908.40 |=============================
Xeon Platinum 8592+ .... 4752673.79 |==========================================
Xeon Platinum 8592+ 2P . 3780240.56 |=================================
Xeon Max 9468 .......... 4384040.52 |=======================================
Xeon Max 9468 2P ....... 3373323.92 |==============================
Xeon Max 9480 .......... 4315467.17 |======================================
Xeon Max 9480 2P ....... 3392842.38 |==============================
DaCapo Benchmark 23.11
Java Test: Tradesoap
msec < Lower Is Better
Xeon Platinum 8490H .... 4115 |==========================
Xeon Platinum 8490H 2P . 4215 |===========================
Xeon Platinum 8592+ .... 7321 |===============================================
Xeon Platinum 8592+ 2P . 7492 |================================================
Xeon Max 9468 .......... 3887 |=========================
Xeon Max 9468 2P ....... 4199 |===========================
Xeon Max 9480 .......... 3884 |=========================
Xeon Max 9480 2P ....... 4069 |==========================
ONNX Runtime 1.17
Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 3.17002 |=======================
Xeon Platinum 8490H 2P . 5.62517 |=========================================
Xeon Platinum 8592+ .... 3.18392 |=======================
Xeon Platinum 8592+ 2P . 5.83954 |===========================================
Xeon Max 9468 .......... 3.02897 |======================
Xeon Max 9468 2P ....... 5.74491 |==========================================
Xeon Max 9480 .......... 3.37034 |=========================
Xeon Max 9480 2P ....... 6.17796 |=============================================
ONNX Runtime 1.17
Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 315.41 |============================================
Xeon Platinum 8490H 2P . 177.76 |=========================
Xeon Platinum 8592+ .... 314.06 |============================================
Xeon Platinum 8592+ 2P . 171.23 |========================
Xeon Max 9468 .......... 330.10 |==============================================
Xeon Max 9468 2P ....... 174.68 |========================
Xeon Max 9480 .......... 296.80 |=========================================
Xeon Max 9480 2P ....... 161.89 |=======================
ONNX Runtime 1.17
Model: super-resolution-10 - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 4.39649 |========================================
Xeon Platinum 8490H 2P . 4.72530 |===========================================
Xeon Platinum 8592+ .... 3.85774 |===================================
Xeon Platinum 8592+ 2P . 3.98013 |====================================
Xeon Max 9468 .......... 4.58912 |=========================================
Xeon Max 9468 2P ....... 4.85818 |============================================
Xeon Max 9480 .......... 4.67269 |==========================================
Xeon Max 9480 2P ....... 5.00222 |=============================================
ONNX Runtime 1.17
Model: super-resolution-10 - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 227.42 |========================================
Xeon Platinum 8490H 2P . 212.92 |======================================
Xeon Platinum 8592+ .... 259.19 |==============================================
Xeon Platinum 8592+ 2P . 251.31 |=============================================
Xeon Max 9468 .......... 217.88 |=======================================
Xeon Max 9468 2P ....... 205.89 |=====================================
Xeon Max 9480 .......... 213.99 |======================================
Xeon Max 9480 2P ....... 199.90 |===================================
PyTorch 2.2.1
Device: CPU - Batch Size: 1 - Model: ResNet-152
batches/sec > Higher Is Better
Xeon Platinum 8490H .... 19.41 |==================================
Xeon Platinum 8490H 2P . 15.77 |===========================
Xeon Platinum 8592+ .... 27.21 |===============================================
Xeon Platinum 8592+ 2P . 17.57 |==============================
Xeon Max 9468 .......... 19.99 |===================================
Xeon Max 9468 2P ....... 17.91 |===============================
Xeon Max 9480 .......... 18.07 |===============================
Xeon Max 9480 2P ....... 14.86 |==========================
ONNX Runtime 1.17
Model: bertsquad-12 - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 49.64 |=======================================
Xeon Platinum 8490H 2P . 60.36 |===============================================
Xeon Platinum 8592+ .... 39.75 |===============================
Xeon Platinum 8592+ 2P . 44.60 |===================================
Xeon Max 9468 .......... 47.24 |=====================================
Xeon Max 9468 2P ....... 60.11 |===============================================
Xeon Max 9480 .......... 49.97 |=======================================
Xeon Max 9480 2P ....... 55.90 |============================================
ONNX Runtime 1.17
Model: bertsquad-12 - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 20.15 |======================================
Xeon Platinum 8490H 2P . 16.57 |===============================
Xeon Platinum 8592+ .... 25.16 |===============================================
Xeon Platinum 8592+ 2P . 22.43 |==========================================
Xeon Max 9468 .......... 21.17 |========================================
Xeon Max 9468 2P ....... 16.64 |===============================
Xeon Max 9480 .......... 20.01 |=====================================
Xeon Max 9480 2P ....... 17.99 |==================================
OpenVINO 2024.0
Model: Age Gender Recognition Retail 0013 FP16-INT8 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 0.43 |==========================================
Xeon Platinum 8490H 2P . 0.29 |============================
Xeon Platinum 8592+ .... 0.49 |================================================
Xeon Platinum 8592+ 2P . 0.46 |=============================================
Xeon Max 9468 .......... 0.33 |================================
Xeon Max 9468 2P ....... 0.28 |===========================
Xeon Max 9480 .......... 0.37 |====================================
Xeon Max 9480 2P ....... 0.30 |=============================
OpenVINO 2024.0
Model: Age Gender Recognition Retail 0013 FP16-INT8 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 115106.30 |==========================
Xeon Platinum 8490H 2P . 189893.31 |===========================================
Xeon Platinum 8592+ .... 81279.79 |==================
Xeon Platinum 8592+ 2P . 128566.81 |=============================
Xeon Max 9468 .......... 135075.07 |===============================
Xeon Max 9468 2P ....... 174862.56 |========================================
Xeon Max 9480 .......... 140144.01 |================================
Xeon Max 9480 2P ....... 176900.32 |========================================
ONNX Runtime 1.17
Model: T5 Encoder - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 2.79694 |=======================
Xeon Platinum 8490H 2P . 3.46571 |=============================
Xeon Platinum 8592+ .... 2.16966 |==================
Xeon Platinum 8592+ 2P . 2.80263 |=======================
Xeon Max 9468 .......... 4.57581 |======================================
Xeon Max 9468 2P ....... 5.02267 |==========================================
Xeon Max 9480 .......... 4.64757 |=======================================
Xeon Max 9480 2P ....... 5.39123 |=============================================
ONNX Runtime 1.17
Model: T5 Encoder - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 357.36 |====================================
Xeon Platinum 8490H 2P . 288.47 |=============================
Xeon Platinum 8592+ .... 460.78 |==============================================
Xeon Platinum 8592+ 2P . 356.76 |====================================
Xeon Max 9468 .......... 219.53 |======================
Xeon Max 9468 2P ....... 199.08 |====================
Xeon Max 9480 .......... 215.13 |=====================
Xeon Max 9480 2P ....... 185.46 |===================
Timed CPython Compilation 3.10.6
Build Configuration: Released Build, PGO + LTO Optimized
Seconds < Lower Is Better
Xeon Platinum 8490H .... 277.39 |==============================================
Xeon Platinum 8490H 2P . 279.69 |==============================================
Xeon Platinum 8592+ .... 244.82 |========================================
Xeon Platinum 8592+ 2P . 244.95 |========================================
Xeon Max 9468 .......... 275.39 |=============================================
Xeon Max 9468 2P ....... 276.46 |=============================================
Xeon Max 9480 .......... 273.52 |=============================================
Xeon Max 9480 2P ....... 276.23 |=============================================
Appleseed 2.0 Beta
Scene: Emily
Seconds < Lower Is Better
Xeon Platinum 8490H .... 120.75 |========================================
Xeon Platinum 8490H 2P . 130.62 |============================================
Xeon Platinum 8592+ .... 119.80 |========================================
Xeon Platinum 8592+ 2P . 129.96 |===========================================
Xeon Max 9468 .......... 132.13 |============================================
Xeon Max 9468 2P ....... 137.46 |==============================================
Xeon Max 9480 .......... 128.60 |===========================================
Xeon Max 9480 2P ....... 137.00 |==============================================
ONNX Runtime 1.17
Model: fcn-resnet101-11 - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 329.04 |================================
Xeon Platinum 8490H 2P . 352.74 |==================================
Xeon Platinum 8592+ .... 302.27 |=============================
Xeon Platinum 8592+ 2P . 327.88 |================================
Xeon Max 9468 .......... 380.90 |=====================================
Xeon Max 9468 2P ....... 460.67 |=============================================
Xeon Max 9480 .......... 382.11 |=====================================
Xeon Max 9480 2P ....... 475.25 |==============================================
ONNX Runtime 1.17
Model: fcn-resnet101-11 - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 3.03922 |=========================================
Xeon Platinum 8490H 2P . 2.83498 |=======================================
Xeon Platinum 8592+ .... 3.30836 |=============================================
Xeon Platinum 8592+ 2P . 3.05085 |=========================================
Xeon Max 9468 .......... 2.62544 |====================================
Xeon Max 9468 2P ....... 2.17463 |==============================
Xeon Max 9480 .......... 2.61721 |====================================
Xeon Max 9480 2P ....... 2.10480 |=============================
OpenRadioss 2023.09.15
Model: Bumper Beam
Seconds < Lower Is Better
Xeon Platinum 8490H .... 79.54 |===========================================
Xeon Platinum 8490H 2P . 81.30 |============================================
Xeon Platinum 8592+ .... 78.71 |===========================================
Xeon Platinum 8592+ 2P . 86.11 |===============================================
Xeon Max 9468 .......... 83.44 |==============================================
Xeon Max 9468 2P ....... 78.27 |===========================================
Xeon Max 9480 .......... 81.72 |=============================================
Xeon Max 9480 2P ....... 80.32 |============================================
Aircrack-ng 1.7
k/s > Higher Is Better
Xeon Platinum 8490H .... 147469.33 |=========================================
Xeon Platinum 8490H 2P . 53914.93 |===============
Xeon Platinum 8592+ .... 153584.20 |===========================================
Xeon Platinum 8592+ 2P . 64181.29 |==================
Xeon Max 9468 .......... 117588.99 |=================================
Xeon Max 9468 2P ....... 83665.76 |=======================
Xeon Max 9480 .......... 134048.96 |======================================
Xeon Max 9480 2P ....... 65663.82 |==================
Helsing 1.0-beta
Digit Range: 14 digit
Seconds < Lower Is Better
Xeon Platinum 8490H .... 93.35 |===================================
Xeon Platinum 8490H 2P . 50.83 |===================
Xeon Platinum 8592+ .... 89.07 |=================================
Xeon Platinum 8592+ 2P . 48.09 |==================
Xeon Max 9468 .......... 123.83 |==============================================
Xeon Max 9468 2P ....... 65.03 |========================
Xeon Max 9480 .......... 107.24 |========================================
Xeon Max 9480 2P ....... 58.25 |======================
DaCapo Benchmark 23.11
Java Test: Tradebeans
msec < Lower Is Better
Xeon Platinum 8490H .... 7270 |===========================
Xeon Platinum 8490H 2P . 8050 |==============================
Xeon Platinum 8592+ .... 11004 |=========================================
Xeon Platinum 8592+ 2P . 12713 |===============================================
Xeon Max 9468 .......... 6130 |=======================
Xeon Max 9468 2P ....... 6681 |=========================
Xeon Max 9480 .......... 5994 |======================
Xeon Max 9480 2P ....... 6672 |=========================
TensorFlow 2.16.1
Device: CPU - Batch Size: 1 - Model: ResNet-50
images/sec > Higher Is Better
Xeon Platinum 8490H .... 10.53 |============================================
Xeon Platinum 8490H 2P . 4.39 |==================
Xeon Platinum 8592+ .... 6.43 |===========================
Xeon Platinum 8592+ 2P . 3.85 |================
Xeon Max 9468 .......... 11.29 |===============================================
Xeon Max 9468 2P ....... 5.11 |=====================
Xeon Max 9480 .......... 9.99 |==========================================
Xeon Max 9480 2P ....... 4.37 |==================
TensorFlow 2.16.1
Device: CPU - Batch Size: 64 - Model: ResNet-50
images/sec > Higher Is Better
Xeon Platinum 8490H .... 120.93 |==============================================
Xeon Platinum 8490H 2P . 115.47 |============================================
Xeon Platinum 8592+ .... 91.51 |===================================
Xeon Platinum 8592+ 2P . 94.66 |====================================
Xeon Max 9468 .......... 104.23 |========================================
Xeon Max 9468 2P ....... 111.71 |==========================================
Xeon Max 9480 .......... 103.56 |=======================================
Xeon Max 9480 2P ....... 107.30 |=========================================
Blender 4.1
Blend File: Pabellon Barcelona - Compute: CPU-Only
Seconds < Lower Is Better
Xeon Platinum 8490H .... 87.92 |======================================
Xeon Platinum 8490H 2P . 46.38 |====================
Xeon Platinum 8592+ .... 80.29 |===================================
Xeon Platinum 8592+ 2P . 41.85 |==================
Xeon Max 9468 .......... 106.96 |==============================================
Xeon Max 9468 2P ....... 55.26 |========================
Xeon Max 9480 .......... 97.80 |==========================================
Xeon Max 9480 2P ....... 51.29 |======================
libavif avifenc 1.0
Encoder Speed: 0
Seconds < Lower Is Better
Xeon Platinum 8490H .... 69.93 |===========================================
Xeon Platinum 8490H 2P . 67.38 |=========================================
Xeon Platinum 8592+ .... 64.48 |=======================================
Xeon Platinum 8592+ 2P . 60.53 |=====================================
Xeon Max 9468 .......... 76.92 |===============================================
Xeon Max 9468 2P ....... 69.65 |===========================================
Xeon Max 9480 .......... 73.06 |=============================================
Xeon Max 9480 2P ....... 68.44 |==========================================
OSPRay Studio 1.0
Camera: 3 - Resolution: 4K - Samples Per Pixel: 1 - Renderer: Path Tracer - Acceleration: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 1977 |========================================
Xeon Platinum 8490H 2P . 1063 |======================
Xeon Platinum 8592+ .... 1709 |===================================
Xeon Platinum 8592+ 2P . 898 |==================
Xeon Max 9468 .......... 2357 |================================================
Xeon Max 9468 2P ....... 1237 |=========================
Xeon Max 9480 .......... 2123 |===========================================
Xeon Max 9480 2P ....... 1143 |=======================
TensorFlow 2.16.1
Device: CPU - Batch Size: 256 - Model: GoogLeNet
images/sec > Higher Is Better
Xeon Platinum 8490H .... 448.46 |=======================================
Xeon Platinum 8490H 2P . 528.93 |==============================================
Xeon Platinum 8592+ .... 423.59 |=====================================
Xeon Platinum 8592+ 2P . 501.39 |============================================
Xeon Max 9468 .......... 375.73 |=================================
Xeon Max 9468 2P ....... 447.50 |=======================================
Xeon Max 9480 .......... 386.00 |==================================
Xeon Max 9480 2P ....... 449.91 |=======================================
GraphicsMagick 1.3.43
Operation: Rotate
Iterations Per Minute > Higher Is Better
Xeon Platinum 8490H .... 196 |===============================================
Xeon Platinum 8490H 2P . 172 |==========================================
Xeon Platinum 8592+ .... 203 |=================================================
Xeon Platinum 8592+ 2P . 182 |============================================
Xeon Max 9468 .......... 197 |================================================
Xeon Max 9468 2P ....... 148 |====================================
Xeon Max 9480 .......... 194 |===============================================
Xeon Max 9480 2P ....... 143 |===================================
OSPRay Studio 1.0
Camera: 1 - Resolution: 4K - Samples Per Pixel: 1 - Renderer: Path Tracer - Acceleration: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 1657 |========================================
Xeon Platinum 8490H 2P . 894 |======================
Xeon Platinum 8592+ .... 1441 |===================================
Xeon Platinum 8592+ 2P . 759 |==================
Xeon Max 9468 .......... 1988 |================================================
Xeon Max 9468 2P ....... 1049 |=========================
Xeon Max 9480 .......... 1792 |===========================================
Xeon Max 9480 2P ....... 961 |=======================
OpenVINO 2024.0
Model: Face Detection FP16-INT8 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 356.38 |==============================================
Xeon Platinum 8490H 2P . 283.11 |=====================================
Xeon Platinum 8592+ .... 224.64 |=============================
Xeon Platinum 8592+ 2P . 234.24 |==============================
Xeon Max 9468 .......... 236.52 |===============================
Xeon Max 9468 2P ....... 256.63 |=================================
Xeon Max 9480 .......... 257.50 |=================================
Xeon Max 9480 2P ....... 278.52 |====================================
OpenVINO 2024.0
Model: Face Detection FP16-INT8 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 167.83 |==============
Xeon Platinum 8490H 2P . 423.18 |====================================
Xeon Platinum 8592+ .... 284.64 |========================
Xeon Platinum 8592+ 2P . 545.21 |==============================================
Xeon Max 9468 .......... 202.59 |=================
Xeon Max 9468 2P ....... 373.50 |================================
Xeon Max 9480 .......... 217.11 |==================
Xeon Max 9480 2P ....... 401.45 |==================================
OSPRay Studio 1.0
Camera: 3 - Resolution: 4K - Samples Per Pixel: 32 - Renderer: Path Tracer - Acceleration: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 68006 |========================================
Xeon Platinum 8490H 2P . 38813 |=======================
Xeon Platinum 8592+ .... 59522 |===================================
Xeon Platinum 8592+ 2P . 33391 |===================
Xeon Max 9468 .......... 80742 |===============================================
Xeon Max 9468 2P ....... 45211 |==========================
Xeon Max 9480 .......... 73366 |===========================================
Xeon Max 9480 2P ....... 41971 |========================
miniBUDE 20210901
Implementation: OpenMP - Input Deck: BM2
Billion Interactions/s > Higher Is Better
Xeon Platinum 8490H .... 86.97 |=====================
Xeon Platinum 8490H 2P . 140.83 |==================================
Xeon Platinum 8592+ .... 108.12 |==========================
Xeon Platinum 8592+ 2P . 191.82 |==============================================
Xeon Max 9468 .......... 70.21 |=================
Xeon Max 9468 2P ....... 127.85 |===============================
Xeon Max 9480 .......... 78.11 |===================
Xeon Max 9480 2P ....... 133.99 |================================
miniBUDE 20210901
Implementation: OpenMP - Input Deck: BM2
GFInst/s > Higher Is Better
Xeon Platinum 8490H .... 2174.19 |====================
Xeon Platinum 8490H 2P . 3520.71 |=================================
Xeon Platinum 8592+ .... 2703.09 |=========================
Xeon Platinum 8592+ 2P . 4795.46 |=============================================
Xeon Max 9468 .......... 1755.33 |================
Xeon Max 9468 2P ....... 3196.12 |==============================
Xeon Max 9480 .......... 1952.61 |==================
Xeon Max 9480 2P ....... 3349.76 |===============================
OSPRay 3.1
Benchmark: gravity_spheres_volume/dim_512/pathtracer/real_time
Items Per Second > Higher Is Better
Xeon Platinum 8490H .... 24.64 |========================
Xeon Platinum 8490H 2P . 42.82 |=========================================
Xeon Platinum 8592+ .... 27.10 |==========================
Xeon Platinum 8592+ 2P . 48.76 |===============================================
Xeon Max 9468 .......... 19.91 |===================
Xeon Max 9468 2P ....... 35.93 |===================================
Xeon Max 9480 .......... 22.36 |======================
Xeon Max 9480 2P ....... 39.34 |======================================
OSPRay Studio 1.0
Camera: 1 - Resolution: 4K - Samples Per Pixel: 32 - Renderer: Path Tracer - Acceleration: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 58026 |========================================
Xeon Platinum 8490H 2P . 33411 |=======================
Xeon Platinum 8592+ .... 50798 |===================================
Xeon Platinum 8592+ 2P . 24249 |=================
Xeon Max 9468 .......... 68973 |===============================================
Xeon Max 9468 2P ....... 38926 |===========================
Xeon Max 9480 .......... 62540 |===========================================
Xeon Max 9480 2P ....... 36179 |=========================
OSPRay Studio 1.0
Camera: 1 - Resolution: 4K - Samples Per Pixel: 16 - Renderer: Path Tracer - Acceleration: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 31380 |========================================
Xeon Platinum 8490H 2P . 14138 |==================
Xeon Platinum 8592+ .... 23125 |=============================
Xeon Platinum 8592+ 2P . 12124 |===============
Xeon Max 9468 .......... 37055 |===============================================
Xeon Max 9468 2P ....... 16645 |=====================
Xeon Max 9480 .......... 33790 |===========================================
Xeon Max 9480 2P ....... 15357 |===================
OpenVINO 2024.0
Model: Weld Porosity Detection FP16-INT8 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 3.58 |================================================
Xeon Platinum 8490H 2P . 2.50 |==================================
Xeon Platinum 8592+ .... 2.36 |================================
Xeon Platinum 8592+ 2P . 2.48 |=================================
Xeon Max 9468 .......... 2.50 |==================================
Xeon Max 9468 2P ....... 2.53 |==================================
Xeon Max 9480 .......... 2.67 |====================================
Xeon Max 9480 2P ....... 2.79 |=====================================
OpenVINO 2024.0
Model: Weld Porosity Detection FP16-INT8 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 15943.17 |===============
Xeon Platinum 8490H 2P . 47654.95 |============================================
Xeon Platinum 8592+ .... 26943.42 |=========================
Xeon Platinum 8592+ 2P . 48122.16 |============================================
Xeon Max 9468 .......... 19183.83 |==================
Xeon Max 9468 2P ....... 37710.60 |==================================
Xeon Max 9480 .......... 20910.53 |===================
Xeon Max 9480 2P ....... 40032.81 |=====================================
OpenVINO 2024.0
Model: Noise Suppression Poconet-Like FP16 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 13.95 |===================================
Xeon Platinum 8490H 2P . 15.96 |========================================
Xeon Platinum 8592+ .... 9.40 |========================
Xeon Platinum 8592+ 2P . 13.15 |=================================
Xeon Max 9468 .......... 11.37 |=============================
Xeon Max 9468 2P ....... 17.15 |===========================================
Xeon Max 9480 .......... 12.72 |================================
Xeon Max 9480 2P ....... 18.72 |===============================================
OpenVINO 2024.0
Model: Noise Suppression Poconet-Like FP16 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 4209.10 |====================
Xeon Platinum 8490H 2P . 7356.63 |===================================
Xeon Platinum 8592+ .... 6757.26 |================================
Xeon Platinum 8592+ 2P . 9360.89 |=============================================
Xeon Max 9468 .......... 4208.49 |====================
Xeon Max 9468 2P ....... 5565.23 |===========================
Xeon Max 9480 .......... 4386.48 |=====================
Xeon Max 9480 2P ....... 5933.65 |=============================
OSPRay Studio 1.0
Camera: 3 - Resolution: 4K - Samples Per Pixel: 16 - Renderer: Path Tracer - Acceleration: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 36649 |========================================
Xeon Platinum 8490H 2P . 16837 |==================
Xeon Platinum 8592+ .... 31993 |===================================
Xeon Platinum 8592+ 2P . 14358 |================
Xeon Max 9468 .......... 42837 |===============================================
Xeon Max 9468 2P ....... 19701 |======================
Xeon Max 9480 .......... 39238 |===========================================
Xeon Max 9480 2P ....... 18111 |====================
ONNX Runtime 1.17
Model: CaffeNet 12-int8 - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 1.27368 |===========================
Xeon Platinum 8490H 2P . 1.76353 |======================================
Xeon Platinum 8592+ .... 1.20298 |==========================
Xeon Platinum 8592+ 2P . 1.64919 |====================================
Xeon Max 9468 .......... 1.45280 |===============================
Xeon Max 9468 2P ....... 2.02659 |============================================
Xeon Max 9480 .......... 1.47249 |================================
Xeon Max 9480 2P ....... 2.08780 |=============================================
ONNX Runtime 1.17
Model: CaffeNet 12-int8 - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 784.30 |===========================================
Xeon Platinum 8490H 2P . 566.38 |===============================
Xeon Platinum 8592+ .... 830.73 |==============================================
Xeon Platinum 8592+ 2P . 605.59 |==================================
Xeon Max 9468 .......... 687.67 |======================================
Xeon Max 9468 2P ....... 492.89 |===========================
Xeon Max 9480 .......... 678.48 |======================================
Xeon Max 9480 2P ....... 478.47 |==========================
OpenVINO 2024.0
Model: Person Vehicle Bike Detection FP16 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 16.50 |===============================================
Xeon Platinum 8490H 2P . 15.04 |===========================================
Xeon Platinum 8592+ .... 11.17 |================================
Xeon Platinum 8592+ 2P . 11.69 |=================================
Xeon Max 9468 .......... 12.54 |====================================
Xeon Max 9468 2P ....... 13.34 |======================================
Xeon Max 9480 .......... 13.59 |=======================================
Xeon Max 9480 2P ....... 14.42 |=========================================
OpenVINO 2024.0
Model: Person Vehicle Bike Detection FP16 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 3606.12 |===============
Xeon Platinum 8490H 2P . 7862.58 |================================
Xeon Platinum 8592+ .... 5725.03 |=======================
Xeon Platinum 8592+ 2P . 10934.17 |============================================
Xeon Max 9468 .......... 3802.61 |===============
Xeon Max 9468 2P ....... 7127.28 |=============================
Xeon Max 9480 .......... 4093.73 |================
Xeon Max 9480 2P ....... 7689.32 |===============================
OpenVINO 2024.0
Model: Person Re-Identification Retail FP16 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 9.79 |================================================
Xeon Platinum 8490H 2P . 7.72 |======================================
Xeon Platinum 8592+ .... 6.72 |=================================
Xeon Platinum 8592+ 2P . 6.95 |==================================
Xeon Max 9468 .......... 7.13 |===================================
Xeon Max 9468 2P ....... 7.32 |====================================
Xeon Max 9480 .......... 7.76 |======================================
Xeon Max 9480 2P ....... 7.97 |=======================================
OpenVINO 2024.0
Model: Person Re-Identification Retail FP16 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 5943.66 |==============
Xeon Platinum 8490H 2P . 15519.92 |=====================================
Xeon Platinum 8592+ .... 9515.86 |=======================
Xeon Platinum 8592+ 2P . 18375.63 |============================================
Xeon Max 9468 .......... 6717.65 |================
Xeon Max 9468 2P ....... 13102.28 |===============================
Xeon Max 9480 .......... 7207.74 |=================
Xeon Max 9480 2P ....... 14033.94 |==================================
OpenVINO 2024.0
Model: Road Segmentation ADAS FP16-INT8 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 55.99 |========================================
Xeon Platinum 8490H 2P . 65.02 |===============================================
Xeon Platinum 8592+ .... 55.07 |========================================
Xeon Platinum 8592+ 2P . 57.13 |=========================================
Xeon Max 9468 .......... 55.74 |========================================
Xeon Max 9468 2P ....... 56.71 |=========================================
Xeon Max 9480 .......... 62.53 |=============================================
Xeon Max 9480 2P ....... 62.11 |=============================================
OpenVINO 2024.0
Model: Road Segmentation ADAS FP16-INT8 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 1068.43 |=====================
Xeon Platinum 8490H 2P . 1843.61 |=====================================
Xeon Platinum 8592+ .... 1159.66 |=======================
Xeon Platinum 8592+ 2P . 2237.69 |=============================================
Xeon Max 9468 .......... 860.64 |=================
Xeon Max 9468 2P ....... 1691.79 |==================================
Xeon Max 9480 .......... 894.87 |==================
Xeon Max 9480 2P ....... 1801.89 |====================================
QuantLib 1.32
Configuration: Multi-Threaded
MFLOPS > Higher Is Better
Xeon Platinum 8490H .... 179647.5 |=====================
Xeon Platinum 8490H 2P . 350187.5 |========================================
Xeon Platinum 8592+ .... 195648.8 |=======================
Xeon Platinum 8592+ 2P . 380867.5 |============================================
Xeon Max 9468 .......... 143755.3 |=================
Xeon Max 9468 2P ....... 288129.1 |=================================
Xeon Max 9480 .......... 162727.4 |===================
Xeon Max 9480 2P ....... 316359.2 |=====================================
ONNX Runtime 1.17
Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Standard
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 29.41 |======================================
Xeon Platinum 8490H 2P . 29.75 |=======================================
Xeon Platinum 8592+ .... 29.02 |======================================
Xeon Platinum 8592+ 2P . 28.85 |=====================================
Xeon Max 9468 .......... 33.33 |===========================================
Xeon Max 9468 2P ....... 36.23 |===============================================
Xeon Max 9480 .......... 33.99 |============================================
Xeon Max 9480 2P ....... 36.00 |===============================================
ONNX Runtime 1.17
Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Standard
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 34.00 |==============================================
Xeon Platinum 8490H 2P . 33.61 |==============================================
Xeon Platinum 8592+ .... 34.46 |===============================================
Xeon Platinum 8592+ 2P . 34.66 |===============================================
Xeon Max 9468 .......... 30.00 |=========================================
Xeon Max 9468 2P ....... 27.61 |=====================================
Xeon Max 9480 .......... 29.43 |========================================
Xeon Max 9480 2P ....... 27.78 |======================================
ONNX Runtime 1.17
Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 30.92 |====================================
Xeon Platinum 8490H 2P . 33.29 |=======================================
Xeon Platinum 8592+ .... 29.96 |===================================
Xeon Platinum 8592+ 2P . 31.53 |=====================================
Xeon Max 9468 .......... 35.07 |=========================================
Xeon Max 9468 2P ....... 40.45 |===============================================
Xeon Max 9480 .......... 35.11 |=========================================
Xeon Max 9480 2P ....... 40.52 |===============================================
ONNX Runtime 1.17
Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 32.34 |==============================================
Xeon Platinum 8490H 2P . 30.04 |==========================================
Xeon Platinum 8592+ .... 33.38 |===============================================
Xeon Platinum 8592+ 2P . 31.71 |=============================================
Xeon Max 9468 .......... 28.52 |========================================
Xeon Max 9468 2P ....... 24.73 |===================================
Xeon Max 9480 .......... 28.48 |========================================
Xeon Max 9480 2P ....... 24.68 |===================================
JPEG-XL libjxl 0.10.1
Input: JPEG - Quality: 90
MP/s > Higher Is Better
Xeon Platinum 8490H .... 43.20 |==========================================
Xeon Platinum 8490H 2P . 42.04 |=========================================
Xeon Platinum 8592+ .... 48.36 |===============================================
Xeon Platinum 8592+ 2P . 42.97 |==========================================
Xeon Max 9468 .......... 39.10 |======================================
Xeon Max 9468 2P ....... 39.59 |======================================
Xeon Max 9480 .......... 43.63 |==========================================
Xeon Max 9480 2P ....... 34.63 |==================================
OpenVINO 2024.0
Model: Person Detection FP16 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 100.39 |==============================================
Xeon Platinum 8490H 2P . 45.78 |=====================
Xeon Platinum 8592+ .... 39.62 |==================
Xeon Platinum 8592+ 2P . 43.41 |====================
Xeon Max 9468 .......... 41.93 |===================
Xeon Max 9468 2P ....... 42.16 |===================
Xeon Max 9480 .......... 59.69 |===========================
Xeon Max 9480 2P ....... 64.91 |==============================
OpenVINO 2024.0
Model: Person Detection FP16 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 298.56 |===================
Xeon Platinum 8490H 2P . 654.84 |=========================================
Xeon Platinum 8592+ .... 403.20 |=========================
Xeon Platinum 8592+ 2P . 736.23 |==============================================
Xeon Max 9468 .......... 285.95 |==================
Xeon Max 9468 2P ....... 568.81 |====================================
Xeon Max 9480 .......... 301.30 |===================
Xeon Max 9480 2P ....... 569.60 |====================================
ONNX Runtime 1.17
Model: GPT-2 - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 5.21520 |================================
Xeon Platinum 8490H 2P . 6.90619 |==========================================
Xeon Platinum 8592+ .... 4.01687 |=========================
Xeon Platinum 8592+ 2P . 5.10948 |===============================
Xeon Max 9468 .......... 5.22781 |================================
Xeon Max 9468 2P ....... 7.34848 |=============================================
Xeon Max 9480 .......... 5.29027 |================================
Xeon Max 9480 2P ....... 7.30822 |=============================================
ONNX Runtime 1.17
Model: GPT-2 - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 191.56 |===================================
Xeon Platinum 8490H 2P . 144.64 |===========================
Xeon Platinum 8592+ .... 248.68 |==============================================
Xeon Platinum 8592+ 2P . 195.45 |====================================
Xeon Max 9468 .......... 191.11 |===================================
Xeon Max 9468 2P ....... 135.98 |=========================
Xeon Max 9480 .......... 188.93 |===================================
Xeon Max 9480 2P ....... 136.69 |=========================
OpenVINO 2024.0
Model: Machine Translation EN To DE FP16 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 62.46 |===============================================
Xeon Platinum 8490H 2P . 37.58 |============================
Xeon Platinum 8592+ .... 26.85 |====================
Xeon Platinum 8592+ 2P . 28.17 |=====================
Xeon Max 9468 .......... 28.73 |======================
Xeon Max 9468 2P ....... 29.98 |=======================
Xeon Max 9480 .......... 38.50 |=============================
Xeon Max 9480 2P ....... 41.57 |===============================
OpenVINO 2024.0
Model: Machine Translation EN To DE FP16 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 477.77 |===================
Xeon Platinum 8490H 2P . 793.64 |================================
Xeon Platinum 8592+ .... 592.20 |========================
Xeon Platinum 8592+ 2P . 1128.78 |=============================================
Xeon Max 9468 .......... 415.96 |=================
Xeon Max 9468 2P ....... 795.63 |================================
Xeon Max 9480 .......... 467.08 |===================
Xeon Max 9480 2P ....... 889.18 |===================================
Node.js V8 Web Tooling Benchmark
runs/s > Higher Is Better
Xeon Platinum 8490H .... 15.76 |===========================================
Xeon Platinum 8490H 2P . 15.49 |==========================================
Xeon Platinum 8592+ .... 17.42 |===============================================
Xeon Platinum 8592+ 2P . 17.02 |==============================================
Xeon Max 9468 .......... 15.59 |==========================================
Xeon Max 9468 2P ....... 14.99 |========================================
Xeon Max 9480 .......... 15.62 |==========================================
Xeon Max 9480 2P ....... 14.51 |=======================================
OpenVINO 2024.0
Model: Vehicle Detection FP16-INT8 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 17.84 |=======================================
Xeon Platinum 8490H 2P . 21.73 |===============================================
Xeon Platinum 8592+ .... 13.73 |==============================
Xeon Platinum 8592+ 2P . 14.67 |================================
Xeon Max 9468 .......... 16.33 |===================================
Xeon Max 9468 2P ....... 17.19 |=====================================
Xeon Max 9480 .......... 19.44 |==========================================
Xeon Max 9480 2P ....... 20.24 |============================================
OpenVINO 2024.0
Model: Vehicle Detection FP16-INT8 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 3325.90 |=================
Xeon Platinum 8490H 2P . 5483.81 |============================
Xeon Platinum 8592+ .... 4656.92 |========================
Xeon Platinum 8592+ 2P . 8719.37 |=============================================
Xeon Max 9468 .......... 2935.47 |===============
Xeon Max 9468 2P ....... 5576.86 |=============================
Xeon Max 9480 .......... 2877.32 |===============
Xeon Max 9480 2P ....... 5525.56 |=============================
ONNX Runtime 1.17
Model: yolov4 - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 55.12 |=================================
Xeon Platinum 8490H 2P . 78.40 |==============================================
Xeon Platinum 8592+ .... 47.90 |============================
Xeon Platinum 8592+ 2P . 70.44 |==========================================
Xeon Max 9468 .......... 61.83 |=====================================
Xeon Max 9468 2P ....... 76.42 |=============================================
Xeon Max 9480 .......... 61.01 |====================================
Xeon Max 9480 2P ....... 79.38 |===============================================
ONNX Runtime 1.17
Model: yolov4 - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 18.14 |=========================================
Xeon Platinum 8490H 2P . 12.75 |=============================
Xeon Platinum 8592+ .... 20.88 |===============================================
Xeon Platinum 8592+ 2P . 14.20 |================================
Xeon Max 9468 .......... 16.17 |====================================
Xeon Max 9468 2P ....... 13.09 |=============================
Xeon Max 9480 .......... 16.39 |=====================================
Xeon Max 9480 2P ....... 12.60 |============================
ONNX Runtime 1.17
Model: bertsquad-12 - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 62.13 |=======================================
Xeon Platinum 8490H 2P . 68.83 |============================================
Xeon Platinum 8592+ .... 50.83 |================================
Xeon Platinum 8592+ 2P . 64.79 |=========================================
Xeon Max 9468 .......... 61.25 |=======================================
Xeon Max 9468 2P ....... 72.80 |==============================================
Xeon Max 9480 .......... 63.54 |========================================
Xeon Max 9480 2P ....... 73.97 |===============================================
ONNX Runtime 1.17
Model: bertsquad-12 - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 16.10 |======================================
Xeon Platinum 8490H 2P . 14.53 |===================================
Xeon Platinum 8592+ .... 19.68 |===============================================
Xeon Platinum 8592+ 2P . 15.43 |=====================================
Xeon Max 9468 .......... 16.33 |=======================================
Xeon Max 9468 2P ....... 13.74 |=================================
Xeon Max 9480 .......... 15.74 |======================================
Xeon Max 9480 2P ....... 13.52 |================================
OpenVINO 2024.0
Model: Face Detection Retail FP16-INT8 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 6.43 |================================================
Xeon Platinum 8490H 2P . 5.72 |===========================================
Xeon Platinum 8592+ .... 5.19 |=======================================
Xeon Platinum 8592+ 2P . 5.18 |=======================================
Xeon Max 9468 .......... 5.27 |=======================================
Xeon Max 9468 2P ....... 5.55 |=========================================
Xeon Max 9480 .......... 5.77 |===========================================
Xeon Max 9480 2P ....... 6.02 |=============================================
OpenVINO 2024.0
Model: Face Detection Retail FP16-INT8 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 9004.23 |================
Xeon Platinum 8490H 2P . 20937.58 |=====================================
Xeon Platinum 8592+ .... 12317.94 |======================
Xeon Platinum 8592+ 2P . 24676.86 |============================================
Xeon Max 9468 .......... 9087.12 |================
Xeon Max 9468 2P ....... 17252.27 |===============================
Xeon Max 9480 .......... 9686.39 |=================
Xeon Max 9480 2P ....... 18561.91 |=================================
ONNX Runtime 1.17
Model: ArcFace ResNet-100 - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 21.34 |=============================
Xeon Platinum 8490H 2P . 34.31 |===============================================
Xeon Platinum 8592+ .... 16.55 |=======================
Xeon Platinum 8592+ 2P . 31.79 |============================================
Xeon Max 9468 .......... 24.55 |==================================
Xeon Max 9468 2P ....... 30.47 |==========================================
Xeon Max 9480 .......... 23.66 |================================
Xeon Max 9480 2P ....... 34.25 |===============================================
ONNX Runtime 1.17
Model: ArcFace ResNet-100 - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 46.85 |====================================
Xeon Platinum 8490H 2P . 29.15 |=======================
Xeon Platinum 8592+ .... 60.41 |===============================================
Xeon Platinum 8592+ 2P . 31.46 |========================
Xeon Max 9468 .......... 40.73 |================================
Xeon Max 9468 2P ....... 32.81 |==========================
Xeon Max 9480 .......... 42.27 |=================================
Xeon Max 9480 2P ....... 29.20 |=======================
OpenVINO 2024.0
Model: Handwritten English Recognition FP16-INT8 - Device: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 36.20 |===============================================
Xeon Platinum 8490H 2P . 25.12 |=================================
Xeon Platinum 8592+ .... 21.87 |============================
Xeon Platinum 8592+ 2P . 22.96 |==============================
Xeon Max 9468 .......... 23.12 |==============================
Xeon Max 9468 2P ....... 24.00 |===============================
Xeon Max 9480 .......... 24.94 |================================
Xeon Max 9480 2P ....... 25.72 |=================================
OpenVINO 2024.0
Model: Handwritten English Recognition FP16-INT8 - Device: CPU
FPS > Higher Is Better
Xeon Platinum 8490H .... 1643.43 |=============
Xeon Platinum 8490H 2P . 4744.05 |======================================
Xeon Platinum 8592+ .... 2924.66 |========================
Xeon Platinum 8592+ 2P . 5570.63 |=============================================
Xeon Max 9468 .......... 2074.30 |=================
Xeon Max 9468 2P ....... 3998.02 |================================
Xeon Max 9480 .......... 2243.84 |==================
Xeon Max 9480 2P ....... 4351.59 |===================================
GraphicsMagick 1.3.43
Operation: Sharpen
Iterations Per Minute > Higher Is Better
Xeon Platinum 8490H .... 157 |===========================
Xeon Platinum 8490H 2P . 265 |==============================================
Xeon Platinum 8592+ .... 167 |=============================
Xeon Platinum 8592+ 2P . 284 |=================================================
Xeon Max 9468 .......... 114 |====================
Xeon Max 9468 2P ....... 199 |==================================
Xeon Max 9480 .......... 130 |======================
Xeon Max 9480 2P ....... 227 |=======================================
GraphicsMagick 1.3.43
Operation: Noise-Gaussian
Iterations Per Minute > Higher Is Better
Xeon Platinum 8490H .... 158 |========================================
Xeon Platinum 8490H 2P . 182 |==============================================
Xeon Platinum 8592+ .... 171 |===========================================
Xeon Platinum 8592+ 2P . 194 |=================================================
Xeon Max 9468 .......... 150 |======================================
Xeon Max 9468 2P ....... 150 |======================================
Xeon Max 9480 .......... 158 |========================================
Xeon Max 9480 2P ....... 164 |=========================================
GraphicsMagick 1.3.43
Operation: Resizing
Iterations Per Minute > Higher Is Better
Xeon Platinum 8490H .... 229 |==============================================
Xeon Platinum 8490H 2P . 95 |===================
Xeon Platinum 8592+ .... 230 |==============================================
Xeon Platinum 8592+ 2P . 96 |===================
Xeon Max 9468 .......... 245 |=================================================
Xeon Max 9468 2P ....... 108 |======================
Xeon Max 9480 .......... 213 |===========================================
Xeon Max 9480 2P ....... 97 |===================
ONNX Runtime 1.17
Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 3.19298 |======================
Xeon Platinum 8490H 2P . 6.39031 |============================================
Xeon Platinum 8592+ .... 3.23780 |======================
Xeon Platinum 8592+ 2P . 6.49693 |=============================================
Xeon Max 9468 .......... 3.13366 |======================
Xeon Max 9468 2P ....... 6.00525 |=========================================
Xeon Max 9480 .......... 3.32030 |=======================
Xeon Max 9480 2P ....... 6.51744 |=============================================
ONNX Runtime 1.17
Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 313.10 |=============================================
Xeon Platinum 8490H 2P . 156.46 |=======================
Xeon Platinum 8592+ .... 308.80 |=============================================
Xeon Platinum 8592+ 2P . 153.92 |======================
Xeon Max 9468 .......... 319.04 |==============================================
Xeon Max 9468 2P ....... 166.49 |========================
Xeon Max 9480 .......... 301.14 |===========================================
Xeon Max 9480 2P ....... 153.41 |======================
GraphicsMagick 1.3.43
Operation: HWB Color Space
Iterations Per Minute > Higher Is Better
Xeon Platinum 8490H .... 265 |=============================================
Xeon Platinum 8490H 2P . 236 |========================================
Xeon Platinum 8592+ .... 285 |=================================================
Xeon Platinum 8592+ 2P . 256 |============================================
Xeon Max 9468 .......... 286 |=================================================
Xeon Max 9468 2P ....... 193 |=================================
Xeon Max 9480 .......... 277 |===============================================
Xeon Max 9480 2P ....... 207 |===================================
GraphicsMagick 1.3.43
Operation: Enhanced
Iterations Per Minute > Higher Is Better
Xeon Platinum 8490H .... 216 |============================
Xeon Platinum 8490H 2P . 342 |=============================================
Xeon Platinum 8592+ .... 228 |==============================
Xeon Platinum 8592+ 2P . 374 |=================================================
Xeon Max 9468 .......... 160 |=====================
Xeon Max 9468 2P ....... 269 |===================================
Xeon Max 9480 .......... 181 |========================
Xeon Max 9480 2P ....... 301 |=======================================
ONNX Runtime 1.17
Model: super-resolution-10 - Device: CPU - Executor: Parallel
Inference Time Cost (ms) < Lower Is Better
Xeon Platinum 8490H .... 4.86604 |=====================================
Xeon Platinum 8490H 2P . 5.29287 |========================================
Xeon Platinum 8592+ .... 4.26352 |=================================
Xeon Platinum 8592+ 2P . 4.65431 |====================================
Xeon Max 9468 .......... 5.10914 |=======================================
Xeon Max 9468 2P ....... 5.74921 |============================================
Xeon Max 9480 .......... 5.26075 |========================================
Xeon Max 9480 2P ....... 5.88628 |=============================================
ONNX Runtime 1.17
Model: super-resolution-10 - Device: CPU - Executor: Parallel
Inferences Per Second > Higher Is Better
Xeon Platinum 8490H .... 205.53 |========================================
Xeon Platinum 8490H 2P . 188.89 |=====================================
Xeon Platinum 8592+ .... 234.54 |==============================================
Xeon Platinum 8592+ 2P . 214.81 |==========================================
Xeon Max 9468 .......... 195.71 |======================================
Xeon Max 9468 2P ....... 173.91 |==================================
Xeon Max 9480 .......... 190.06 |=====================================
Xeon Max 9480 2P ....... 169.85 |=================================
GraphicsMagick 1.3.43
Operation: Swirl
Iterations Per Minute > Higher Is Better
Xeon Platinum 8490H .... 502 |====================================
Xeon Platinum 8490H 2P . 617 |============================================
Xeon Platinum 8592+ .... 529 |======================================
Xeon Platinum 8592+ 2P . 689 |=================================================
Xeon Max 9468 .......... 394 |============================
Xeon Max 9468 2P ....... 509 |====================================
Xeon Max 9480 .......... 432 |===============================
Xeon Max 9480 2P ....... 558 |========================================
RocksDB 9.0
Test: Random Read
Op/s > Higher Is Better
Xeon Platinum 8490H .... 265366170 |====================
Xeon Platinum 8490H 2P . 525049998 |=======================================
Xeon Platinum 8592+ .... 297517946 |======================
Xeon Platinum 8592+ 2P . 578392800 |===========================================
Xeon Max 9468 .......... 205346154 |===============
Xeon Max 9468 2P ....... 405533173 |==============================
Xeon Max 9480 .......... 234469939 |=================
Xeon Max 9480 2P ....... 473755946 |===================================
Blender 4.1
Blend File: Classroom - Compute: CPU-Only
Seconds < Lower Is Better
Xeon Platinum 8490H .... 68.61 |=====================================
Xeon Platinum 8490H 2P . 35.91 |===================
Xeon Platinum 8592+ .... 63.61 |==================================
Xeon Platinum 8592+ 2P . 33.61 |==================
Xeon Max 9468 .......... 86.67 |===============================================
Xeon Max 9468 2P ....... 44.71 |========================
Xeon Max 9480 .......... 76.87 |==========================================
Xeon Max 9480 2P ....... 40.38 |======================
PyTorch 2.2.1
Device: CPU - Batch Size: 256 - Model: ResNet-50
batches/sec > Higher Is Better
Xeon Platinum 8490H .... 54.84 |=========================================
Xeon Platinum 8490H 2P . 37.44 |============================
Xeon Platinum 8592+ .... 63.60 |===============================================
Xeon Platinum 8592+ 2P . 41.45 |===============================
Xeon Max 9468 .......... 52.97 |=======================================
Xeon Max 9468 2P ....... 41.68 |===============================
Xeon Max 9480 .......... 51.56 |======================================
Xeon Max 9480 2P ....... 37.91 |============================
PyTorch 2.2.1
Device: CPU - Batch Size: 64 - Model: ResNet-50
batches/sec > Higher Is Better
Xeon Platinum 8490H .... 56.01 |==========================================
Xeon Platinum 8490H 2P . 37.08 |============================
Xeon Platinum 8592+ .... 63.06 |===============================================
Xeon Platinum 8592+ 2P . 40.77 |==============================
Xeon Max 9468 .......... 51.55 |======================================
Xeon Max 9468 2P ....... 42.35 |================================
Xeon Max 9480 .......... 51.35 |======================================
Xeon Max 9480 2P ....... 38.30 |=============================
CloverLeaf 1.3
Input: clover_bm64_short
Seconds < Lower Is Better
Xeon Platinum 8490H .... 39.48 |============================================
Xeon Platinum 8490H 2P . 26.58 |==============================
Xeon Platinum 8592+ .... 39.38 |============================================
Xeon Platinum 8592+ 2P . 31.90 |====================================
Xeon Max 9468 .......... 41.43 |==============================================
Xeon Max 9468 2P ....... 32.25 |====================================
Xeon Max 9480 .......... 42.22 |===============================================
Xeon Max 9480 2P ....... 32.44 |====================================
Llamafile 0.7
Test: llava-v1.5-7b-q4 - Acceleration: CPU
Tokens Per Second > Higher Is Better
Xeon Platinum 8490H .... 20.95 |===============================================
Xeon Platinum 8490H 2P . 10.44 |=======================
Xeon Platinum 8592+ .... 16.61 |=====================================
Xeon Platinum 8592+ 2P . 7.49 |=================
Xeon Max 9468 .......... 7.67 |=================
Xeon Max 9468 2P ....... 7.77 |=================
Xeon Max 9480 .......... 8.13 |==================
Xeon Max 9480 2P ....... 7.26 |================
srsRAN Project 23.10.1-20240325
Test: PDSCH Processor Benchmark, Throughput Total
Mbps > Higher Is Better
Xeon Platinum 8490H .... 24688.5 |====================================
Xeon Platinum 8490H 2P . 30108.7 |============================================
Xeon Platinum 8592+ .... 26378.1 |=======================================
Xeon Platinum 8592+ 2P . 30547.6 |=============================================
Xeon Max 9468 .......... 21286.6 |===============================
Xeon Max 9468 2P ....... 30236.0 |=============================================
Xeon Max 9480 .......... 15081.0 |======================
Xeon Max 9480 2P ....... 11866.7 |=================
RawTherapee
Total Benchmark Time
Seconds < Lower Is Better
Xeon Platinum 8490H .... 46.76 |=======================================
Xeon Platinum 8490H 2P . 53.76 |=============================================
Xeon Platinum 8592+ .... 42.78 |===================================
Xeon Platinum 8592+ 2P . 52.69 |============================================
Xeon Max 9468 .......... 46.96 |=======================================
Xeon Max 9468 2P ....... 55.44 |==============================================
Xeon Max 9480 .......... 47.09 |=======================================
Xeon Max 9480 2P ....... 56.78 |===============================================
GPAW 23.6
Input: Carbon Nanotube
Seconds < Lower Is Better
Xeon Platinum 8490H .... 47.78 |=========================================
Xeon Platinum 8490H 2P . 41.56 |====================================
Xeon Platinum 8592+ .... 43.05 |=====================================
Xeon Platinum 8592+ 2P . 38.05 |=================================
Xeon Max 9468 .......... 54.38 |===============================================
Xeon Max 9468 2P ....... 42.87 |=====================================
Xeon Max 9480 .......... 48.49 |==========================================
Xeon Max 9480 2P ....... 43.91 |======================================
VVenC 1.11
Video Input: Bosphorus 4K - Video Preset: Faster
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 15.06 |============================================
Xeon Platinum 8490H 2P . 12.54 |=====================================
Xeon Platinum 8592+ .... 15.97 |===============================================
Xeon Platinum 8592+ 2P . 13.26 |=======================================
Xeon Max 9468 .......... 14.10 |=========================================
Xeon Max 9468 2P ....... 11.90 |===================================
Xeon Max 9480 .......... 14.36 |==========================================
Xeon Max 9480 2P ....... 11.97 |===================================
Coremark 1.0
CoreMark Size 666 - Iterations Per Second
Iterations/Sec > Higher Is Better
Xeon Platinum 8490H .... 2194630.60 |===================
Xeon Platinum 8490H 2P . 3902076.24 |=================================
Xeon Platinum 8592+ .... 2369998.36 |====================
Xeon Platinum 8592+ 2P . 4966250.78 |==========================================
Xeon Max 9468 .......... 1614763.70 |==============
Xeon Max 9468 2P ....... 2993136.60 |=========================
Xeon Max 9480 .......... 1855135.33 |================
Xeon Max 9480 2P ....... 3279262.53 |============================
miniFE 2.2
Problem Size: Small
CG Mflops > Higher Is Better
Xeon Platinum 8490H .... 35230.1 |==================================
Xeon Platinum 8490H 2P . 46877.5 |=============================================
Xeon Platinum 8592+ .... 31830.2 |===============================
Xeon Platinum 8592+ 2P . 42114.6 |========================================
Xeon Max 9468 .......... 20091.1 |===================
Xeon Max 9468 2P ....... 19876.5 |===================
Xeon Max 9480 .......... 18621.2 |==================
Xeon Max 9480 2P ....... 21583.2 |=====================
Timed PHP Compilation 8.3.4
Time To Compile
Seconds < Lower Is Better
Xeon Platinum 8490H .... 48.01 |==============================================
Xeon Platinum 8490H 2P . 46.64 |=============================================
Xeon Platinum 8592+ .... 41.85 |========================================
Xeon Platinum 8592+ 2P . 40.38 |=======================================
Xeon Max 9468 .......... 48.71 |===============================================
Xeon Max 9468 2P ....... 46.87 |=============================================
Xeon Max 9480 .......... 47.95 |==============================================
Xeon Max 9480 2P ....... 46.57 |=============================================
John The Ripper 2023.03.14
Test: WPA PSK
Real C/S > Higher Is Better
Xeon Platinum 8490H .... 401278 |=======================
Xeon Platinum 8490H 2P . 793253 |==============================================
Xeon Platinum 8592+ .... 428116 |=========================
Xeon Platinum 8592+ 2P . 797093 |==============================================
Xeon Max 9468 .......... 286552 |=================
Xeon Max 9468 2P ....... 562875 |================================
Xeon Max 9480 .......... 334076 |===================
Xeon Max 9480 2P ....... 657889 |======================================
7-Zip Compression 22.01
Test: Decompression Rating
MIPS > Higher Is Better
Xeon Platinum 8490H .... 287862 |=======================
Xeon Platinum 8490H 2P . 557054 |=============================================
Xeon Platinum 8592+ .... 338146 |===========================
Xeon Platinum 8592+ 2P . 573410 |==============================================
Xeon Max 9468 .......... 207738 |=================
Xeon Max 9468 2P ....... 401707 |================================
Xeon Max 9480 .......... 243347 |====================
Xeon Max 9480 2P ....... 469131 |======================================
7-Zip Compression 22.01
Test: Compression Rating
MIPS > Higher Is Better
Xeon Platinum 8490H .... 388190 |==========================
Xeon Platinum 8490H 2P . 592729 |========================================
Xeon Platinum 8592+ .... 441636 |==============================
Xeon Platinum 8592+ 2P . 674239 |==============================================
Xeon Max 9468 .......... 314716 |=====================
Xeon Max 9468 2P ....... 491729 |==================================
Xeon Max 9480 .......... 342363 |=======================
Xeon Max 9480 2P ....... 525514 |====================================
LuxCoreRender 2.6
Scene: Rainbow Colors and Prism - Acceleration: CPU
M samples/sec > Higher Is Better
Xeon Platinum 8490H .... 13.54 |=============================================
Xeon Platinum 8490H 2P . 5.96 |====================
Xeon Platinum 8592+ .... 14.28 |===============================================
Xeon Platinum 8592+ 2P . 7.22 |========================
Xeon Max 9468 .......... 12.80 |==========================================
Xeon Max 9468 2P ....... 9.64 |================================
Xeon Max 9480 .......... 12.97 |===========================================
Xeon Max 9480 2P ....... 6.51 |=====================
Liquid-DSP 1.6
Threads: 1 - Buffer Length: 256 - Filter Length: 512
samples/s > Higher Is Better
Xeon Platinum 8490H .... 16882333 |========================================
Xeon Platinum 8490H 2P . 16843333 |=======================================
Xeon Platinum 8592+ .... 18774333 |============================================
Xeon Platinum 8592+ 2P . 18200533 |===========================================
Xeon Max 9468 .......... 16906333 |========================================
Xeon Max 9468 2P ....... 16904667 |========================================
Xeon Max 9480 .......... 16885333 |========================================
Xeon Max 9480 2P ....... 16884000 |========================================
Timed Linux Kernel Compilation 6.8
Build: defconfig
Seconds < Lower Is Better
Xeon Platinum 8490H .... 39.45 |===========================================
Xeon Platinum 8490H 2P . 29.98 |================================
Xeon Platinum 8592+ .... 34.59 |=====================================
Xeon Platinum 8592+ 2P . 25.87 |============================
Xeon Max 9468 .......... 43.42 |===============================================
Xeon Max 9468 2P ....... 32.14 |===================================
Xeon Max 9480 .......... 40.50 |============================================
Xeon Max 9480 2P ....... 30.53 |=================================
WebP Image Encode 1.2.4
Encode Settings: Quality 100, Lossless, Highest Compression
MP/s > Higher Is Better
Xeon Platinum 8490H .... 0.52 |==========================================
Xeon Platinum 8490H 2P . 0.51 |=========================================
Xeon Platinum 8592+ .... 0.60 |================================================
Xeon Platinum 8592+ 2P . 0.59 |===============================================
Xeon Max 9468 .......... 0.55 |============================================
Xeon Max 9468 2P ....... 0.54 |===========================================
Xeon Max 9480 .......... 0.55 |============================================
Xeon Max 9480 2P ....... 0.54 |===========================================
TensorFlow 2.16.1
Device: CPU - Batch Size: 512 - Model: AlexNet
images/sec > Higher Is Better
Xeon Platinum 8490H .... 1278.45 |============================
Xeon Platinum 8490H 2P . 1899.64 |==========================================
Xeon Platinum 8592+ .... 1486.12 |=================================
Xeon Platinum 8592+ 2P . 2039.63 |=============================================
Xeon Max 9468 .......... 1047.96 |=======================
Xeon Max 9468 2P ....... 1604.11 |===================================
Xeon Max 9480 .......... 1108.95 |========================
Xeon Max 9480 2P ....... 1677.62 |=====================================
JPEG-XL libjxl 0.10.1
Input: PNG - Quality: 90
MP/s > Higher Is Better
Xeon Platinum 8490H .... 42.91 |============================================
Xeon Platinum 8490H 2P . 40.08 |=========================================
Xeon Platinum 8592+ .... 46.32 |===============================================
Xeon Platinum 8592+ 2P . 39.52 |========================================
Xeon Max 9468 .......... 43.36 |============================================
Xeon Max 9468 2P ....... 34.83 |===================================
Xeon Max 9480 .......... 40.35 |=========================================
Xeon Max 9480 2P ....... 33.27 |==================================
Primesieve 12.1
Length: 1e13
Seconds < Lower Is Better
Xeon Platinum 8490H .... 51.82 |====================================
Xeon Platinum 8490H 2P . 27.11 |===================
Xeon Platinum 8592+ .... 48.41 |==================================
Xeon Platinum 8592+ 2P . 25.02 |=================
Xeon Max 9468 .......... 67.32 |===============================================
Xeon Max 9468 2P ....... 33.92 |========================
Xeon Max 9480 .......... 58.16 |=========================================
Xeon Max 9480 2P ....... 30.20 |=====================
Graph500 3.0
Scale: 26
sssp median_TEPS > Higher Is Better
Xeon Platinum 8592+ .... 416523000 |=====================================
Xeon Platinum 8592+ 2P . 484977000 |===========================================
Graph500 3.0
Scale: 26
sssp max_TEPS > Higher Is Better
Xeon Platinum 8592+ .... 539613000 |===================================
Xeon Platinum 8592+ 2P . 667365000 |===========================================
Graph500 3.0
Scale: 26
bfs median_TEPS > Higher Is Better
Xeon Platinum 8592+ .... 1244300000 |==========================================
Xeon Platinum 8592+ 2P . 1204520000 |=========================================
Graph500 3.0
Scale: 26
bfs max_TEPS > Higher Is Better
Xeon Platinum 8592+ .... 1299170000 |==========================================
Xeon Platinum 8592+ 2P . 1267480000 |=========================================
Liquid-DSP 1.6
Threads: 1 - Buffer Length: 256 - Filter Length: 57
samples/s > Higher Is Better
Xeon Platinum 8490H .... 67074667 |========================================
Xeon Platinum 8490H 2P . 66991333 |========================================
Xeon Platinum 8592+ .... 73140667 |============================================
Xeon Platinum 8592+ 2P . 70499000 |==========================================
Xeon Max 9468 .......... 67130333 |========================================
Xeon Max 9468 2P ....... 67064000 |========================================
Xeon Max 9480 .......... 67127667 |========================================
Xeon Max 9480 2P ....... 66266000 |========================================
srsRAN Project 23.10.1-20240325
Test: PUSCH Processor Benchmark, Throughput Total
Mbps > Higher Is Better
Xeon Platinum 8490H .... 2616.9 |======================
Xeon Platinum 8490H 2P . 4853.6 |=========================================
Xeon Platinum 8592+ .... 3088.7 |==========================
Xeon Platinum 8592+ 2P . 5493.4 |==============================================
Xeon Max 9468 .......... 2170.7 |==================
Xeon Max 9468 2P ....... 3787.0 |================================
Xeon Max 9480 .......... 2514.0 |=====================
Xeon Max 9480 2P ....... 4386.6 |=====================================
libavif avifenc 1.0
Encoder Speed: 2
Seconds < Lower Is Better
Xeon Platinum 8490H .... 37.75 |===========================================
Xeon Platinum 8490H 2P . 37.31 |===========================================
Xeon Platinum 8592+ .... 34.79 |========================================
Xeon Platinum 8592+ 2P . 33.65 |======================================
Xeon Max 9468 .......... 41.13 |===============================================
Xeon Max 9468 2P ....... 38.65 |============================================
Xeon Max 9480 .......... 39.88 |==============================================
Xeon Max 9480 2P ....... 38.14 |============================================
ASKAP 1.0
Test: tConvolve MPI - Gridding
Mpix/sec > Higher Is Better
Xeon Platinum 8490H .... 21314.2 |=============
Xeon Platinum 8490H 2P . 41773.0 |==========================
Xeon Platinum 8592+ .... 37265.9 |=======================
Xeon Platinum 8592+ 2P . 72004.0 |=============================================
Xeon Max 9468 .......... 21766.5 |==============
Xeon Max 9468 2P ....... 42939.2 |===========================
Xeon Max 9480 .......... 23250.2 |===============
Xeon Max 9480 2P ....... 45195.1 |============================
ASKAP 1.0
Test: tConvolve MPI - Degridding
Mpix/sec > Higher Is Better
Xeon Platinum 8490H .... 17891.6 |==============
Xeon Platinum 8490H 2P . 34614.1 |==========================
Xeon Platinum 8592+ .... 31177.2 |========================
Xeon Platinum 8592+ 2P . 59139.2 |=============================================
Xeon Max 9468 .......... 18522.0 |==============
Xeon Max 9468 2P ....... 36900.5 |============================
Xeon Max 9480 .......... 20561.4 |================
Xeon Max 9480 2P ....... 40368.6 |===============================
OpenRadioss 2023.09.15
Model: Cell Phone Drop Test
Seconds < Lower Is Better
Xeon Platinum 8490H .... 31.49 |============================================
Xeon Platinum 8490H 2P . 28.22 |=======================================
Xeon Platinum 8592+ .... 27.90 |=======================================
Xeon Platinum 8592+ 2P . 26.88 |=====================================
Xeon Max 9468 .......... 33.75 |===============================================
Xeon Max 9468 2P ....... 27.51 |======================================
Xeon Max 9480 .......... 31.92 |============================================
Xeon Max 9480 2P ....... 27.63 |======================================
Liquid-DSP 1.6
Threads: 64 - Buffer Length: 256 - Filter Length: 512
samples/s > Higher Is Better
Xeon Platinum 8490H .... 744410000 |====================================
Xeon Platinum 8490H 2P . 799496667 |=======================================
Xeon Platinum 8592+ .... 783770000 |======================================
Xeon Platinum 8592+ 2P . 883701250 |===========================================
Xeon Max 9468 .......... 632396667 |===============================
Xeon Max 9468 2P ....... 732560000 |====================================
Xeon Max 9480 .......... 689003333 |==================================
Xeon Max 9480 2P ....... 757176667 |=====================================
Liquid-DSP 1.6
Threads: 1 - Buffer Length: 256 - Filter Length: 32
samples/s > Higher Is Better
Xeon Platinum 8490H .... 36506000 |========================================
Xeon Platinum 8490H 2P . 36461000 |========================================
Xeon Platinum 8592+ .... 40244000 |============================================
Xeon Platinum 8592+ 2P . 38950600 |===========================================
Xeon Max 9468 .......... 36537667 |========================================
Xeon Max 9468 2P ....... 36497667 |========================================
Xeon Max 9480 .......... 36539000 |========================================
Xeon Max 9480 2P ....... 36521333 |========================================
Timed Wasmer Compilation 2.3
Time To Compile
Seconds < Lower Is Better
Xeon Platinum 8490H .... 34.93 |=============================================
Xeon Platinum 8490H 2P . 35.46 |==============================================
Xeon Platinum 8592+ .... 30.17 |=======================================
Xeon Platinum 8592+ 2P . 30.47 |========================================
Xeon Max 9468 .......... 35.66 |==============================================
Xeon Max 9468 2P ....... 36.20 |===============================================
Xeon Max 9480 .......... 35.20 |==============================================
Xeon Max 9480 2P ....... 35.70 |==============================================
PyTorch 2.2.1
Device: CPU - Batch Size: 1 - Model: ResNet-50
batches/sec > Higher Is Better
Xeon Platinum 8490H .... 51.46 |===============================
Xeon Platinum 8490H 2P . 35.53 |======================
Xeon Platinum 8592+ .... 77.52 |===============================================
Xeon Platinum 8592+ 2P . 45.69 |============================
Xeon Max 9468 .......... 50.99 |===============================
Xeon Max 9468 2P ....... 46.49 |============================
Xeon Max 9480 .......... 48.59 |=============================
Xeon Max 9480 2P ....... 35.46 |=====================
Appleseed 2.0 Beta
Scene: Disney Material
Seconds < Lower Is Better
Xeon Platinum 8490H .... 53.49 |===========================================
Xeon Platinum 8490H 2P . 48.56 |=======================================
Xeon Platinum 8592+ .... 48.43 |=======================================
Xeon Platinum 8592+ 2P . 43.70 |===================================
Xeon Max 9468 .......... 58.38 |===============================================
Xeon Max 9468 2P ....... 51.25 |=========================================
Xeon Max 9480 .......... 56.40 |=============================================
Xeon Max 9480 2P ....... 49.14 |========================================
ASTC Encoder 4.7
Preset: Very Thorough
MT/s > Higher Is Better
Xeon Platinum 8490H .... 7.0885 |======================
Xeon Platinum 8490H 2P . 13.7518 |==========================================
Xeon Platinum 8592+ .... 7.6240 |=======================
Xeon Platinum 8592+ 2P . 14.6334 |=============================================
Xeon Max 9468 .......... 5.1342 |================
Xeon Max 9468 2P ....... 10.2051 |===============================
Xeon Max 9480 .......... 5.9702 |==================
Xeon Max 9480 2P ....... 11.8875 |=====================================
Liquid-DSP 1.6
Threads: 64 - Buffer Length: 256 - Filter Length: 57
samples/s > Higher Is Better
Xeon Platinum 8490H .... 2539200000 |========================================
Xeon Platinum 8490H 2P . 2655500000 |==========================================
Xeon Platinum 8592+ .... 2475500000 |=======================================
Xeon Platinum 8592+ 2P . 2620066667 |=========================================
Xeon Max 9468 .......... 2138766667 |==================================
Xeon Max 9468 2P ....... 2494050000 |=======================================
Xeon Max 9480 .......... 2308966667 |=====================================
Xeon Max 9480 2P ....... 2491340000 |=======================================
uvg266 0.4.1
Video Input: Bosphorus 4K - Video Preset: Slow
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 15.71 |===========================
Xeon Platinum 8490H 2P . 24.71 |===========================================
Xeon Platinum 8592+ .... 16.06 |============================
Xeon Platinum 8592+ 2P . 27.11 |===============================================
Xeon Max 9468 .......... 13.36 |=======================
Xeon Max 9468 2P ....... 19.75 |==================================
Xeon Max 9480 .......... 13.89 |========================
Xeon Max 9480 2P ....... 22.14 |======================================
ASTC Encoder 4.7
Preset: Exhaustive
MT/s > Higher Is Better
Xeon Platinum 8490H .... 4.2689 |======================
Xeon Platinum 8490H 2P . 8.3701 |===========================================
Xeon Platinum 8592+ .... 4.6303 |========================
Xeon Platinum 8592+ 2P . 8.9091 |==============================================
Xeon Max 9468 .......... 3.1204 |================
Xeon Max 9468 2P ....... 6.2126 |================================
Xeon Max 9480 .......... 3.6276 |===================
Xeon Max 9480 2P ....... 7.2075 |=====================================
Liquid-DSP 1.6
Threads: 128 - Buffer Length: 256 - Filter Length: 512
samples/s > Higher Is Better
Xeon Platinum 8490H .... 918566667 |==========================
Xeon Platinum 8490H 2P . 1126466667 |================================
Xeon Platinum 8592+ .... 1152933333 |================================
Xeon Platinum 8592+ 2P . 1493833333 |==========================================
Xeon Max 9468 .......... 800186667 |======================
Xeon Max 9468 2P ....... 1091460000 |===============================
Xeon Max 9480 .......... 882200000 |=========================
Xeon Max 9480 2P ....... 1206066667 |==================================
SVT-AV1 2.0
Encoder Mode: Preset 13 - Input: Bosphorus 4K
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 162.47 |===========================================
Xeon Platinum 8490H 2P . 154.50 |=========================================
Xeon Platinum 8592+ .... 174.83 |==============================================
Xeon Platinum 8592+ 2P . 162.98 |===========================================
Xeon Max 9468 .......... 144.70 |======================================
Xeon Max 9468 2P ....... 122.62 |================================
Xeon Max 9480 .......... 150.00 |=======================================
Xeon Max 9480 2P ....... 124.26 |=================================
QuantLib 1.32
Configuration: Single-Threaded
MFLOPS > Higher Is Better
Xeon Platinum 8490H .... 3209.6 |=========================================
Xeon Platinum 8490H 2P . 3210.1 |=========================================
Xeon Platinum 8592+ .... 3600.5 |==============================================
Xeon Platinum 8592+ 2P . 3586.3 |==============================================
Xeon Max 9468 .......... 3225.7 |=========================================
Xeon Max 9468 2P ....... 3207.0 |=========================================
Xeon Max 9480 .......... 3229.1 |=========================================
Xeon Max 9480 2P ....... 3222.8 |=========================================
Liquid-DSP 1.6
Threads: 128 - Buffer Length: 256 - Filter Length: 57
samples/s > Higher Is Better
Xeon Platinum 8490H .... 3181266667 |==============================
Xeon Platinum 8490H 2P . 3723666667 |===================================
Xeon Platinum 8592+ .... 3503200000 |=================================
Xeon Platinum 8592+ 2P . 4450525000 |==========================================
Xeon Max 9468 .......... 2670033333 |=========================
Xeon Max 9468 2P ....... 3596400000 |==================================
Xeon Max 9480 .......... 2972400000 |============================
Xeon Max 9480 2P ....... 3896500000 |=====================================
nginx 1.23.2
Connections: 1000
Requests Per Second > Higher Is Better
Xeon Platinum 8592+ .... 399698.78 |===========================================
Xeon Platinum 8592+ 2P . 381352.69 |=========================================
Xeon Max 9480 .......... 367199.06 |========================================
Liquid-DSP 1.6
Threads: 256 - Buffer Length: 256 - Filter Length: 512
samples/s > Higher Is Better
Xeon Platinum 8490H .... 1020833333 |=====================
Xeon Platinum 8490H 2P . 1616966667 |==================================
Xeon Platinum 8592+ .... 1178766667 |========================
Xeon Platinum 8592+ 2P . 2027000000 |==========================================
Xeon Max 9468 .......... 838530000 |=================
Xeon Max 9468 2P ....... 1444066667 |==============================
Xeon Max 9480 .......... 944550000 |====================
Xeon Max 9480 2P ....... 1518933333 |===============================
Blender 4.1
Blend File: Junkshop - Compute: CPU-Only
Seconds < Lower Is Better
Xeon Platinum 8490H .... 35.96 |=======================================
Xeon Platinum 8490H 2P . 21.15 |=======================
Xeon Platinum 8592+ .... 32.08 |===================================
Xeon Platinum 8592+ 2P . 18.31 |====================
Xeon Max 9468 .......... 42.85 |===============================================
Xeon Max 9468 2P ....... 24.99 |===========================
Xeon Max 9480 .......... 39.17 |===========================================
Xeon Max 9480 2P ....... 23.45 |==========================
NAS Parallel Benchmarks 3.4
Test / Class: EP.D
Total Mop/s > Higher Is Better
Xeon Platinum 8490H .... 7562.80 |=====================
Xeon Platinum 8490H 2P . 14946.76 |=========================================
Xeon Platinum 8592+ .... 8089.14 |======================
Xeon Platinum 8592+ 2P . 16004.07 |============================================
Xeon Max 9468 .......... 5366.69 |===============
Xeon Max 9468 2P ....... 10970.45 |==============================
Xeon Max 9480 .......... 6445.09 |==================
Xeon Max 9480 2P ....... 12793.01 |===================================
John The Ripper 2023.03.14
Test: bcrypt
Real C/S > Higher Is Better
Xeon Platinum 8490H .... 94551 |=====================
Xeon Platinum 8490H 2P . 183603 |=========================================
Xeon Platinum 8592+ .... 105781 |========================
Xeon Platinum 8592+ 2P . 206778 |==============================================
Xeon Max 9468 .......... 67875 |===============
Xeon Max 9468 2P ....... 133866 |==============================
Xeon Max 9480 .......... 79144 |==================
Xeon Max 9480 2P ....... 155959 |===================================
John The Ripper 2023.03.14
Test: Blowfish
Real C/S > Higher Is Better
Xeon Platinum 8490H .... 94513 |=====================
Xeon Platinum 8490H 2P . 183583 |=========================================
Xeon Platinum 8592+ .... 105831 |========================
Xeon Platinum 8592+ 2P . 205499 |==============================================
Xeon Max 9468 .......... 67893 |===============
Xeon Max 9468 2P ....... 134562 |==============================
Xeon Max 9480 .......... 79152 |==================
Xeon Max 9480 2P ....... 156658 |===================================
Liquid-DSP 1.6
Threads: 256 - Buffer Length: 256 - Filter Length: 57
samples/s > Higher Is Better
Xeon Platinum 8490H .... 3500833333 |=======================
Xeon Platinum 8490H 2P . 5361266667 |====================================
Xeon Platinum 8592+ .... 3806833333 |=========================
Xeon Platinum 8592+ 2P . 6284300000 |==========================================
Xeon Max 9468 .......... 2848933333 |===================
Xeon Max 9468 2P ....... 4825133333 |================================
Xeon Max 9480 .......... 3222533333 |======================
Xeon Max 9480 2P ....... 5036000000 |==================================
Liquid-DSP 1.6
Threads: 256 - Buffer Length: 256 - Filter Length: 32
samples/s > Higher Is Better
Xeon Platinum 8490H .... 3243800000 |======================
Xeon Platinum 8490H 2P . 6116566667 |==========================================
Xeon Platinum 8592+ .... 3167200000 |======================
Xeon Platinum 8592+ 2P . 6077300000 |==========================================
Xeon Max 9468 .......... 2381800000 |================
Xeon Max 9468 2P ....... 4670966667 |================================
Xeon Max 9480 .......... 2769066667 |===================
Xeon Max 9480 2P ....... 5367033333 |=====================================
uvg266 0.4.1
Video Input: Bosphorus 4K - Video Preset: Medium
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 17.85 |============================
Xeon Platinum 8490H 2P . 27.65 |===========================================
Xeon Platinum 8592+ .... 16.64 |==========================
Xeon Platinum 8592+ 2P . 30.37 |===============================================
Xeon Max 9468 .......... 15.17 |=======================
Xeon Max 9468 2P ....... 22.25 |==================================
Xeon Max 9480 .......... 15.68 |========================
Xeon Max 9480 2P ....... 24.65 |======================================
Liquid-DSP 1.6
Threads: 128 - Buffer Length: 256 - Filter Length: 32
samples/s > Higher Is Better
Xeon Platinum 8490H .... 3200600000 |======================================
Xeon Platinum 8490H 2P . 3558600000 |==========================================
Xeon Platinum 8592+ .... 3148233333 |=====================================
Xeon Platinum 8592+ 2P . 3520766667 |==========================================
Xeon Max 9468 .......... 2351900000 |============================
Xeon Max 9468 2P ....... 3254033333 |======================================
Xeon Max 9480 .......... 2739633333 |================================
Xeon Max 9480 2P ....... 3337066667 |=======================================
Google SynthMark 20201109
Test: VoiceMark_100
Voices > Higher Is Better
Xeon Platinum 8490H .... 711.38 |=========================================
Xeon Platinum 8490H 2P . 712.70 |=========================================
Xeon Platinum 8592+ .... 799.72 |==============================================
Xeon Platinum 8592+ 2P . 799.49 |==============================================
Xeon Max 9468 .......... 711.10 |=========================================
Xeon Max 9468 2P ....... 710.92 |=========================================
Xeon Max 9480 .......... 712.01 |=========================================
Xeon Max 9480 2P ....... 712.09 |=========================================
Liquid-DSP 1.6
Threads: 64 - Buffer Length: 256 - Filter Length: 32
samples/s > Higher Is Better
Xeon Platinum 8490H .... 1890566667 |=====================================
Xeon Platinum 8490H 2P . 2025000000 |=======================================
Xeon Platinum 8592+ .... 1927766667 |======================================
Xeon Platinum 8592+ 2P . 2154633333 |==========================================
Xeon Max 9468 .......... 1640266667 |================================
Xeon Max 9468 2P ....... 1963233333 |======================================
Xeon Max 9480 .......... 1679700000 |=================================
Xeon Max 9480 2P ....... 2090466667 |=========================================
Blender 4.1
Blend File: Fishy Cat - Compute: CPU-Only
Seconds < Lower Is Better
Xeon Platinum 8490H .... 34.83 |======================================
Xeon Platinum 8490H 2P . 19.13 |=====================
Xeon Platinum 8592+ .... 31.91 |===================================
Xeon Platinum 8592+ 2P . 17.29 |===================
Xeon Max 9468 .......... 42.78 |===============================================
Xeon Max 9468 2P ....... 23.17 |=========================
Xeon Max 9480 .......... 38.48 |==========================================
Xeon Max 9480 2P ....... 21.45 |========================
TensorFlow 2.16.1
Device: CPU - Batch Size: 1 - Model: GoogLeNet
images/sec > Higher Is Better
Xeon Platinum 8490H .... 33.56 |============================================
Xeon Platinum 8490H 2P . 13.50 |==================
Xeon Platinum 8592+ .... 21.67 |============================
Xeon Platinum 8592+ 2P . 12.69 |=================
Xeon Max 9468 .......... 36.13 |===============================================
Xeon Max 9468 2P ....... 18.24 |========================
Xeon Max 9480 .......... 31.47 |=========================================
Xeon Max 9480 2P ....... 14.67 |===================
DaCapo Benchmark 23.11
Java Test: Apache Lucene Search Index
msec < Lower Is Better
Xeon Platinum 8490H .... 3581 |===============================================
Xeon Platinum 8490H 2P . 3689 |================================================
Xeon Platinum 8592+ .... 3242 |==========================================
Xeon Platinum 8592+ 2P . 3345 |============================================
Xeon Max 9468 .......... 3378 |============================================
Xeon Max 9468 2P ....... 3643 |===============================================
Xeon Max 9480 .......... 3396 |============================================
Xeon Max 9480 2P ....... 3537 |==============================================
Embree 4.3
Binary: Pathtracer ISPC - Model: Asian Dragon Obj
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 79.38 |=====================
Xeon Platinum 8490H 2P . 132.28 |===================================
Xeon Platinum 8592+ .... 97.19 |==========================
Xeon Platinum 8592+ 2P . 173.22 |==============================================
Xeon Max 9468 .......... 64.96 |=================
Xeon Max 9468 2P ....... 104.84 |============================
Xeon Max 9480 .......... 71.83 |===================
Xeon Max 9480 2P ....... 112.72 |==============================
GROMACS 2024
Implementation: MPI CPU - Input: water_GMX50_bare
Ns Per Day > Higher Is Better
Xeon Platinum 8490H .... 8.762 |======================
Xeon Platinum 8490H 2P . 15.450 |======================================
Xeon Platinum 8592+ .... 10.477 |==========================
Xeon Platinum 8592+ 2P . 18.540 |==============================================
Xeon Max 9468 .......... 7.545 |===================
Xeon Max 9468 2P ....... 13.392 |=================================
Xeon Max 9480 .......... 8.282 |=====================
Xeon Max 9480 2P ....... 14.127 |===================================
SVT-AV1 2.0
Encoder Mode: Preset 4 - Input: Bosphorus 4K
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 7.061 |==========================================
Xeon Platinum 8490H 2P . 6.698 |========================================
Xeon Platinum 8592+ .... 7.876 |===============================================
Xeon Platinum 8592+ 2P . 7.360 |============================================
Xeon Max 9468 .......... 6.490 |=======================================
Xeon Max 9468 2P ....... 5.991 |====================================
Xeon Max 9480 .......... 6.572 |=======================================
Xeon Max 9480 2P ....... 6.052 |====================================
TensorFlow 2.16.1
Device: CPU - Batch Size: 64 - Model: GoogLeNet
images/sec > Higher Is Better
Xeon Platinum 8490H .... 380.14 |==============================================
Xeon Platinum 8490H 2P . 331.76 |========================================
Xeon Platinum 8592+ .... 319.76 |=======================================
Xeon Platinum 8592+ 2P . 291.37 |===================================
Xeon Max 9468 .......... 333.73 |========================================
Xeon Max 9468 2P ....... 341.51 |=========================================
Xeon Max 9480 .......... 335.58 |=========================================
Xeon Max 9480 2P ....... 308.95 |=====================================
ASKAP 1.0
Test: tConvolve OpenMP - Degridding
Million Grid Points Per Second > Higher Is Better
Xeon Platinum 8490H .... 30471.50 |==========================
Xeon Platinum 8490H 2P . 51476.20 |============================================
Xeon Platinum 8592+ .... 16936.80 |==============
Xeon Platinum 8592+ 2P . 48686.80 |==========================================
Xeon Max 9468 .......... 6758.81 |======
Xeon Max 9468 2P ....... 4437.60 |====
Xeon Max 9480 .......... 7046.56 |======
Xeon Max 9480 2P ....... 7304.58 |======
ASKAP 1.0
Test: tConvolve OpenMP - Gridding
Million Grid Points Per Second > Higher Is Better
Xeon Platinum 8490H .... 19798.50 |===========================================
Xeon Platinum 8490H 2P . 17010.80 |=====================================
Xeon Platinum 8592+ .... 19141.80 |==========================================
Xeon Platinum 8592+ 2P . 20204.90 |============================================
Xeon Max 9468 .......... 4173.46 |=========
Xeon Max 9468 2P ....... 3916.78 |=========
Xeon Max 9480 .......... 4438.58 |==========
Xeon Max 9480 2P ....... 3836.73 |========
Kvazaar 2.2
Video Input: Bosphorus 4K - Video Preset: Slow
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 20.23 |=======================
Xeon Platinum 8490H 2P . 31.24 |====================================
Xeon Platinum 8592+ .... 24.23 |============================
Xeon Platinum 8592+ 2P . 40.92 |===============================================
Xeon Max 9468 .......... 17.52 |====================
Xeon Max 9468 2P ....... 26.00 |==============================
Xeon Max 9480 .......... 18.24 |=====================
Xeon Max 9480 2P ....... 28.96 |=================================
Kvazaar 2.2
Video Input: Bosphorus 4K - Video Preset: Medium
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 20.97 |========================
Xeon Platinum 8490H 2P . 32.04 |====================================
Xeon Platinum 8592+ .... 24.80 |============================
Xeon Platinum 8592+ 2P . 41.58 |===============================================
Xeon Max 9468 .......... 18.13 |====================
Xeon Max 9468 2P ....... 26.69 |==============================
Xeon Max 9480 .......... 18.84 |=====================
Xeon Max 9480 2P ....... 29.62 |=================================
SVT-AV1 2.0
Encoder Mode: Preset 8 - Input: Bosphorus 4K
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 70.91 |==========================================
Xeon Platinum 8490H 2P . 65.22 |=======================================
Xeon Platinum 8592+ .... 79.44 |===============================================
Xeon Platinum 8592+ 2P . 70.43 |==========================================
Xeon Max 9468 .......... 62.75 |=====================================
Xeon Max 9468 2P ....... 54.82 |================================
Xeon Max 9480 .......... 65.36 |=======================================
Xeon Max 9480 2P ....... 55.98 |=================================
uvg266 0.4.1
Video Input: Bosphorus 4K - Video Preset: Ultra Fast
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 60.87 |===============================================
Xeon Platinum 8490H 2P . 55.26 |===========================================
Xeon Platinum 8592+ .... 39.31 |==============================
Xeon Platinum 8592+ 2P . 57.13 |============================================
Xeon Max 9468 .......... 48.91 |======================================
Xeon Max 9468 2P ....... 46.13 |====================================
Xeon Max 9480 .......... 50.09 |=======================================
Xeon Max 9480 2P ....... 45.79 |===================================
TensorFlow 2.16.1
Device: CPU - Batch Size: 256 - Model: AlexNet
images/sec > Higher Is Better
Xeon Platinum 8490H .... 1205.30 |===============================
Xeon Platinum 8490H 2P . 1730.25 |=============================================
Xeon Platinum 8592+ .... 1277.46 |=================================
Xeon Platinum 8592+ 2P . 1681.44 |============================================
Xeon Max 9468 .......... 986.04 |==========================
Xeon Max 9468 2P ....... 1479.53 |======================================
Xeon Max 9480 .......... 1058.99 |============================
Xeon Max 9480 2P ....... 1528.41 |========================================
miniBUDE 20210901
Implementation: OpenMP - Input Deck: BM1
Billion Interactions/s > Higher Is Better
Xeon Platinum 8490H .... 82.85 |===================
Xeon Platinum 8490H 2P . 133.63 |===============================
Xeon Platinum 8592+ .... 106.40 |=========================
Xeon Platinum 8592+ 2P . 199.73 |==============================================
Xeon Max 9468 .......... 63.62 |===============
Xeon Max 9468 2P ....... 108.40 |=========================
Xeon Max 9480 .......... 70.84 |================
Xeon Max 9480 2P ....... 114.90 |==========================
miniBUDE 20210901
Implementation: OpenMP - Input Deck: BM1
GFInst/s > Higher Is Better
Xeon Platinum 8490H .... 2071.19 |===================
Xeon Platinum 8490H 2P . 3340.69 |==============================
Xeon Platinum 8592+ .... 2659.88 |========================
Xeon Platinum 8592+ 2P . 4993.34 |=============================================
Xeon Max 9468 .......... 1590.50 |==============
Xeon Max 9468 2P ....... 2709.93 |========================
Xeon Max 9480 .......... 1771.07 |================
Xeon Max 9480 2P ....... 2872.56 |==========================
TensorFlow 2.16.1
Device: CPU - Batch Size: 1 - Model: AlexNet
images/sec > Higher Is Better
Xeon Platinum 8490H .... 56.53 |===============================================
Xeon Platinum 8490H 2P . 37.57 |===============================
Xeon Platinum 8592+ .... 35.50 |==============================
Xeon Platinum 8592+ 2P . 30.76 |==========================
Xeon Max 9468 .......... 48.28 |========================================
Xeon Max 9468 2P ....... 37.76 |===============================
Xeon Max 9480 .......... 43.67 |====================================
Xeon Max 9480 2P ....... 33.21 |============================
Blender 4.1
Blend File: BMW27 - Compute: CPU-Only
Seconds < Lower Is Better
Xeon Platinum 8490H .... 25.89 |======================================
Xeon Platinum 8490H 2P . 13.74 |====================
Xeon Platinum 8592+ .... 23.72 |===================================
Xeon Platinum 8592+ 2P . 12.76 |===================
Xeon Max 9468 .......... 31.66 |===============================================
Xeon Max 9468 2P ....... 16.55 |=========================
Xeon Max 9480 .......... 28.49 |==========================================
Xeon Max 9480 2P ....... 15.29 |=======================
Y-Cruncher 0.8.3
Pi Digits To Calculate: 1B
Seconds < Lower Is Better
Xeon Platinum 8490H .... 7.047 |========================================
Xeon Platinum 8490H 2P . 5.008 |============================
Xeon Platinum 8592+ .... 6.701 |======================================
Xeon Platinum 8592+ 2P . 5.110 |=============================
Xeon Max 9468 .......... 8.300 |===============================================
Xeon Max 9468 2P ....... 6.334 |====================================
Xeon Max 9480 .......... 7.959 |=============================================
Xeon Max 9480 2P ....... 6.266 |===================================
OpenFOAM 10
Input: drivaerFastback, Small Mesh Size - Execution Time
Seconds < Lower Is Better
Xeon Platinum 8490H .... 42.22 |===========================================
Xeon Platinum 8490H 2P . 28.56 |=============================
Xeon Platinum 8592+ .... 33.07 |==================================
Xeon Platinum 8592+ 2P . 23.56 |========================
Xeon Max 9468 .......... 45.95 |===============================================
Xeon Max 9468 2P ....... 28.99 |==============================
Xeon Max 9480 .......... 41.75 |===========================================
Xeon Max 9480 2P ....... 27.58 |============================
OpenFOAM 10
Input: drivaerFastback, Small Mesh Size - Mesh Time
Seconds < Lower Is Better
Xeon Platinum 8490H .... 31.38 |=========================================
Xeon Platinum 8490H 2P . 35.60 |===============================================
Xeon Platinum 8592+ .... 31.70 |==========================================
Xeon Platinum 8592+ 2P . 29.33 |=======================================
Xeon Max 9468 .......... 31.78 |==========================================
Xeon Max 9468 2P ....... 32.48 |===========================================
Xeon Max 9480 .......... 32.00 |==========================================
Xeon Max 9480 2P ....... 28.84 |======================================
NAS Parallel Benchmarks 3.4
Test / Class: IS.D
Total Mop/s > Higher Is Better
Xeon Platinum 8490H .... 2865.72 |=================
Xeon Platinum 8490H 2P . 3960.28 |========================
Xeon Platinum 8592+ .... 4059.70 |=========================
Xeon Platinum 8592+ 2P . 7437.81 |=============================================
Xeon Max 9468 .......... 3050.16 |==================
Xeon Max 9468 2P ....... 3816.70 |=======================
Xeon Max 9480 .......... 3076.66 |===================
Xeon Max 9480 2P ....... 3819.83 |=======================
Kvazaar 2.2
Video Input: Bosphorus 4K - Video Preset: Super Fast
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 66.74 |=============================================
Xeon Platinum 8490H 2P . 69.05 |===============================================
Xeon Platinum 8592+ .... 39.20 |===========================
Xeon Platinum 8592+ 2P . 66.78 |=============================================
Xeon Max 9468 .......... 53.13 |====================================
Xeon Max 9468 2P ....... 52.63 |====================================
Xeon Max 9480 .......... 54.47 |=====================================
Xeon Max 9480 2P ....... 54.19 |=====================================
Algebraic Multi-Grid Benchmark 1.2
Figure Of Merit > Higher Is Better
Xeon Platinum 8490H .... 1605097000 |===================
Xeon Platinum 8490H 2P . 3124402667 |====================================
Xeon Platinum 8592+ .... 1814760000 |=====================
Xeon Platinum 8592+ 2P . 3609646333 |==========================================
Xeon Max 9468 .......... 1588496667 |==================
Xeon Max 9468 2P ....... 3156261667 |=====================================
Xeon Max 9480 .......... 1597993333 |===================
Xeon Max 9480 2P ....... 3205161000 |=====================================
Xcompact3d Incompact3d 2021-03-11
Input: input.i3d 193 Cells Per Direction
Seconds < Lower Is Better
Xeon Platinum 8490H .... 12.92934130 |======================================
Xeon Platinum 8490H 2P . 6.39169817 |===================
Xeon Platinum 8592+ .... 10.19670660 |==============================
Xeon Platinum 8592+ 2P . 5.39125967 |================
Xeon Max 9468 .......... 13.96923760 |=========================================
Xeon Max 9468 2P ....... 7.29349117 |=====================
Xeon Max 9480 .......... 12.79975820 |======================================
Xeon Max 9480 2P ....... 6.66387510 |====================
Timed FFmpeg Compilation 7.0
Time To Compile
Seconds < Lower Is Better
Xeon Platinum 8490H .... 24.06 |===========================================
Xeon Platinum 8490H 2P . 19.51 |===================================
Xeon Platinum 8592+ .... 21.36 |======================================
Xeon Platinum 8592+ 2P . 17.39 |===============================
Xeon Max 9468 .......... 26.46 |===============================================
Xeon Max 9468 2P ....... 20.79 |=====================================
Xeon Max 9480 .......... 24.84 |============================================
Xeon Max 9480 2P ....... 20.01 |====================================
Intel Open Image Denoise 2.2
Run: RTLightmap.hdr.4096x4096 - Device: CPU-Only
Images / Sec > Higher Is Better
Xeon Platinum 8490H .... 1.29 |==========================
Xeon Platinum 8490H 2P . 2.18 |============================================
Xeon Platinum 8592+ .... 1.58 |================================
Xeon Platinum 8592+ 2P . 2.40 |================================================
Xeon Max 9468 .......... 1.08 |======================
Xeon Max 9468 2P ....... 1.72 |==================================
Xeon Max 9480 .......... 1.14 |=======================
Xeon Max 9480 2P ....... 1.74 |===================================
oneDNN 3.4
Harness: Deconvolution Batch shapes_1d - Engine: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 6.15856 |=======
Xeon Platinum 8490H 2P . 16.55070 |===================
Xeon Platinum 8592+ .... 6.69692 |========
Xeon Platinum 8592+ 2P . 38.08130 |============================================
Xeon Max 9468 .......... 5.30953 |======
Xeon Max 9468 2P ....... 13.45000 |================
Xeon Max 9480 .......... 6.09747 |=======
Xeon Max 9480 2P ....... 16.09010 |===================
x265 3.6
Video Input: Bosphorus 4K
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 37.86 |=============================================
Xeon Platinum 8490H 2P . 37.04 |============================================
Xeon Platinum 8592+ .... 38.93 |===============================================
Xeon Platinum 8592+ 2P . 39.31 |===============================================
Xeon Max 9468 .......... 29.05 |===================================
Xeon Max 9468 2P ....... 27.26 |=================================
Xeon Max 9480 .......... 31.40 |======================================
Xeon Max 9480 2P ....... 27.90 |=================================
uvg266 0.4.1
Video Input: Bosphorus 4K - Video Preset: Very Fast
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 49.42 |==========================================
Xeon Platinum 8490H 2P . 54.88 |===============================================
Xeon Platinum 8592+ .... 35.10 |==============================
Xeon Platinum 8592+ 2P . 53.66 |==============================================
Xeon Max 9468 .......... 39.56 |==================================
Xeon Max 9468 2P ....... 44.75 |======================================
Xeon Max 9480 .......... 40.82 |===================================
Xeon Max 9480 2P ....... 46.25 |========================================
LULESH 2.0.3
z/s > Higher Is Better
Xeon Platinum 8490H .... 23072.30 |==============
Xeon Platinum 8490H 2P . 43724.06 |===========================
Xeon Platinum 8592+ .... 38433.97 |========================
Xeon Platinum 8592+ 2P . 70826.73 |============================================
Xeon Max 9468 .......... 23848.54 |===============
Xeon Max 9468 2P ....... 52102.67 |================================
Xeon Max 9480 .......... 25831.84 |================
Xeon Max 9480 2P ....... 53269.47 |=================================
oneDNN 3.4
Harness: IP Shapes 1D - Engine: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 0.539467 |==============================
Xeon Platinum 8490H 2P . 0.783180 |============================================
Xeon Platinum 8592+ .... 0.398446 |======================
Xeon Platinum 8592+ 2P . 0.580664 |=================================
Xeon Max 9468 .......... 0.725974 |=========================================
Xeon Max 9468 2P ....... 0.662387 |=====================================
Xeon Max 9480 .......... 0.617190 |===================================
Xeon Max 9480 2P ....... 0.759434 |===========================================
TensorFlow 2.16.1
Device: CPU - Batch Size: 64 - Model: AlexNet
images/sec > Higher Is Better
Xeon Platinum 8490H .... 969.62 |=============================================
Xeon Platinum 8490H 2P . 996.47 |==============================================
Xeon Platinum 8592+ .... 819.89 |======================================
Xeon Platinum 8592+ 2P . 858.84 |========================================
Xeon Max 9468 .......... 841.68 |=======================================
Xeon Max 9468 2P ....... 932.59 |===========================================
Xeon Max 9480 .......... 852.36 |=======================================
Xeon Max 9480 2P ....... 940.40 |===========================================
NAS Parallel Benchmarks 3.4
Test / Class: SP.C
Total Mop/s > Higher Is Better
Xeon Platinum 8490H .... 71245.26 |=============
Xeon Platinum 8490H 2P . 147311.14 |============================
Xeon Platinum 8592+ .... 109416.42 |=====================
Xeon Platinum 8592+ 2P . 228184.68 |===========================================
Xeon Max 9468 .......... 58815.36 |===========
Xeon Max 9468 2P ....... 135939.25 |==========================
Xeon Max 9480 .......... 69776.41 |=============
Xeon Max 9480 2P ....... 141954.15 |===========================
Pennant 1.0.1
Test: sedovbig
Hydro Cycle Time - Seconds < Lower Is Better
Xeon Platinum 8490H .... 16.030800 |=================================
Xeon Platinum 8490H 2P . 11.284380 |=======================
Xeon Platinum 8592+ .... 16.969100 |===================================
Xeon Platinum 8592+ 2P . 9.964526 |====================
Xeon Max 9468 .......... 21.021120 |===========================================
Xeon Max 9468 2P ....... 13.211250 |===========================
Xeon Max 9480 .......... 19.882460 |=========================================
Xeon Max 9480 2P ....... 12.106900 |=========================
Kvazaar 2.2
Video Input: Bosphorus 4K - Video Preset: Ultra Fast
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 74.57 |===============================================
Xeon Platinum 8490H 2P . 72.01 |=============================================
Xeon Platinum 8592+ .... 47.07 |==============================
Xeon Platinum 8592+ 2P . 73.81 |===============================================
Xeon Max 9468 .......... 63.10 |========================================
Xeon Max 9468 2P ....... 54.98 |===================================
Xeon Max 9480 .......... 63.99 |========================================
Xeon Max 9480 2P ....... 58.14 |=====================================
uvg266 0.4.1
Video Input: Bosphorus 4K - Video Preset: Super Fast
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 55.54 |===============================================
Xeon Platinum 8490H 2P . 55.40 |===============================================
Xeon Platinum 8592+ .... 35.56 |==============================
Xeon Platinum 8592+ 2P . 54.95 |===============================================
Xeon Max 9468 .......... 44.05 |=====================================
Xeon Max 9468 2P ....... 45.09 |======================================
Xeon Max 9480 .......... 45.32 |======================================
Xeon Max 9480 2P ....... 44.40 |======================================
DaCapo Benchmark 23.11
Java Test: Jython
msec < Lower Is Better
Xeon Platinum 8490H .... 3801 |==============================================
Xeon Platinum 8490H 2P . 3892 |================================================
Xeon Platinum 8592+ .... 3424 |==========================================
Xeon Platinum 8592+ 2P . 3466 |==========================================
Xeon Max 9468 .......... 3785 |==============================================
Xeon Max 9468 2P ....... 3926 |================================================
Xeon Max 9480 .......... 3707 |=============================================
Xeon Max 9480 2P ....... 3921 |================================================
JPEG-XL libjxl 0.10.1
Input: PNG - Quality: 100
MP/s > Higher Is Better
Xeon Platinum 8490H .... 28.10 |==========================================
Xeon Platinum 8490H 2P . 27.66 |=========================================
Xeon Platinum 8592+ .... 31.35 |===============================================
Xeon Platinum 8592+ 2P . 30.97 |==============================================
Xeon Max 9468 .......... 26.25 |=======================================
Xeon Max 9468 2P ....... 26.84 |========================================
Xeon Max 9480 .......... 27.09 |=========================================
Xeon Max 9480 2P ....... 26.99 |========================================
Timed Mesa Compilation 24.0
Time To Compile
Seconds < Lower Is Better
Xeon Platinum 8490H .... 19.23 |=============================================
Xeon Platinum 8490H 2P . 18.29 |===========================================
Xeon Platinum 8592+ .... 17.26 |========================================
Xeon Platinum 8592+ 2P . 16.18 |======================================
Xeon Max 9468 .......... 20.18 |===============================================
Xeon Max 9468 2P ....... 18.47 |===========================================
Xeon Max 9480 .......... 19.65 |==============================================
Xeon Max 9480 2P ....... 18.14 |==========================================
PyBench 2018-02-16
Total For Average Test Times
Milliseconds < Lower Is Better
Xeon Platinum 8490H .... 765 |=================================================
Xeon Platinum 8490H 2P . 767 |=================================================
Xeon Platinum 8592+ .... 691 |============================================
Xeon Platinum 8592+ 2P . 692 |============================================
Xeon Max 9468 .......... 763 |=================================================
Xeon Max 9468 2P ....... 763 |=================================================
Xeon Max 9480 .......... 762 |=================================================
Xeon Max 9480 2P ....... 763 |=================================================
DaCapo Benchmark 23.11
Java Test: Apache Kafka
msec < Lower Is Better
Xeon Platinum 8490H .... 5106 |============================================
Xeon Platinum 8490H 2P . 5113 |============================================
Xeon Platinum 8592+ .... 5560 |================================================
Xeon Platinum 8592+ 2P . 5611 |================================================
Xeon Max 9468 .......... 5108 |============================================
Xeon Max 9468 2P ....... 5101 |============================================
Xeon Max 9480 .......... 5102 |============================================
Xeon Max 9480 2P ....... 5088 |============================================
WebP Image Encode 1.2.4
Encode Settings: Quality 100, Lossless
MP/s > Higher Is Better
Xeon Platinum 8490H .... 1.31 |==========================================
Xeon Platinum 8490H 2P . 1.30 |==========================================
Xeon Platinum 8592+ .... 1.50 |================================================
Xeon Platinum 8592+ 2P . 1.50 |================================================
Xeon Max 9468 .......... 1.40 |=============================================
Xeon Max 9468 2P ....... 1.39 |============================================
Xeon Max 9480 .......... 1.39 |============================================
Xeon Max 9480 2P ....... 1.39 |============================================
Timed ImageMagick Compilation 6.9.0
Time To Compile
Seconds < Lower Is Better
Xeon Platinum 8490H .... 14.72 |===========================================
Xeon Platinum 8490H 2P . 13.26 |=======================================
Xeon Platinum 8592+ .... 12.60 |=====================================
Xeon Platinum 8592+ 2P . 11.49 |==================================
Xeon Max 9468 .......... 16.08 |===============================================
Xeon Max 9468 2P ....... 14.40 |==========================================
Xeon Max 9480 .......... 15.38 |=============================================
Xeon Max 9480 2P ....... 14.09 |=========================================
JPEG-XL libjxl 0.10.1
Input: JPEG - Quality: 100
MP/s > Higher Is Better
Xeon Platinum 8490H .... 28.75 |==========================================
Xeon Platinum 8490H 2P . 28.16 |=========================================
Xeon Platinum 8592+ .... 32.24 |===============================================
Xeon Platinum 8592+ 2P . 31.61 |==============================================
Xeon Max 9468 .......... 26.86 |=======================================
Xeon Max 9468 2P ....... 27.33 |========================================
Xeon Max 9480 .......... 27.75 |========================================
Xeon Max 9480 2P ....... 27.26 |========================================
ASTC Encoder 4.7
Preset: Thorough
MT/s > Higher Is Better
Xeon Platinum 8490H .... 51.30 |=========================
Xeon Platinum 8490H 2P . 86.98 |==========================================
Xeon Platinum 8592+ .... 54.45 |==========================
Xeon Platinum 8592+ 2P . 97.94 |===============================================
Xeon Max 9468 .......... 37.01 |==================
Xeon Max 9468 2P ....... 72.33 |===================================
Xeon Max 9480 .......... 42.98 |=====================
Xeon Max 9480 2P ....... 83.34 |========================================
NAS Parallel Benchmarks 3.4
Test / Class: LU.C
Total Mop/s > Higher Is Better
Xeon Platinum 8490H .... 135125.15 |=============
Xeon Platinum 8490H 2P . 261127.09 |=========================
Xeon Platinum 8592+ .... 232012.77 |======================
Xeon Platinum 8592+ 2P . 455312.09 |===========================================
Xeon Max 9468 .......... 126171.52 |============
Xeon Max 9468 2P ....... 246822.52 |=======================
Xeon Max 9480 .......... 131606.86 |============
Xeon Max 9480 2P ....... 257384.55 |========================
m-queens 1.2
Time To Solve
Seconds < Lower Is Better
Xeon Platinum 8490H .... 15.211 |=================================
Xeon Platinum 8490H 2P . 7.881 |=================
Xeon Platinum 8592+ .... 14.257 |===============================
Xeon Platinum 8592+ 2P . 7.402 |================
Xeon Max 9468 .......... 21.030 |==============================================
Xeon Max 9468 2P ....... 10.840 |========================
Xeon Max 9480 .......... 18.102 |========================================
Xeon Max 9480 2P ....... 9.285 |====================
srsRAN Project 23.10.1-20240325
Test: PUSCH Processor Benchmark, Throughput Thread
Mbps > Higher Is Better
Xeon Platinum 8490H .... 129.7 |===============================================
Xeon Platinum 8490H 2P . 129.7 |===============================================
Xeon Platinum 8592+ .... 129.5 |===============================================
Xeon Platinum 8592+ 2P . 129.5 |===============================================
Xeon Max 9468 .......... 129.7 |===============================================
Xeon Max 9468 2P ....... 129.7 |===============================================
Xeon Max 9480 .......... 129.7 |===============================================
Xeon Max 9480 2P ....... 129.7 |===============================================
Y-Cruncher 0.8.3
Pi Digits To Calculate: 500M
Seconds < Lower Is Better
Xeon Platinum 8490H .... 3.267 |=========================================
Xeon Platinum 8490H 2P . 2.364 |=============================
Xeon Platinum 8592+ .... 3.391 |==========================================
Xeon Platinum 8592+ 2P . 2.659 |=================================
Xeon Max 9468 .......... 3.781 |===============================================
Xeon Max 9468 2P ....... 3.110 |=======================================
Xeon Max 9480 .......... 3.704 |==============================================
Xeon Max 9480 2P ....... 2.961 |=====================================
NAS Parallel Benchmarks 3.4
Test / Class: CG.C
Total Mop/s > Higher Is Better
Xeon Platinum 8490H .... 33811.63 |===============
Xeon Platinum 8490H 2P . 58128.24 |==========================
Xeon Platinum 8592+ .... 63760.45 |============================
Xeon Platinum 8592+ 2P . 98764.93 |============================================
Xeon Max 9468 .......... 35116.55 |================
Xeon Max 9468 2P ....... 65396.22 |=============================
Xeon Max 9480 .......... 35234.06 |================
Xeon Max 9480 2P ....... 66492.44 |==============================
Kvazaar 2.2
Video Input: Bosphorus 4K - Video Preset: Very Fast
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 50.03 |===================================
Xeon Platinum 8490H 2P . 67.64 |===============================================
Xeon Platinum 8592+ .... 38.02 |==========================
Xeon Platinum 8592+ 2P . 65.38 |=============================================
Xeon Max 9468 .......... 40.23 |============================
Xeon Max 9468 2P ....... 51.91 |====================================
Xeon Max 9480 .......... 41.34 |=============================
Xeon Max 9480 2P ....... 52.23 |====================================
Embree 4.3
Binary: Pathtracer ISPC - Model: Asian Dragon
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 91.99 |=====================
Xeon Platinum 8490H 2P . 152.75 |===================================
Xeon Platinum 8592+ .... 112.66 |==========================
Xeon Platinum 8592+ 2P . 199.61 |==============================================
Xeon Max 9468 .......... 75.47 |=================
Xeon Max 9468 2P ....... 125.75 |=============================
Xeon Max 9480 .......... 83.49 |===================
Xeon Max 9480 2P ....... 129.75 |==============================
GNU Octave Benchmark 8.4.0
Seconds < Lower Is Better
Xeon Platinum 8490H .... 7.532 |===========================
Xeon Platinum 8490H 2P . 8.036 |=============================
Xeon Platinum 8592+ .... 6.458 |========================
Xeon Platinum 8592+ 2P . 6.856 |=========================
Xeon Max 9468 .......... 7.622 |============================
Xeon Max 9468 2P ....... 12.617 |==============================================
Xeon Max 9480 .......... 7.748 |============================
Xeon Max 9480 2P ....... 12.578 |==============================================
Intel Open Image Denoise 2.2
Run: RT.hdr_alb_nrm.3840x2160 - Device: CPU-Only
Images / Sec > Higher Is Better
Xeon Platinum 8490H .... 2.71 |==========================
Xeon Platinum 8490H 2P . 4.41 |==========================================
Xeon Platinum 8592+ .... 3.31 |================================
Xeon Platinum 8592+ 2P . 5.03 |================================================
Xeon Max 9468 .......... 2.26 |======================
Xeon Max 9468 2P ....... 3.51 |=================================
Xeon Max 9480 .......... 2.38 |=======================
Xeon Max 9480 2P ....... 3.65 |===================================
Pennant 1.0.1
Test: leblancbig
Hydro Cycle Time - Seconds < Lower Is Better
Xeon Platinum 8490H .... 4.955865 |=====================================
Xeon Platinum 8490H 2P . 2.529807 |===================
Xeon Platinum 8592+ .... 4.182707 |===============================
Xeon Platinum 8592+ 2P . 2.159459 |================
Xeon Max 9468 .......... 5.930957 |============================================
Xeon Max 9468 2P ....... 2.881099 |=====================
Xeon Max 9480 .......... 5.114161 |======================================
Xeon Max 9480 2P ....... 2.527363 |===================
Intel Open Image Denoise 2.2
Run: RT.ldr_alb_nrm.3840x2160 - Device: CPU-Only
Images / Sec > Higher Is Better
Xeon Platinum 8490H .... 2.71 |==========================
Xeon Platinum 8490H 2P . 4.48 |==========================================
Xeon Platinum 8592+ .... 3.32 |===============================
Xeon Platinum 8592+ 2P . 5.09 |================================================
Xeon Max 9468 .......... 2.27 |=====================
Xeon Max 9468 2P ....... 3.49 |=================================
Xeon Max 9480 .......... 2.39 |=======================
Xeon Max 9480 2P ....... 3.66 |===================================
Embree 4.3
Binary: Pathtracer ISPC - Model: Crown
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 70.05 |=====================
Xeon Platinum 8490H 2P . 124.71 |=====================================
Xeon Platinum 8592+ .... 82.97 |=========================
Xeon Platinum 8592+ 2P . 153.16 |==============================================
Xeon Max 9468 .......... 58.42 |==================
Xeon Max 9468 2P ....... 107.63 |================================
Xeon Max 9480 .......... 65.33 |====================
Xeon Max 9480 2P ....... 116.61 |===================================
WebP Image Encode 1.2.4
Encode Settings: Quality 100, Highest Compression
MP/s > Higher Is Better
Xeon Platinum 8490H .... 3.08 |===========================================
Xeon Platinum 8490H 2P . 3.07 |==========================================
Xeon Platinum 8592+ .... 3.47 |================================================
Xeon Platinum 8592+ 2P . 3.46 |================================================
Xeon Max 9468 .......... 3.10 |===========================================
Xeon Max 9468 2P ....... 3.09 |===========================================
Xeon Max 9480 .......... 3.10 |===========================================
Xeon Max 9480 2P ....... 3.09 |===========================================
oneDNN 3.4
Harness: IP Shapes 3D - Engine: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 0.771506 |========
Xeon Platinum 8490H 2P . 0.714699 |=======
Xeon Platinum 8592+ .... 0.841608 |=========
Xeon Platinum 8592+ 2P . 0.738442 |========
Xeon Max 9468 .......... 4.324650 |============================================
Xeon Max 9468 2P ....... 4.283990 |============================================
Xeon Max 9480 .......... 4.274810 |===========================================
Xeon Max 9480 2P ....... 4.175530 |==========================================
Google Draco 1.5.6
Model: Church Facade
ms < Lower Is Better
Xeon Platinum 8490H .... 5670 |========================================
Xeon Platinum 8490H 2P . 5672 |========================================
Xeon Platinum 8592+ .... 4565 |================================
Xeon Platinum 8592+ 2P . 4693 |=================================
Xeon Max 9468 .......... 6707 |===============================================
Xeon Max 9468 2P ....... 6821 |================================================
Xeon Max 9480 .......... 6693 |===============================================
Xeon Max 9480 2P ....... 6777 |================================================
oneDNN 3.4
Harness: Convolution Batch Shapes Auto - Engine: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 0.650618 |===
Xeon Platinum 8490H 2P . 0.438154 |==
Xeon Platinum 8592+ .... 0.585804 |===
Xeon Platinum 8592+ 2P . 0.306795 |=
Xeon Max 9468 .......... 9.194340 |============================================
Xeon Max 9468 2P ....... 7.754310 |=====================================
Xeon Max 9480 .......... 8.751050 |==========================================
Xeon Max 9480 2P ....... 7.060430 |==================================
ACES DGEMM 1.0
Sustained Floating-Point Rate
GFLOP/s > Higher Is Better
Xeon Platinum 8490H .... 23.54 |===================
Xeon Platinum 8490H 2P . 45.97 |=====================================
Xeon Platinum 8592+ .... 29.14 |========================
Xeon Platinum 8592+ 2P . 58.25 |===============================================
Xeon Max 9468 .......... 19.77 |================
Xeon Max 9468 2P ....... 39.35 |================================
Xeon Max 9480 .......... 22.54 |==================
Xeon Max 9480 2P ....... 44.67 |====================================
ASTC Encoder 4.7
Preset: Medium
MT/s > Higher Is Better
Xeon Platinum 8490H .... 333.99 |============================
Xeon Platinum 8490H 2P . 484.55 |=========================================
Xeon Platinum 8592+ .... 327.78 |===========================
Xeon Platinum 8592+ 2P . 550.02 |==============================================
Xeon Max 9468 .......... 247.30 |=====================
Xeon Max 9468 2P ....... 441.65 |=====================================
Xeon Max 9480 .......... 284.33 |========================
Xeon Max 9480 2P ....... 483.10 |========================================
libavif avifenc 1.0
Encoder Speed: 6, Lossless
Seconds < Lower Is Better
Xeon Platinum 8490H .... 6.278 |=========================================
Xeon Platinum 8490H 2P . 6.172 |=========================================
Xeon Platinum 8592+ .... 5.784 |======================================
Xeon Platinum 8592+ 2P . 5.613 |=====================================
Xeon Max 9468 .......... 6.836 |=============================================
Xeon Max 9468 2P ....... 7.121 |===============================================
Xeon Max 9480 .......... 6.605 |============================================
Xeon Max 9480 2P ....... 7.038 |==============================================
SVT-AV1 2.0
Encoder Mode: Preset 12 - Input: Bosphorus 4K
Frames Per Second > Higher Is Better
Xeon Platinum 8490H .... 164.25 |==========================================
Xeon Platinum 8490H 2P . 156.52 |========================================
Xeon Platinum 8592+ .... 177.86 |==============================================
Xeon Platinum 8592+ 2P . 165.50 |===========================================
Xeon Max 9468 .......... 146.10 |======================================
Xeon Max 9468 2P ....... 122.09 |================================
Xeon Max 9480 .......... 151.72 |=======================================
Xeon Max 9480 2P ....... 127.55 |=================================
Google Draco 1.5.6
Model: Lion
ms < Lower Is Better
Xeon Platinum 8490H .... 4731 |===========================================
Xeon Platinum 8490H 2P . 4733 |===========================================
Xeon Platinum 8592+ .... 3861 |===================================
Xeon Platinum 8592+ 2P . 3894 |===================================
Xeon Max 9468 .......... 5217 |===============================================
Xeon Max 9468 2P ....... 5342 |================================================
Xeon Max 9480 .......... 5188 |===============================================
Xeon Max 9480 2P ....... 5322 |================================================
LAMMPS Molecular Dynamics Simulator 23Jun2022
Model: Rhodopsin Protein
ns/day > Higher Is Better
Xeon Platinum 8490H .... 28.72 |========================
Xeon Platinum 8490H 2P . 42.28 |====================================
Xeon Platinum 8592+ .... 34.30 |=============================
Xeon Platinum 8592+ 2P . 55.50 |===============================================
Xeon Max 9468 .......... 27.63 |=======================
Xeon Max 9468 2P ....... 47.51 |========================================
Xeon Max 9480 .......... 30.84 |==========================
Xeon Max 9480 2P ....... 52.24 |============================================
libavif avifenc 1.0
Encoder Speed: 10, Lossless
Seconds < Lower Is Better
Xeon Platinum 8490H .... 4.923 |============================================
Xeon Platinum 8490H 2P . 5.074 |=============================================
Xeon Platinum 8592+ .... 4.456 |=======================================
Xeon Platinum 8592+ 2P . 4.579 |========================================
Xeon Max 9468 .......... 4.916 |===========================================
Xeon Max 9468 2P ....... 5.317 |===============================================
Xeon Max 9480 .......... 4.867 |===========================================
Xeon Max 9480 2P ....... 5.311 |===============================================
srsRAN Project 23.10.1-20240325
Test: PDSCH Processor Benchmark, Throughput Thread
Mbps > Higher Is Better
Xeon Platinum 8490H .... 680.2 |==========================================
Xeon Platinum 8490H 2P . 675.5 |==========================================
Xeon Platinum 8592+ .... 742.9 |==============================================
Xeon Platinum 8592+ 2P . 755.5 |===============================================
Xeon Max 9468 .......... 702.6 |============================================
Xeon Max 9468 2P ....... 651.9 |=========================================
Xeon Max 9480 .......... 705.5 |============================================
Xeon Max 9480 2P ....... 663.8 |=========================================
Primesieve 12.1
Length: 1e12
Seconds < Lower Is Better
Xeon Platinum 8490H .... 4.576 |===================================
Xeon Platinum 8490H 2P . 2.325 |==================
Xeon Platinum 8592+ .... 4.250 |================================
Xeon Platinum 8592+ 2P . 2.187 |=================
Xeon Max 9468 .......... 6.160 |===============================================
Xeon Max 9468 2P ....... 3.121 |========================
Xeon Max 9480 .......... 5.332 |=========================================
Xeon Max 9480 2P ....... 2.691 |=====================
libavif avifenc 1.0
Encoder Speed: 6
Seconds < Lower Is Better
Xeon Platinum 8490H .... 3.169 |=======================================
Xeon Platinum 8490H 2P . 3.044 |======================================
Xeon Platinum 8592+ .... 2.971 |=====================================
Xeon Platinum 8592+ 2P . 2.805 |===================================
Xeon Max 9468 .......... 3.730 |==============================================
Xeon Max 9468 2P ....... 3.776 |===============================================
Xeon Max 9480 .......... 3.550 |============================================
Xeon Max 9480 2P ....... 3.738 |===============================================
NAS Parallel Benchmarks 3.4
Test / Class: MG.C
Total Mop/s > Higher Is Better
Xeon Platinum 8490H .... 83448.70 |================
Xeon Platinum 8490H 2P . 163333.21 |================================
Xeon Platinum 8592+ .... 107321.89 |=====================
Xeon Platinum 8592+ 2P . 220893.78 |===========================================
Xeon Max 9468 .......... 85910.95 |=================
Xeon Max 9468 2P ....... 172614.10 |==================================
Xeon Max 9480 .......... 86407.46 |=================
Xeon Max 9480 2P ....... 171436.47 |=================================
Parallel BZIP2 Compression 1.1.13
FreeBSD-13.0-RELEASE-amd64-memstick.img Compression
Seconds < Lower Is Better
Xeon Platinum 8490H .... 2.144857 |====================================
Xeon Platinum 8490H 2P . 1.469210 |=========================
Xeon Platinum 8592+ .... 1.847537 |===============================
Xeon Platinum 8592+ 2P . 1.432362 |========================
Xeon Max 9468 .......... 2.632077 |============================================
Xeon Max 9468 2P ....... 1.982932 |=================================
Xeon Max 9480 .......... 2.287766 |======================================
Xeon Max 9480 2P ....... 1.711296 |=============================
oneDNN 3.4
Harness: Deconvolution Batch shapes_3d - Engine: CPU
ms < Lower Is Better
Xeon Platinum 8490H .... 1.077430 |======================================
Xeon Platinum 8490H 2P . 0.736170 |==========================
Xeon Platinum 8592+ .... 0.907161 |================================
Xeon Platinum 8592+ 2P . 0.624250 |======================
Xeon Max 9468 .......... 1.264070 |============================================
Xeon Max 9468 2P ....... 0.945075 |=================================
Xeon Max 9480 .......... 1.196430 |==========================================
Xeon Max 9480 2P ....... 0.864358 |==============================
WebP Image Encode 1.2.4
Encode Settings: Quality 100
MP/s > Higher Is Better
Xeon Platinum 8490H .... 10.11 |==========================================
Xeon Platinum 8490H 2P . 10.05 |==========================================
Xeon Platinum 8592+ .... 11.36 |===============================================
Xeon Platinum 8592+ 2P . 11.31 |===============================================
Xeon Max 9468 .......... 10.13 |==========================================
Xeon Max 9468 2P ....... 10.01 |=========================================
Xeon Max 9480 .......... 10.13 |==========================================
Xeon Max 9480 2P ....... 10.03 |=========================================
Timed CPython Compilation 3.10.6
Build Configuration: Default
Seconds < Lower Is Better
Xeon Platinum 8490H .... 19.20 |===============================================
Xeon Platinum 8490H 2P . 18.93 |==============================================
Xeon Platinum 8592+ .... 17.08 |==========================================
Xeon Platinum 8592+ 2P . 16.93 |=========================================
Xeon Max 9468 .......... 19.12 |===============================================
Xeon Max 9468 2P ....... 18.81 |==============================================
Xeon Max 9480 .......... 18.85 |==============================================
Xeon Max 9480 2P ....... 18.82 |==============================================