2024 Server CPUs

Benchmarks by Michael Larabel for a future article. 2 x Intel Xeon Max 9480 testing with a Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS) and ASPEED on Ubuntu 24.04 via the Phoronix Test Suite.

Compare your own system(s) to this result file with the Phoronix Test Suite by running the command: phoronix-test-suite benchmark 2405073-NE-UPLOAD15789
Jump To Table - Results

View

Do Not Show Noisy Results
Do Not Show Results With Incomplete Data
Do Not Show Results With Little Change/Spread
List Notable Results

Limit displaying results to tests within:

AV1 2 Tests
BLAS (Basic Linear Algebra Sub-Routine) Tests 4 Tests
C++ Boost Tests 5 Tests
Chess Test Suite 2 Tests
Timed Code Compilation 11 Tests
C/C++ Compiler Tests 18 Tests
Compression Tests 3 Tests
CPU Massive 28 Tests
Creator Workloads 26 Tests
Cryptography 5 Tests
Database Test Suite 6 Tests
Encoding 7 Tests
Fortran Tests 7 Tests
Game Development 6 Tests
HPC - High Performance Computing 30 Tests
Imaging 5 Tests
Java Tests 2 Tests
Common Kernel Benchmarks 3 Tests
LAPACK (Linear Algebra Pack) Tests 3 Tests
Linear Algebra 2 Tests
Machine Learning 7 Tests
Molecular Dynamics 10 Tests
MPI Benchmarks 10 Tests
Multi-Core 47 Tests
NVIDIA GPU Compute 3 Tests
Intel oneAPI 7 Tests
OpenMPI Tests 19 Tests
Programmer / Developer System Benchmarks 16 Tests
Python 2 Tests
Raytracing 2 Tests
Renderers 5 Tests
Scientific Computing 15 Tests
Software Defined Radio 2 Tests
Server 11 Tests
Server CPU Tests 19 Tests
Single-Threaded 3 Tests
Texture Compression 2 Tests
Video Encoding 7 Tests
Common Workstation Benchmarks 3 Tests

Statistics

Show Overall Harmonic Mean(s)
Show Overall Geometric Mean
Show Geometric Means Per-Suite/Category
Show Wins / Losses Counts (Pie Chart)
Normalize Results
Remove Outliers Before Calculating Averages

Graph Settings

Force Line Graphs Where Applicable
Convert To Scalar Where Applicable
Disable Color Branding
Prefer Vertical Bar Graphs

Additional Graphs

Show Perf Per Core/Thread Calculation Graphs Where Applicable
Show Perf Per Clock Calculation Graphs Where Applicable

Multi-Way Comparison

Condense Multi-Option Tests Into Single Result Graphs

Table

Show Detailed System Result Table

Run Management

Highlight
Result
Hide
Result
Result
Identifier
Performance Per
Dollar
Date
Run
  Test
  Duration
Xeon Platinum 8490H
April 16
  1 Day, 1 Hour, 45 Minutes
Xeon Platinum 8490H 2P
April 17
  1 Day, 3 Hours, 9 Minutes
Xeon Platinum 8592+
April 11
  1 Day, 2 Hours, 43 Minutes
Xeon Platinum 8592+ 2P
April 08
  1 Day, 4 Hours, 29 Minutes
Xeon Max 9468
April 21
  1 Day, 8 Hours, 22 Minutes
Xeon Max 9468 2P
April 22
  1 Day, 5 Hours, 47 Minutes
Xeon Max 9480
April 26
  1 Day, 6 Hours, 43 Minutes
Xeon Max 9480 2P
April 27
  1 Day, 12 Hours, 13 Minutes
Invert Hiding All Results Option
  1 Day, 5 Hours, 39 Minutes

Only show results where is faster than
Only show results matching title/arguments (delimit multiple options with a comma):
Do not show results matching title/arguments (delimit multiple options with a comma):

2024 Server CPUs Benchmarks by Michael Larabel for a future article. 2 x Intel Xeon Max 9480 testing with a Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS) and ASPEED on Ubuntu 24.04 via the Phoronix Test Suite. Xeon Platinum 8592+ 2P: Processor: 2 x INTEL XEON PLATINUM 8592+ @ 3.90GHz (128 Cores / 256 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1008GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Platinum 8592+: Processor: INTEL XEON PLATINUM 8592+ @ 3.90GHz (64 Cores / 128 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 512GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Platinum 8490H: Processor: Intel Xeon Platinum 8490H @ 3.50GHz (60 Cores / 120 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 512GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Platinum 8490H 2P: Processor: 2 x Intel Xeon Platinum 8490H @ 3.50GHz (120 Cores / 240 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1008GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Max 9468: Processor: Intel Xeon Max 9468 @ 3.50GHz (48 Cores / 96 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 576GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Max 9468 2P: Processor: 2 x Intel Xeon Max 9468 @ 3.50GHz (96 Cores / 192 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1136GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Max 9480: Processor: Intel Xeon Max 9480 @ 3.50GHz (56 Cores / 112 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 576GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Max 9480 2P: Processor: 2 x Intel Xeon Max 9480 @ 3.50GHz (112 Cores / 224 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1136GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 PyTorch 2.2.1 Device: CPU - Batch Size: 1 - Model: ResNet-50 batches/sec > Higher Is Better Xeon Platinum 8592+ 2P . 45.69 |============================ Xeon Platinum 8592+ .... 77.52 |=============================================== Xeon Platinum 8490H .... 51.46 |=============================== Xeon Platinum 8490H 2P . 35.53 |====================== Xeon Max 9468 .......... 50.99 |=============================== Xeon Max 9468 2P ....... 46.49 |============================ Xeon Max 9480 .......... 48.59 |============================= Xeon Max 9480 2P ....... 35.46 |===================== PyTorch 2.2.1 Device: CPU - Batch Size: 1 - Model: ResNet-152 batches/sec > Higher Is Better Xeon Platinum 8592+ 2P . 17.57 |============================== Xeon Platinum 8592+ .... 27.21 |=============================================== Xeon Platinum 8490H .... 19.41 |================================== Xeon Platinum 8490H 2P . 15.77 |=========================== Xeon Max 9468 .......... 19.99 |=================================== Xeon Max 9468 2P ....... 17.91 |=============================== Xeon Max 9480 .......... 18.07 |=============================== Xeon Max 9480 2P ....... 14.86 |========================== PyTorch 2.2.1 Device: CPU - Batch Size: 64 - Model: ResNet-50 batches/sec > Higher Is Better Xeon Platinum 8592+ 2P . 40.77 |============================== Xeon Platinum 8592+ .... 63.06 |=============================================== Xeon Platinum 8490H .... 56.01 |========================================== Xeon Platinum 8490H 2P . 37.08 |============================ Xeon Max 9468 .......... 51.55 |====================================== Xeon Max 9468 2P ....... 42.35 |================================ Xeon Max 9480 .......... 51.35 |====================================== Xeon Max 9480 2P ....... 38.30 |============================= PyTorch 2.2.1 Device: CPU - Batch Size: 64 - Model: ResNet-152 batches/sec > Higher Is Better Xeon Platinum 8592+ 2P . 16.25 |================================= Xeon Platinum 8592+ .... 23.49 |=============================================== Xeon Platinum 8490H .... 20.13 |======================================== Xeon Platinum 8490H 2P . 14.03 |============================ Xeon Max 9468 .......... 19.01 |====================================== Xeon Max 9468 2P ....... 15.84 |================================ Xeon Max 9480 .......... 19.24 |====================================== Xeon Max 9480 2P ....... 14.96 |============================== PyTorch 2.2.1 Device: CPU - Batch Size: 256 - Model: ResNet-50 batches/sec > Higher Is Better Xeon Platinum 8592+ 2P . 41.45 |=============================== Xeon Platinum 8592+ .... 63.60 |=============================================== Xeon Platinum 8490H .... 54.84 |========================================= Xeon Platinum 8490H 2P . 37.44 |============================ Xeon Max 9468 .......... 52.97 |======================================= Xeon Max 9468 2P ....... 41.68 |=============================== Xeon Max 9480 .......... 51.56 |====================================== Xeon Max 9480 2P ....... 37.91 |============================ PyTorch 2.2.1 Device: CPU - Batch Size: 256 - Model: ResNet-152 batches/sec > Higher Is Better Xeon Platinum 8592+ 2P . 16.00 |================================ Xeon Platinum 8592+ .... 23.33 |=============================================== Xeon Platinum 8490H .... 20.25 |========================================= Xeon Platinum 8490H 2P . 14.08 |============================ Xeon Max 9468 .......... 19.20 |======================================= Xeon Max 9468 2P ....... 16.30 |================================= Xeon Max 9480 .......... 19.58 |======================================= Xeon Max 9480 2P ....... 14.92 |============================== PyTorch 2.2.1 Device: CPU - Batch Size: 512 - Model: ResNet-50 batches/sec > Higher Is Better Xeon Platinum 8592+ 2P . 40.83 |============================== Xeon Platinum 8592+ .... 63.30 |=============================================== Xeon Platinum 8490H .... 56.44 |========================================== Xeon Platinum 8490H 2P . 37.55 |============================ Xeon Max 9468 .......... 51.05 |====================================== Xeon Max 9468 2P ....... 41.65 |=============================== Xeon Max 9480 .......... 51.86 |======================================= Xeon Max 9480 2P ....... 37.84 |============================ PyTorch 2.2.1 Device: CPU - Batch Size: 512 - Model: ResNet-152 batches/sec > Higher Is Better Xeon Platinum 8592+ 2P . 16.17 |================================ Xeon Platinum 8592+ .... 23.41 |=============================================== Xeon Platinum 8490H .... 20.46 |========================================= Xeon Platinum 8490H 2P . 14.59 |============================= Xeon Max 9468 .......... 19.47 |======================================= Xeon Max 9468 2P ....... 16.68 |================================= Xeon Max 9480 .......... 19.29 |======================================= Xeon Max 9480 2P ....... 14.74 |============================== Graph500 3.0 Scale: 26 bfs max_TEPS > Higher Is Better Xeon Platinum 8592+ 2P . 1267480000 |========================================= Xeon Platinum 8592+ .... 1299170000 |========================================== Graph500 3.0 Scale: 26 bfs median_TEPS > Higher Is Better Xeon Platinum 8592+ 2P . 1204520000 |========================================= Xeon Platinum 8592+ .... 1244300000 |========================================== miniBUDE 20210901 Implementation: OpenMP - Input Deck: BM1 Billion Interactions/s > Higher Is Better Xeon Platinum 8592+ 2P . 199.73 |============================================== Xeon Platinum 8592+ .... 106.40 |========================= Xeon Platinum 8490H .... 82.85 |=================== Xeon Platinum 8490H 2P . 133.63 |=============================== Xeon Max 9468 .......... 63.62 |=============== Xeon Max 9468 2P ....... 108.40 |========================= Xeon Max 9480 .......... 70.84 |================ Xeon Max 9480 2P ....... 114.90 |========================== miniBUDE 20210901 Implementation: OpenMP - Input Deck: BM2 Billion Interactions/s > Higher Is Better Xeon Platinum 8592+ 2P . 191.82 |============================================== Xeon Platinum 8592+ .... 108.12 |========================== Xeon Platinum 8490H .... 86.97 |===================== Xeon Platinum 8490H 2P . 140.83 |================================== Xeon Max 9468 .......... 70.21 |================= Xeon Max 9468 2P ....... 127.85 |=============================== Xeon Max 9480 .......... 78.11 |=================== Xeon Max 9480 2P ....... 133.99 |================================ OpenSSL 3.3 Algorithm: SHA256 byte/s > Higher Is Better Xeon Platinum 8592+ 2P . 131976050120 |======================================== Xeon Platinum 8592+ .... 66573957920 |==================== Xeon Platinum 8490H .... 61806994523 |=================== Xeon Platinum 8490H 2P . 119106802107 |==================================== Xeon Max 9468 .......... 44439185187 |============= Xeon Max 9468 2P ....... 88635753413 |=========================== Xeon Max 9480 .......... 51840436763 |================ Xeon Max 9480 2P ....... 103382860113 |=============================== OpenSSL 3.3 Algorithm: SHA512 byte/s > Higher Is Better Xeon Platinum 8592+ 2P . 46520760707 |========================================= Xeon Platinum 8592+ .... 23886054770 |===================== Xeon Platinum 8490H .... 22219927723 |==================== Xeon Platinum 8490H 2P . 42846254477 |====================================== Xeon Max 9468 .......... 16199261277 |============== Xeon Max 9468 2P ....... 32304222993 |============================ Xeon Max 9480 .......... 18893980783 |================= Xeon Max 9480 2P ....... 37564522053 |================================= OpenSSL 3.3 Algorithm: AES-128-GCM byte/s > Higher Is Better Xeon Platinum 8592+ 2P . 1769313146013 |======================================= Xeon Platinum 8592+ .... 889567506540 |==================== Xeon Platinum 8490H .... 768804693697 |================= Xeon Platinum 8490H 2P . 1533026300727 |================================== Xeon Max 9468 .......... 641200848170 |============== Xeon Max 9468 2P ....... 1277583382757 |============================ Xeon Max 9480 .......... 747710702660 |================ Xeon Max 9480 2P ....... 1484669627050 |================================= OpenSSL 3.3 Algorithm: AES-256-GCM byte/s > Higher Is Better Xeon Platinum 8592+ 2P . 1497529939377 |======================================= Xeon Platinum 8592+ .... 744387683670 |=================== Xeon Platinum 8490H .... 700239352717 |================== Xeon Platinum 8490H 2P . 1369534328470 |==================================== Xeon Max 9468 .......... 507456728087 |============= Xeon Max 9468 2P ....... 1011898993323 |========================== Xeon Max 9480 .......... 592014115453 |=============== Xeon Max 9480 2P ....... 1181148957353 |=============================== OpenSSL 3.3 Algorithm: ChaCha20 byte/s > Higher Is Better Xeon Platinum 8592+ 2P . 684284382760 |======================================== Xeon Platinum 8592+ .... 344150916937 |==================== Xeon Platinum 8490H .... 316126421173 |================== Xeon Platinum 8490H 2P . 624402972947 |==================================== Xeon Max 9468 .......... 226597354153 |============= Xeon Max 9468 2P ....... 449908494927 |========================== Xeon Max 9480 .......... 263740690067 |=============== Xeon Max 9480 2P ....... 522912403347 |=============================== OpenSSL 3.3 Algorithm: ChaCha20-Poly1305 byte/s > Higher Is Better Xeon Platinum 8592+ 2P . 444099144270 |======================================== Xeon Platinum 8592+ .... 223625738013 |==================== Xeon Platinum 8490H .... 225038850730 |==================== Xeon Platinum 8490H 2P . 442202532977 |======================================== Xeon Max 9468 .......... 161321058213 |=============== Xeon Max 9468 2P ....... 320396720447 |============================= Xeon Max 9480 .......... 187796174440 |================= Xeon Max 9480 2P ....... 372735215297 |================================== miniFE 2.2 Problem Size: Small CG Mflops > Higher Is Better Xeon Platinum 8592+ 2P . 42114.6 |======================================== Xeon Platinum 8592+ .... 31830.2 |=============================== Xeon Platinum 8490H .... 35230.1 |================================== Xeon Platinum 8490H 2P . 46877.5 |============================================= Xeon Max 9468 .......... 20091.1 |=================== Xeon Max 9468 2P ....... 19876.5 |=================== Xeon Max 9480 .......... 18621.2 |================== Xeon Max 9480 2P ....... 21583.2 |===================== Algebraic Multi-Grid Benchmark 1.2 Figure Of Merit > Higher Is Better Xeon Platinum 8592+ 2P . 3609646333 |========================================== Xeon Platinum 8592+ .... 1814760000 |===================== Xeon Platinum 8490H .... 1605097000 |=================== Xeon Platinum 8490H 2P . 3124402667 |==================================== Xeon Max 9468 .......... 1588496667 |================== Xeon Max 9468 2P ....... 3156261667 |===================================== Xeon Max 9480 .......... 1597993333 |=================== Xeon Max 9480 2P ....... 3205161000 |===================================== FFmpeg 7.0 Encoder: libx265 - Scenario: Upload FPS > Higher Is Better Xeon Platinum 8592+ 2P . 26.80 |=============================================== Xeon Platinum 8592+ .... 26.93 |=============================================== Xeon Platinum 8490H .... 24.97 |============================================ Xeon Platinum 8490H 2P . 24.56 |=========================================== Xeon Max 9468 .......... 23.33 |========================================= Xeon Max 9468 2P ....... 22.34 |======================================= Xeon Max 9480 .......... 23.77 |========================================= Xeon Max 9480 2P ....... 23.30 |========================================= FFmpeg 7.0 Encoder: libx265 - Scenario: Platform FPS > Higher Is Better Xeon Platinum 8592+ 2P . 53.22 |============================================== Xeon Platinum 8592+ .... 53.92 |=============================================== Xeon Platinum 8490H .... 49.79 |=========================================== Xeon Platinum 8490H 2P . 48.76 |=========================================== Xeon Max 9468 .......... 47.32 |========================================= Xeon Max 9468 2P ....... 45.95 |======================================== Xeon Max 9480 .......... 48.35 |========================================== Xeon Max 9480 2P ....... 46.59 |========================================= FFmpeg 7.0 Encoder: libx265 - Scenario: Video On Demand FPS > Higher Is Better Xeon Platinum 8592+ 2P . 53.29 |============================================== Xeon Platinum 8592+ .... 53.99 |=============================================== Xeon Platinum 8490H .... 49.84 |=========================================== Xeon Platinum 8490H 2P . 48.77 |========================================== Xeon Max 9468 .......... 47.34 |========================================= Xeon Max 9468 2P ....... 45.29 |======================================= Xeon Max 9480 .......... 48.14 |========================================== Xeon Max 9480 2P ....... 46.79 |========================================= OpenVINO 2024.0 Model: Face Detection FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 545.21 |============================================== Xeon Platinum 8592+ .... 284.64 |======================== Xeon Platinum 8490H .... 167.83 |============== Xeon Platinum 8490H 2P . 423.18 |==================================== Xeon Max 9468 .......... 202.59 |================= Xeon Max 9468 2P ....... 373.50 |================================ Xeon Max 9480 .......... 217.11 |================== Xeon Max 9480 2P ....... 401.45 |================================== OpenVINO 2024.0 Model: Age Gender Recognition Retail 0013 FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 128566.81 |============================= Xeon Platinum 8592+ .... 81279.79 |================== Xeon Platinum 8490H .... 115106.30 |========================== Xeon Platinum 8490H 2P . 189893.31 |=========================================== Xeon Max 9468 .......... 135075.07 |=============================== Xeon Max 9468 2P ....... 174862.56 |======================================== Xeon Max 9480 .......... 140144.01 |================================ Xeon Max 9480 2P ....... 176900.32 |======================================== OpenVINO 2024.0 Model: Person Detection FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 736.23 |============================================== Xeon Platinum 8592+ .... 403.20 |========================= Xeon Platinum 8490H .... 298.56 |=================== Xeon Platinum 8490H 2P . 654.84 |========================================= Xeon Max 9468 .......... 285.95 |================== Xeon Max 9468 2P ....... 568.81 |==================================== Xeon Max 9480 .......... 301.30 |=================== Xeon Max 9480 2P ....... 569.60 |==================================== OpenVINO 2024.0 Model: Weld Porosity Detection FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 48122.16 |============================================ Xeon Platinum 8592+ .... 26943.42 |========================= Xeon Platinum 8490H .... 15943.17 |=============== Xeon Platinum 8490H 2P . 47654.95 |============================================ Xeon Max 9468 .......... 19183.83 |================== Xeon Max 9468 2P ....... 37710.60 |================================== Xeon Max 9480 .......... 20910.53 |=================== Xeon Max 9480 2P ....... 40032.81 |===================================== OpenVINO 2024.0 Model: Vehicle Detection FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 8719.37 |============================================= Xeon Platinum 8592+ .... 4656.92 |======================== Xeon Platinum 8490H .... 3325.90 |================= Xeon Platinum 8490H 2P . 5483.81 |============================ Xeon Max 9468 .......... 2935.47 |=============== Xeon Max 9468 2P ....... 5576.86 |============================= Xeon Max 9480 .......... 2877.32 |=============== Xeon Max 9480 2P ....... 5525.56 |============================= OpenVINO 2024.0 Model: Person Vehicle Bike Detection FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 10934.17 |============================================ Xeon Platinum 8592+ .... 5725.03 |======================= Xeon Platinum 8490H .... 3606.12 |=============== Xeon Platinum 8490H 2P . 7862.58 |================================ Xeon Max 9468 .......... 3802.61 |=============== Xeon Max 9468 2P ....... 7127.28 |============================= Xeon Max 9480 .......... 4093.73 |================ Xeon Max 9480 2P ....... 7689.32 |=============================== OpenVINO 2024.0 Model: Machine Translation EN To DE FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 1128.78 |============================================= Xeon Platinum 8592+ .... 592.20 |======================== Xeon Platinum 8490H .... 477.77 |=================== Xeon Platinum 8490H 2P . 793.64 |================================ Xeon Max 9468 .......... 415.96 |================= Xeon Max 9468 2P ....... 795.63 |================================ Xeon Max 9480 .......... 467.08 |=================== Xeon Max 9480 2P ....... 889.18 |=================================== OpenVINO 2024.0 Model: Face Detection Retail FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 24676.86 |============================================ Xeon Platinum 8592+ .... 12317.94 |====================== Xeon Platinum 8490H .... 9004.23 |================ Xeon Platinum 8490H 2P . 20937.58 |===================================== Xeon Max 9468 .......... 9087.12 |================ Xeon Max 9468 2P ....... 17252.27 |=============================== Xeon Max 9480 .......... 9686.39 |================= Xeon Max 9480 2P ....... 18561.91 |================================= OpenVINO 2024.0 Model: Handwritten English Recognition FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 5570.63 |============================================= Xeon Platinum 8592+ .... 2924.66 |======================== Xeon Platinum 8490H .... 1643.43 |============= Xeon Platinum 8490H 2P . 4744.05 |====================================== Xeon Max 9468 .......... 2074.30 |================= Xeon Max 9468 2P ....... 3998.02 |================================ Xeon Max 9480 .......... 2243.84 |================== Xeon Max 9480 2P ....... 4351.59 |=================================== OpenVINO 2024.0 Model: Road Segmentation ADAS FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 2237.69 |============================================= Xeon Platinum 8592+ .... 1159.66 |======================= Xeon Platinum 8490H .... 1068.43 |===================== Xeon Platinum 8490H 2P . 1843.61 |===================================== Xeon Max 9468 .......... 860.64 |================= Xeon Max 9468 2P ....... 1691.79 |================================== Xeon Max 9480 .......... 894.87 |================== Xeon Max 9480 2P ....... 1801.89 |==================================== OpenVINO 2024.0 Model: Person Re-Identification Retail FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 18375.63 |============================================ Xeon Platinum 8592+ .... 9515.86 |======================= Xeon Platinum 8490H .... 5943.66 |============== Xeon Platinum 8490H 2P . 15519.92 |===================================== Xeon Max 9468 .......... 6717.65 |================ Xeon Max 9468 2P ....... 13102.28 |=============================== Xeon Max 9480 .......... 7207.74 |================= Xeon Max 9480 2P ....... 14033.94 |================================== OpenVINO 2024.0 Model: Noise Suppression Poconet-Like FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8592+ 2P . 9360.89 |============================================= Xeon Platinum 8592+ .... 6757.26 |================================ Xeon Platinum 8490H .... 4209.10 |==================== Xeon Platinum 8490H 2P . 7356.63 |=================================== Xeon Max 9468 .......... 4208.49 |==================== Xeon Max 9468 2P ....... 5565.23 |=========================== Xeon Max 9480 .......... 4386.48 |===================== Xeon Max 9480 2P ....... 5933.65 |============================= Embree 4.3 Binary: Pathtracer ISPC - Model: Asian Dragon Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 199.61 |============================================== Xeon Platinum 8592+ .... 112.66 |========================== Xeon Platinum 8490H .... 91.99 |===================== Xeon Platinum 8490H 2P . 152.75 |=================================== Xeon Max 9468 .......... 75.47 |================= Xeon Max 9468 2P ....... 125.75 |============================= Xeon Max 9480 .......... 83.49 |=================== Xeon Max 9480 2P ....... 129.75 |============================== Embree 4.3 Binary: Pathtracer ISPC - Model: Asian Dragon Obj Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 173.22 |============================================== Xeon Platinum 8592+ .... 97.19 |========================== Xeon Platinum 8490H .... 79.38 |===================== Xeon Platinum 8490H 2P . 132.28 |=================================== Xeon Max 9468 .......... 64.96 |================= Xeon Max 9468 2P ....... 104.84 |============================ Xeon Max 9480 .......... 71.83 |=================== Xeon Max 9480 2P ....... 112.72 |============================== Embree 4.3 Binary: Pathtracer ISPC - Model: Crown Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 153.16 |============================================== Xeon Platinum 8592+ .... 82.97 |========================= Xeon Platinum 8490H .... 70.05 |===================== Xeon Platinum 8490H 2P . 124.71 |===================================== Xeon Max 9468 .......... 58.42 |================== Xeon Max 9468 2P ....... 107.63 |================================ Xeon Max 9480 .......... 65.33 |==================== Xeon Max 9480 2P ....... 116.61 |=================================== SVT-AV1 2.0 Encoder Mode: Preset 13 - Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 162.98 |=========================================== Xeon Platinum 8592+ .... 174.83 |============================================== Xeon Platinum 8490H .... 162.47 |=========================================== Xeon Platinum 8490H 2P . 154.50 |========================================= Xeon Max 9468 .......... 144.70 |====================================== Xeon Max 9468 2P ....... 122.62 |================================ Xeon Max 9480 .......... 150.00 |======================================= Xeon Max 9480 2P ....... 124.26 |================================= SVT-AV1 2.0 Encoder Mode: Preset 12 - Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 165.50 |=========================================== Xeon Platinum 8592+ .... 177.86 |============================================== Xeon Platinum 8490H .... 164.25 |========================================== Xeon Platinum 8490H 2P . 156.52 |======================================== Xeon Max 9468 .......... 146.10 |====================================== Xeon Max 9468 2P ....... 122.09 |================================ Xeon Max 9480 .......... 151.72 |======================================= Xeon Max 9480 2P ....... 127.55 |================================= SVT-AV1 2.0 Encoder Mode: Preset 8 - Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 70.43 |========================================== Xeon Platinum 8592+ .... 79.44 |=============================================== Xeon Platinum 8490H .... 70.91 |========================================== Xeon Platinum 8490H 2P . 65.22 |======================================= Xeon Max 9468 .......... 62.75 |===================================== Xeon Max 9468 2P ....... 54.82 |================================ Xeon Max 9480 .......... 65.36 |======================================= Xeon Max 9480 2P ....... 55.98 |================================= SVT-AV1 2.0 Encoder Mode: Preset 4 - Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 7.360 |============================================ Xeon Platinum 8592+ .... 7.876 |=============================================== Xeon Platinum 8490H .... 7.061 |========================================== Xeon Platinum 8490H 2P . 6.698 |======================================== Xeon Max 9468 .......... 6.490 |======================================= Xeon Max 9468 2P ....... 5.991 |==================================== Xeon Max 9480 .......... 6.572 |======================================= Xeon Max 9480 2P ....... 6.052 |==================================== x265 3.6 Video Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 39.31 |=============================================== Xeon Platinum 8592+ .... 38.93 |=============================================== Xeon Platinum 8490H .... 37.86 |============================================= Xeon Platinum 8490H 2P . 37.04 |============================================ Xeon Max 9468 .......... 29.05 |=================================== Xeon Max 9468 2P ....... 27.26 |================================= Xeon Max 9480 .......... 31.40 |====================================== Xeon Max 9480 2P ....... 27.90 |================================= Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Slow Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 40.92 |=============================================== Xeon Platinum 8592+ .... 24.23 |============================ Xeon Platinum 8490H .... 20.23 |======================= Xeon Platinum 8490H 2P . 31.24 |==================================== Xeon Max 9468 .......... 17.52 |==================== Xeon Max 9468 2P ....... 26.00 |============================== Xeon Max 9480 .......... 18.24 |===================== Xeon Max 9480 2P ....... 28.96 |================================= Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Medium Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 41.58 |=============================================== Xeon Platinum 8592+ .... 24.80 |============================ Xeon Platinum 8490H .... 20.97 |======================== Xeon Platinum 8490H 2P . 32.04 |==================================== Xeon Max 9468 .......... 18.13 |==================== Xeon Max 9468 2P ....... 26.69 |============================== Xeon Max 9480 .......... 18.84 |===================== Xeon Max 9480 2P ....... 29.62 |================================= Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Very Fast Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 65.38 |============================================= Xeon Platinum 8592+ .... 38.02 |========================== Xeon Platinum 8490H .... 50.03 |=================================== Xeon Platinum 8490H 2P . 67.64 |=============================================== Xeon Max 9468 .......... 40.23 |============================ Xeon Max 9468 2P ....... 51.91 |==================================== Xeon Max 9480 .......... 41.34 |============================= Xeon Max 9480 2P ....... 52.23 |==================================== Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Super Fast Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 66.78 |============================================= Xeon Platinum 8592+ .... 39.20 |=========================== Xeon Platinum 8490H .... 66.74 |============================================= Xeon Platinum 8490H 2P . 69.05 |=============================================== Xeon Max 9468 .......... 53.13 |==================================== Xeon Max 9468 2P ....... 52.63 |==================================== Xeon Max 9480 .......... 54.47 |===================================== Xeon Max 9480 2P ....... 54.19 |===================================== Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Ultra Fast Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 73.81 |=============================================== Xeon Platinum 8592+ .... 47.07 |============================== Xeon Platinum 8490H .... 74.57 |=============================================== Xeon Platinum 8490H 2P . 72.01 |============================================= Xeon Max 9468 .......... 63.10 |======================================== Xeon Max 9468 2P ....... 54.98 |=================================== Xeon Max 9480 .......... 63.99 |======================================== Xeon Max 9480 2P ....... 58.14 |===================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Slow Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 27.11 |=============================================== Xeon Platinum 8592+ .... 16.06 |============================ Xeon Platinum 8490H .... 15.71 |=========================== Xeon Platinum 8490H 2P . 24.71 |=========================================== Xeon Max 9468 .......... 13.36 |======================= Xeon Max 9468 2P ....... 19.75 |================================== Xeon Max 9480 .......... 13.89 |======================== Xeon Max 9480 2P ....... 22.14 |====================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Medium Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 30.37 |=============================================== Xeon Platinum 8592+ .... 16.64 |========================== Xeon Platinum 8490H .... 17.85 |============================ Xeon Platinum 8490H 2P . 27.65 |=========================================== Xeon Max 9468 .......... 15.17 |======================= Xeon Max 9468 2P ....... 22.25 |================================== Xeon Max 9480 .......... 15.68 |======================== Xeon Max 9480 2P ....... 24.65 |====================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Very Fast Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 53.66 |============================================== Xeon Platinum 8592+ .... 35.10 |============================== Xeon Platinum 8490H .... 49.42 |========================================== Xeon Platinum 8490H 2P . 54.88 |=============================================== Xeon Max 9468 .......... 39.56 |================================== Xeon Max 9468 2P ....... 44.75 |====================================== Xeon Max 9480 .......... 40.82 |=================================== Xeon Max 9480 2P ....... 46.25 |======================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Super Fast Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 54.95 |=============================================== Xeon Platinum 8592+ .... 35.56 |============================== Xeon Platinum 8490H .... 55.54 |=============================================== Xeon Platinum 8490H 2P . 55.40 |=============================================== Xeon Max 9468 .......... 44.05 |===================================== Xeon Max 9468 2P ....... 45.09 |====================================== Xeon Max 9480 .......... 45.32 |====================================== Xeon Max 9480 2P ....... 44.40 |====================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Ultra Fast Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 57.13 |============================================ Xeon Platinum 8592+ .... 39.31 |============================== Xeon Platinum 8490H .... 60.87 |=============================================== Xeon Platinum 8490H 2P . 55.26 |=========================================== Xeon Max 9468 .......... 48.91 |====================================== Xeon Max 9468 2P ....... 46.13 |==================================== Xeon Max 9480 .......... 50.09 |======================================= Xeon Max 9480 2P ....... 45.79 |=================================== VVenC 1.11 Video Input: Bosphorus 4K - Video Preset: Fast Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 6.960 |============================================ Xeon Platinum 8592+ .... 7.392 |=============================================== Xeon Platinum 8490H .... 6.719 |=========================================== Xeon Platinum 8490H 2P . 6.480 |========================================= Xeon Max 9468 .......... 6.324 |======================================== Xeon Max 9468 2P ....... 6.023 |====================================== Xeon Max 9480 .......... 6.501 |========================================= Xeon Max 9480 2P ....... 6.077 |======================================= VVenC 1.11 Video Input: Bosphorus 4K - Video Preset: Faster Frames Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 13.26 |======================================= Xeon Platinum 8592+ .... 15.97 |=============================================== Xeon Platinum 8490H .... 15.06 |============================================ Xeon Platinum 8490H 2P . 12.54 |===================================== Xeon Max 9468 .......... 14.10 |========================================= Xeon Max 9468 2P ....... 11.90 |=================================== Xeon Max 9480 .......... 14.36 |========================================== Xeon Max 9480 2P ....... 11.97 |=================================== miniBUDE 20210901 Implementation: OpenMP - Input Deck: BM1 GFInst/s > Higher Is Better Xeon Platinum 8592+ 2P . 4993.34 |============================================= Xeon Platinum 8592+ .... 2659.88 |======================== Xeon Platinum 8490H .... 2071.19 |=================== Xeon Platinum 8490H 2P . 3340.69 |============================== Xeon Max 9468 .......... 1590.50 |============== Xeon Max 9468 2P ....... 2709.93 |======================== Xeon Max 9480 .......... 1771.07 |================ Xeon Max 9480 2P ....... 2872.56 |========================== miniBUDE 20210901 Implementation: OpenMP - Input Deck: BM2 GFInst/s > Higher Is Better Xeon Platinum 8592+ 2P . 4795.46 |============================================= Xeon Platinum 8592+ .... 2703.09 |========================= Xeon Platinum 8490H .... 2174.19 |==================== Xeon Platinum 8490H 2P . 3520.71 |================================= Xeon Max 9468 .......... 1755.33 |================ Xeon Max 9468 2P ....... 3196.12 |============================== Xeon Max 9480 .......... 1952.61 |================== Xeon Max 9480 2P ....... 3349.76 |=============================== ACES DGEMM 1.0 Sustained Floating-Point Rate GFLOP/s > Higher Is Better Xeon Platinum 8592+ 2P . 58.25 |=============================================== Xeon Platinum 8592+ .... 29.14 |======================== Xeon Platinum 8490H .... 23.54 |=================== Xeon Platinum 8490H 2P . 45.97 |===================================== Xeon Max 9468 .......... 19.77 |================ Xeon Max 9468 2P ....... 39.35 |================================ Xeon Max 9480 .......... 22.54 |================== Xeon Max 9480 2P ....... 44.67 |==================================== High Performance Conjugate Gradient 3.1 X Y Z: 144 144 144 - RT: 60 GFLOP/s > Higher Is Better Xeon Platinum 8592+ 2P . 69.30 |=============================================== Xeon Platinum 8592+ .... 35.14 |======================== Xeon Platinum 8490H .... 31.07 |===================== Xeon Platinum 8490H 2P . 60.85 |========================================= Xeon Max 9468 .......... 25.24 |================= Xeon Max 9468 2P ....... 54.41 |===================================== Xeon Max 9480 .......... 30.59 |===================== Xeon Max 9480 2P ....... 62.64 |========================================== Xmrig 6.21 Variant: GhostRider - Hash Count: 1M H/s > Higher Is Better Xeon Platinum 8592+ 2P . 16324.7 |============================================= Xeon Platinum 8592+ .... 8378.3 |======================= Xeon Platinum 8490H .... 5808.8 |================ Xeon Platinum 8490H 2P . 11263.2 |=============================== Xeon Max 9468 .......... 5446.8 |=============== Xeon Max 9468 2P ....... 10975.8 |============================== Xeon Max 9480 .......... 6122.3 |================= Xeon Max 9480 2P ....... 12115.0 |================================= Intel Open Image Denoise 2.2 Run: RT.hdr_alb_nrm.3840x2160 - Device: CPU-Only Images / Sec > Higher Is Better Xeon Platinum 8592+ 2P . 5.03 |================================================ Xeon Platinum 8592+ .... 3.31 |================================ Xeon Platinum 8490H .... 2.71 |========================== Xeon Platinum 8490H 2P . 4.41 |========================================== Xeon Max 9468 .......... 2.26 |====================== Xeon Max 9468 2P ....... 3.51 |================================= Xeon Max 9480 .......... 2.38 |======================= Xeon Max 9480 2P ....... 3.65 |=================================== Intel Open Image Denoise 2.2 Run: RT.ldr_alb_nrm.3840x2160 - Device: CPU-Only Images / Sec > Higher Is Better Xeon Platinum 8592+ 2P . 5.09 |================================================ Xeon Platinum 8592+ .... 3.32 |=============================== Xeon Platinum 8490H .... 2.71 |========================== Xeon Platinum 8490H 2P . 4.48 |========================================== Xeon Max 9468 .......... 2.27 |===================== Xeon Max 9468 2P ....... 3.49 |================================= Xeon Max 9480 .......... 2.39 |======================= Xeon Max 9480 2P ....... 3.66 |=================================== Intel Open Image Denoise 2.2 Run: RTLightmap.hdr.4096x4096 - Device: CPU-Only Images / Sec > Higher Is Better Xeon Platinum 8592+ 2P . 2.40 |================================================ Xeon Platinum 8592+ .... 1.58 |================================ Xeon Platinum 8490H .... 1.29 |========================== Xeon Platinum 8490H 2P . 2.18 |============================================ Xeon Max 9468 .......... 1.08 |====================== Xeon Max 9468 2P ....... 1.72 |================================== Xeon Max 9480 .......... 1.14 |======================= Xeon Max 9480 2P ....... 1.74 |=================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 1 - Model: ResNet-50 images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 3.85 |================ Xeon Platinum 8592+ .... 6.43 |=========================== Xeon Platinum 8490H .... 10.53 |============================================ Xeon Platinum 8490H 2P . 4.39 |================== Xeon Max 9468 .......... 11.29 |=============================================== Xeon Max 9468 2P ....... 5.11 |===================== Xeon Max 9480 .......... 9.99 |========================================== Xeon Max 9480 2P ....... 4.37 |================== TensorFlow 2.16.1 Device: CPU - Batch Size: 1 - Model: AlexNet images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 30.76 |========================== Xeon Platinum 8592+ .... 35.50 |============================== Xeon Platinum 8490H .... 56.53 |=============================================== Xeon Platinum 8490H 2P . 37.57 |=============================== Xeon Max 9468 .......... 48.28 |======================================== Xeon Max 9468 2P ....... 37.76 |=============================== Xeon Max 9480 .......... 43.67 |==================================== Xeon Max 9480 2P ....... 33.21 |============================ TensorFlow 2.16.1 Device: CPU - Batch Size: 1 - Model: GoogLeNet images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 12.69 |================= Xeon Platinum 8592+ .... 21.67 |============================ Xeon Platinum 8490H .... 33.56 |============================================ Xeon Platinum 8490H 2P . 13.50 |================== Xeon Max 9468 .......... 36.13 |=============================================== Xeon Max 9468 2P ....... 18.24 |======================== Xeon Max 9480 .......... 31.47 |========================================= Xeon Max 9480 2P ....... 14.67 |=================== TensorFlow 2.16.1 Device: CPU - Batch Size: 64 - Model: ResNet-50 images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 94.66 |==================================== Xeon Platinum 8592+ .... 91.51 |=================================== Xeon Platinum 8490H .... 120.93 |============================================== Xeon Platinum 8490H 2P . 115.47 |============================================ Xeon Max 9468 .......... 104.23 |======================================== Xeon Max 9468 2P ....... 111.71 |========================================== Xeon Max 9480 .......... 103.56 |======================================= Xeon Max 9480 2P ....... 107.30 |========================================= TensorFlow 2.16.1 Device: CPU - Batch Size: 64 - Model: AlexNet images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 858.84 |======================================== Xeon Platinum 8592+ .... 819.89 |====================================== Xeon Platinum 8490H .... 969.62 |============================================= Xeon Platinum 8490H 2P . 996.47 |============================================== Xeon Max 9468 .......... 841.68 |======================================= Xeon Max 9468 2P ....... 932.59 |=========================================== Xeon Max 9480 .......... 852.36 |======================================= Xeon Max 9480 2P ....... 940.40 |=========================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 64 - Model: GoogLeNet images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 291.37 |=================================== Xeon Platinum 8592+ .... 319.76 |======================================= Xeon Platinum 8490H .... 380.14 |============================================== Xeon Platinum 8490H 2P . 331.76 |======================================== Xeon Max 9468 .......... 333.73 |======================================== Xeon Max 9468 2P ....... 341.51 |========================================= Xeon Max 9480 .......... 335.58 |========================================= Xeon Max 9480 2P ....... 308.95 |===================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 256 - Model: ResNet-50 images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 150.33 |=========================================== Xeon Platinum 8592+ .... 129.02 |===================================== Xeon Platinum 8490H .... 143.67 |========================================= Xeon Platinum 8490H 2P . 161.06 |============================================== Xeon Max 9468 .......... 119.73 |================================== Xeon Max 9468 2P ....... 141.95 |========================================= Xeon Max 9480 .......... 123.69 |=================================== Xeon Max 9480 2P ....... 135.28 |======================================= TensorFlow 2.16.1 Device: CPU - Batch Size: 256 - Model: AlexNet images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 1681.44 |============================================ Xeon Platinum 8592+ .... 1277.46 |================================= Xeon Platinum 8490H .... 1205.30 |=============================== Xeon Platinum 8490H 2P . 1730.25 |============================================= Xeon Max 9468 .......... 986.04 |========================== Xeon Max 9468 2P ....... 1479.53 |====================================== Xeon Max 9480 .......... 1058.99 |============================ Xeon Max 9480 2P ....... 1528.41 |======================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 256 - Model: GoogLeNet images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 501.39 |============================================ Xeon Platinum 8592+ .... 423.59 |===================================== Xeon Platinum 8490H .... 448.46 |======================================= Xeon Platinum 8490H 2P . 528.93 |============================================== Xeon Max 9468 .......... 375.73 |================================= Xeon Max 9468 2P ....... 447.50 |======================================= Xeon Max 9480 .......... 386.00 |================================== Xeon Max 9480 2P ....... 449.91 |======================================= TensorFlow 2.16.1 Device: CPU - Batch Size: 512 - Model: ResNet-50 images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 169.75 |============================================= Xeon Platinum 8592+ .... 140.53 |===================================== Xeon Platinum 8490H .... 148.45 |======================================= Xeon Platinum 8490H 2P . 174.95 |============================================== Xeon Max 9468 .......... 117.53 |=============================== Xeon Max 9468 2P ....... 145.29 |====================================== Xeon Max 9480 .......... 125.14 |================================= Xeon Max 9480 2P ....... 138.39 |==================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 512 - Model: AlexNet images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 2039.63 |============================================= Xeon Platinum 8592+ .... 1486.12 |================================= Xeon Platinum 8490H .... 1278.45 |============================ Xeon Platinum 8490H 2P . 1899.64 |========================================== Xeon Max 9468 .......... 1047.96 |======================= Xeon Max 9468 2P ....... 1604.11 |=================================== Xeon Max 9480 .......... 1108.95 |======================== Xeon Max 9480 2P ....... 1677.62 |===================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 512 - Model: GoogLeNet images/sec > Higher Is Better Xeon Platinum 8592+ 2P . 577.76 |============================================== Xeon Platinum 8592+ .... 462.78 |===================================== Xeon Platinum 8490H .... 461.23 |===================================== Xeon Platinum 8490H 2P . 576.08 |============================================== Xeon Max 9468 .......... 383.57 |=============================== Xeon Max 9468 2P ....... 467.91 |===================================== Xeon Max 9480 .......... 398.40 |================================ Xeon Max 9480 2P ....... 477.33 |====================================== ONNX Runtime 1.17 Model: yolov4 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 16.97 |=================================== Xeon Platinum 8592+ .... 22.97 |=============================================== Xeon Platinum 8490H .... 19.86 |========================================= Xeon Platinum 8490H 2P . 15.56 |================================ Xeon Max 9468 .......... 18.22 |===================================== Xeon Max 9468 2P ....... 14.48 |============================== Xeon Max 9480 .......... 16.92 |=================================== Xeon Max 9480 2P ....... 14.46 |============================== ONNX Runtime 1.17 Model: yolov4 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 14.20 |================================ Xeon Platinum 8592+ .... 20.88 |=============================================== Xeon Platinum 8490H .... 18.14 |========================================= Xeon Platinum 8490H 2P . 12.75 |============================= Xeon Max 9468 .......... 16.17 |==================================== Xeon Max 9468 2P ....... 13.09 |============================= Xeon Max 9480 .......... 16.39 |===================================== Xeon Max 9480 2P ....... 12.60 |============================ ONNX Runtime 1.17 Model: fcn-resnet101-11 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 9.92684 |======================================== Xeon Platinum 8592+ .... 9.11885 |===================================== Xeon Platinum 8490H .... 8.59719 |=================================== Xeon Platinum 8490H 2P . 10.83623 |============================================ Xeon Max 9468 .......... 7.24187 |============================= Xeon Max 9468 2P ....... 8.39962 |================================== Xeon Max 9480 .......... 6.54965 |=========================== Xeon Max 9480 2P ....... 8.26016 |================================== ONNX Runtime 1.17 Model: fcn-resnet101-11 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 3.05085 |========================================= Xeon Platinum 8592+ .... 3.30836 |============================================= Xeon Platinum 8490H .... 3.03922 |========================================= Xeon Platinum 8490H 2P . 2.83498 |======================================= Xeon Max 9468 .......... 2.62544 |==================================== Xeon Max 9468 2P ....... 2.17463 |============================== Xeon Max 9480 .......... 2.61721 |==================================== Xeon Max 9480 2P ....... 2.10480 |============================= ONNX Runtime 1.17 Model: super-resolution-10 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 251.31 |============================================= Xeon Platinum 8592+ .... 259.19 |============================================== Xeon Platinum 8490H .... 227.42 |======================================== Xeon Platinum 8490H 2P . 212.92 |====================================== Xeon Max 9468 .......... 217.88 |======================================= Xeon Max 9468 2P ....... 205.89 |===================================== Xeon Max 9480 .......... 213.99 |====================================== Xeon Max 9480 2P ....... 199.90 |=================================== ONNX Runtime 1.17 Model: super-resolution-10 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 214.81 |========================================== Xeon Platinum 8592+ .... 234.54 |============================================== Xeon Platinum 8490H .... 205.53 |======================================== Xeon Platinum 8490H 2P . 188.89 |===================================== Xeon Max 9468 .......... 195.71 |====================================== Xeon Max 9468 2P ....... 173.91 |================================== Xeon Max 9480 .......... 190.06 |===================================== Xeon Max 9480 2P ....... 169.85 |================================= ONNX Runtime 1.17 Model: bertsquad-12 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 22.43 |========================================== Xeon Platinum 8592+ .... 25.16 |=============================================== Xeon Platinum 8490H .... 20.15 |====================================== Xeon Platinum 8490H 2P . 16.57 |=============================== Xeon Max 9468 .......... 21.17 |======================================== Xeon Max 9468 2P ....... 16.64 |=============================== Xeon Max 9480 .......... 20.01 |===================================== Xeon Max 9480 2P ....... 17.99 |================================== ONNX Runtime 1.17 Model: bertsquad-12 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 15.43 |===================================== Xeon Platinum 8592+ .... 19.68 |=============================================== Xeon Platinum 8490H .... 16.10 |====================================== Xeon Platinum 8490H 2P . 14.53 |=================================== Xeon Max 9468 .......... 16.33 |======================================= Xeon Max 9468 2P ....... 13.74 |================================= Xeon Max 9480 .......... 15.74 |====================================== Xeon Max 9480 2P ....... 13.52 |================================ ONNX Runtime 1.17 Model: GPT-2 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 236.65 |======================================== Xeon Platinum 8592+ .... 270.33 |============================================== Xeon Platinum 8490H .... 222.03 |====================================== Xeon Platinum 8490H 2P . 180.03 |=============================== Xeon Max 9468 .......... 176.33 |============================== Xeon Max 9468 2P ....... 141.95 |======================== Xeon Max 9480 .......... 168.86 |============================= Xeon Max 9480 2P ....... 132.71 |======================= ONNX Runtime 1.17 Model: GPT-2 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 195.45 |==================================== Xeon Platinum 8592+ .... 248.68 |============================================== Xeon Platinum 8490H .... 191.56 |=================================== Xeon Platinum 8490H 2P . 144.64 |=========================== Xeon Max 9468 .......... 191.11 |=================================== Xeon Max 9468 2P ....... 135.98 |========================= Xeon Max 9480 .......... 188.93 |=================================== Xeon Max 9480 2P ....... 136.69 |========================= ONNX Runtime 1.17 Model: ArcFace ResNet-100 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 38.42 |=========================== Xeon Platinum 8592+ .... 66.52 |=============================================== Xeon Platinum 8490H .... 52.82 |===================================== Xeon Platinum 8490H 2P . 36.25 |========================== Xeon Max 9468 .......... 47.27 |================================= Xeon Max 9468 2P ....... 40.57 |============================= Xeon Max 9480 .......... 42.27 |============================== Xeon Max 9480 2P ....... 33.96 |======================== ONNX Runtime 1.17 Model: ArcFace ResNet-100 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 31.46 |======================== Xeon Platinum 8592+ .... 60.41 |=============================================== Xeon Platinum 8490H .... 46.85 |==================================== Xeon Platinum 8490H 2P . 29.15 |======================= Xeon Max 9468 .......... 40.73 |================================ Xeon Max 9468 2P ....... 32.81 |========================== Xeon Max 9480 .......... 42.27 |================================= Xeon Max 9480 2P ....... 29.20 |======================= ONNX Runtime 1.17 Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 171.23 |======================== Xeon Platinum 8592+ .... 314.06 |============================================ Xeon Platinum 8490H .... 315.41 |============================================ Xeon Platinum 8490H 2P . 177.76 |========================= Xeon Max 9468 .......... 330.10 |============================================== Xeon Max 9468 2P ....... 174.68 |======================== Xeon Max 9480 .......... 296.80 |========================================= Xeon Max 9480 2P ....... 161.89 |======================= ONNX Runtime 1.17 Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 153.92 |====================== Xeon Platinum 8592+ .... 308.80 |============================================= Xeon Platinum 8490H .... 313.10 |============================================= Xeon Platinum 8490H 2P . 156.46 |======================= Xeon Max 9468 .......... 319.04 |============================================== Xeon Max 9468 2P ....... 166.49 |======================== Xeon Max 9480 .......... 301.14 |=========================================== Xeon Max 9480 2P ....... 153.41 |====================== ONNX Runtime 1.17 Model: CaffeNet 12-int8 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 754.81 |====================================== Xeon Platinum 8592+ .... 908.19 |============================================== Xeon Platinum 8490H .... 852.33 |=========================================== Xeon Platinum 8490H 2P . 696.98 |=================================== Xeon Max 9468 .......... 728.47 |===================================== Xeon Max 9468 2P ....... 604.76 |=============================== Xeon Max 9480 .......... 705.61 |==================================== Xeon Max 9480 2P ....... 581.77 |============================= ONNX Runtime 1.17 Model: CaffeNet 12-int8 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 605.59 |================================== Xeon Platinum 8592+ .... 830.73 |============================================== Xeon Platinum 8490H .... 784.30 |=========================================== Xeon Platinum 8490H 2P . 566.38 |=============================== Xeon Max 9468 .......... 687.67 |====================================== Xeon Max 9468 2P ....... 492.89 |=========================== Xeon Max 9480 .......... 678.48 |====================================== Xeon Max 9480 2P ....... 478.47 |========================== ONNX Runtime 1.17 Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 34.66 |=============================================== Xeon Platinum 8592+ .... 34.46 |=============================================== Xeon Platinum 8490H .... 34.00 |============================================== Xeon Platinum 8490H 2P . 33.61 |============================================== Xeon Max 9468 .......... 30.00 |========================================= Xeon Max 9468 2P ....... 27.61 |===================================== Xeon Max 9480 .......... 29.43 |======================================== Xeon Max 9480 2P ....... 27.78 |====================================== ONNX Runtime 1.17 Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 31.71 |============================================= Xeon Platinum 8592+ .... 33.38 |=============================================== Xeon Platinum 8490H .... 32.34 |============================================== Xeon Platinum 8490H 2P . 30.04 |========================================== Xeon Max 9468 .......... 28.52 |======================================== Xeon Max 9468 2P ....... 24.73 |=================================== Xeon Max 9480 .......... 28.48 |======================================== Xeon Max 9480 2P ....... 24.68 |=================================== ONNX Runtime 1.17 Model: T5 Encoder - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 356.76 |==================================== Xeon Platinum 8592+ .... 460.78 |============================================== Xeon Platinum 8490H .... 357.36 |==================================== Xeon Platinum 8490H 2P . 288.47 |============================= Xeon Max 9468 .......... 219.53 |====================== Xeon Max 9468 2P ....... 199.08 |==================== Xeon Max 9480 .......... 215.13 |===================== Xeon Max 9480 2P ....... 185.46 |=================== ONNX Runtime 1.17 Model: T5 Encoder - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 354.75 |=================================== Xeon Platinum 8592+ .... 462.86 |============================================== Xeon Platinum 8490H .... 326.14 |================================ Xeon Platinum 8490H 2P . 246.34 |======================== Xeon Max 9468 .......... 337.00 |================================= Xeon Max 9468 2P ....... 246.68 |========================= Xeon Max 9480 .......... 346.21 |================================== Xeon Max 9480 2P ....... 252.67 |========================= OpenVKL 2.0.0 Benchmark: vklBenchmarkCPU ISPC Items / Sec > Higher Is Better Xeon Platinum 8592+ 2P . 3222 |================================================ Xeon Platinum 8592+ .... 2004 |============================== Xeon Platinum 8490H .... 1734 |========================== Xeon Platinum 8490H 2P . 2716 |======================================== Xeon Max 9468 .......... 1243 |=================== Xeon Max 9468 2P ....... 1776 |========================== Xeon Max 9480 .......... 1356 |==================== Xeon Max 9480 2P ....... 1852 |============================ OSPRay 3.1 Benchmark: gravity_spheres_volume/dim_512/ao/real_time Items Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 42.13 |=============================================== Xeon Platinum 8592+ .... 23.73 |========================== Xeon Platinum 8490H .... 19.85 |====================== Xeon Platinum 8490H 2P . 36.15 |======================================== Xeon Max 9468 .......... 15.40 |================= Xeon Max 9468 2P ....... 15.98 |================== Xeon Max 9480 .......... 16.32 |================== Xeon Max 9480 2P ....... 15.37 |================= OSPRay 3.1 Benchmark: gravity_spheres_volume/dim_512/scivis/real_time Items Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 41.91 |=============================================== Xeon Platinum 8592+ .... 23.18 |========================== Xeon Platinum 8490H .... 19.58 |====================== Xeon Platinum 8490H 2P . 35.60 |======================================== Xeon Max 9468 .......... 15.50 |================= Xeon Max 9468 2P ....... 15.34 |================= Xeon Max 9480 .......... 16.27 |================== Xeon Max 9480 2P ....... 15.82 |================== OSPRay 3.1 Benchmark: gravity_spheres_volume/dim_512/pathtracer/real_time Items Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 48.76 |=============================================== Xeon Platinum 8592+ .... 27.10 |========================== Xeon Platinum 8490H .... 24.64 |======================== Xeon Platinum 8490H 2P . 42.82 |========================================= Xeon Max 9468 .......... 19.91 |=================== Xeon Max 9468 2P ....... 35.93 |=================================== Xeon Max 9480 .......... 22.36 |====================== Xeon Max 9480 2P ....... 39.34 |====================================== OSPRay 3.1 Benchmark: particle_volume/ao/real_time Items Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 54.12 |=============================================== Xeon Platinum 8592+ .... 30.84 |=========================== Xeon Platinum 8490H .... 21.93 |=================== Xeon Platinum 8490H 2P . 38.22 |================================= Xeon Max 9468 .......... 16.05 |============== Xeon Max 9468 2P ....... 29.50 |========================== Xeon Max 9480 .......... 18.55 |================ Xeon Max 9480 2P ....... 33.11 |============================= OSPRay 3.1 Benchmark: particle_volume/scivis/real_time Items Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 53.93 |=============================================== Xeon Platinum 8592+ .... 30.68 |=========================== Xeon Platinum 8490H .... 21.89 |=================== Xeon Platinum 8490H 2P . 38.23 |================================= Xeon Max 9468 .......... 16.09 |============== Xeon Max 9468 2P ....... 29.35 |========================== Xeon Max 9480 .......... 18.49 |================ Xeon Max 9480 2P ....... 33.13 |============================= OSPRay 3.1 Benchmark: particle_volume/pathtracer/real_time Items Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 176.40 |========================================== Xeon Platinum 8592+ .... 193.14 |============================================== Xeon Platinum 8490H .... 160.24 |====================================== Xeon Platinum 8490H 2P . 149.09 |==================================== Xeon Max 9468 .......... 144.48 |================================== Xeon Max 9468 2P ....... 137.50 |================================= Xeon Max 9480 .......... 143.48 |================================== Xeon Max 9480 2P ....... 135.44 |================================ GraphicsMagick 1.3.43 Operation: HWB Color Space Iterations Per Minute > Higher Is Better Xeon Platinum 8592+ 2P . 256 |============================================ Xeon Platinum 8592+ .... 285 |================================================= Xeon Platinum 8490H .... 265 |============================================= Xeon Platinum 8490H 2P . 236 |======================================== Xeon Max 9468 .......... 286 |================================================= Xeon Max 9468 2P ....... 193 |================================= Xeon Max 9480 .......... 277 |=============================================== Xeon Max 9480 2P ....... 207 |=================================== GraphicsMagick 1.3.43 Operation: Noise-Gaussian Iterations Per Minute > Higher Is Better Xeon Platinum 8592+ 2P . 194 |================================================= Xeon Platinum 8592+ .... 171 |=========================================== Xeon Platinum 8490H .... 158 |======================================== Xeon Platinum 8490H 2P . 182 |============================================== Xeon Max 9468 .......... 150 |====================================== Xeon Max 9468 2P ....... 150 |====================================== Xeon Max 9480 .......... 158 |======================================== Xeon Max 9480 2P ....... 164 |========================================= GraphicsMagick 1.3.43 Operation: Enhanced Iterations Per Minute > Higher Is Better Xeon Platinum 8592+ 2P . 374 |================================================= Xeon Platinum 8592+ .... 228 |============================== Xeon Platinum 8490H .... 216 |============================ Xeon Platinum 8490H 2P . 342 |============================================= Xeon Max 9468 .......... 160 |===================== Xeon Max 9468 2P ....... 269 |=================================== Xeon Max 9480 .......... 181 |======================== Xeon Max 9480 2P ....... 301 |======================================= GraphicsMagick 1.3.43 Operation: Resizing Iterations Per Minute > Higher Is Better Xeon Platinum 8592+ 2P . 96 |=================== Xeon Platinum 8592+ .... 230 |============================================== Xeon Platinum 8490H .... 229 |============================================== Xeon Platinum 8490H 2P . 95 |=================== Xeon Max 9468 .......... 245 |================================================= Xeon Max 9468 2P ....... 108 |====================== Xeon Max 9480 .......... 213 |=========================================== Xeon Max 9480 2P ....... 97 |=================== GraphicsMagick 1.3.43 Operation: Rotate Iterations Per Minute > Higher Is Better Xeon Platinum 8592+ 2P . 182 |============================================ Xeon Platinum 8592+ .... 203 |================================================= Xeon Platinum 8490H .... 196 |=============================================== Xeon Platinum 8490H 2P . 172 |========================================== Xeon Max 9468 .......... 197 |================================================ Xeon Max 9468 2P ....... 148 |==================================== Xeon Max 9480 .......... 194 |=============================================== Xeon Max 9480 2P ....... 143 |=================================== GraphicsMagick 1.3.43 Operation: Sharpen Iterations Per Minute > Higher Is Better Xeon Platinum 8592+ 2P . 284 |================================================= Xeon Platinum 8592+ .... 167 |============================= Xeon Platinum 8490H .... 157 |=========================== Xeon Platinum 8490H 2P . 265 |============================================== Xeon Max 9468 .......... 114 |==================== Xeon Max 9468 2P ....... 199 |================================== Xeon Max 9480 .......... 130 |====================== Xeon Max 9480 2P ....... 227 |======================================= GraphicsMagick 1.3.43 Operation: Swirl Iterations Per Minute > Higher Is Better Xeon Platinum 8592+ 2P . 689 |================================================= Xeon Platinum 8592+ .... 529 |====================================== Xeon Platinum 8490H .... 502 |==================================== Xeon Platinum 8490H 2P . 617 |============================================ Xeon Max 9468 .......... 394 |============================ Xeon Max 9468 2P ....... 509 |==================================== Xeon Max 9480 .......... 432 |=============================== Xeon Max 9480 2P ....... 558 |======================================== Coremark 1.0 CoreMark Size 666 - Iterations Per Second Iterations/Sec > Higher Is Better Xeon Platinum 8592+ 2P . 4966250.78 |========================================== Xeon Platinum 8592+ .... 2369998.36 |==================== Xeon Platinum 8490H .... 2194630.60 |=================== Xeon Platinum 8490H 2P . 3902076.24 |================================= Xeon Max 9468 .......... 1614763.70 |============== Xeon Max 9468 2P ....... 2993136.60 |========================= Xeon Max 9480 .......... 1855135.33 |================ Xeon Max 9480 2P ....... 3279262.53 |============================ Aircrack-ng 1.7 k/s > Higher Is Better Xeon Platinum 8592+ 2P . 64181.29 |================== Xeon Platinum 8592+ .... 153584.20 |=========================================== Xeon Platinum 8490H .... 147469.33 |========================================= Xeon Platinum 8490H 2P . 53914.93 |=============== Xeon Max 9468 .......... 117588.99 |================================= Xeon Max 9468 2P ....... 83665.76 |======================= Xeon Max 9480 .......... 134048.96 |====================================== Xeon Max 9480 2P ....... 65663.82 |================== LuxCoreRender 2.6 Scene: DLSC - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8592+ 2P . 12.74 |=============================================== Xeon Platinum 8592+ .... 9.38 |=================================== Xeon Platinum 8490H .... 8.72 |================================ Xeon Platinum 8490H 2P . 11.12 |========================================= Xeon Max 9468 .......... 7.46 |============================ Xeon Max 9468 2P ....... 10.17 |====================================== Xeon Max 9480 .......... 8.00 |============================== Xeon Max 9480 2P ....... 10.44 |======================================= LuxCoreRender 2.6 Scene: Rainbow Colors and Prism - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8592+ 2P . 7.22 |======================== Xeon Platinum 8592+ .... 14.28 |=============================================== Xeon Platinum 8490H .... 13.54 |============================================= Xeon Platinum 8490H 2P . 5.96 |==================== Xeon Max 9468 .......... 12.80 |========================================== Xeon Max 9468 2P ....... 9.64 |================================ Xeon Max 9480 .......... 12.97 |=========================================== Xeon Max 9480 2P ....... 6.51 |===================== LuxCoreRender 2.6 Scene: LuxCore Benchmark - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8592+ 2P . 8.88 |================================================ Xeon Platinum 8592+ .... 8.06 |============================================ Xeon Platinum 8490H .... 7.10 |====================================== Xeon Platinum 8490H 2P . 8.82 |================================================ Xeon Max 9468 .......... 6.30 |================================== Xeon Max 9468 2P ....... 6.81 |===================================== Xeon Max 9480 .......... 6.82 |===================================== Xeon Max 9480 2P ....... 7.41 |======================================== LuxCoreRender 2.6 Scene: Orange Juice - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8592+ 2P . 19.91 |=============================================== Xeon Platinum 8592+ .... 14.74 |=================================== Xeon Platinum 8490H .... 13.46 |================================ Xeon Platinum 8490H 2P . 18.70 |============================================ Xeon Max 9468 .......... 11.86 |============================ Xeon Max 9468 2P ....... 16.91 |======================================== Xeon Max 9480 .......... 12.50 |============================== Xeon Max 9480 2P ....... 16.64 |======================================= LuxCoreRender 2.6 Scene: Danish Mood - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8592+ 2P . 7.70 |================================================ Xeon Platinum 8592+ .... 7.63 |================================================ Xeon Platinum 8490H .... 6.85 |=========================================== Xeon Platinum 8490H 2P . 7.00 |============================================ Xeon Max 9468 .......... 6.03 |====================================== Xeon Max 9468 2P ....... 6.23 |======================================= Xeon Max 9480 .......... 6.29 |======================================= Xeon Max 9480 2P ....... 5.91 |===================================== SecureMark 1.0.4 Benchmark: SecureMark-TLS marks > Higher Is Better Xeon Platinum 8592+ 2P . 308434 |============================================== Xeon Platinum 8592+ .... 309896 |============================================== Xeon Platinum 8490H .... 277205 |========================================= Xeon Platinum 8490H 2P . 275472 |========================================= Xeon Max 9468 .......... 277647 |========================================= Xeon Max 9468 2P ....... 277589 |========================================= Xeon Max 9480 .......... 277260 |========================================= Xeon Max 9480 2P ....... 277298 |========================================= Zstd Compression 1.5.4 Compression Level: 19 - Compression Speed MB/s > Higher Is Better Xeon Platinum 8592+ 2P . 17.8 |=============================================== Xeon Platinum 8592+ .... 18.0 |================================================ Xeon Platinum 8490H .... 14.6 |======================================= Xeon Platinum 8490H 2P . 15.2 |========================================= Xeon Max 9468 .......... 14.4 |====================================== Xeon Max 9468 2P ....... 13.8 |===================================== Xeon Max 9480 .......... 14.5 |======================================= Xeon Max 9480 2P ....... 13.3 |=================================== Zstd Compression 1.5.4 Compression Level: 19 - Decompression Speed MB/s > Higher Is Better Xeon Platinum 8592+ 2P . 1165.8 |============================================ Xeon Platinum 8592+ .... 1221.8 |============================================== Xeon Platinum 8490H .... 1032.0 |======================================= Xeon Platinum 8490H 2P . 963.6 |==================================== Xeon Max 9468 .......... 1126.4 |========================================== Xeon Max 9468 2P ....... 1040.2 |======================================= Xeon Max 9480 .......... 1127.5 |========================================== Xeon Max 9480 2P ....... 1039.2 |======================================= Zstd Compression 1.5.4 Compression Level: 19, Long Mode - Compression Speed MB/s > Higher Is Better Xeon Platinum 8592+ 2P . 9.67 |=============================================== Xeon Platinum 8592+ .... 9.80 |================================================ Xeon Platinum 8490H .... 7.94 |======================================= Xeon Platinum 8490H 2P . 8.16 |======================================== Xeon Max 9468 .......... 7.76 |====================================== Xeon Max 9468 2P ....... 7.62 |===================================== Xeon Max 9480 .......... 7.72 |====================================== Xeon Max 9480 2P ....... 7.46 |===================================== Zstd Compression 1.5.4 Compression Level: 19, Long Mode - Decompression Speed MB/s > Higher Is Better Xeon Platinum 8592+ 2P . 1189.7 |============================================ Xeon Platinum 8592+ .... 1242.6 |============================================== Xeon Platinum 8490H .... 1069.1 |======================================== Xeon Platinum 8490H 2P . 992.1 |===================================== Xeon Max 9468 .......... 1131.1 |========================================== Xeon Max 9468 2P ....... 1041.8 |======================================= Xeon Max 9480 .......... 1133.3 |========================================== Xeon Max 9480 2P ....... 1046.0 |======================================= srsRAN Project 23.10.1-20240325 Test: PUSCH Processor Benchmark, Throughput Total Mbps > Higher Is Better Xeon Platinum 8592+ 2P . 5493.4 |============================================== Xeon Platinum 8592+ .... 3088.7 |========================== Xeon Platinum 8490H .... 2616.9 |====================== Xeon Platinum 8490H 2P . 4853.6 |========================================= Xeon Max 9468 .......... 2170.7 |================== Xeon Max 9468 2P ....... 3787.0 |================================ Xeon Max 9480 .......... 2514.0 |===================== Xeon Max 9480 2P ....... 4386.6 |===================================== srsRAN Project 23.10.1-20240325 Test: PUSCH Processor Benchmark, Throughput Thread Mbps > Higher Is Better Xeon Platinum 8592+ 2P . 129.5 |=============================================== Xeon Platinum 8592+ .... 129.5 |=============================================== Xeon Platinum 8490H .... 129.7 |=============================================== Xeon Platinum 8490H 2P . 129.7 |=============================================== Xeon Max 9468 .......... 129.7 |=============================================== Xeon Max 9468 2P ....... 129.7 |=============================================== Xeon Max 9480 .......... 129.7 |=============================================== Xeon Max 9480 2P ....... 129.7 |=============================================== srsRAN Project 23.10.1-20240325 Test: PDSCH Processor Benchmark, Throughput Total Mbps > Higher Is Better Xeon Platinum 8592+ 2P . 30547.6 |============================================= Xeon Platinum 8592+ .... 26378.1 |======================================= Xeon Platinum 8490H .... 24688.5 |==================================== Xeon Platinum 8490H 2P . 30108.7 |============================================ Xeon Max 9468 .......... 21286.6 |=============================== Xeon Max 9468 2P ....... 30236.0 |============================================= Xeon Max 9480 .......... 15081.0 |====================== Xeon Max 9480 2P ....... 11866.7 |================= srsRAN Project 23.10.1-20240325 Test: PDSCH Processor Benchmark, Throughput Thread Mbps > Higher Is Better Xeon Platinum 8592+ 2P . 755.5 |=============================================== Xeon Platinum 8592+ .... 742.9 |============================================== Xeon Platinum 8490H .... 680.2 |========================================== Xeon Platinum 8490H 2P . 675.5 |========================================== Xeon Max 9468 .......... 702.6 |============================================ Xeon Max 9468 2P ....... 651.9 |========================================= Xeon Max 9480 .......... 705.5 |============================================ Xeon Max 9480 2P ....... 663.8 |========================================= QuantLib 1.32 Configuration: Single-Threaded MFLOPS > Higher Is Better Xeon Platinum 8592+ 2P . 3586.3 |============================================== Xeon Platinum 8592+ .... 3600.5 |============================================== Xeon Platinum 8490H .... 3209.6 |========================================= Xeon Platinum 8490H 2P . 3210.1 |========================================= Xeon Max 9468 .......... 3225.7 |========================================= Xeon Max 9468 2P ....... 3207.0 |========================================= Xeon Max 9480 .......... 3229.1 |========================================= Xeon Max 9480 2P ....... 3222.8 |========================================= QuantLib 1.32 Configuration: Multi-Threaded MFLOPS > Higher Is Better Xeon Platinum 8592+ 2P . 380867.5 |============================================ Xeon Platinum 8592+ .... 195648.8 |======================= Xeon Platinum 8490H .... 179647.5 |===================== Xeon Platinum 8490H 2P . 350187.5 |======================================== Xeon Max 9468 .......... 143755.3 |================= Xeon Max 9468 2P ....... 288129.1 |================================= Xeon Max 9480 .......... 162727.4 |=================== Xeon Max 9480 2P ....... 316359.2 |===================================== ASKAP 1.0 Test: tConvolve OpenMP - Gridding Million Grid Points Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 20204.90 |============================================ Xeon Platinum 8592+ .... 19141.80 |========================================== Xeon Platinum 8490H .... 19798.50 |=========================================== Xeon Platinum 8490H 2P . 17010.80 |===================================== Xeon Max 9468 .......... 4173.46 |========= Xeon Max 9468 2P ....... 3916.78 |========= Xeon Max 9480 .......... 4438.58 |========== Xeon Max 9480 2P ....... 3836.73 |======== ASKAP 1.0 Test: tConvolve OpenMP - Degridding Million Grid Points Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 48686.80 |========================================== Xeon Platinum 8592+ .... 16936.80 |============== Xeon Platinum 8490H .... 30471.50 |========================== Xeon Platinum 8490H 2P . 51476.20 |============================================ Xeon Max 9468 .......... 6758.81 |====== Xeon Max 9468 2P ....... 4437.60 |==== Xeon Max 9480 .......... 7046.56 |====== Xeon Max 9480 2P ....... 7304.58 |====== ASKAP 1.0 Test: tConvolve MT - Gridding Million Grid Points Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 6038.92 |================================== Xeon Platinum 8592+ .... 5062.07 |============================ Xeon Platinum 8490H .... 8088.11 |============================================= Xeon Platinum 8490H 2P . 7630.06 |========================================== Xeon Max 9468 .......... 3375.32 |=================== Xeon Max 9468 2P ....... 3347.93 |=================== Xeon Max 9480 .......... 3406.96 |=================== Xeon Max 9480 2P ....... 4382.97 |======================== ASKAP 1.0 Test: tConvolve MT - Degridding Million Grid Points Per Second > Higher Is Better Xeon Max 9468 .... 8868.20 |============================== Xeon Max 9468 2P . 14665.00 |================================================== Xeon Max 9480 .... 9204.87 |=============================== Xeon Max 9480 2P . 14463.40 |================================================= 7-Zip Compression 22.01 Test: Compression Rating MIPS > Higher Is Better Xeon Platinum 8592+ 2P . 674239 |============================================== Xeon Platinum 8592+ .... 441636 |============================== Xeon Platinum 8490H .... 388190 |========================== Xeon Platinum 8490H 2P . 592729 |======================================== Xeon Max 9468 .......... 314716 |===================== Xeon Max 9468 2P ....... 491729 |================================== Xeon Max 9480 .......... 342363 |======================= Xeon Max 9480 2P ....... 525514 |==================================== 7-Zip Compression 22.01 Test: Decompression Rating MIPS > Higher Is Better Xeon Platinum 8592+ 2P . 573410 |============================================== Xeon Platinum 8592+ .... 338146 |=========================== Xeon Platinum 8490H .... 287862 |======================= Xeon Platinum 8490H 2P . 557054 |============================================= Xeon Max 9468 .......... 207738 |================= Xeon Max 9468 2P ....... 401707 |================================ Xeon Max 9480 .......... 243347 |==================== Xeon Max 9480 2P ....... 469131 |====================================== WebP Image Encode 1.2.4 Encode Settings: Quality 100 MP/s > Higher Is Better Xeon Platinum 8592+ 2P . 11.31 |=============================================== Xeon Platinum 8592+ .... 11.36 |=============================================== Xeon Platinum 8490H .... 10.11 |========================================== Xeon Platinum 8490H 2P . 10.05 |========================================== Xeon Max 9468 .......... 10.13 |========================================== Xeon Max 9468 2P ....... 10.01 |========================================= Xeon Max 9480 .......... 10.13 |========================================== Xeon Max 9480 2P ....... 10.03 |========================================= WebP Image Encode 1.2.4 Encode Settings: Quality 100, Highest Compression MP/s > Higher Is Better Xeon Platinum 8592+ 2P . 3.46 |================================================ Xeon Platinum 8592+ .... 3.47 |================================================ Xeon Platinum 8490H .... 3.08 |=========================================== Xeon Platinum 8490H 2P . 3.07 |========================================== Xeon Max 9468 .......... 3.10 |=========================================== Xeon Max 9468 2P ....... 3.09 |=========================================== Xeon Max 9480 .......... 3.10 |=========================================== Xeon Max 9480 2P ....... 3.09 |=========================================== WebP Image Encode 1.2.4 Encode Settings: Quality 100, Lossless MP/s > Higher Is Better Xeon Platinum 8592+ 2P . 1.50 |================================================ Xeon Platinum 8592+ .... 1.50 |================================================ Xeon Platinum 8490H .... 1.31 |========================================== Xeon Platinum 8490H 2P . 1.30 |========================================== Xeon Max 9468 .......... 1.40 |============================================= Xeon Max 9468 2P ....... 1.39 |============================================ Xeon Max 9480 .......... 1.39 |============================================ Xeon Max 9480 2P ....... 1.39 |============================================ WebP Image Encode 1.2.4 Encode Settings: Quality 100, Lossless, Highest Compression MP/s > Higher Is Better Xeon Platinum 8592+ 2P . 0.59 |=============================================== Xeon Platinum 8592+ .... 0.60 |================================================ Xeon Platinum 8490H .... 0.52 |========================================== Xeon Platinum 8490H 2P . 0.51 |========================================= Xeon Max 9468 .......... 0.55 |============================================ Xeon Max 9468 2P ....... 0.54 |=========================================== Xeon Max 9480 .......... 0.55 |============================================ Xeon Max 9480 2P ....... 0.54 |=========================================== JPEG-XL libjxl 0.10.1 Input: JPEG - Quality: 90 MP/s > Higher Is Better Xeon Platinum 8592+ 2P . 42.97 |========================================== Xeon Platinum 8592+ .... 48.36 |=============================================== Xeon Platinum 8490H .... 43.20 |========================================== Xeon Platinum 8490H 2P . 42.04 |========================================= Xeon Max 9468 .......... 39.10 |====================================== Xeon Max 9468 2P ....... 39.59 |====================================== Xeon Max 9480 .......... 43.63 |========================================== Xeon Max 9480 2P ....... 34.63 |================================== JPEG-XL libjxl 0.10.1 Input: JPEG - Quality: 100 MP/s > Higher Is Better Xeon Platinum 8592+ 2P . 31.61 |============================================== Xeon Platinum 8592+ .... 32.24 |=============================================== Xeon Platinum 8490H .... 28.75 |========================================== Xeon Platinum 8490H 2P . 28.16 |========================================= Xeon Max 9468 .......... 26.86 |======================================= Xeon Max 9468 2P ....... 27.33 |======================================== Xeon Max 9480 .......... 27.75 |======================================== Xeon Max 9480 2P ....... 27.26 |======================================== JPEG-XL libjxl 0.10.1 Input: PNG - Quality: 90 MP/s > Higher Is Better Xeon Platinum 8592+ 2P . 39.52 |======================================== Xeon Platinum 8592+ .... 46.32 |=============================================== Xeon Platinum 8490H .... 42.91 |============================================ Xeon Platinum 8490H 2P . 40.08 |========================================= Xeon Max 9468 .......... 43.36 |============================================ Xeon Max 9468 2P ....... 34.83 |=================================== Xeon Max 9480 .......... 40.35 |========================================= Xeon Max 9480 2P ....... 33.27 |================================== JPEG-XL libjxl 0.10.1 Input: PNG - Quality: 100 MP/s > Higher Is Better Xeon Platinum 8592+ 2P . 30.97 |============================================== Xeon Platinum 8592+ .... 31.35 |=============================================== Xeon Platinum 8490H .... 28.10 |========================================== Xeon Platinum 8490H 2P . 27.66 |========================================= Xeon Max 9468 .......... 26.25 |======================================= Xeon Max 9468 2P ....... 26.84 |======================================== Xeon Max 9480 .......... 27.09 |========================================= Xeon Max 9480 2P ....... 26.99 |======================================== ASKAP 1.0 Test: tConvolve MPI - Degridding Mpix/sec > Higher Is Better Xeon Platinum 8592+ 2P . 59139.2 |============================================= Xeon Platinum 8592+ .... 31177.2 |======================== Xeon Platinum 8490H .... 17891.6 |============== Xeon Platinum 8490H 2P . 34614.1 |========================== Xeon Max 9468 .......... 18522.0 |============== Xeon Max 9468 2P ....... 36900.5 |============================ Xeon Max 9480 .......... 20561.4 |================ Xeon Max 9480 2P ....... 40368.6 |=============================== ASKAP 1.0 Test: tConvolve MPI - Gridding Mpix/sec > Higher Is Better Xeon Platinum 8592+ 2P . 72004.0 |============================================= Xeon Platinum 8592+ .... 37265.9 |======================= Xeon Platinum 8490H .... 21314.2 |============= Xeon Platinum 8490H 2P . 41773.0 |========================== Xeon Max 9468 .......... 21766.5 |============== Xeon Max 9468 2P ....... 42939.2 |=========================== Xeon Max 9480 .......... 23250.2 |=============== Xeon Max 9480 2P ....... 45195.1 |============================ ASTC Encoder 4.7 Preset: Medium MT/s > Higher Is Better Xeon Platinum 8592+ 2P . 550.02 |============================================== Xeon Platinum 8592+ .... 327.78 |=========================== Xeon Platinum 8490H .... 333.99 |============================ Xeon Platinum 8490H 2P . 484.55 |========================================= Xeon Max 9468 .......... 247.30 |===================== Xeon Max 9468 2P ....... 441.65 |===================================== Xeon Max 9480 .......... 284.33 |======================== Xeon Max 9480 2P ....... 483.10 |======================================== ASTC Encoder 4.7 Preset: Thorough MT/s > Higher Is Better Xeon Platinum 8592+ 2P . 97.94 |=============================================== Xeon Platinum 8592+ .... 54.45 |========================== Xeon Platinum 8490H .... 51.30 |========================= Xeon Platinum 8490H 2P . 86.98 |========================================== Xeon Max 9468 .......... 37.01 |================== Xeon Max 9468 2P ....... 72.33 |=================================== Xeon Max 9480 .......... 42.98 |===================== Xeon Max 9480 2P ....... 83.34 |======================================== ASTC Encoder 4.7 Preset: Very Thorough MT/s > Higher Is Better Xeon Platinum 8592+ 2P . 14.6334 |============================================= Xeon Platinum 8592+ .... 7.6240 |======================= Xeon Platinum 8490H .... 7.0885 |====================== Xeon Platinum 8490H 2P . 13.7518 |========================================== Xeon Max 9468 .......... 5.1342 |================ Xeon Max 9468 2P ....... 10.2051 |=============================== Xeon Max 9480 .......... 5.9702 |================== Xeon Max 9480 2P ....... 11.8875 |===================================== ASTC Encoder 4.7 Preset: Exhaustive MT/s > Higher Is Better Xeon Platinum 8592+ 2P . 8.9091 |============================================== Xeon Platinum 8592+ .... 4.6303 |======================== Xeon Platinum 8490H .... 4.2689 |====================== Xeon Platinum 8490H 2P . 8.3701 |=========================================== Xeon Max 9468 .......... 3.1204 |================ Xeon Max 9468 2P ....... 6.2126 |================================ Xeon Max 9480 .......... 3.6276 |=================== Xeon Max 9480 2P ....... 7.2075 |===================================== Stockfish 16.1 Chess Benchmark Nodes Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 222610378 |=========================================== Xeon Platinum 8592+ .... 109766345 |===================== Xeon Platinum 8490H .... 96887479 |=================== Xeon Platinum 8490H 2P . 187761769 |==================================== Xeon Max 9468 .......... 68019088 |============= Xeon Max 9468 2P ....... 137977203 |=========================== Xeon Max 9480 .......... 73592230 |============== Xeon Max 9480 2P ....... 149409082 |============================= GROMACS 2024 Implementation: MPI CPU - Input: water_GMX50_bare Ns Per Day > Higher Is Better Xeon Platinum 8592+ 2P . 18.540 |============================================== Xeon Platinum 8592+ .... 10.477 |========================== Xeon Platinum 8490H .... 8.762 |====================== Xeon Platinum 8490H 2P . 15.450 |====================================== Xeon Max 9468 .......... 7.545 |=================== Xeon Max 9468 2P ....... 13.392 |================================= Xeon Max 9480 .......... 8.282 |===================== Xeon Max 9480 2P ....... 14.127 |=================================== LAMMPS Molecular Dynamics Simulator 23Jun2022 Model: Rhodopsin Protein ns/day > Higher Is Better Xeon Platinum 8592+ 2P . 55.50 |=============================================== Xeon Platinum 8592+ .... 34.30 |============================= Xeon Platinum 8490H .... 28.72 |======================== Xeon Platinum 8490H 2P . 42.28 |==================================== Xeon Max 9468 .......... 27.63 |======================= Xeon Max 9468 2P ....... 47.51 |======================================== Xeon Max 9480 .......... 30.84 |========================== Xeon Max 9480 2P ....... 52.24 |============================================ LAMMPS Molecular Dynamics Simulator 23Jun2022 Model: 20k Atoms ns/day > Higher Is Better Xeon Platinum 8592+ 2P . 56.40 |=============================================== Xeon Platinum 8592+ .... 37.46 |=============================== Xeon Platinum 8490H .... 34.89 |============================= Xeon Platinum 8490H 2P . 50.52 |========================================== Xeon Max 9468 .......... 28.28 |======================== Xeon Max 9468 2P ....... 46.71 |======================================= Xeon Max 9480 .......... 32.16 |=========================== Xeon Max 9480 2P ....... 51.82 |=========================================== NAMD 3.0b6 Input: ATPase with 327,506 Atoms ns/day > Higher Is Better Xeon Platinum 8592+ 2P . 5.85267 |==================================== Xeon Platinum 8592+ .... 4.64814 |============================= Xeon Platinum 8490H .... 2.97021 |================== Xeon Platinum 8490H 2P . 2.21948 |============== Xeon Max 9468 .......... 5.97130 |===================================== Xeon Max 9468 2P ....... 7.30065 |============================================= Xeon Max 9480 .......... 5.92501 |===================================== Xeon Max 9480 2P ....... 2.56319 |================ NAMD 3.0b6 Input: STMV with 1,066,628 Atoms ns/day > Higher Is Better Xeon Platinum 8592+ 2P . 2.25422 |============================================= Xeon Platinum 8592+ .... 1.43787 |============================= Xeon Platinum 8490H .... 1.05274 |===================== Xeon Platinum 8490H 2P . 1.10900 |====================== Xeon Max 9468 .......... 1.45223 |============================= Xeon Max 9468 2P ....... 1.88679 |====================================== Xeon Max 9480 .......... 1.50214 |============================== Xeon Max 9480 2P ....... 1.76778 |=================================== RocksDB 9.0 Test: Random Read Op/s > Higher Is Better Xeon Platinum 8592+ 2P . 578392800 |=========================================== Xeon Platinum 8592+ .... 297517946 |====================== Xeon Platinum 8490H .... 265366170 |==================== Xeon Platinum 8490H 2P . 525049998 |======================================= Xeon Max 9468 .......... 205346154 |=============== Xeon Max 9468 2P ....... 405533173 |============================== Xeon Max 9480 .......... 234469939 |================= Xeon Max 9480 2P ....... 473755946 |=================================== RocksDB 9.0 Test: Read While Writing Op/s > Higher Is Better Xeon Platinum 8592+ 2P . 12425519 |============================================ Xeon Platinum 8592+ .... 8926893 |================================ Xeon Platinum 8490H .... 7841738 |============================ Xeon Platinum 8490H 2P . 12321300 |============================================ Xeon Max 9468 .......... 7439663 |========================== Xeon Max 9468 2P ....... 9624417 |================================== Xeon Max 9480 .......... 7366500 |========================== Xeon Max 9480 2P ....... 11223329 |======================================== Speedb 2.7 Test: Random Read Op/s > Higher Is Better Xeon Platinum 8592+ 2P . 586147871 |=========================================== Xeon Platinum 8592+ .... 315178381 |======================= Xeon Platinum 8490H .... 276179617 |==================== Xeon Platinum 8490H 2P . 551286958 |======================================== Xeon Max 9468 .......... 211457048 |================ Xeon Max 9468 2P ....... 419943570 |=============================== Xeon Max 9480 .......... 244070674 |================== Xeon Max 9480 2P ....... 497907490 |===================================== Speedb 2.7 Test: Read While Writing Op/s > Higher Is Better Xeon Platinum 8592+ 2P . 17585737 |============================================ Xeon Platinum 8592+ .... 12168413 |============================== Xeon Platinum 8490H .... 10695360 |=========================== Xeon Platinum 8490H 2P . 17297027 |=========================================== Xeon Max 9468 .......... 8795408 |====================== Xeon Max 9468 2P ....... 13859254 |=================================== Xeon Max 9480 .......... 9988176 |========================= Xeon Max 9480 2P ....... 15354400 |====================================== CockroachDB 22.2 Workload: KV, 95% Reads - Concurrency: 512 ops/s > Higher Is Better Xeon Platinum 8592+ 2P . 85613.1 |============================ Xeon Platinum 8592+ .... 135861.9 |============================================ Xeon Platinum 8490H .... 131999.7 |=========================================== Xeon Platinum 8490H 2P . 82341.2 |=========================== Xeon Max 9468 .......... 128125.9 |========================================= Xeon Max 9468 2P ....... 80804.7 |========================== Xeon Max 9480 .......... 120494.3 |======================================= Xeon Max 9480 2P ....... 76524.7 |========================= CockroachDB 22.2 Workload: KV, 50% Reads - Concurrency: 512 ops/s > Higher Is Better Xeon Platinum 8592+ 2P . 77327.1 |============================= Xeon Platinum 8592+ .... 115715.8 |============================================ Xeon Platinum 8490H .... 108953.6 |========================================= Xeon Platinum 8490H 2P . 68524.7 |========================== Xeon Max 9468 .......... 103089.8 |======================================= Xeon Max 9468 2P ....... 69221.4 |========================== Xeon Max 9480 .......... 112265.3 |=========================================== Xeon Max 9480 2P ....... 66816.9 |========================= CockroachDB 22.2 Workload: KV, 60% Reads - Concurrency: 512 ops/s > Higher Is Better Xeon Platinum 8592+ 2P . 73640.9 |=========================== Xeon Platinum 8592+ .... 121465.2 |============================================ Xeon Platinum 8490H .... 116603.7 |========================================== Xeon Platinum 8490H 2P . 72110.1 |========================== Xeon Max 9468 .......... 110666.9 |======================================== Xeon Max 9468 2P ....... 71680.5 |========================== Xeon Max 9480 .......... 109388.2 |======================================== Xeon Max 9480 2P ....... 71696.5 |========================== Memcached 1.6.19 Set To Get Ratio: 1:100 Ops/sec > Higher Is Better Xeon Platinum 8592+ 2P . 3780240.56 |================================= Xeon Platinum 8592+ .... 4752673.79 |========================================== Xeon Platinum 8490H .... 4481667.95 |======================================== Xeon Platinum 8490H 2P . 3245908.40 |============================= Xeon Max 9468 .......... 4384040.52 |======================================= Xeon Max 9468 2P ....... 3373323.92 |============================== Xeon Max 9480 .......... 4315467.17 |====================================== Xeon Max 9480 2P ....... 3392842.38 |============================== Apache IoTDB 1.2 Device Count: 500 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 400 point/sec > Higher Is Better Xeon Platinum 8592+ 2P . 89231850 |========================================== Xeon Platinum 8592+ .... 92709751 |============================================ Xeon Platinum 8490H .... 87797206 |========================================== Xeon Platinum 8490H 2P . 80169620 |====================================== Xeon Max 9468 .......... 82455664 |======================================= Xeon Max 9468 2P ....... 77501248 |===================================== Xeon Max 9480 .......... 83475645 |======================================== Xeon Max 9480 2P ....... 78057728 |===================================== Apache IoTDB 1.2 Device Count: 800 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 100 point/sec > Higher Is Better Xeon Platinum 8592+ 2P . 92771639 |=========================================== Xeon Platinum 8592+ .... 94616807 |============================================ Xeon Platinum 8490H .... 90871770 |========================================== Xeon Platinum 8490H 2P . 83651785 |======================================= Xeon Max 9468 .......... 85744542 |======================================== Xeon Max 9468 2P ....... 80770465 |====================================== Xeon Max 9480 .......... 86354518 |======================================== Xeon Max 9480 2P ....... 80139566 |===================================== ClickHouse 22.12.3.5 100M Rows Hits Dataset, First Run / Cold Cache Queries Per Minute, Geo Mean > Higher Is Better Xeon Platinum 8592+ 2P . 423.30 |======================================== Xeon Platinum 8592+ .... 437.20 |========================================= Xeon Platinum 8490H .... 465.50 |============================================ Xeon Platinum 8490H 2P . 485.63 |============================================= Xeon Max 9468 .......... 446.40 |========================================== Xeon Max 9468 2P ....... 491.89 |============================================== Xeon Max 9480 .......... 461.62 |=========================================== Xeon Max 9480 2P ....... 460.66 |=========================================== ClickHouse 22.12.3.5 100M Rows Hits Dataset, Second Run Queries Per Minute, Geo Mean > Higher Is Better Xeon Platinum 8592+ 2P . 443.58 |======================================== Xeon Platinum 8592+ .... 455.79 |========================================= Xeon Platinum 8490H .... 486.05 |============================================ Xeon Platinum 8490H 2P . 507.56 |============================================== Xeon Max 9468 .......... 465.06 |========================================== Xeon Max 9468 2P ....... 499.18 |============================================= Xeon Max 9480 .......... 474.68 |=========================================== Xeon Max 9480 2P ....... 467.96 |========================================== ClickHouse 22.12.3.5 100M Rows Hits Dataset, Third Run Queries Per Minute, Geo Mean > Higher Is Better Xeon Platinum 8592+ 2P . 438.60 |======================================== Xeon Platinum 8592+ .... 458.23 |========================================== Xeon Platinum 8490H .... 481.66 |============================================ Xeon Platinum 8490H 2P . 501.63 |============================================== Xeon Max 9468 .......... 470.02 |=========================================== Xeon Max 9468 2P ....... 501.07 |============================================== Xeon Max 9480 .......... 476.91 |============================================ Xeon Max 9480 2P ....... 471.79 |=========================================== John The Ripper 2023.03.14 Test: MD5 Real C/S > Higher Is Better Xeon Platinum 8592+ 2P . 18438600 |============================================ Xeon Platinum 8592+ .... 10922667 |========================== Xeon Platinum 8490H .... 9583000 |======================= Xeon Platinum 8490H 2P . 18166000 |=========================================== Xeon Max 9468 .......... 7626333 |================== Xeon Max 9468 2P ....... 12958000 |=============================== Xeon Max 9480 .......... 8957000 |===================== Xeon Max 9480 2P ....... 14609417 |=================================== John The Ripper 2023.03.14 Test: Blowfish Real C/S > Higher Is Better Xeon Platinum 8592+ 2P . 205499 |============================================== Xeon Platinum 8592+ .... 105831 |======================== Xeon Platinum 8490H .... 94513 |===================== Xeon Platinum 8490H 2P . 183583 |========================================= Xeon Max 9468 .......... 67893 |=============== Xeon Max 9468 2P ....... 134562 |============================== Xeon Max 9480 .......... 79152 |================== Xeon Max 9480 2P ....... 156658 |=================================== John The Ripper 2023.03.14 Test: bcrypt Real C/S > Higher Is Better Xeon Platinum 8592+ 2P . 206778 |============================================== Xeon Platinum 8592+ .... 105781 |======================== Xeon Platinum 8490H .... 94551 |===================== Xeon Platinum 8490H 2P . 183603 |========================================= Xeon Max 9468 .......... 67875 |=============== Xeon Max 9468 2P ....... 133866 |============================== Xeon Max 9480 .......... 79144 |================== Xeon Max 9480 2P ....... 155959 |=================================== John The Ripper 2023.03.14 Test: WPA PSK Real C/S > Higher Is Better Xeon Platinum 8592+ 2P . 797093 |============================================== Xeon Platinum 8592+ .... 428116 |========================= Xeon Platinum 8490H .... 401278 |======================= Xeon Platinum 8490H 2P . 793253 |============================================== Xeon Max 9468 .......... 286552 |================= Xeon Max 9468 2P ....... 562875 |================================ Xeon Max 9480 .......... 334076 |=================== Xeon Max 9480 2P ....... 657889 |====================================== nginx 1.23.2 Connections: 1000 Requests Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 381352.69 |========================================= Xeon Platinum 8592+ .... 399698.78 |=========================================== Xeon Max 9480 .......... 367199.06 |======================================== Node.js V8 Web Tooling Benchmark runs/s > Higher Is Better Xeon Platinum 8592+ 2P . 17.02 |============================================== Xeon Platinum 8592+ .... 17.42 |=============================================== Xeon Platinum 8490H .... 15.76 |=========================================== Xeon Platinum 8490H 2P . 15.49 |========================================== Xeon Max 9468 .......... 15.59 |========================================== Xeon Max 9468 2P ....... 14.99 |======================================== Xeon Max 9480 .......... 15.62 |========================================== Xeon Max 9480 2P ....... 14.51 |======================================= Liquid-DSP 1.6 Threads: 1 - Buffer Length: 256 - Filter Length: 32 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 38950600 |=========================================== Xeon Platinum 8592+ .... 40244000 |============================================ Xeon Platinum 8490H .... 36506000 |======================================== Xeon Platinum 8490H 2P . 36461000 |======================================== Xeon Max 9468 .......... 36537667 |======================================== Xeon Max 9468 2P ....... 36497667 |======================================== Xeon Max 9480 .......... 36539000 |======================================== Xeon Max 9480 2P ....... 36521333 |======================================== Liquid-DSP 1.6 Threads: 1 - Buffer Length: 256 - Filter Length: 57 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 70499000 |========================================== Xeon Platinum 8592+ .... 73140667 |============================================ Xeon Platinum 8490H .... 67074667 |======================================== Xeon Platinum 8490H 2P . 66991333 |======================================== Xeon Max 9468 .......... 67130333 |======================================== Xeon Max 9468 2P ....... 67064000 |======================================== Xeon Max 9480 .......... 67127667 |======================================== Xeon Max 9480 2P ....... 66266000 |======================================== Liquid-DSP 1.6 Threads: 1 - Buffer Length: 256 - Filter Length: 512 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 18200533 |=========================================== Xeon Platinum 8592+ .... 18774333 |============================================ Xeon Platinum 8490H .... 16882333 |======================================== Xeon Platinum 8490H 2P . 16843333 |======================================= Xeon Max 9468 .......... 16906333 |======================================== Xeon Max 9468 2P ....... 16904667 |======================================== Xeon Max 9480 .......... 16885333 |======================================== Xeon Max 9480 2P ....... 16884000 |======================================== Liquid-DSP 1.6 Threads: 64 - Buffer Length: 256 - Filter Length: 32 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 2154633333 |========================================== Xeon Platinum 8592+ .... 1927766667 |====================================== Xeon Platinum 8490H .... 1890566667 |===================================== Xeon Platinum 8490H 2P . 2025000000 |======================================= Xeon Max 9468 .......... 1640266667 |================================ Xeon Max 9468 2P ....... 1963233333 |====================================== Xeon Max 9480 .......... 1679700000 |================================= Xeon Max 9480 2P ....... 2090466667 |========================================= Liquid-DSP 1.6 Threads: 64 - Buffer Length: 256 - Filter Length: 57 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 2620066667 |========================================= Xeon Platinum 8592+ .... 2475500000 |======================================= Xeon Platinum 8490H .... 2539200000 |======================================== Xeon Platinum 8490H 2P . 2655500000 |========================================== Xeon Max 9468 .......... 2138766667 |================================== Xeon Max 9468 2P ....... 2494050000 |======================================= Xeon Max 9480 .......... 2308966667 |===================================== Xeon Max 9480 2P ....... 2491340000 |======================================= Liquid-DSP 1.6 Threads: 64 - Buffer Length: 256 - Filter Length: 512 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 883701250 |=========================================== Xeon Platinum 8592+ .... 783770000 |====================================== Xeon Platinum 8490H .... 744410000 |==================================== Xeon Platinum 8490H 2P . 799496667 |======================================= Xeon Max 9468 .......... 632396667 |=============================== Xeon Max 9468 2P ....... 732560000 |==================================== Xeon Max 9480 .......... 689003333 |================================== Xeon Max 9480 2P ....... 757176667 |===================================== Liquid-DSP 1.6 Threads: 128 - Buffer Length: 256 - Filter Length: 32 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 3520766667 |========================================== Xeon Platinum 8592+ .... 3148233333 |===================================== Xeon Platinum 8490H .... 3200600000 |====================================== Xeon Platinum 8490H 2P . 3558600000 |========================================== Xeon Max 9468 .......... 2351900000 |============================ Xeon Max 9468 2P ....... 3254033333 |====================================== Xeon Max 9480 .......... 2739633333 |================================ Xeon Max 9480 2P ....... 3337066667 |======================================= Liquid-DSP 1.6 Threads: 128 - Buffer Length: 256 - Filter Length: 57 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 4450525000 |========================================== Xeon Platinum 8592+ .... 3503200000 |================================= Xeon Platinum 8490H .... 3181266667 |============================== Xeon Platinum 8490H 2P . 3723666667 |=================================== Xeon Max 9468 .......... 2670033333 |========================= Xeon Max 9468 2P ....... 3596400000 |================================== Xeon Max 9480 .......... 2972400000 |============================ Xeon Max 9480 2P ....... 3896500000 |===================================== Liquid-DSP 1.6 Threads: 128 - Buffer Length: 256 - Filter Length: 512 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 1493833333 |========================================== Xeon Platinum 8592+ .... 1152933333 |================================ Xeon Platinum 8490H .... 918566667 |========================== Xeon Platinum 8490H 2P . 1126466667 |================================ Xeon Max 9468 .......... 800186667 |====================== Xeon Max 9468 2P ....... 1091460000 |=============================== Xeon Max 9480 .......... 882200000 |========================= Xeon Max 9480 2P ....... 1206066667 |================================== Liquid-DSP 1.6 Threads: 256 - Buffer Length: 256 - Filter Length: 32 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 6077300000 |========================================== Xeon Platinum 8592+ .... 3167200000 |====================== Xeon Platinum 8490H .... 3243800000 |====================== Xeon Platinum 8490H 2P . 6116566667 |========================================== Xeon Max 9468 .......... 2381800000 |================ Xeon Max 9468 2P ....... 4670966667 |================================ Xeon Max 9480 .......... 2769066667 |=================== Xeon Max 9480 2P ....... 5367033333 |===================================== Liquid-DSP 1.6 Threads: 256 - Buffer Length: 256 - Filter Length: 57 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 6284300000 |========================================== Xeon Platinum 8592+ .... 3806833333 |========================= Xeon Platinum 8490H .... 3500833333 |======================= Xeon Platinum 8490H 2P . 5361266667 |==================================== Xeon Max 9468 .......... 2848933333 |=================== Xeon Max 9468 2P ....... 4825133333 |================================ Xeon Max 9480 .......... 3222533333 |====================== Xeon Max 9480 2P ....... 5036000000 |================================== Liquid-DSP 1.6 Threads: 256 - Buffer Length: 256 - Filter Length: 512 samples/s > Higher Is Better Xeon Platinum 8592+ 2P . 2027000000 |========================================== Xeon Platinum 8592+ .... 1178766667 |======================== Xeon Platinum 8490H .... 1020833333 |===================== Xeon Platinum 8490H 2P . 1616966667 |================================== Xeon Max 9468 .......... 838530000 |================= Xeon Max 9468 2P ....... 1444066667 |============================== Xeon Max 9480 .......... 944550000 |==================== Xeon Max 9480 2P ....... 1518933333 |=============================== Numpy Benchmark Score > Higher Is Better Xeon Platinum 8592+ 2P . 519.89 |============================================== Xeon Platinum 8592+ .... 520.22 |============================================== Xeon Platinum 8490H .... 455.57 |======================================== Xeon Platinum 8490H 2P . 456.18 |======================================== Xeon Max 9468 .......... 461.61 |========================================= Xeon Max 9468 2P ....... 435.21 |====================================== Xeon Max 9480 .......... 464.72 |========================================= Xeon Max 9480 2P ....... 439.84 |======================================= OpenSSL 3.3 Algorithm: RSA4096 sign/s > Higher Is Better Xeon Platinum 8592+ 2P . 61499.6 |============================================= Xeon Platinum 8592+ .... 31594.4 |======================= Xeon Platinum 8490H .... 27431.1 |==================== Xeon Platinum 8490H 2P . 54601.1 |======================================== Xeon Max 9468 .......... 22861.0 |================= Xeon Max 9468 2P ....... 45531.0 |================================= Xeon Max 9480 .......... 25441.5 |=================== Xeon Max 9480 2P ....... 48534.8 |==================================== Graph500 3.0 Scale: 26 sssp max_TEPS > Higher Is Better Xeon Platinum 8592+ 2P . 667365000 |=========================================== Xeon Platinum 8592+ .... 539613000 |=================================== Graph500 3.0 Scale: 26 sssp median_TEPS > Higher Is Better Xeon Platinum 8592+ 2P . 484977000 |=========================================== Xeon Platinum 8592+ .... 416523000 |===================================== Llamafile 0.7 Test: llava-v1.5-7b-q4 - Acceleration: CPU Tokens Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 7.49 |================= Xeon Platinum 8592+ .... 16.61 |===================================== Xeon Platinum 8490H .... 20.95 |=============================================== Xeon Platinum 8490H 2P . 10.44 |======================= Xeon Max 9468 .......... 7.67 |================= Xeon Max 9468 2P ....... 7.77 |================= Xeon Max 9480 .......... 8.13 |================== Xeon Max 9480 2P ....... 7.26 |================ Llamafile 0.7 Test: wizardcoder-python-34b-v1.0.Q6_K - Acceleration: CPU Tokens Per Second > Higher Is Better Xeon Platinum 8592+ 2P . 3.05 |========================= Xeon Platinum 8592+ .... 4.08 |================================= Xeon Platinum 8490H .... 5.85 |================================================ Xeon Platinum 8490H 2P . 3.82 |=============================== Xeon Max 9468 .......... 1.47 |============ Xeon Max 9468 2P ....... 1.77 |=============== Xeon Max 9480 .......... 1.54 |============= Xeon Max 9480 2P ....... 1.54 |============= NAS Parallel Benchmarks 3.4 Test / Class: EP.D Total Mop/s > Higher Is Better Xeon Platinum 8592+ 2P . 16004.07 |============================================ Xeon Platinum 8592+ .... 8089.14 |====================== Xeon Platinum 8490H .... 7562.80 |===================== Xeon Platinum 8490H 2P . 14946.76 |========================================= Xeon Max 9468 .......... 5366.69 |=============== Xeon Max 9468 2P ....... 10970.45 |============================== Xeon Max 9480 .......... 6445.09 |================== Xeon Max 9480 2P ....... 12793.01 |=================================== NAS Parallel Benchmarks 3.4 Test / Class: LU.C Total Mop/s > Higher Is Better Xeon Platinum 8592+ 2P . 455312.09 |=========================================== Xeon Platinum 8592+ .... 232012.77 |====================== Xeon Platinum 8490H .... 135125.15 |============= Xeon Platinum 8490H 2P . 261127.09 |========================= Xeon Max 9468 .......... 126171.52 |============ Xeon Max 9468 2P ....... 246822.52 |======================= Xeon Max 9480 .......... 131606.86 |============ Xeon Max 9480 2P ....... 257384.55 |======================== NAS Parallel Benchmarks 3.4 Test / Class: SP.C Total Mop/s > Higher Is Better Xeon Platinum 8592+ 2P . 228184.68 |=========================================== Xeon Platinum 8592+ .... 109416.42 |===================== Xeon Platinum 8490H .... 71245.26 |============= Xeon Platinum 8490H 2P . 147311.14 |============================ Xeon Max 9468 .......... 58815.36 |=========== Xeon Max 9468 2P ....... 135939.25 |========================== Xeon Max 9480 .......... 69776.41 |============= Xeon Max 9480 2P ....... 141954.15 |=========================== NAS Parallel Benchmarks 3.4 Test / Class: IS.D Total Mop/s > Higher Is Better Xeon Platinum 8592+ 2P . 7437.81 |============================================= Xeon Platinum 8592+ .... 4059.70 |========================= Xeon Platinum 8490H .... 2865.72 |================= Xeon Platinum 8490H 2P . 3960.28 |======================== Xeon Max 9468 .......... 3050.16 |================== Xeon Max 9468 2P ....... 3816.70 |======================= Xeon Max 9480 .......... 3076.66 |=================== Xeon Max 9480 2P ....... 3819.83 |======================= NAS Parallel Benchmarks 3.4 Test / Class: MG.C Total Mop/s > Higher Is Better Xeon Platinum 8592+ 2P . 220893.78 |=========================================== Xeon Platinum 8592+ .... 107321.89 |===================== Xeon Platinum 8490H .... 83448.70 |================ Xeon Platinum 8490H 2P . 163333.21 |================================ Xeon Max 9468 .......... 85910.95 |================= Xeon Max 9468 2P ....... 172614.10 |================================== Xeon Max 9480 .......... 86407.46 |================= Xeon Max 9480 2P ....... 171436.47 |================================= NAS Parallel Benchmarks 3.4 Test / Class: CG.C Total Mop/s > Higher Is Better Xeon Platinum 8592+ 2P . 98764.93 |============================================ Xeon Platinum 8592+ .... 63760.45 |============================ Xeon Platinum 8490H .... 33811.63 |=============== Xeon Platinum 8490H 2P . 58128.24 |========================== Xeon Max 9468 .......... 35116.55 |================ Xeon Max 9468 2P ....... 65396.22 |============================= Xeon Max 9480 .......... 35234.06 |================ Xeon Max 9480 2P ....... 66492.44 |============================== PostgreSQL 16 Scaling Factor: 100 - Clients: 1000 - Mode: Read Write TPS > Higher Is Better Xeon Platinum 8592+ 2P . 33110 |===================== Xeon Platinum 8592+ .... 75396 |=============================================== Xeon Platinum 8490H .... 71227 |============================================ Xeon Platinum 8490H 2P . 67315 |========================================== Xeon Max 9468 .......... 69969 |============================================ Xeon Max 9468 2P ....... 58952 |===================================== Xeon Max 9480 .......... 72225 |============================================= Xeon Max 9480 2P ....... 60046 |===================================== PostgreSQL 16 Scaling Factor: 100 - Clients: 1000 - Mode: Read Only TPS > Higher Is Better Xeon Platinum 8592+ 2P . 881881 |====================== Xeon Platinum 8592+ .... 1699046 |=========================================== Xeon Platinum 8490H .... 1748146 |============================================ Xeon Platinum 8490H 2P . 778141 |==================== Xeon Max 9468 .......... 1792636 |============================================= Xeon Max 9468 2P ....... 976035 |========================= Xeon Max 9480 .......... 1607424 |======================================== Xeon Max 9480 2P ....... 920725 |======================= OpenSSL 3.3 Algorithm: RSA4096 verify/s > Higher Is Better Xeon Platinum 8592+ 2P . 2057021.6 |=========================================== Xeon Platinum 8592+ .... 1036735.6 |====================== Xeon Platinum 8490H .... 974189.9 |==================== Xeon Platinum 8490H 2P . 1916162.9 |======================================== Xeon Max 9468 .......... 697707.2 |=============== Xeon Max 9468 2P ....... 1395446.4 |============================= Xeon Max 9480 .......... 813667.6 |================= Xeon Max 9480 2P ....... 1627941.4 |================================== BRL-CAD 7.38.2 VGR Performance Metric VGR Performance Metric > Higher Is Better Xeon Platinum 8592+ 2P . 5186677 |============================================= Xeon Platinum 8592+ .... 916904 |======== Xeon Platinum 8490H .... 833892 |======= Xeon Platinum 8490H 2P . 4136969 |==================================== Xeon Max 9468 .......... 713937 |====== Xeon Max 9468 2P ....... 3658790 |================================ Xeon Max 9480 .......... 767812 |======= Xeon Max 9480 2P ....... 4075342 |=================================== Google SynthMark 20201109 Test: VoiceMark_100 Voices > Higher Is Better Xeon Platinum 8592+ 2P . 799.49 |============================================== Xeon Platinum 8592+ .... 799.72 |============================================== Xeon Platinum 8490H .... 711.38 |========================================= Xeon Platinum 8490H 2P . 712.70 |========================================= Xeon Max 9468 .......... 711.10 |========================================= Xeon Max 9468 2P ....... 710.92 |========================================= Xeon Max 9480 .......... 712.01 |========================================= Xeon Max 9480 2P ....... 712.09 |========================================= LULESH 2.0.3 z/s > Higher Is Better Xeon Platinum 8592+ 2P . 70826.73 |============================================ Xeon Platinum 8592+ .... 38433.97 |======================== Xeon Platinum 8490H .... 23072.30 |============== Xeon Platinum 8490H 2P . 43724.06 |=========================== Xeon Max 9468 .......... 23848.54 |=============== Xeon Max 9468 2P ....... 52102.67 |================================ Xeon Max 9480 .......... 25831.84 |================ Xeon Max 9480 2P ....... 53269.47 |================================= Apache IoTDB 1.2 Device Count: 500 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 400 Average Latency < Lower Is Better Xeon Platinum 8592+ 2P . 286.78 |======================================== Xeon Platinum 8592+ .... 280.26 |======================================= Xeon Platinum 8490H .... 294.33 |========================================= Xeon Platinum 8490H 2P . 317.36 |============================================ Xeon Max 9468 .......... 314.44 |============================================ Xeon Max 9468 2P ....... 328.41 |============================================== Xeon Max 9480 .......... 309.03 |=========================================== Xeon Max 9480 2P ....... 325.97 |============================================== Apache IoTDB 1.2 Device Count: 800 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 100 Average Latency < Lower Is Better Xeon Platinum 8592+ 2P . 82.73 |========================================= Xeon Platinum 8592+ .... 81.73 |======================================== Xeon Platinum 8490H .... 85.16 |========================================== Xeon Platinum 8490H 2P . 92.23 |============================================= Xeon Max 9468 .......... 90.02 |============================================ Xeon Max 9468 2P ....... 94.84 |=============================================== Xeon Max 9480 .......... 89.53 |============================================ Xeon Max 9480 2P ....... 95.39 |=============================================== Pennant 1.0.1 Test: leblancbig Hydro Cycle Time - Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 2.159459 |================ Xeon Platinum 8592+ .... 4.182707 |=============================== Xeon Platinum 8490H .... 4.955865 |===================================== Xeon Platinum 8490H 2P . 2.529807 |=================== Xeon Max 9468 .......... 5.930957 |============================================ Xeon Max 9468 2P ....... 2.881099 |===================== Xeon Max 9480 .......... 5.114161 |====================================== Xeon Max 9480 2P ....... 2.527363 |=================== Pennant 1.0.1 Test: sedovbig Hydro Cycle Time - Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 9.964526 |==================== Xeon Platinum 8592+ .... 16.969100 |=================================== Xeon Platinum 8490H .... 16.030800 |================================= Xeon Platinum 8490H 2P . 11.284380 |======================= Xeon Max 9468 .......... 21.021120 |=========================================== Xeon Max 9468 2P ....... 13.211250 |=========================== Xeon Max 9480 .......... 19.882460 |========================================= Xeon Max 9480 2P ....... 12.106900 |========================= ONNX Runtime 1.17 Model: yolov4 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 58.94 |======================================== Xeon Platinum 8592+ .... 43.54 |============================= Xeon Platinum 8490H .... 50.35 |================================== Xeon Platinum 8490H 2P . 64.29 |============================================ Xeon Max 9468 .......... 54.96 |===================================== Xeon Max 9468 2P ....... 69.45 |=============================================== Xeon Max 9480 .......... 59.18 |======================================== Xeon Max 9480 2P ....... 69.20 |=============================================== ONNX Runtime 1.17 Model: yolov4 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 70.44 |========================================== Xeon Platinum 8592+ .... 47.90 |============================ Xeon Platinum 8490H .... 55.12 |================================= Xeon Platinum 8490H 2P . 78.40 |============================================== Xeon Max 9468 .......... 61.83 |===================================== Xeon Max 9468 2P ....... 76.42 |============================================= Xeon Max 9480 .......... 61.01 |==================================== Xeon Max 9480 2P ....... 79.38 |=============================================== ONNX Runtime 1.17 Model: fcn-resnet101-11 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 100.74 |============================== Xeon Platinum 8592+ .... 109.67 |================================ Xeon Platinum 8490H .... 116.32 |================================== Xeon Platinum 8490H 2P . 92.35 |=========================== Xeon Max 9468 .......... 139.10 |========================================= Xeon Max 9468 2P ....... 121.67 |==================================== Xeon Max 9480 .......... 155.79 |============================================== Xeon Max 9480 2P ....... 121.78 |==================================== ONNX Runtime 1.17 Model: fcn-resnet101-11 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 327.88 |================================ Xeon Platinum 8592+ .... 302.27 |============================= Xeon Platinum 8490H .... 329.04 |================================ Xeon Platinum 8490H 2P . 352.74 |================================== Xeon Max 9468 .......... 380.90 |===================================== Xeon Max 9468 2P ....... 460.67 |============================================= Xeon Max 9480 .......... 382.11 |===================================== Xeon Max 9480 2P ....... 475.25 |============================================== ONNX Runtime 1.17 Model: super-resolution-10 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 3.98013 |==================================== Xeon Platinum 8592+ .... 3.85774 |=================================== Xeon Platinum 8490H .... 4.39649 |======================================== Xeon Platinum 8490H 2P . 4.72530 |=========================================== Xeon Max 9468 .......... 4.58912 |========================================= Xeon Max 9468 2P ....... 4.85818 |============================================ Xeon Max 9480 .......... 4.67269 |========================================== Xeon Max 9480 2P ....... 5.00222 |============================================= ONNX Runtime 1.17 Model: super-resolution-10 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 4.65431 |==================================== Xeon Platinum 8592+ .... 4.26352 |================================= Xeon Platinum 8490H .... 4.86604 |===================================== Xeon Platinum 8490H 2P . 5.29287 |======================================== Xeon Max 9468 .......... 5.10914 |======================================= Xeon Max 9468 2P ....... 5.74921 |============================================ Xeon Max 9480 .......... 5.26075 |======================================== Xeon Max 9480 2P ....... 5.88628 |============================================= ONNX Runtime 1.17 Model: bertsquad-12 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 44.60 |=================================== Xeon Platinum 8592+ .... 39.75 |=============================== Xeon Platinum 8490H .... 49.64 |======================================= Xeon Platinum 8490H 2P . 60.36 |=============================================== Xeon Max 9468 .......... 47.24 |===================================== Xeon Max 9468 2P ....... 60.11 |=============================================== Xeon Max 9480 .......... 49.97 |======================================= Xeon Max 9480 2P ....... 55.90 |============================================ ONNX Runtime 1.17 Model: bertsquad-12 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 64.79 |========================================= Xeon Platinum 8592+ .... 50.83 |================================ Xeon Platinum 8490H .... 62.13 |======================================= Xeon Platinum 8490H 2P . 68.83 |============================================ Xeon Max 9468 .......... 61.25 |======================================= Xeon Max 9468 2P ....... 72.80 |============================================== Xeon Max 9480 .......... 63.54 |======================================== Xeon Max 9480 2P ....... 73.97 |=============================================== ONNX Runtime 1.17 Model: GPT-2 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 4.29531 |========================== Xeon Platinum 8592+ .... 3.69649 |====================== Xeon Platinum 8490H .... 4.49976 |=========================== Xeon Platinum 8490H 2P . 5.55101 |================================= Xeon Max 9468 .......... 5.67700 |================================== Xeon Max 9468 2P ....... 7.04111 |========================================== Xeon Max 9480 .......... 5.91961 |=================================== Xeon Max 9480 2P ....... 7.53259 |============================================= ONNX Runtime 1.17 Model: GPT-2 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 5.10948 |=============================== Xeon Platinum 8592+ .... 4.01687 |========================= Xeon Platinum 8490H .... 5.21520 |================================ Xeon Platinum 8490H 2P . 6.90619 |========================================== Xeon Max 9468 .......... 5.22781 |================================ Xeon Max 9468 2P ....... 7.34848 |============================================= Xeon Max 9480 .......... 5.29027 |================================ Xeon Max 9480 2P ....... 7.30822 |============================================= ONNX Runtime 1.17 Model: ArcFace ResNet-100 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 26.09 |========================================== Xeon Platinum 8592+ .... 15.04 |======================== Xeon Platinum 8490H .... 18.93 |============================== Xeon Platinum 8490H 2P . 27.59 |============================================ Xeon Max 9468 .......... 21.22 |================================== Xeon Max 9468 2P ....... 24.65 |======================================= Xeon Max 9480 .......... 23.66 |====================================== Xeon Max 9480 2P ....... 29.44 |=============================================== ONNX Runtime 1.17 Model: ArcFace ResNet-100 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 31.79 |============================================ Xeon Platinum 8592+ .... 16.55 |======================= Xeon Platinum 8490H .... 21.34 |============================= Xeon Platinum 8490H 2P . 34.31 |=============================================== Xeon Max 9468 .......... 24.55 |================================== Xeon Max 9468 2P ....... 30.47 |========================================== Xeon Max 9480 .......... 23.66 |================================ Xeon Max 9480 2P ....... 34.25 |=============================================== ONNX Runtime 1.17 Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 5.83954 |=========================================== Xeon Platinum 8592+ .... 3.18392 |======================= Xeon Platinum 8490H .... 3.17002 |======================= Xeon Platinum 8490H 2P . 5.62517 |========================================= Xeon Max 9468 .......... 3.02897 |====================== Xeon Max 9468 2P ....... 5.74491 |========================================== Xeon Max 9480 .......... 3.37034 |========================= Xeon Max 9480 2P ....... 6.17796 |============================================= ONNX Runtime 1.17 Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 6.49693 |============================================= Xeon Platinum 8592+ .... 3.23780 |====================== Xeon Platinum 8490H .... 3.19298 |====================== Xeon Platinum 8490H 2P . 6.39031 |============================================ Xeon Max 9468 .......... 3.13366 |====================== Xeon Max 9468 2P ....... 6.00525 |========================================= Xeon Max 9480 .......... 3.32030 |======================= Xeon Max 9480 2P ....... 6.51744 |============================================= ONNX Runtime 1.17 Model: CaffeNet 12-int8 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 1.32454 |=================================== Xeon Platinum 8592+ .... 1.10042 |============================= Xeon Platinum 8490H .... 1.17292 |=============================== Xeon Platinum 8490H 2P . 1.43573 |====================================== Xeon Max 9468 .......... 1.37831 |==================================== Xeon Max 9468 2P ....... 1.65270 |=========================================== Xeon Max 9480 .......... 1.41662 |===================================== Xeon Max 9480 2P ....... 1.71875 |============================================= ONNX Runtime 1.17 Model: CaffeNet 12-int8 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 1.64919 |==================================== Xeon Platinum 8592+ .... 1.20298 |========================== Xeon Platinum 8490H .... 1.27368 |=========================== Xeon Platinum 8490H 2P . 1.76353 |====================================== Xeon Max 9468 .......... 1.45280 |=============================== Xeon Max 9468 2P ....... 2.02659 |============================================ Xeon Max 9480 .......... 1.47249 |================================ Xeon Max 9480 2P ....... 2.08780 |============================================= ONNX Runtime 1.17 Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 28.85 |===================================== Xeon Platinum 8592+ .... 29.02 |====================================== Xeon Platinum 8490H .... 29.41 |====================================== Xeon Platinum 8490H 2P . 29.75 |======================================= Xeon Max 9468 .......... 33.33 |=========================================== Xeon Max 9468 2P ....... 36.23 |=============================================== Xeon Max 9480 .......... 33.99 |============================================ Xeon Max 9480 2P ....... 36.00 |=============================================== ONNX Runtime 1.17 Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 31.53 |===================================== Xeon Platinum 8592+ .... 29.96 |=================================== Xeon Platinum 8490H .... 30.92 |==================================== Xeon Platinum 8490H 2P . 33.29 |======================================= Xeon Max 9468 .......... 35.07 |========================================= Xeon Max 9468 2P ....... 40.45 |=============================================== Xeon Max 9480 .......... 35.11 |========================================= Xeon Max 9480 2P ....... 40.52 |=============================================== ONNX Runtime 1.17 Model: T5 Encoder - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 2.80263 |======================= Xeon Platinum 8592+ .... 2.16966 |================== Xeon Platinum 8490H .... 2.79694 |======================= Xeon Platinum 8490H 2P . 3.46571 |============================= Xeon Max 9468 .......... 4.57581 |====================================== Xeon Max 9468 2P ....... 5.02267 |========================================== Xeon Max 9480 .......... 4.64757 |======================================= Xeon Max 9480 2P ....... 5.39123 |============================================= ONNX Runtime 1.17 Model: T5 Encoder - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8592+ 2P . 2.81739 |=============================== Xeon Platinum 8592+ .... 2.15980 |======================== Xeon Platinum 8490H .... 3.06500 |================================== Xeon Platinum 8490H 2P . 4.05881 |============================================= Xeon Max 9468 .......... 2.97094 |================================= Xeon Max 9468 2P ....... 4.05270 |============================================= Xeon Max 9480 .......... 2.88734 |================================ Xeon Max 9480 2P ....... 3.95819 |============================================ PyBench 2018-02-16 Total For Average Test Times Milliseconds < Lower Is Better Xeon Platinum 8592+ 2P . 692 |============================================ Xeon Platinum 8592+ .... 691 |============================================ Xeon Platinum 8490H .... 765 |================================================= Xeon Platinum 8490H 2P . 767 |================================================= Xeon Max 9468 .......... 763 |================================================= Xeon Max 9468 2P ....... 763 |================================================= Xeon Max 9480 .......... 762 |================================================= Xeon Max 9480 2P ....... 763 |================================================= PostgreSQL 16 Scaling Factor: 100 - Clients: 1000 - Mode: Read Write - Average Latency ms < Lower Is Better Xeon Platinum 8592+ 2P . 30.20 |=============================================== Xeon Platinum 8592+ .... 13.26 |===================== Xeon Platinum 8490H .... 14.04 |====================== Xeon Platinum 8490H 2P . 14.86 |======================= Xeon Max 9468 .......... 14.29 |====================== Xeon Max 9468 2P ....... 16.96 |========================== Xeon Max 9480 .......... 13.85 |====================== Xeon Max 9480 2P ....... 16.66 |========================== PostgreSQL 16 Scaling Factor: 100 - Clients: 1000 - Mode: Read Only - Average Latency ms < Lower Is Better Xeon Platinum 8592+ 2P . 1.149 |========================================== Xeon Platinum 8592+ .... 0.589 |===================== Xeon Platinum 8490H .... 0.572 |===================== Xeon Platinum 8490H 2P . 1.293 |=============================================== Xeon Max 9468 .......... 0.559 |==================== Xeon Max 9468 2P ....... 1.027 |===================================== Xeon Max 9480 .......... 0.622 |======================= Xeon Max 9480 2P ....... 1.098 |======================================== OSPRay Studio 1.0 Camera: 1 - Resolution: 4K - Samples Per Pixel: 1 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 759 |================== Xeon Platinum 8592+ .... 1441 |=================================== Xeon Platinum 8490H .... 1657 |======================================== Xeon Platinum 8490H 2P . 894 |====================== Xeon Max 9468 .......... 1988 |================================================ Xeon Max 9468 2P ....... 1049 |========================= Xeon Max 9480 .......... 1792 |=========================================== Xeon Max 9480 2P ....... 961 |======================= OSPRay Studio 1.0 Camera: 1 - Resolution: 4K - Samples Per Pixel: 16 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 12124 |=============== Xeon Platinum 8592+ .... 23125 |============================= Xeon Platinum 8490H .... 31380 |======================================== Xeon Platinum 8490H 2P . 14138 |================== Xeon Max 9468 .......... 37055 |=============================================== Xeon Max 9468 2P ....... 16645 |===================== Xeon Max 9480 .......... 33790 |=========================================== Xeon Max 9480 2P ....... 15357 |=================== OSPRay Studio 1.0 Camera: 1 - Resolution: 4K - Samples Per Pixel: 32 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 24249 |================= Xeon Platinum 8592+ .... 50798 |=================================== Xeon Platinum 8490H .... 58026 |======================================== Xeon Platinum 8490H 2P . 33411 |======================= Xeon Max 9468 .......... 68973 |=============================================== Xeon Max 9468 2P ....... 38926 |=========================== Xeon Max 9480 .......... 62540 |=========================================== Xeon Max 9480 2P ....... 36179 |========================= OSPRay Studio 1.0 Camera: 3 - Resolution: 4K - Samples Per Pixel: 1 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 898 |================== Xeon Platinum 8592+ .... 1709 |=================================== Xeon Platinum 8490H .... 1977 |======================================== Xeon Platinum 8490H 2P . 1063 |====================== Xeon Max 9468 .......... 2357 |================================================ Xeon Max 9468 2P ....... 1237 |========================= Xeon Max 9480 .......... 2123 |=========================================== Xeon Max 9480 2P ....... 1143 |======================= OSPRay Studio 1.0 Camera: 3 - Resolution: 4K - Samples Per Pixel: 16 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 14358 |================ Xeon Platinum 8592+ .... 31993 |=================================== Xeon Platinum 8490H .... 36649 |======================================== Xeon Platinum 8490H 2P . 16837 |================== Xeon Max 9468 .......... 42837 |=============================================== Xeon Max 9468 2P ....... 19701 |====================== Xeon Max 9480 .......... 39238 |=========================================== Xeon Max 9480 2P ....... 18111 |==================== OSPRay Studio 1.0 Camera: 3 - Resolution: 4K - Samples Per Pixel: 32 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 33391 |=================== Xeon Platinum 8592+ .... 59522 |=================================== Xeon Platinum 8490H .... 68006 |======================================== Xeon Platinum 8490H 2P . 38813 |======================= Xeon Max 9468 .......... 80742 |=============================================== Xeon Max 9468 2P ....... 45211 |========================== Xeon Max 9480 .......... 73366 |=========================================== Xeon Max 9480 2P ....... 41971 |======================== Google Draco 1.5.6 Model: Church Facade ms < Lower Is Better Xeon Platinum 8592+ 2P . 4693 |================================= Xeon Platinum 8592+ .... 4565 |================================ Xeon Platinum 8490H .... 5670 |======================================== Xeon Platinum 8490H 2P . 5672 |======================================== Xeon Max 9468 .......... 6707 |=============================================== Xeon Max 9468 2P ....... 6821 |================================================ Xeon Max 9480 .......... 6693 |=============================================== Xeon Max 9480 2P ....... 6777 |================================================ Google Draco 1.5.6 Model: Lion ms < Lower Is Better Xeon Platinum 8592+ 2P . 3894 |=================================== Xeon Platinum 8592+ .... 3861 |=================================== Xeon Platinum 8490H .... 4731 |=========================================== Xeon Platinum 8490H 2P . 4733 |=========================================== Xeon Max 9468 .......... 5217 |=============================================== Xeon Max 9468 2P ....... 5342 |================================================ Xeon Max 9480 .......... 5188 |=============================================== Xeon Max 9480 2P ....... 5322 |================================================ OpenVINO 2024.0 Model: Face Detection FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 234.24 |============================== Xeon Platinum 8592+ .... 224.64 |============================= Xeon Platinum 8490H .... 356.38 |============================================== Xeon Platinum 8490H 2P . 283.11 |===================================== Xeon Max 9468 .......... 236.52 |=============================== Xeon Max 9468 2P ....... 256.63 |================================= Xeon Max 9480 .......... 257.50 |================================= Xeon Max 9480 2P ....... 278.52 |==================================== OpenVINO 2024.0 Model: Age Gender Recognition Retail 0013 FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 0.46 |============================================= Xeon Platinum 8592+ .... 0.49 |================================================ Xeon Platinum 8490H .... 0.43 |========================================== Xeon Platinum 8490H 2P . 0.29 |============================ Xeon Max 9468 .......... 0.33 |================================ Xeon Max 9468 2P ....... 0.28 |=========================== Xeon Max 9480 .......... 0.37 |==================================== Xeon Max 9480 2P ....... 0.30 |============================= OpenVINO 2024.0 Model: Person Detection FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 43.41 |==================== Xeon Platinum 8592+ .... 39.62 |================== Xeon Platinum 8490H .... 100.39 |============================================== Xeon Platinum 8490H 2P . 45.78 |===================== Xeon Max 9468 .......... 41.93 |=================== Xeon Max 9468 2P ....... 42.16 |=================== Xeon Max 9480 .......... 59.69 |=========================== Xeon Max 9480 2P ....... 64.91 |============================== OpenVINO 2024.0 Model: Weld Porosity Detection FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 2.48 |================================= Xeon Platinum 8592+ .... 2.36 |================================ Xeon Platinum 8490H .... 3.58 |================================================ Xeon Platinum 8490H 2P . 2.50 |================================== Xeon Max 9468 .......... 2.50 |================================== Xeon Max 9468 2P ....... 2.53 |================================== Xeon Max 9480 .......... 2.67 |==================================== Xeon Max 9480 2P ....... 2.79 |===================================== OpenVINO 2024.0 Model: Vehicle Detection FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 14.67 |================================ Xeon Platinum 8592+ .... 13.73 |============================== Xeon Platinum 8490H .... 17.84 |======================================= Xeon Platinum 8490H 2P . 21.73 |=============================================== Xeon Max 9468 .......... 16.33 |=================================== Xeon Max 9468 2P ....... 17.19 |===================================== Xeon Max 9480 .......... 19.44 |========================================== Xeon Max 9480 2P ....... 20.24 |============================================ OpenVINO 2024.0 Model: Person Vehicle Bike Detection FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 11.69 |================================= Xeon Platinum 8592+ .... 11.17 |================================ Xeon Platinum 8490H .... 16.50 |=============================================== Xeon Platinum 8490H 2P . 15.04 |=========================================== Xeon Max 9468 .......... 12.54 |==================================== Xeon Max 9468 2P ....... 13.34 |====================================== Xeon Max 9480 .......... 13.59 |======================================= Xeon Max 9480 2P ....... 14.42 |========================================= OpenVINO 2024.0 Model: Machine Translation EN To DE FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 28.17 |===================== Xeon Platinum 8592+ .... 26.85 |==================== Xeon Platinum 8490H .... 62.46 |=============================================== Xeon Platinum 8490H 2P . 37.58 |============================ Xeon Max 9468 .......... 28.73 |====================== Xeon Max 9468 2P ....... 29.98 |======================= Xeon Max 9480 .......... 38.50 |============================= Xeon Max 9480 2P ....... 41.57 |=============================== OpenVINO 2024.0 Model: Face Detection Retail FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 5.18 |======================================= Xeon Platinum 8592+ .... 5.19 |======================================= Xeon Platinum 8490H .... 6.43 |================================================ Xeon Platinum 8490H 2P . 5.72 |=========================================== Xeon Max 9468 .......... 5.27 |======================================= Xeon Max 9468 2P ....... 5.55 |========================================= Xeon Max 9480 .......... 5.77 |=========================================== Xeon Max 9480 2P ....... 6.02 |============================================= OpenVINO 2024.0 Model: Handwritten English Recognition FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 22.96 |============================== Xeon Platinum 8592+ .... 21.87 |============================ Xeon Platinum 8490H .... 36.20 |=============================================== Xeon Platinum 8490H 2P . 25.12 |================================= Xeon Max 9468 .......... 23.12 |============================== Xeon Max 9468 2P ....... 24.00 |=============================== Xeon Max 9480 .......... 24.94 |================================ Xeon Max 9480 2P ....... 25.72 |================================= OpenVINO 2024.0 Model: Road Segmentation ADAS FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 57.13 |========================================= Xeon Platinum 8592+ .... 55.07 |======================================== Xeon Platinum 8490H .... 55.99 |======================================== Xeon Platinum 8490H 2P . 65.02 |=============================================== Xeon Max 9468 .......... 55.74 |======================================== Xeon Max 9468 2P ....... 56.71 |========================================= Xeon Max 9480 .......... 62.53 |============================================= Xeon Max 9480 2P ....... 62.11 |============================================= OpenVINO 2024.0 Model: Person Re-Identification Retail FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 6.95 |================================== Xeon Platinum 8592+ .... 6.72 |================================= Xeon Platinum 8490H .... 9.79 |================================================ Xeon Platinum 8490H 2P . 7.72 |====================================== Xeon Max 9468 .......... 7.13 |=================================== Xeon Max 9468 2P ....... 7.32 |==================================== Xeon Max 9480 .......... 7.76 |====================================== Xeon Max 9480 2P ....... 7.97 |======================================= OpenVINO 2024.0 Model: Noise Suppression Poconet-Like FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 13.15 |================================= Xeon Platinum 8592+ .... 9.40 |======================== Xeon Platinum 8490H .... 13.95 |=================================== Xeon Platinum 8490H 2P . 15.96 |======================================== Xeon Max 9468 .......... 11.37 |============================= Xeon Max 9468 2P ....... 17.15 |=========================================== Xeon Max 9480 .......... 12.72 |================================ Xeon Max 9480 2P ....... 18.72 |=============================================== oneDNN 3.4 Harness: Convolution Batch Shapes Auto - Engine: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 0.306795 |= Xeon Platinum 8592+ .... 0.585804 |=== Xeon Platinum 8490H .... 0.650618 |=== Xeon Platinum 8490H 2P . 0.438154 |== Xeon Max 9468 .......... 9.194340 |============================================ Xeon Max 9468 2P ....... 7.754310 |===================================== Xeon Max 9480 .......... 8.751050 |========================================== Xeon Max 9480 2P ....... 7.060430 |================================== oneDNN 3.4 Harness: Deconvolution Batch shapes_1d - Engine: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 38.08130 |============================================ Xeon Platinum 8592+ .... 6.69692 |======== Xeon Platinum 8490H .... 6.15856 |======= Xeon Platinum 8490H 2P . 16.55070 |=================== Xeon Max 9468 .......... 5.30953 |====== Xeon Max 9468 2P ....... 13.45000 |================ Xeon Max 9480 .......... 6.09747 |======= Xeon Max 9480 2P ....... 16.09010 |=================== oneDNN 3.4 Harness: Deconvolution Batch shapes_3d - Engine: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 0.624250 |====================== Xeon Platinum 8592+ .... 0.907161 |================================ Xeon Platinum 8490H .... 1.077430 |====================================== Xeon Platinum 8490H 2P . 0.736170 |========================== Xeon Max 9468 .......... 1.264070 |============================================ Xeon Max 9468 2P ....... 0.945075 |================================= Xeon Max 9480 .......... 1.196430 |========================================== Xeon Max 9480 2P ....... 0.864358 |============================== oneDNN 3.4 Harness: IP Shapes 1D - Engine: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 0.580664 |================================= Xeon Platinum 8592+ .... 0.398446 |====================== Xeon Platinum 8490H .... 0.539467 |============================== Xeon Platinum 8490H 2P . 0.783180 |============================================ Xeon Max 9468 .......... 0.725974 |========================================= Xeon Max 9468 2P ....... 0.662387 |===================================== Xeon Max 9480 .......... 0.617190 |=================================== Xeon Max 9480 2P ....... 0.759434 |=========================================== oneDNN 3.4 Harness: IP Shapes 3D - Engine: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 0.738442 |======== Xeon Platinum 8592+ .... 0.841608 |========= Xeon Platinum 8490H .... 0.771506 |======== Xeon Platinum 8490H 2P . 0.714699 |======= Xeon Max 9468 .......... 4.324650 |============================================ Xeon Max 9468 2P ....... 4.283990 |============================================ Xeon Max 9480 .......... 4.274810 |=========================================== Xeon Max 9480 2P ....... 4.175530 |========================================== oneDNN 3.4 Harness: Recurrent Neural Network Training - Engine: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 626.14 |========== Xeon Platinum 8592+ .... 703.47 |=========== Xeon Platinum 8490H .... 623.60 |========== Xeon Platinum 8490H 2P . 635.15 |========== Xeon Max 9468 .......... 1200.75 |=================== Xeon Max 9468 2P ....... 1966.88 |================================ Xeon Max 9480 .......... 1180.85 |=================== Xeon Max 9480 2P ....... 2776.52 |============================================= oneDNN 3.4 Harness: Recurrent Neural Network Inference - Engine: CPU ms < Lower Is Better Xeon Platinum 8592+ 2P . 538.23 |================ Xeon Platinum 8592+ .... 488.92 |=============== Xeon Platinum 8490H .... 409.59 |============ Xeon Platinum 8490H 2P . 633.29 |=================== Xeon Max 9468 .......... 734.80 |====================== Xeon Max 9468 2P ....... 1498.58 |============================================= Xeon Max 9480 .......... 632.15 |=================== Xeon Max 9480 2P ....... 719.23 |====================== DaCapo Benchmark 23.11 Java Test: Apache Lucene Search Index msec < Lower Is Better Xeon Platinum 8592+ 2P . 3345 |============================================ Xeon Platinum 8592+ .... 3242 |========================================== Xeon Platinum 8490H .... 3581 |=============================================== Xeon Platinum 8490H 2P . 3689 |================================================ Xeon Max 9468 .......... 3378 |============================================ Xeon Max 9468 2P ....... 3643 |=============================================== Xeon Max 9480 .......... 3396 |============================================ Xeon Max 9480 2P ....... 3537 |============================================== DaCapo Benchmark 23.11 Java Test: Jython msec < Lower Is Better Xeon Platinum 8592+ 2P . 3466 |========================================== Xeon Platinum 8592+ .... 3424 |========================================== Xeon Platinum 8490H .... 3801 |============================================== Xeon Platinum 8490H 2P . 3892 |================================================ Xeon Max 9468 .......... 3785 |============================================== Xeon Max 9468 2P ....... 3926 |================================================ Xeon Max 9480 .......... 3707 |============================================= Xeon Max 9480 2P ....... 3921 |================================================ DaCapo Benchmark 23.11 Java Test: Tradebeans msec < Lower Is Better Xeon Platinum 8592+ 2P . 12713 |=============================================== Xeon Platinum 8592+ .... 11004 |========================================= Xeon Platinum 8490H .... 7270 |=========================== Xeon Platinum 8490H 2P . 8050 |============================== Xeon Max 9468 .......... 6130 |======================= Xeon Max 9468 2P ....... 6681 |========================= Xeon Max 9480 .......... 5994 |====================== Xeon Max 9480 2P ....... 6672 |========================= DaCapo Benchmark 23.11 Java Test: Tradesoap msec < Lower Is Better Xeon Platinum 8592+ 2P . 7492 |================================================ Xeon Platinum 8592+ .... 7321 |=============================================== Xeon Platinum 8490H .... 4115 |========================== Xeon Platinum 8490H 2P . 4215 |=========================== Xeon Max 9468 .......... 3887 |========================= Xeon Max 9468 2P ....... 4199 |=========================== Xeon Max 9480 .......... 3884 |========================= Xeon Max 9480 2P ....... 4069 |========================== DaCapo Benchmark 23.11 Java Test: Apache Kafka msec < Lower Is Better Xeon Platinum 8592+ 2P . 5611 |================================================ Xeon Platinum 8592+ .... 5560 |================================================ Xeon Platinum 8490H .... 5106 |============================================ Xeon Platinum 8490H 2P . 5113 |============================================ Xeon Max 9468 .......... 5108 |============================================ Xeon Max 9468 2P ....... 5101 |============================================ Xeon Max 9480 .......... 5102 |============================================ Xeon Max 9480 2P ....... 5088 |============================================ Timed Linux Kernel Compilation 6.8 Build: defconfig Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 25.87 |============================ Xeon Platinum 8592+ .... 34.59 |===================================== Xeon Platinum 8490H .... 39.45 |=========================================== Xeon Platinum 8490H 2P . 29.98 |================================ Xeon Max 9468 .......... 43.42 |=============================================== Xeon Max 9468 2P ....... 32.14 |=================================== Xeon Max 9480 .......... 40.50 |============================================ Xeon Max 9480 2P ....... 30.53 |================================= Timed Linux Kernel Compilation 6.8 Build: allmodconfig Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 189.74 |==================== Xeon Platinum 8592+ .... 316.90 |================================== Xeon Platinum 8490H .... 362.45 |======================================= Xeon Platinum 8490H 2P . 218.57 |======================= Xeon Max 9468 .......... 428.39 |============================================== Xeon Max 9468 2P ....... 246.94 |=========================== Xeon Max 9480 .......... 384.06 |========================================= Xeon Max 9480 2P ....... 231.03 |========================= Timed FFmpeg Compilation 7.0 Time To Compile Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 17.39 |=============================== Xeon Platinum 8592+ .... 21.36 |====================================== Xeon Platinum 8490H .... 24.06 |=========================================== Xeon Platinum 8490H 2P . 19.51 |=================================== Xeon Max 9468 .......... 26.46 |=============================================== Xeon Max 9468 2P ....... 20.79 |===================================== Xeon Max 9480 .......... 24.84 |============================================ Xeon Max 9480 2P ....... 20.01 |==================================== Timed Godot Game Engine Compilation 4.0 Time To Compile Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 103.38 |================================ Xeon Platinum 8592+ .... 122.72 |====================================== Xeon Platinum 8490H .... 140.23 |=========================================== Xeon Platinum 8490H 2P . 118.57 |===================================== Xeon Max 9468 .......... 149.38 |============================================== Xeon Max 9468 2P ....... 123.88 |====================================== Xeon Max 9480 .......... 143.81 |============================================ Xeon Max 9480 2P ....... 122.70 |====================================== Timed Node.js Compilation 21.7.2 Time To Compile Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 145.41 |========================= Xeon Platinum 8592+ .... 214.43 |==================================== Xeon Platinum 8490H .... 254.00 |=========================================== Xeon Platinum 8490H 2P . 172.99 |============================= Xeon Max 9468 .......... 270.38 |============================================== Xeon Max 9468 2P ....... 175.63 |============================== Xeon Max 9480 .......... 252.65 |=========================================== Xeon Max 9480 2P ....... 171.17 |============================= Timed Gem5 Compilation 23.0.1 Time To Compile Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 157.36 |================================= Xeon Platinum 8592+ .... 187.51 |======================================= Xeon Platinum 8490H .... 210.93 |============================================ Xeon Platinum 8490H 2P . 178.28 |===================================== Xeon Max 9468 .......... 220.57 |============================================== Xeon Max 9468 2P ....... 184.30 |====================================== Xeon Max 9480 .......... 215.50 |============================================= Xeon Max 9480 2P ....... 181.63 |====================================== Timed LLVM Compilation 16.0 Build System: Ninja Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 106.82 |======================= Xeon Platinum 8592+ .... 165.05 |==================================== Xeon Platinum 8490H .... 187.02 |======================================== Xeon Platinum 8490H 2P . 122.31 |========================== Xeon Max 9468 .......... 212.48 |============================================== Xeon Max 9468 2P ....... 134.42 |============================= Xeon Max 9480 .......... 197.84 |=========================================== Xeon Max 9480 2P ....... 128.07 |============================ Timed PHP Compilation 8.3.4 Time To Compile Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 40.38 |======================================= Xeon Platinum 8592+ .... 41.85 |======================================== Xeon Platinum 8490H .... 48.01 |============================================== Xeon Platinum 8490H 2P . 46.64 |============================================= Xeon Max 9468 .......... 48.71 |=============================================== Xeon Max 9468 2P ....... 46.87 |============================================= Xeon Max 9480 .......... 47.95 |============================================== Xeon Max 9480 2P ....... 46.57 |============================================= Timed Wasmer Compilation 2.3 Time To Compile Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 30.47 |======================================== Xeon Platinum 8592+ .... 30.17 |======================================= Xeon Platinum 8490H .... 34.93 |============================================= Xeon Platinum 8490H 2P . 35.46 |============================================== Xeon Max 9468 .......... 35.66 |============================================== Xeon Max 9468 2P ....... 36.20 |=============================================== Xeon Max 9480 .......... 35.20 |============================================== Xeon Max 9480 2P ....... 35.70 |============================================== Timed Mesa Compilation 24.0 Time To Compile Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 16.18 |====================================== Xeon Platinum 8592+ .... 17.26 |======================================== Xeon Platinum 8490H .... 19.23 |============================================= Xeon Platinum 8490H 2P . 18.29 |=========================================== Xeon Max 9468 .......... 20.18 |=============================================== Xeon Max 9468 2P ....... 18.47 |=========================================== Xeon Max 9480 .......... 19.65 |============================================== Xeon Max 9480 2P ....... 18.14 |========================================== Timed ImageMagick Compilation 6.9.0 Time To Compile Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 11.49 |================================== Xeon Platinum 8592+ .... 12.60 |===================================== Xeon Platinum 8490H .... 14.72 |=========================================== Xeon Platinum 8490H 2P . 13.26 |======================================= Xeon Max 9468 .......... 16.08 |=============================================== Xeon Max 9468 2P ....... 14.40 |========================================== Xeon Max 9480 .......... 15.38 |============================================= Xeon Max 9480 2P ....... 14.09 |========================================= Timed CPython Compilation 3.10.6 Build Configuration: Default Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 16.93 |========================================= Xeon Platinum 8592+ .... 17.08 |========================================== Xeon Platinum 8490H .... 19.20 |=============================================== Xeon Platinum 8490H 2P . 18.93 |============================================== Xeon Max 9468 .......... 19.12 |=============================================== Xeon Max 9468 2P ....... 18.81 |============================================== Xeon Max 9480 .......... 18.85 |============================================== Xeon Max 9480 2P ....... 18.82 |============================================== Timed CPython Compilation 3.10.6 Build Configuration: Released Build, PGO + LTO Optimized Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 244.95 |======================================== Xeon Platinum 8592+ .... 244.82 |======================================== Xeon Platinum 8490H .... 277.39 |============================================== Xeon Platinum 8490H 2P . 279.69 |============================================== Xeon Max 9468 .......... 275.39 |============================================= Xeon Max 9468 2P ....... 276.46 |============================================= Xeon Max 9480 .......... 273.52 |============================================= Xeon Max 9480 2P ....... 276.23 |============================================= DuckDB 0.9.1 Benchmark: IMDB Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 127.57 |============================================= Xeon Platinum 8592+ .... 99.18 |=================================== Xeon Platinum 8490H .... 99.49 |=================================== Xeon Platinum 8490H 2P . 125.88 |============================================ Xeon Max 9468 .......... 100.09 |=================================== Xeon Max 9468 2P ....... 127.70 |============================================= Xeon Max 9480 .......... 99.62 |=================================== Xeon Max 9480 2P ....... 131.80 |============================================== DuckDB 0.9.1 Benchmark: TPC-H Parquet Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 144.26 |========================================== Xeon Platinum 8592+ .... 132.87 |======================================= Xeon Platinum 8490H .... 145.57 |========================================== Xeon Platinum 8490H 2P . 155.73 |============================================= Xeon Max 9468 .......... 146.87 |=========================================== Xeon Max 9468 2P ....... 156.14 |============================================= Xeon Max 9480 .......... 145.24 |========================================== Xeon Max 9480 2P ....... 158.31 |============================================== WRF 4.2.2 Input: conus 2.5km Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 5601.10 |=================== Xeon Platinum 8592+ .... 10602.41 |=================================== Xeon Platinum 8490H .... 11980.81 |======================================== Xeon Platinum 8490H 2P . 6674.12 |====================== Xeon Max 9468 .......... 13273.69 |============================================ Xeon Max 9468 2P ....... 7157.96 |======================== Xeon Max 9480 .......... 12410.29 |========================================= Xeon Max 9480 2P ....... 6840.06 |======================= RELION 4.0.1 Test: Basic - Device: CPU Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 155.74 |================= Xeon Platinum 8592+ .... 290.45 |================================ Xeon Platinum 8490H .... 373.18 |========================================== Xeon Platinum 8490H 2P . 203.41 |======================= Xeon Max 9468 .......... 412.37 |============================================== Xeon Max 9468 2P ....... 214.42 |======================== Xeon Max 9480 .......... 384.38 |=========================================== Xeon Max 9480 2P ....... 201.38 |====================== m-queens 1.2 Time To Solve Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 7.402 |================ Xeon Platinum 8592+ .... 14.257 |=============================== Xeon Platinum 8490H .... 15.211 |================================= Xeon Platinum 8490H 2P . 7.881 |================= Xeon Max 9468 .......... 21.030 |============================================== Xeon Max 9468 2P ....... 10.840 |======================== Xeon Max 9480 .......... 18.102 |======================================== Xeon Max 9480 2P ....... 9.285 |==================== CloverLeaf 1.3 Input: clover_bm64_short Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 31.90 |==================================== Xeon Platinum 8592+ .... 39.38 |============================================ Xeon Platinum 8490H .... 39.48 |============================================ Xeon Platinum 8490H 2P . 26.58 |============================== Xeon Max 9468 .......... 41.43 |============================================== Xeon Max 9468 2P ....... 32.25 |==================================== Xeon Max 9480 .......... 42.22 |=============================================== Xeon Max 9480 2P ....... 32.44 |==================================== CloverLeaf 1.3 Input: clover_bm16 Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 378.05 |========================================== Xeon Platinum 8592+ .... 410.59 |============================================== Xeon Platinum 8490H .... 328.47 |===================================== Xeon Platinum 8490H 2P . 214.80 |======================== Xeon Max 9468 .......... 351.29 |======================================= Xeon Max 9468 2P ....... 263.33 |============================== Xeon Max 9480 .......... 357.57 |======================================== Xeon Max 9480 2P ....... 269.20 |============================== easyWave r34 Input: e2Asean Grid + BengkuluSept2007 Source - Time: 1200 Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 37.66 |======================== Xeon Platinum 8592+ .... 28.70 |================== Xeon Platinum 8490H .... 46.29 |============================= Xeon Platinum 8490H 2P . 50.83 |================================ Xeon Max 9468 .......... 63.43 |======================================== Xeon Max 9468 2P ....... 74.87 |=============================================== Xeon Max 9480 .......... 64.88 |========================================= Xeon Max 9480 2P ....... 68.86 |=========================================== easyWave r34 Input: e2Asean Grid + BengkuluSept2007 Source - Time: 2400 Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 102.13 |========================== Xeon Platinum 8592+ .... 75.73 |=================== Xeon Platinum 8490H .... 119.84 |============================== Xeon Platinum 8490H 2P . 126.39 |================================ Xeon Max 9468 .......... 173.01 |============================================ Xeon Max 9468 2P ....... 182.12 |============================================== Xeon Max 9480 .......... 145.24 |===================================== Xeon Max 9480 2P ....... 173.55 |============================================ GPAW 23.6 Input: Carbon Nanotube Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 38.05 |================================= Xeon Platinum 8592+ .... 43.05 |===================================== Xeon Platinum 8490H .... 47.78 |========================================= Xeon Platinum 8490H 2P . 41.56 |==================================== Xeon Max 9468 .......... 54.38 |=============================================== Xeon Max 9468 2P ....... 42.87 |===================================== Xeon Max 9480 .......... 48.49 |========================================== Xeon Max 9480 2P ....... 43.91 |====================================== NWChem 7.0.2 Input: C240 Buckyball Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 1809.7 |================================= Xeon Platinum 8592+ .... 1878.3 |================================== Xeon Platinum 8490H .... 2070.3 |====================================== Xeon Platinum 8490H 2P . 1960.9 |==================================== Xeon Max 9468 .......... 2530.5 |============================================== Xeon Max 9468 2P ....... 1785.0 |================================ Xeon Max 9480 .......... 2245.2 |========================================= Xeon Max 9480 2P ....... 1873.1 |================================== Xcompact3d Incompact3d 2021-03-11 Input: input.i3d 193 Cells Per Direction Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 5.39125967 |================ Xeon Platinum 8592+ .... 10.19670660 |============================== Xeon Platinum 8490H .... 12.92934130 |====================================== Xeon Platinum 8490H 2P . 6.39169817 |=================== Xeon Max 9468 .......... 13.96923760 |========================================= Xeon Max 9468 2P ....... 7.29349117 |===================== Xeon Max 9480 .......... 12.79975820 |====================================== Xeon Max 9480 2P ....... 6.66387510 |==================== Xcompact3d Incompact3d 2021-03-11 Input: X3D-benchmarking input.i3d Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 171.38 |=================== Xeon Platinum 8592+ .... 323.25 |==================================== Xeon Platinum 8490H .... 357.01 |======================================== Xeon Platinum 8490H 2P . 196.81 |====================== Xeon Max 9468 .......... 407.59 |============================================== Xeon Max 9468 2P ....... 189.69 |===================== Xeon Max 9480 .......... 351.64 |======================================== Xeon Max 9480 2P ....... 187.22 |===================== OpenFOAM 10 Input: drivaerFastback, Small Mesh Size - Mesh Time Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 29.33 |======================================= Xeon Platinum 8592+ .... 31.70 |========================================== Xeon Platinum 8490H .... 31.38 |========================================= Xeon Platinum 8490H 2P . 35.60 |=============================================== Xeon Max 9468 .......... 31.78 |========================================== Xeon Max 9468 2P ....... 32.48 |=========================================== Xeon Max 9480 .......... 32.00 |========================================== Xeon Max 9480 2P ....... 28.84 |====================================== OpenFOAM 10 Input: drivaerFastback, Small Mesh Size - Execution Time Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 23.56 |======================== Xeon Platinum 8592+ .... 33.07 |================================== Xeon Platinum 8490H .... 42.22 |=========================================== Xeon Platinum 8490H 2P . 28.56 |============================= Xeon Max 9468 .......... 45.95 |=============================================== Xeon Max 9468 2P ....... 28.99 |============================== Xeon Max 9480 .......... 41.75 |=========================================== Xeon Max 9480 2P ....... 27.58 |============================ OpenFOAM 10 Input: drivaerFastback, Medium Mesh Size - Mesh Time Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 139.62 |======================================== Xeon Platinum 8592+ .... 148.40 |========================================== Xeon Platinum 8490H .... 160.73 |============================================== Xeon Platinum 8490H 2P . 162.03 |============================================== Xeon Max 9468 .......... 153.12 |=========================================== Xeon Max 9468 2P ....... 134.78 |====================================== Xeon Max 9480 .......... 150.67 |=========================================== Xeon Max 9480 2P ....... 159.31 |============================================= OpenFOAM 10 Input: drivaerFastback, Medium Mesh Size - Execution Time Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 137.04 |============== Xeon Platinum 8592+ .... 302.06 |================================ Xeon Platinum 8490H .... 420.65 |============================================ Xeon Platinum 8490H 2P . 196.50 |===================== Xeon Max 9468 .......... 440.83 |============================================== Xeon Max 9468 2P ....... 201.11 |===================== Xeon Max 9480 .......... 410.29 |=========================================== Xeon Max 9480 2P ....... 186.33 |=================== OpenRadioss 2023.09.15 Model: Bird Strike on Windshield Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 113.15 |========================================= Xeon Platinum 8592+ .... 110.32 |======================================== Xeon Platinum 8490H .... 117.41 |=========================================== Xeon Platinum 8490H 2P . 124.44 |============================================= Xeon Max 9468 .......... 126.89 |============================================== Xeon Max 9468 2P ....... 116.49 |========================================== Xeon Max 9480 .......... 120.76 |============================================ Xeon Max 9480 2P ....... 119.03 |=========================================== OpenRadioss 2023.09.15 Model: Rubber O-Ring Seal Installation Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 86.85 |============================================== Xeon Platinum 8592+ .... 54.14 |============================= Xeon Platinum 8490H .... 59.91 |================================ Xeon Platinum 8490H 2P . 88.39 |=============================================== Xeon Max 9468 .......... 59.58 |================================ Xeon Max 9468 2P ....... 70.73 |====================================== Xeon Max 9480 .......... 59.32 |================================ Xeon Max 9480 2P ....... 81.65 |=========================================== OpenRadioss 2023.09.15 Model: Cell Phone Drop Test Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 26.88 |===================================== Xeon Platinum 8592+ .... 27.90 |======================================= Xeon Platinum 8490H .... 31.49 |============================================ Xeon Platinum 8490H 2P . 28.22 |======================================= Xeon Max 9468 .......... 33.75 |=============================================== Xeon Max 9468 2P ....... 27.51 |====================================== Xeon Max 9480 .......... 31.92 |============================================ Xeon Max 9480 2P ....... 27.63 |====================================== OpenRadioss 2023.09.15 Model: Bumper Beam Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 86.11 |=============================================== Xeon Platinum 8592+ .... 78.71 |=========================================== Xeon Platinum 8490H .... 79.54 |=========================================== Xeon Platinum 8490H 2P . 81.30 |============================================ Xeon Max 9468 .......... 83.44 |============================================== Xeon Max 9468 2P ....... 78.27 |=========================================== Xeon Max 9480 .......... 81.72 |============================================= Xeon Max 9480 2P ....... 80.32 |============================================ OpenRadioss 2023.09.15 Model: INIVOL and Fluid Structure Interaction Drop Container Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 100.00 |============================= Xeon Platinum 8592+ .... 128.74 |===================================== Xeon Platinum 8490H .... 140.43 |======================================== Xeon Platinum 8490H 2P . 107.36 |=============================== Xeon Max 9468 .......... 160.56 |============================================== Xeon Max 9468 2P ....... 114.29 |================================= Xeon Max 9480 .......... 146.03 |========================================== Xeon Max 9480 2P ....... 110.56 |================================ OpenRadioss 2023.09.15 Model: Chrysler Neon 1M Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 86.93 |================= Xeon Platinum 8592+ .... 157.56 |================================ Xeon Platinum 8490H .... 207.20 |========================================== Xeon Platinum 8490H 2P . 115.89 |======================= Xeon Max 9468 .......... 228.74 |============================================== Xeon Max 9468 2P ....... 125.15 |========================= Xeon Max 9480 .......... 212.99 |=========================================== Xeon Max 9480 2P ....... 117.91 |======================== Blender 4.1 Blend File: BMW27 - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 12.76 |=================== Xeon Platinum 8592+ .... 23.72 |=================================== Xeon Platinum 8490H .... 25.89 |====================================== Xeon Platinum 8490H 2P . 13.74 |==================== Xeon Max 9468 .......... 31.66 |=============================================== Xeon Max 9468 2P ....... 16.55 |========================= Xeon Max 9480 .......... 28.49 |========================================== Xeon Max 9480 2P ....... 15.29 |======================= Blender 4.1 Blend File: Classroom - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 33.61 |================== Xeon Platinum 8592+ .... 63.61 |================================== Xeon Platinum 8490H .... 68.61 |===================================== Xeon Platinum 8490H 2P . 35.91 |=================== Xeon Max 9468 .......... 86.67 |=============================================== Xeon Max 9468 2P ....... 44.71 |======================== Xeon Max 9480 .......... 76.87 |========================================== Xeon Max 9480 2P ....... 40.38 |====================== Blender 4.1 Blend File: Fishy Cat - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 17.29 |=================== Xeon Platinum 8592+ .... 31.91 |=================================== Xeon Platinum 8490H .... 34.83 |====================================== Xeon Platinum 8490H 2P . 19.13 |===================== Xeon Max 9468 .......... 42.78 |=============================================== Xeon Max 9468 2P ....... 23.17 |========================= Xeon Max 9480 .......... 38.48 |========================================== Xeon Max 9480 2P ....... 21.45 |======================== Blender 4.1 Blend File: Pabellon Barcelona - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 41.85 |================== Xeon Platinum 8592+ .... 80.29 |=================================== Xeon Platinum 8490H .... 87.92 |====================================== Xeon Platinum 8490H 2P . 46.38 |==================== Xeon Max 9468 .......... 106.96 |============================================== Xeon Max 9468 2P ....... 55.26 |======================== Xeon Max 9480 .......... 97.80 |========================================== Xeon Max 9480 2P ....... 51.29 |====================== Blender 4.1 Blend File: Barbershop - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 125.87 |================== Xeon Platinum 8592+ .... 236.73 |================================== Xeon Platinum 8490H .... 261.97 |====================================== Xeon Platinum 8490H 2P . 141.54 |==================== Xeon Max 9468 .......... 320.11 |============================================== Xeon Max 9468 2P ....... 169.44 |======================== Xeon Max 9480 .......... 290.56 |========================================== Xeon Max 9480 2P ....... 156.70 |======================= Blender 4.1 Blend File: Junkshop - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 18.31 |==================== Xeon Platinum 8592+ .... 32.08 |=================================== Xeon Platinum 8490H .... 35.96 |======================================= Xeon Platinum 8490H 2P . 21.15 |======================= Xeon Max 9468 .......... 42.85 |=============================================== Xeon Max 9468 2P ....... 24.99 |=========================== Xeon Max 9480 .......... 39.17 |=========================================== Xeon Max 9480 2P ....... 23.45 |========================== Appleseed 2.0 Beta Scene: Emily Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 129.96 |=========================================== Xeon Platinum 8592+ .... 119.80 |======================================== Xeon Platinum 8490H .... 120.75 |======================================== Xeon Platinum 8490H 2P . 130.62 |============================================ Xeon Max 9468 .......... 132.13 |============================================ Xeon Max 9468 2P ....... 137.46 |============================================== Xeon Max 9480 .......... 128.60 |=========================================== Xeon Max 9480 2P ....... 137.00 |============================================== Appleseed 2.0 Beta Scene: Disney Material Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 43.70 |=================================== Xeon Platinum 8592+ .... 48.43 |======================================= Xeon Platinum 8490H .... 53.49 |=========================================== Xeon Platinum 8490H 2P . 48.56 |======================================= Xeon Max 9468 .......... 58.38 |=============================================== Xeon Max 9468 2P ....... 51.25 |========================================= Xeon Max 9480 .......... 56.40 |============================================= Xeon Max 9480 2P ....... 49.14 |======================================== Appleseed 2.0 Beta Scene: Material Tester Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 210.82 |======================================== Xeon Platinum 8592+ .... 118.78 |====================== Xeon Platinum 8490H .... 126.15 |======================== Xeon Platinum 8490H 2P . 225.35 |=========================================== Xeon Max 9468 .......... 136.49 |========================== Xeon Max 9468 2P ....... 243.24 |============================================== Xeon Max 9480 .......... 134.39 |========================= Xeon Max 9480 2P ....... 239.73 |============================================= Parallel BZIP2 Compression 1.1.13 FreeBSD-13.0-RELEASE-amd64-memstick.img Compression Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 1.432362 |======================== Xeon Platinum 8592+ .... 1.847537 |=============================== Xeon Platinum 8490H .... 2.144857 |==================================== Xeon Platinum 8490H 2P . 1.469210 |========================= Xeon Max 9468 .......... 2.632077 |============================================ Xeon Max 9468 2P ....... 1.982932 |================================= Xeon Max 9480 .......... 2.287766 |====================================== Xeon Max 9480 2P ....... 1.711296 |============================= libavif avifenc 1.0 Encoder Speed: 0 Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 60.53 |===================================== Xeon Platinum 8592+ .... 64.48 |======================================= Xeon Platinum 8490H .... 69.93 |=========================================== Xeon Platinum 8490H 2P . 67.38 |========================================= Xeon Max 9468 .......... 76.92 |=============================================== Xeon Max 9468 2P ....... 69.65 |=========================================== Xeon Max 9480 .......... 73.06 |============================================= Xeon Max 9480 2P ....... 68.44 |========================================== libavif avifenc 1.0 Encoder Speed: 2 Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 33.65 |====================================== Xeon Platinum 8592+ .... 34.79 |======================================== Xeon Platinum 8490H .... 37.75 |=========================================== Xeon Platinum 8490H 2P . 37.31 |=========================================== Xeon Max 9468 .......... 41.13 |=============================================== Xeon Max 9468 2P ....... 38.65 |============================================ Xeon Max 9480 .......... 39.88 |============================================== Xeon Max 9480 2P ....... 38.14 |============================================ libavif avifenc 1.0 Encoder Speed: 6 Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 2.805 |=================================== Xeon Platinum 8592+ .... 2.971 |===================================== Xeon Platinum 8490H .... 3.169 |======================================= Xeon Platinum 8490H 2P . 3.044 |====================================== Xeon Max 9468 .......... 3.730 |============================================== Xeon Max 9468 2P ....... 3.776 |=============================================== Xeon Max 9480 .......... 3.550 |============================================ Xeon Max 9480 2P ....... 3.738 |=============================================== libavif avifenc 1.0 Encoder Speed: 6, Lossless Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 5.613 |===================================== Xeon Platinum 8592+ .... 5.784 |====================================== Xeon Platinum 8490H .... 6.278 |========================================= Xeon Platinum 8490H 2P . 6.172 |========================================= Xeon Max 9468 .......... 6.836 |============================================= Xeon Max 9468 2P ....... 7.121 |=============================================== Xeon Max 9480 .......... 6.605 |============================================ Xeon Max 9480 2P ....... 7.038 |============================================== libavif avifenc 1.0 Encoder Speed: 10, Lossless Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 4.579 |======================================== Xeon Platinum 8592+ .... 4.456 |======================================= Xeon Platinum 8490H .... 4.923 |============================================ Xeon Platinum 8490H 2P . 5.074 |============================================= Xeon Max 9468 .......... 4.916 |=========================================== Xeon Max 9468 2P ....... 5.317 |=============================================== Xeon Max 9480 .......... 4.867 |=========================================== Xeon Max 9480 2P ....... 5.311 |=============================================== GNU Octave Benchmark 8.4.0 Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 6.856 |========================= Xeon Platinum 8592+ .... 6.458 |======================== Xeon Platinum 8490H .... 7.532 |=========================== Xeon Platinum 8490H 2P . 8.036 |============================= Xeon Max 9468 .......... 7.622 |============================ Xeon Max 9468 2P ....... 12.617 |============================================== Xeon Max 9480 .......... 7.748 |============================ Xeon Max 9480 2P ....... 12.578 |============================================== RawTherapee Total Benchmark Time Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 52.69 |============================================ Xeon Platinum 8592+ .... 42.78 |=================================== Xeon Platinum 8490H .... 46.76 |======================================= Xeon Platinum 8490H 2P . 53.76 |============================================= Xeon Max 9468 .......... 46.96 |======================================= Xeon Max 9468 2P ....... 55.44 |============================================== Xeon Max 9480 .......... 47.09 |======================================= Xeon Max 9480 2P ....... 56.78 |=============================================== Helsing 1.0-beta Digit Range: 14 digit Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 48.09 |================== Xeon Platinum 8592+ .... 89.07 |================================= Xeon Platinum 8490H .... 93.35 |=================================== Xeon Platinum 8490H 2P . 50.83 |=================== Xeon Max 9468 .......... 123.83 |============================================== Xeon Max 9468 2P ....... 65.03 |======================== Xeon Max 9480 .......... 107.24 |======================================== Xeon Max 9480 2P ....... 58.25 |====================== Primesieve 12.1 Length: 1e12 Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 2.187 |================= Xeon Platinum 8592+ .... 4.250 |================================ Xeon Platinum 8490H .... 4.576 |=================================== Xeon Platinum 8490H 2P . 2.325 |================== Xeon Max 9468 .......... 6.160 |=============================================== Xeon Max 9468 2P ....... 3.121 |======================== Xeon Max 9480 .......... 5.332 |========================================= Xeon Max 9480 2P ....... 2.691 |===================== Primesieve 12.1 Length: 1e13 Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 25.02 |================= Xeon Platinum 8592+ .... 48.41 |================================== Xeon Platinum 8490H .... 51.82 |==================================== Xeon Platinum 8490H 2P . 27.11 |=================== Xeon Max 9468 .......... 67.32 |=============================================== Xeon Max 9468 2P ....... 33.92 |======================== Xeon Max 9480 .......... 58.16 |========================================= Xeon Max 9480 2P ....... 30.20 |===================== Y-Cruncher 0.8.3 Pi Digits To Calculate: 500M Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 2.659 |================================= Xeon Platinum 8592+ .... 3.391 |========================================== Xeon Platinum 8490H .... 3.267 |========================================= Xeon Platinum 8490H 2P . 2.364 |============================= Xeon Max 9468 .......... 3.781 |=============================================== Xeon Max 9468 2P ....... 3.110 |======================================= Xeon Max 9480 .......... 3.704 |============================================== Xeon Max 9480 2P ....... 2.961 |===================================== Y-Cruncher 0.8.3 Pi Digits To Calculate: 1B Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 5.110 |============================= Xeon Platinum 8592+ .... 6.701 |====================================== Xeon Platinum 8490H .... 7.047 |======================================== Xeon Platinum 8490H 2P . 5.008 |============================ Xeon Max 9468 .......... 8.300 |=============================================== Xeon Max 9468 2P ....... 6.334 |==================================== Xeon Max 9480 .......... 7.959 |============================================= Xeon Max 9480 2P ....... 6.266 |=================================== QMCPACK 3.17.1 Input: Li2_STO_ae Total Execution Time - Seconds < Lower Is Better Xeon Platinum 8592+ 2P . 97.91 |===================================== Xeon Platinum 8592+ .... 105.98 |======================================== Xeon Platinum 8490H .... 109.30 |========================================= Xeon Platinum 8490H 2P . 101.63 |======================================= Xeon Max 9468 .......... 121.19 |============================================== Xeon Max 9468 2P ....... 102.12 |======================================= Xeon Max 9480 .......... 117.81 |============================================= Xeon Max 9480 2P ....... 106.27 |========================================