2024 Server CPUs Benchmarks by Michael Larabel for a future article. 2 x Intel Xeon Max 9480 testing with a Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS) and ASPEED on Ubuntu 24.04 via the Phoronix Test Suite. Xeon Platinum 8490H: Processor: Intel Xeon Platinum 8490H @ 3.50GHz (60 Cores / 120 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 512GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Platinum 8490H 2P: Processor: 2 x Intel Xeon Platinum 8490H @ 3.50GHz (120 Cores / 240 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1008GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Platinum 8592+: Processor: INTEL XEON PLATINUM 8592+ @ 3.90GHz (64 Cores / 128 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 512GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Platinum 8592+ 2P: Processor: 2 x INTEL XEON PLATINUM 8592+ @ 3.90GHz (128 Cores / 256 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1008GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Max 9468: Processor: Intel Xeon Max 9468 @ 3.50GHz (48 Cores / 96 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 576GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Max 9468 2P: Processor: 2 x Intel Xeon Max 9468 @ 3.50GHz (96 Cores / 192 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1136GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Max 9480: Processor: Intel Xeon Max 9480 @ 3.50GHz (56 Cores / 112 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 576GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Xeon Max 9480 2P: Processor: 2 x Intel Xeon Max 9480 @ 3.50GHz (112 Cores / 224 Threads), Motherboard: Quanta Cloud QuantaGrid D54Q-2U S6Q-MB-MPS (3B05.TEL4P1 BIOS), Chipset: Intel Device 1bce, Memory: 1136GB, Disk: 2 x 1920GB KIOXIA KCD8XPUG1T92, Graphics: ASPEED, Network: 2 x Intel X710 for 10GBASE-T OS: Ubuntu 24.04, Kernel: 6.9.0-060900rc3-generic (x86_64), Compiler: GCC 13.2.0, File-System: ext4, Screen Resolution: 1920x1200 Timed Linux Kernel Compilation 6.8 Build: defconfig Seconds < Lower Is Better Xeon Platinum 8490H .... 39.45 |=========================================== Xeon Platinum 8490H 2P . 29.98 |================================ Xeon Platinum 8592+ .... 34.59 |===================================== Xeon Platinum 8592+ 2P . 25.87 |============================ Xeon Max 9468 .......... 43.42 |=============================================== Xeon Max 9468 2P ....... 32.14 |=================================== Xeon Max 9480 .......... 40.50 |============================================ Xeon Max 9480 2P ....... 30.53 |================================= Timed Linux Kernel Compilation 6.8 Build: allmodconfig Seconds < Lower Is Better Xeon Platinum 8490H .... 362.45 |======================================= Xeon Platinum 8490H 2P . 218.57 |======================= Xeon Platinum 8592+ .... 316.90 |================================== Xeon Platinum 8592+ 2P . 189.74 |==================== Xeon Max 9468 .......... 428.39 |============================================== Xeon Max 9468 2P ....... 246.94 |=========================== Xeon Max 9480 .......... 384.06 |========================================= Xeon Max 9480 2P ....... 231.03 |========================= Timed FFmpeg Compilation 7.0 Time To Compile Seconds < Lower Is Better Xeon Platinum 8490H .... 24.06 |=========================================== Xeon Platinum 8490H 2P . 19.51 |=================================== Xeon Platinum 8592+ .... 21.36 |====================================== Xeon Platinum 8592+ 2P . 17.39 |=============================== Xeon Max 9468 .......... 26.46 |=============================================== Xeon Max 9468 2P ....... 20.79 |===================================== Xeon Max 9480 .......... 24.84 |============================================ Xeon Max 9480 2P ....... 20.01 |==================================== Timed Godot Game Engine Compilation 4.0 Time To Compile Seconds < Lower Is Better Xeon Platinum 8490H .... 140.23 |=========================================== Xeon Platinum 8490H 2P . 118.57 |===================================== Xeon Platinum 8592+ .... 122.72 |====================================== Xeon Platinum 8592+ 2P . 103.38 |================================ Xeon Max 9468 .......... 149.38 |============================================== Xeon Max 9468 2P ....... 123.88 |====================================== Xeon Max 9480 .......... 143.81 |============================================ Xeon Max 9480 2P ....... 122.70 |====================================== Timed Node.js Compilation 21.7.2 Time To Compile Seconds < Lower Is Better Xeon Platinum 8490H .... 254.00 |=========================================== Xeon Platinum 8490H 2P . 172.99 |============================= Xeon Platinum 8592+ .... 214.43 |==================================== Xeon Platinum 8592+ 2P . 145.41 |========================= Xeon Max 9468 .......... 270.38 |============================================== Xeon Max 9468 2P ....... 175.63 |============================== Xeon Max 9480 .......... 252.65 |=========================================== Xeon Max 9480 2P ....... 171.17 |============================= Timed Gem5 Compilation 23.0.1 Time To Compile Seconds < Lower Is Better Xeon Platinum 8490H .... 210.93 |============================================ Xeon Platinum 8490H 2P . 178.28 |===================================== Xeon Platinum 8592+ .... 187.51 |======================================= Xeon Platinum 8592+ 2P . 157.36 |================================= Xeon Max 9468 .......... 220.57 |============================================== Xeon Max 9468 2P ....... 184.30 |====================================== Xeon Max 9480 .......... 215.50 |============================================= Xeon Max 9480 2P ....... 181.63 |====================================== Timed LLVM Compilation 16.0 Build System: Ninja Seconds < Lower Is Better Xeon Platinum 8490H .... 187.02 |======================================== Xeon Platinum 8490H 2P . 122.31 |========================== Xeon Platinum 8592+ .... 165.05 |==================================== Xeon Platinum 8592+ 2P . 106.82 |======================= Xeon Max 9468 .......... 212.48 |============================================== Xeon Max 9468 2P ....... 134.42 |============================= Xeon Max 9480 .......... 197.84 |=========================================== Xeon Max 9480 2P ....... 128.07 |============================ Timed PHP Compilation 8.3.4 Time To Compile Seconds < Lower Is Better Xeon Platinum 8490H .... 48.01 |============================================== Xeon Platinum 8490H 2P . 46.64 |============================================= Xeon Platinum 8592+ .... 41.85 |======================================== Xeon Platinum 8592+ 2P . 40.38 |======================================= Xeon Max 9468 .......... 48.71 |=============================================== Xeon Max 9468 2P ....... 46.87 |============================================= Xeon Max 9480 .......... 47.95 |============================================== Xeon Max 9480 2P ....... 46.57 |============================================= Timed Wasmer Compilation 2.3 Time To Compile Seconds < Lower Is Better Xeon Platinum 8490H .... 34.93 |============================================= Xeon Platinum 8490H 2P . 35.46 |============================================== Xeon Platinum 8592+ .... 30.17 |======================================= Xeon Platinum 8592+ 2P . 30.47 |======================================== Xeon Max 9468 .......... 35.66 |============================================== Xeon Max 9468 2P ....... 36.20 |=============================================== Xeon Max 9480 .......... 35.20 |============================================== Xeon Max 9480 2P ....... 35.70 |============================================== Timed Mesa Compilation 24.0 Time To Compile Seconds < Lower Is Better Xeon Platinum 8490H .... 19.23 |============================================= Xeon Platinum 8490H 2P . 18.29 |=========================================== Xeon Platinum 8592+ .... 17.26 |======================================== Xeon Platinum 8592+ 2P . 16.18 |====================================== Xeon Max 9468 .......... 20.18 |=============================================== Xeon Max 9468 2P ....... 18.47 |=========================================== Xeon Max 9480 .......... 19.65 |============================================== Xeon Max 9480 2P ....... 18.14 |========================================== Timed ImageMagick Compilation 6.9.0 Time To Compile Seconds < Lower Is Better Xeon Platinum 8490H .... 14.72 |=========================================== Xeon Platinum 8490H 2P . 13.26 |======================================= Xeon Platinum 8592+ .... 12.60 |===================================== Xeon Platinum 8592+ 2P . 11.49 |================================== Xeon Max 9468 .......... 16.08 |=============================================== Xeon Max 9468 2P ....... 14.40 |========================================== Xeon Max 9480 .......... 15.38 |============================================= Xeon Max 9480 2P ....... 14.09 |========================================= Timed CPython Compilation 3.10.6 Build Configuration: Default Seconds < Lower Is Better Xeon Platinum 8490H .... 19.20 |=============================================== Xeon Platinum 8490H 2P . 18.93 |============================================== Xeon Platinum 8592+ .... 17.08 |========================================== Xeon Platinum 8592+ 2P . 16.93 |========================================= Xeon Max 9468 .......... 19.12 |=============================================== Xeon Max 9468 2P ....... 18.81 |============================================== Xeon Max 9480 .......... 18.85 |============================================== Xeon Max 9480 2P ....... 18.82 |============================================== Timed CPython Compilation 3.10.6 Build Configuration: Released Build, PGO + LTO Optimized Seconds < Lower Is Better Xeon Platinum 8490H .... 277.39 |============================================== Xeon Platinum 8490H 2P . 279.69 |============================================== Xeon Platinum 8592+ .... 244.82 |======================================== Xeon Platinum 8592+ 2P . 244.95 |======================================== Xeon Max 9468 .......... 275.39 |============================================= Xeon Max 9468 2P ....... 276.46 |============================================= Xeon Max 9480 .......... 273.52 |============================================= Xeon Max 9480 2P ....... 276.23 |============================================= nginx 1.23.2 Connections: 1000 Requests Per Second > Higher Is Better Xeon Platinum 8592+ .... 399698.78 |=========================================== Xeon Platinum 8592+ 2P . 381352.69 |========================================= Xeon Max 9480 .......... 367199.06 |======================================== OpenSSL 3.3 Algorithm: RSA4096 sign/s > Higher Is Better Xeon Platinum 8490H .... 27431.1 |==================== Xeon Platinum 8490H 2P . 54601.1 |======================================== Xeon Platinum 8592+ .... 31594.4 |======================= Xeon Platinum 8592+ 2P . 61499.6 |============================================= Xeon Max 9468 .......... 22861.0 |================= Xeon Max 9468 2P ....... 45531.0 |================================= Xeon Max 9480 .......... 25441.5 |=================== Xeon Max 9480 2P ....... 48534.8 |==================================== OpenSSL 3.3 Algorithm: RSA4096 verify/s > Higher Is Better Xeon Platinum 8490H .... 974189.9 |==================== Xeon Platinum 8490H 2P . 1916162.9 |======================================== Xeon Platinum 8592+ .... 1036735.6 |====================== Xeon Platinum 8592+ 2P . 2057021.6 |=========================================== Xeon Max 9468 .......... 697707.2 |=============== Xeon Max 9468 2P ....... 1395446.4 |============================= Xeon Max 9480 .......... 813667.6 |================= Xeon Max 9480 2P ....... 1627941.4 |================================== OpenSSL 3.3 Algorithm: SHA256 byte/s > Higher Is Better Xeon Platinum 8490H .... 61806994523 |=================== Xeon Platinum 8490H 2P . 119106802107 |==================================== Xeon Platinum 8592+ .... 66573957920 |==================== Xeon Platinum 8592+ 2P . 131976050120 |======================================== Xeon Max 9468 .......... 44439185187 |============= Xeon Max 9468 2P ....... 88635753413 |=========================== Xeon Max 9480 .......... 51840436763 |================ Xeon Max 9480 2P ....... 103382860113 |=============================== OpenSSL 3.3 Algorithm: SHA512 byte/s > Higher Is Better Xeon Platinum 8490H .... 22219927723 |==================== Xeon Platinum 8490H 2P . 42846254477 |====================================== Xeon Platinum 8592+ .... 23886054770 |===================== Xeon Platinum 8592+ 2P . 46520760707 |========================================= Xeon Max 9468 .......... 16199261277 |============== Xeon Max 9468 2P ....... 32304222993 |============================ Xeon Max 9480 .......... 18893980783 |================= Xeon Max 9480 2P ....... 37564522053 |================================= OpenSSL 3.3 Algorithm: AES-128-GCM byte/s > Higher Is Better Xeon Platinum 8490H .... 768804693697 |================= Xeon Platinum 8490H 2P . 1533026300727 |================================== Xeon Platinum 8592+ .... 889567506540 |==================== Xeon Platinum 8592+ 2P . 1769313146013 |======================================= Xeon Max 9468 .......... 641200848170 |============== Xeon Max 9468 2P ....... 1277583382757 |============================ Xeon Max 9480 .......... 747710702660 |================ Xeon Max 9480 2P ....... 1484669627050 |================================= OpenSSL 3.3 Algorithm: AES-256-GCM byte/s > Higher Is Better Xeon Platinum 8490H .... 700239352717 |================== Xeon Platinum 8490H 2P . 1369534328470 |==================================== Xeon Platinum 8592+ .... 744387683670 |=================== Xeon Platinum 8592+ 2P . 1497529939377 |======================================= Xeon Max 9468 .......... 507456728087 |============= Xeon Max 9468 2P ....... 1011898993323 |========================== Xeon Max 9480 .......... 592014115453 |=============== Xeon Max 9480 2P ....... 1181148957353 |=============================== OpenSSL 3.3 Algorithm: ChaCha20 byte/s > Higher Is Better Xeon Platinum 8490H .... 316126421173 |================== Xeon Platinum 8490H 2P . 624402972947 |==================================== Xeon Platinum 8592+ .... 344150916937 |==================== Xeon Platinum 8592+ 2P . 684284382760 |======================================== Xeon Max 9468 .......... 226597354153 |============= Xeon Max 9468 2P ....... 449908494927 |========================== Xeon Max 9480 .......... 263740690067 |=============== Xeon Max 9480 2P ....... 522912403347 |=============================== OpenSSL 3.3 Algorithm: ChaCha20-Poly1305 byte/s > Higher Is Better Xeon Platinum 8490H .... 225038850730 |==================== Xeon Platinum 8490H 2P . 442202532977 |======================================== Xeon Platinum 8592+ .... 223625738013 |==================== Xeon Platinum 8592+ 2P . 444099144270 |======================================== Xeon Max 9468 .......... 161321058213 |=============== Xeon Max 9468 2P ....... 320396720447 |============================= Xeon Max 9480 .......... 187796174440 |================= Xeon Max 9480 2P ....... 372735215297 |================================== John The Ripper 2023.03.14 Test: MD5 Real C/S > Higher Is Better Xeon Platinum 8490H .... 9583000 |======================= Xeon Platinum 8490H 2P . 18166000 |=========================================== Xeon Platinum 8592+ .... 10922667 |========================== Xeon Platinum 8592+ 2P . 18438600 |============================================ Xeon Max 9468 .......... 7626333 |================== Xeon Max 9468 2P ....... 12958000 |=============================== Xeon Max 9480 .......... 8957000 |===================== Xeon Max 9480 2P ....... 14609417 |=================================== John The Ripper 2023.03.14 Test: Blowfish Real C/S > Higher Is Better Xeon Platinum 8490H .... 94513 |===================== Xeon Platinum 8490H 2P . 183583 |========================================= Xeon Platinum 8592+ .... 105831 |======================== Xeon Platinum 8592+ 2P . 205499 |============================================== Xeon Max 9468 .......... 67893 |=============== Xeon Max 9468 2P ....... 134562 |============================== Xeon Max 9480 .......... 79152 |================== Xeon Max 9480 2P ....... 156658 |=================================== John The Ripper 2023.03.14 Test: bcrypt Real C/S > Higher Is Better Xeon Platinum 8490H .... 94551 |===================== Xeon Platinum 8490H 2P . 183603 |========================================= Xeon Platinum 8592+ .... 105781 |======================== Xeon Platinum 8592+ 2P . 206778 |============================================== Xeon Max 9468 .......... 67875 |=============== Xeon Max 9468 2P ....... 133866 |============================== Xeon Max 9480 .......... 79144 |================== Xeon Max 9480 2P ....... 155959 |=================================== John The Ripper 2023.03.14 Test: WPA PSK Real C/S > Higher Is Better Xeon Platinum 8490H .... 401278 |======================= Xeon Platinum 8490H 2P . 793253 |============================================== Xeon Platinum 8592+ .... 428116 |========================= Xeon Platinum 8592+ 2P . 797093 |============================================== Xeon Max 9468 .......... 286552 |================= Xeon Max 9468 2P ....... 562875 |================================ Xeon Max 9480 .......... 334076 |=================== Xeon Max 9480 2P ....... 657889 |====================================== Node.js V8 Web Tooling Benchmark runs/s > Higher Is Better Xeon Platinum 8490H .... 15.76 |=========================================== Xeon Platinum 8490H 2P . 15.49 |========================================== Xeon Platinum 8592+ .... 17.42 |=============================================== Xeon Platinum 8592+ 2P . 17.02 |============================================== Xeon Max 9468 .......... 15.59 |========================================== Xeon Max 9468 2P ....... 14.99 |======================================== Xeon Max 9480 .......... 15.62 |========================================== Xeon Max 9480 2P ....... 14.51 |======================================= DuckDB 0.9.1 Benchmark: IMDB Seconds < Lower Is Better Xeon Platinum 8490H .... 99.49 |=================================== Xeon Platinum 8490H 2P . 125.88 |============================================ Xeon Platinum 8592+ .... 99.18 |=================================== Xeon Platinum 8592+ 2P . 127.57 |============================================= Xeon Max 9468 .......... 100.09 |=================================== Xeon Max 9468 2P ....... 127.70 |============================================= Xeon Max 9480 .......... 99.62 |=================================== Xeon Max 9480 2P ....... 131.80 |============================================== DuckDB 0.9.1 Benchmark: TPC-H Parquet Seconds < Lower Is Better Xeon Platinum 8490H .... 145.57 |========================================== Xeon Platinum 8490H 2P . 155.73 |============================================= Xeon Platinum 8592+ .... 132.87 |======================================= Xeon Platinum 8592+ 2P . 144.26 |========================================== Xeon Max 9468 .......... 146.87 |=========================================== Xeon Max 9468 2P ....... 156.14 |============================================= Xeon Max 9480 .......... 145.24 |========================================== Xeon Max 9480 2P ....... 158.31 |============================================== Apache IoTDB 1.2 Device Count: 500 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 400 point/sec > Higher Is Better Xeon Platinum 8490H .... 87797206 |========================================== Xeon Platinum 8490H 2P . 80169620 |====================================== Xeon Platinum 8592+ .... 92709751 |============================================ Xeon Platinum 8592+ 2P . 89231850 |========================================== Xeon Max 9468 .......... 82455664 |======================================= Xeon Max 9468 2P ....... 77501248 |===================================== Xeon Max 9480 .......... 83475645 |======================================== Xeon Max 9480 2P ....... 78057728 |===================================== Apache IoTDB 1.2 Device Count: 500 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 400 Average Latency < Lower Is Better Xeon Platinum 8490H .... 294.33 |========================================= Xeon Platinum 8490H 2P . 317.36 |============================================ Xeon Platinum 8592+ .... 280.26 |======================================= Xeon Platinum 8592+ 2P . 286.78 |======================================== Xeon Max 9468 .......... 314.44 |============================================ Xeon Max 9468 2P ....... 328.41 |============================================== Xeon Max 9480 .......... 309.03 |=========================================== Xeon Max 9480 2P ....... 325.97 |============================================== Apache IoTDB 1.2 Device Count: 800 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 100 point/sec > Higher Is Better Xeon Platinum 8490H .... 90871770 |========================================== Xeon Platinum 8490H 2P . 83651785 |======================================= Xeon Platinum 8592+ .... 94616807 |============================================ Xeon Platinum 8592+ 2P . 92771639 |=========================================== Xeon Max 9468 .......... 85744542 |======================================== Xeon Max 9468 2P ....... 80770465 |====================================== Xeon Max 9480 .......... 86354518 |======================================== Xeon Max 9480 2P ....... 80139566 |===================================== Apache IoTDB 1.2 Device Count: 800 - Batch Size Per Write: 100 - Sensor Count: 800 - Client Number: 100 Average Latency < Lower Is Better Xeon Platinum 8490H .... 85.16 |========================================== Xeon Platinum 8490H 2P . 92.23 |============================================= Xeon Platinum 8592+ .... 81.73 |======================================== Xeon Platinum 8592+ 2P . 82.73 |========================================= Xeon Max 9468 .......... 90.02 |============================================ Xeon Max 9468 2P ....... 94.84 |=============================================== Xeon Max 9480 .......... 89.53 |============================================ Xeon Max 9480 2P ....... 95.39 |=============================================== ClickHouse 22.12.3.5 100M Rows Hits Dataset, First Run / Cold Cache Queries Per Minute, Geo Mean > Higher Is Better Xeon Platinum 8490H .... 465.50 |============================================ Xeon Platinum 8490H 2P . 485.63 |============================================= Xeon Platinum 8592+ .... 437.20 |========================================= Xeon Platinum 8592+ 2P . 423.30 |======================================== Xeon Max 9468 .......... 446.40 |========================================== Xeon Max 9468 2P ....... 491.89 |============================================== Xeon Max 9480 .......... 461.62 |=========================================== Xeon Max 9480 2P ....... 460.66 |=========================================== ClickHouse 22.12.3.5 100M Rows Hits Dataset, Second Run Queries Per Minute, Geo Mean > Higher Is Better Xeon Platinum 8490H .... 486.05 |============================================ Xeon Platinum 8490H 2P . 507.56 |============================================== Xeon Platinum 8592+ .... 455.79 |========================================= Xeon Platinum 8592+ 2P . 443.58 |======================================== Xeon Max 9468 .......... 465.06 |========================================== Xeon Max 9468 2P ....... 499.18 |============================================= Xeon Max 9480 .......... 474.68 |=========================================== Xeon Max 9480 2P ....... 467.96 |========================================== ClickHouse 22.12.3.5 100M Rows Hits Dataset, Third Run Queries Per Minute, Geo Mean > Higher Is Better Xeon Platinum 8490H .... 481.66 |============================================ Xeon Platinum 8490H 2P . 501.63 |============================================== Xeon Platinum 8592+ .... 458.23 |========================================== Xeon Platinum 8592+ 2P . 438.60 |======================================== Xeon Max 9468 .......... 470.02 |=========================================== Xeon Max 9468 2P ....... 501.07 |============================================== Xeon Max 9480 .......... 476.91 |============================================ Xeon Max 9480 2P ....... 471.79 |=========================================== PostgreSQL 16 Scaling Factor: 100 - Clients: 1000 - Mode: Read Write TPS > Higher Is Better Xeon Platinum 8490H .... 71227 |============================================ Xeon Platinum 8490H 2P . 67315 |========================================== Xeon Platinum 8592+ .... 75396 |=============================================== Xeon Platinum 8592+ 2P . 33110 |===================== Xeon Max 9468 .......... 69969 |============================================ Xeon Max 9468 2P ....... 58952 |===================================== Xeon Max 9480 .......... 72225 |============================================= Xeon Max 9480 2P ....... 60046 |===================================== PostgreSQL 16 Scaling Factor: 100 - Clients: 1000 - Mode: Read Write - Average Latency ms < Lower Is Better Xeon Platinum 8490H .... 14.04 |====================== Xeon Platinum 8490H 2P . 14.86 |======================= Xeon Platinum 8592+ .... 13.26 |===================== Xeon Platinum 8592+ 2P . 30.20 |=============================================== Xeon Max 9468 .......... 14.29 |====================== Xeon Max 9468 2P ....... 16.96 |========================== Xeon Max 9480 .......... 13.85 |====================== Xeon Max 9480 2P ....... 16.66 |========================== PostgreSQL 16 Scaling Factor: 100 - Clients: 1000 - Mode: Read Only TPS > Higher Is Better Xeon Platinum 8490H .... 1748146 |============================================ Xeon Platinum 8490H 2P . 778141 |==================== Xeon Platinum 8592+ .... 1699046 |=========================================== Xeon Platinum 8592+ 2P . 881881 |====================== Xeon Max 9468 .......... 1792636 |============================================= Xeon Max 9468 2P ....... 976035 |========================= Xeon Max 9480 .......... 1607424 |======================================== Xeon Max 9480 2P ....... 920725 |======================= PostgreSQL 16 Scaling Factor: 100 - Clients: 1000 - Mode: Read Only - Average Latency ms < Lower Is Better Xeon Platinum 8490H .... 0.572 |===================== Xeon Platinum 8490H 2P . 1.293 |=============================================== Xeon Platinum 8592+ .... 0.589 |===================== Xeon Platinum 8592+ 2P . 1.149 |========================================== Xeon Max 9468 .......... 0.559 |==================== Xeon Max 9468 2P ....... 1.027 |===================================== Xeon Max 9480 .......... 0.622 |======================= Xeon Max 9480 2P ....... 1.098 |======================================== CockroachDB 22.2 Workload: KV, 95% Reads - Concurrency: 512 ops/s > Higher Is Better Xeon Platinum 8490H .... 131999.7 |=========================================== Xeon Platinum 8490H 2P . 82341.2 |=========================== Xeon Platinum 8592+ .... 135861.9 |============================================ Xeon Platinum 8592+ 2P . 85613.1 |============================ Xeon Max 9468 .......... 128125.9 |========================================= Xeon Max 9468 2P ....... 80804.7 |========================== Xeon Max 9480 .......... 120494.3 |======================================= Xeon Max 9480 2P ....... 76524.7 |========================= CockroachDB 22.2 Workload: KV, 50% Reads - Concurrency: 512 ops/s > Higher Is Better Xeon Platinum 8490H .... 108953.6 |========================================= Xeon Platinum 8490H 2P . 68524.7 |========================== Xeon Platinum 8592+ .... 115715.8 |============================================ Xeon Platinum 8592+ 2P . 77327.1 |============================= Xeon Max 9468 .......... 103089.8 |======================================= Xeon Max 9468 2P ....... 69221.4 |========================== Xeon Max 9480 .......... 112265.3 |=========================================== Xeon Max 9480 2P ....... 66816.9 |========================= CockroachDB 22.2 Workload: KV, 60% Reads - Concurrency: 512 ops/s > Higher Is Better Xeon Platinum 8490H .... 116603.7 |========================================== Xeon Platinum 8490H 2P . 72110.1 |========================== Xeon Platinum 8592+ .... 121465.2 |============================================ Xeon Platinum 8592+ 2P . 73640.9 |=========================== Xeon Max 9468 .......... 110666.9 |======================================== Xeon Max 9468 2P ....... 71680.5 |========================== Xeon Max 9480 .......... 109388.2 |======================================== Xeon Max 9480 2P ....... 71696.5 |========================== Memcached 1.6.19 Set To Get Ratio: 1:100 Ops/sec > Higher Is Better Xeon Platinum 8490H .... 4481667.95 |======================================== Xeon Platinum 8490H 2P . 3245908.40 |============================= Xeon Platinum 8592+ .... 4752673.79 |========================================== Xeon Platinum 8592+ 2P . 3780240.56 |================================= Xeon Max 9468 .......... 4384040.52 |======================================= Xeon Max 9468 2P ....... 3373323.92 |============================== Xeon Max 9480 .......... 4315467.17 |====================================== Xeon Max 9480 2P ....... 3392842.38 |============================== RocksDB 9.0 Test: Random Read Op/s > Higher Is Better Xeon Platinum 8490H .... 265366170 |==================== Xeon Platinum 8490H 2P . 525049998 |======================================= Xeon Platinum 8592+ .... 297517946 |====================== Xeon Platinum 8592+ 2P . 578392800 |=========================================== Xeon Max 9468 .......... 205346154 |=============== Xeon Max 9468 2P ....... 405533173 |============================== Xeon Max 9480 .......... 234469939 |================= Xeon Max 9480 2P ....... 473755946 |=================================== RocksDB 9.0 Test: Read While Writing Op/s > Higher Is Better Xeon Platinum 8490H .... 7841738 |============================ Xeon Platinum 8490H 2P . 12321300 |============================================ Xeon Platinum 8592+ .... 8926893 |================================ Xeon Platinum 8592+ 2P . 12425519 |============================================ Xeon Max 9468 .......... 7439663 |========================== Xeon Max 9468 2P ....... 9624417 |================================== Xeon Max 9480 .......... 7366500 |========================== Xeon Max 9480 2P ....... 11223329 |======================================== Speedb 2.7 Test: Random Read Op/s > Higher Is Better Xeon Platinum 8490H .... 276179617 |==================== Xeon Platinum 8490H 2P . 551286958 |======================================== Xeon Platinum 8592+ .... 315178381 |======================= Xeon Platinum 8592+ 2P . 586147871 |=========================================== Xeon Max 9468 .......... 211457048 |================ Xeon Max 9468 2P ....... 419943570 |=============================== Xeon Max 9480 .......... 244070674 |================== Xeon Max 9480 2P ....... 497907490 |===================================== Speedb 2.7 Test: Read While Writing Op/s > Higher Is Better Xeon Platinum 8490H .... 10695360 |=========================== Xeon Platinum 8490H 2P . 17297027 |=========================================== Xeon Platinum 8592+ .... 12168413 |============================== Xeon Platinum 8592+ 2P . 17585737 |============================================ Xeon Max 9468 .......... 8795408 |====================== Xeon Max 9468 2P ....... 13859254 |=================================== Xeon Max 9480 .......... 9988176 |========================= Xeon Max 9480 2P ....... 15354400 |====================================== SecureMark 1.0.4 Benchmark: SecureMark-TLS marks > Higher Is Better Xeon Platinum 8490H .... 277205 |========================================= Xeon Platinum 8490H 2P . 275472 |========================================= Xeon Platinum 8592+ .... 309896 |============================================== Xeon Platinum 8592+ 2P . 308434 |============================================== Xeon Max 9468 .......... 277647 |========================================= Xeon Max 9468 2P ....... 277589 |========================================= Xeon Max 9480 .......... 277260 |========================================= Xeon Max 9480 2P ....... 277298 |========================================= Coremark 1.0 CoreMark Size 666 - Iterations Per Second Iterations/Sec > Higher Is Better Xeon Platinum 8490H .... 2194630.60 |=================== Xeon Platinum 8490H 2P . 3902076.24 |================================= Xeon Platinum 8592+ .... 2369998.36 |==================== Xeon Platinum 8592+ 2P . 4966250.78 |========================================== Xeon Max 9468 .......... 1614763.70 |============== Xeon Max 9468 2P ....... 2993136.60 |========================= Xeon Max 9480 .......... 1855135.33 |================ Xeon Max 9480 2P ....... 3279262.53 |============================ Google SynthMark 20201109 Test: VoiceMark_100 Voices > Higher Is Better Xeon Platinum 8490H .... 711.38 |========================================= Xeon Platinum 8490H 2P . 712.70 |========================================= Xeon Platinum 8592+ .... 799.72 |============================================== Xeon Platinum 8592+ 2P . 799.49 |============================================== Xeon Max 9468 .......... 711.10 |========================================= Xeon Max 9468 2P ....... 710.92 |========================================= Xeon Max 9480 .......... 712.01 |========================================= Xeon Max 9480 2P ....... 712.09 |========================================= Algebraic Multi-Grid Benchmark 1.2 Figure Of Merit > Higher Is Better Xeon Platinum 8490H .... 1605097000 |=================== Xeon Platinum 8490H 2P . 3124402667 |==================================== Xeon Platinum 8592+ .... 1814760000 |===================== Xeon Platinum 8592+ 2P . 3609646333 |========================================== Xeon Max 9468 .......... 1588496667 |================== Xeon Max 9468 2P ....... 3156261667 |===================================== Xeon Max 9480 .......... 1597993333 |=================== Xeon Max 9480 2P ....... 3205161000 |===================================== WRF 4.2.2 Input: conus 2.5km Seconds < Lower Is Better Xeon Platinum 8490H .... 11980.81 |======================================== Xeon Platinum 8490H 2P . 6674.12 |====================== Xeon Platinum 8592+ .... 10602.41 |=================================== Xeon Platinum 8592+ 2P . 5601.10 |=================== Xeon Max 9468 .......... 13273.69 |============================================ Xeon Max 9468 2P ....... 7157.96 |======================== Xeon Max 9480 .......... 12410.29 |========================================= Xeon Max 9480 2P ....... 6840.06 |======================= ACES DGEMM 1.0 Sustained Floating-Point Rate GFLOP/s > Higher Is Better Xeon Platinum 8490H .... 23.54 |=================== Xeon Platinum 8490H 2P . 45.97 |===================================== Xeon Platinum 8592+ .... 29.14 |======================== Xeon Platinum 8592+ 2P . 58.25 |=============================================== Xeon Max 9468 .......... 19.77 |================ Xeon Max 9468 2P ....... 39.35 |================================ Xeon Max 9480 .......... 22.54 |================== Xeon Max 9480 2P ....... 44.67 |==================================== RELION 4.0.1 Test: Basic - Device: CPU Seconds < Lower Is Better Xeon Platinum 8490H .... 373.18 |========================================== Xeon Platinum 8490H 2P . 203.41 |======================= Xeon Platinum 8592+ .... 290.45 |================================ Xeon Platinum 8592+ 2P . 155.74 |================= Xeon Max 9468 .......... 412.37 |============================================== Xeon Max 9468 2P ....... 214.42 |======================== Xeon Max 9480 .......... 384.38 |=========================================== Xeon Max 9480 2P ....... 201.38 |====================== LULESH 2.0.3 z/s > Higher Is Better Xeon Platinum 8490H .... 23072.30 |============== Xeon Platinum 8490H 2P . 43724.06 |=========================== Xeon Platinum 8592+ .... 38433.97 |======================== Xeon Platinum 8592+ 2P . 70826.73 |============================================ Xeon Max 9468 .......... 23848.54 |=============== Xeon Max 9468 2P ....... 52102.67 |================================ Xeon Max 9480 .......... 25831.84 |================ Xeon Max 9480 2P ....... 53269.47 |================================= miniBUDE 20210901 Implementation: OpenMP - Input Deck: BM1 GFInst/s > Higher Is Better Xeon Platinum 8490H .... 2071.19 |=================== Xeon Platinum 8490H 2P . 3340.69 |============================== Xeon Platinum 8592+ .... 2659.88 |======================== Xeon Platinum 8592+ 2P . 4993.34 |============================================= Xeon Max 9468 .......... 1590.50 |============== Xeon Max 9468 2P ....... 2709.93 |======================== Xeon Max 9480 .......... 1771.07 |================ Xeon Max 9480 2P ....... 2872.56 |========================== miniBUDE 20210901 Implementation: OpenMP - Input Deck: BM1 Billion Interactions/s > Higher Is Better Xeon Platinum 8490H .... 82.85 |=================== Xeon Platinum 8490H 2P . 133.63 |=============================== Xeon Platinum 8592+ .... 106.40 |========================= Xeon Platinum 8592+ 2P . 199.73 |============================================== Xeon Max 9468 .......... 63.62 |=============== Xeon Max 9468 2P ....... 108.40 |========================= Xeon Max 9480 .......... 70.84 |================ Xeon Max 9480 2P ....... 114.90 |========================== miniBUDE 20210901 Implementation: OpenMP - Input Deck: BM2 GFInst/s > Higher Is Better Xeon Platinum 8490H .... 2174.19 |==================== Xeon Platinum 8490H 2P . 3520.71 |================================= Xeon Platinum 8592+ .... 2703.09 |========================= Xeon Platinum 8592+ 2P . 4795.46 |============================================= Xeon Max 9468 .......... 1755.33 |================ Xeon Max 9468 2P ....... 3196.12 |============================== Xeon Max 9480 .......... 1952.61 |================== Xeon Max 9480 2P ....... 3349.76 |=============================== miniBUDE 20210901 Implementation: OpenMP - Input Deck: BM2 Billion Interactions/s > Higher Is Better Xeon Platinum 8490H .... 86.97 |===================== Xeon Platinum 8490H 2P . 140.83 |================================== Xeon Platinum 8592+ .... 108.12 |========================== Xeon Platinum 8592+ 2P . 191.82 |============================================== Xeon Max 9468 .......... 70.21 |================= Xeon Max 9468 2P ....... 127.85 |=============================== Xeon Max 9480 .......... 78.11 |=================== Xeon Max 9480 2P ....... 133.99 |================================ LAMMPS Molecular Dynamics Simulator 23Jun2022 Model: Rhodopsin Protein ns/day > Higher Is Better Xeon Platinum 8490H .... 28.72 |======================== Xeon Platinum 8490H 2P . 42.28 |==================================== Xeon Platinum 8592+ .... 34.30 |============================= Xeon Platinum 8592+ 2P . 55.50 |=============================================== Xeon Max 9468 .......... 27.63 |======================= Xeon Max 9468 2P ....... 47.51 |======================================== Xeon Max 9480 .......... 30.84 |========================== Xeon Max 9480 2P ....... 52.24 |============================================ LAMMPS Molecular Dynamics Simulator 23Jun2022 Model: 20k Atoms ns/day > Higher Is Better Xeon Platinum 8490H .... 34.89 |============================= Xeon Platinum 8490H 2P . 50.52 |========================================== Xeon Platinum 8592+ .... 37.46 |=============================== Xeon Platinum 8592+ 2P . 56.40 |=============================================== Xeon Max 9468 .......... 28.28 |======================== Xeon Max 9468 2P ....... 46.71 |======================================= Xeon Max 9480 .......... 32.16 |=========================== Xeon Max 9480 2P ....... 51.82 |=========================================== m-queens 1.2 Time To Solve Seconds < Lower Is Better Xeon Platinum 8490H .... 15.211 |================================= Xeon Platinum 8490H 2P . 7.881 |================= Xeon Platinum 8592+ .... 14.257 |=============================== Xeon Platinum 8592+ 2P . 7.402 |================ Xeon Max 9468 .......... 21.030 |============================================== Xeon Max 9468 2P ....... 10.840 |======================== Xeon Max 9480 .......... 18.102 |======================================== Xeon Max 9480 2P ....... 9.285 |==================== miniFE 2.2 Problem Size: Small CG Mflops > Higher Is Better Xeon Platinum 8490H .... 35230.1 |================================== Xeon Platinum 8490H 2P . 46877.5 |============================================= Xeon Platinum 8592+ .... 31830.2 |=============================== Xeon Platinum 8592+ 2P . 42114.6 |======================================== Xeon Max 9468 .......... 20091.1 |=================== Xeon Max 9468 2P ....... 19876.5 |=================== Xeon Max 9480 .......... 18621.2 |================== Xeon Max 9480 2P ....... 21583.2 |===================== ASKAP 1.0 Test: tConvolve MPI - Degridding Mpix/sec > Higher Is Better Xeon Platinum 8490H .... 17891.6 |============== Xeon Platinum 8490H 2P . 34614.1 |========================== Xeon Platinum 8592+ .... 31177.2 |======================== Xeon Platinum 8592+ 2P . 59139.2 |============================================= Xeon Max 9468 .......... 18522.0 |============== Xeon Max 9468 2P ....... 36900.5 |============================ Xeon Max 9480 .......... 20561.4 |================ Xeon Max 9480 2P ....... 40368.6 |=============================== ASKAP 1.0 Test: tConvolve MPI - Gridding Mpix/sec > Higher Is Better Xeon Platinum 8490H .... 21314.2 |============= Xeon Platinum 8490H 2P . 41773.0 |========================== Xeon Platinum 8592+ .... 37265.9 |======================= Xeon Platinum 8592+ 2P . 72004.0 |============================================= Xeon Max 9468 .......... 21766.5 |============== Xeon Max 9468 2P ....... 42939.2 |=========================== Xeon Max 9480 .......... 23250.2 |=============== Xeon Max 9480 2P ....... 45195.1 |============================ ASKAP 1.0 Test: tConvolve OpenMP - Gridding Million Grid Points Per Second > Higher Is Better Xeon Platinum 8490H .... 19798.50 |=========================================== Xeon Platinum 8490H 2P . 17010.80 |===================================== Xeon Platinum 8592+ .... 19141.80 |========================================== Xeon Platinum 8592+ 2P . 20204.90 |============================================ Xeon Max 9468 .......... 4173.46 |========= Xeon Max 9468 2P ....... 3916.78 |========= Xeon Max 9480 .......... 4438.58 |========== Xeon Max 9480 2P ....... 3836.73 |======== ASKAP 1.0 Test: tConvolve OpenMP - Degridding Million Grid Points Per Second > Higher Is Better Xeon Platinum 8490H .... 30471.50 |========================== Xeon Platinum 8490H 2P . 51476.20 |============================================ Xeon Platinum 8592+ .... 16936.80 |============== Xeon Platinum 8592+ 2P . 48686.80 |========================================== Xeon Max 9468 .......... 6758.81 |====== Xeon Max 9468 2P ....... 4437.60 |==== Xeon Max 9480 .......... 7046.56 |====== Xeon Max 9480 2P ....... 7304.58 |====== ASKAP 1.0 Test: tConvolve MT - Gridding Million Grid Points Per Second > Higher Is Better Xeon Platinum 8490H .... 8088.11 |============================================= Xeon Platinum 8490H 2P . 7630.06 |========================================== Xeon Platinum 8592+ .... 5062.07 |============================ Xeon Platinum 8592+ 2P . 6038.92 |================================== Xeon Max 9468 .......... 3375.32 |=================== Xeon Max 9468 2P ....... 3347.93 |=================== Xeon Max 9480 .......... 3406.96 |=================== Xeon Max 9480 2P ....... 4382.97 |======================== NAMD 3.0b6 Input: ATPase with 327,506 Atoms ns/day > Higher Is Better Xeon Platinum 8490H .... 2.97021 |================== Xeon Platinum 8490H 2P . 2.21948 |============== Xeon Platinum 8592+ .... 4.64814 |============================= Xeon Platinum 8592+ 2P . 5.85267 |==================================== Xeon Max 9468 .......... 5.97130 |===================================== Xeon Max 9468 2P ....... 7.30065 |============================================= Xeon Max 9480 .......... 5.92501 |===================================== Xeon Max 9480 2P ....... 2.56319 |================ NAMD 3.0b6 Input: STMV with 1,066,628 Atoms ns/day > Higher Is Better Xeon Platinum 8490H .... 1.05274 |===================== Xeon Platinum 8490H 2P . 1.10900 |====================== Xeon Platinum 8592+ .... 1.43787 |============================= Xeon Platinum 8592+ 2P . 2.25422 |============================================= Xeon Max 9468 .......... 1.45223 |============================= Xeon Max 9468 2P ....... 1.88679 |====================================== Xeon Max 9480 .......... 1.50214 |============================== Xeon Max 9480 2P ....... 1.76778 |=================================== GROMACS 2024 Implementation: MPI CPU - Input: water_GMX50_bare Ns Per Day > Higher Is Better Xeon Platinum 8490H .... 8.762 |====================== Xeon Platinum 8490H 2P . 15.450 |====================================== Xeon Platinum 8592+ .... 10.477 |========================== Xeon Platinum 8592+ 2P . 18.540 |============================================== Xeon Max 9468 .......... 7.545 |=================== Xeon Max 9468 2P ....... 13.392 |================================= Xeon Max 9480 .......... 8.282 |===================== Xeon Max 9480 2P ....... 14.127 |=================================== CloverLeaf 1.3 Input: clover_bm64_short Seconds < Lower Is Better Xeon Platinum 8490H .... 39.48 |============================================ Xeon Platinum 8490H 2P . 26.58 |============================== Xeon Platinum 8592+ .... 39.38 |============================================ Xeon Platinum 8592+ 2P . 31.90 |==================================== Xeon Max 9468 .......... 41.43 |============================================== Xeon Max 9468 2P ....... 32.25 |==================================== Xeon Max 9480 .......... 42.22 |=============================================== Xeon Max 9480 2P ....... 32.44 |==================================== CloverLeaf 1.3 Input: clover_bm16 Seconds < Lower Is Better Xeon Platinum 8490H .... 328.47 |===================================== Xeon Platinum 8490H 2P . 214.80 |======================== Xeon Platinum 8592+ .... 410.59 |============================================== Xeon Platinum 8592+ 2P . 378.05 |========================================== Xeon Max 9468 .......... 351.29 |======================================= Xeon Max 9468 2P ....... 263.33 |============================== Xeon Max 9480 .......... 357.57 |======================================== Xeon Max 9480 2P ....... 269.20 |============================== QuantLib 1.32 Configuration: Single-Threaded MFLOPS > Higher Is Better Xeon Platinum 8490H .... 3209.6 |========================================= Xeon Platinum 8490H 2P . 3210.1 |========================================= Xeon Platinum 8592+ .... 3600.5 |============================================== Xeon Platinum 8592+ 2P . 3586.3 |============================================== Xeon Max 9468 .......... 3225.7 |========================================= Xeon Max 9468 2P ....... 3207.0 |========================================= Xeon Max 9480 .......... 3229.1 |========================================= Xeon Max 9480 2P ....... 3222.8 |========================================= QuantLib 1.32 Configuration: Multi-Threaded MFLOPS > Higher Is Better Xeon Platinum 8490H .... 179647.5 |===================== Xeon Platinum 8490H 2P . 350187.5 |======================================== Xeon Platinum 8592+ .... 195648.8 |======================= Xeon Platinum 8592+ 2P . 380867.5 |============================================ Xeon Max 9468 .......... 143755.3 |================= Xeon Max 9468 2P ....... 288129.1 |================================= Xeon Max 9480 .......... 162727.4 |=================== Xeon Max 9480 2P ....... 316359.2 |===================================== easyWave r34 Input: e2Asean Grid + BengkuluSept2007 Source - Time: 1200 Seconds < Lower Is Better Xeon Platinum 8490H .... 46.29 |============================= Xeon Platinum 8490H 2P . 50.83 |================================ Xeon Platinum 8592+ .... 28.70 |================== Xeon Platinum 8592+ 2P . 37.66 |======================== Xeon Max 9468 .......... 63.43 |======================================== Xeon Max 9468 2P ....... 74.87 |=============================================== Xeon Max 9480 .......... 64.88 |========================================= Xeon Max 9480 2P ....... 68.86 |=========================================== easyWave r34 Input: e2Asean Grid + BengkuluSept2007 Source - Time: 2400 Seconds < Lower Is Better Xeon Platinum 8490H .... 119.84 |============================== Xeon Platinum 8490H 2P . 126.39 |================================ Xeon Platinum 8592+ .... 75.73 |=================== Xeon Platinum 8592+ 2P . 102.13 |========================== Xeon Max 9468 .......... 173.01 |============================================ Xeon Max 9468 2P ....... 182.12 |============================================== Xeon Max 9480 .......... 145.24 |===================================== Xeon Max 9480 2P ....... 173.55 |============================================ QMCPACK 3.17.1 Input: Li2_STO_ae Total Execution Time - Seconds < Lower Is Better Xeon Platinum 8490H .... 109.30 |========================================= Xeon Platinum 8490H 2P . 101.63 |======================================= Xeon Platinum 8592+ .... 105.98 |======================================== Xeon Platinum 8592+ 2P . 97.91 |===================================== Xeon Max 9468 .......... 121.19 |============================================== Xeon Max 9468 2P ....... 102.12 |======================================= Xeon Max 9480 .......... 117.81 |============================================= Xeon Max 9480 2P ....... 106.27 |======================================== GPAW 23.6 Input: Carbon Nanotube Seconds < Lower Is Better Xeon Platinum 8490H .... 47.78 |========================================= Xeon Platinum 8490H 2P . 41.56 |==================================== Xeon Platinum 8592+ .... 43.05 |===================================== Xeon Platinum 8592+ 2P . 38.05 |================================= Xeon Max 9468 .......... 54.38 |=============================================== Xeon Max 9468 2P ....... 42.87 |===================================== Xeon Max 9480 .......... 48.49 |========================================== Xeon Max 9480 2P ....... 43.91 |====================================== High Performance Conjugate Gradient 3.1 X Y Z: 144 144 144 - RT: 60 GFLOP/s > Higher Is Better Xeon Platinum 8490H .... 31.07 |===================== Xeon Platinum 8490H 2P . 60.85 |========================================= Xeon Platinum 8592+ .... 35.14 |======================== Xeon Platinum 8592+ 2P . 69.30 |=============================================== Xeon Max 9468 .......... 25.24 |================= Xeon Max 9468 2P ....... 54.41 |===================================== Xeon Max 9480 .......... 30.59 |===================== Xeon Max 9480 2P ....... 62.64 |========================================== Pennant 1.0.1 Test: leblancbig Hydro Cycle Time - Seconds < Lower Is Better Xeon Platinum 8490H .... 4.955865 |===================================== Xeon Platinum 8490H 2P . 2.529807 |=================== Xeon Platinum 8592+ .... 4.182707 |=============================== Xeon Platinum 8592+ 2P . 2.159459 |================ Xeon Max 9468 .......... 5.930957 |============================================ Xeon Max 9468 2P ....... 2.881099 |===================== Xeon Max 9480 .......... 5.114161 |====================================== Xeon Max 9480 2P ....... 2.527363 |=================== Pennant 1.0.1 Test: sedovbig Hydro Cycle Time - Seconds < Lower Is Better Xeon Platinum 8490H .... 16.030800 |================================= Xeon Platinum 8490H 2P . 11.284380 |======================= Xeon Platinum 8592+ .... 16.969100 |=================================== Xeon Platinum 8592+ 2P . 9.964526 |==================== Xeon Max 9468 .......... 21.021120 |=========================================== Xeon Max 9468 2P ....... 13.211250 |=========================== Xeon Max 9480 .......... 19.882460 |========================================= Xeon Max 9480 2P ....... 12.106900 |========================= NAS Parallel Benchmarks 3.4 Test / Class: EP.D Total Mop/s > Higher Is Better Xeon Platinum 8490H .... 7562.80 |===================== Xeon Platinum 8490H 2P . 14946.76 |========================================= Xeon Platinum 8592+ .... 8089.14 |====================== Xeon Platinum 8592+ 2P . 16004.07 |============================================ Xeon Max 9468 .......... 5366.69 |=============== Xeon Max 9468 2P ....... 10970.45 |============================== Xeon Max 9480 .......... 6445.09 |================== Xeon Max 9480 2P ....... 12793.01 |=================================== NAS Parallel Benchmarks 3.4 Test / Class: LU.C Total Mop/s > Higher Is Better Xeon Platinum 8490H .... 135125.15 |============= Xeon Platinum 8490H 2P . 261127.09 |========================= Xeon Platinum 8592+ .... 232012.77 |====================== Xeon Platinum 8592+ 2P . 455312.09 |=========================================== Xeon Max 9468 .......... 126171.52 |============ Xeon Max 9468 2P ....... 246822.52 |======================= Xeon Max 9480 .......... 131606.86 |============ Xeon Max 9480 2P ....... 257384.55 |======================== NAS Parallel Benchmarks 3.4 Test / Class: SP.C Total Mop/s > Higher Is Better Xeon Platinum 8490H .... 71245.26 |============= Xeon Platinum 8490H 2P . 147311.14 |============================ Xeon Platinum 8592+ .... 109416.42 |===================== Xeon Platinum 8592+ 2P . 228184.68 |=========================================== Xeon Max 9468 .......... 58815.36 |=========== Xeon Max 9468 2P ....... 135939.25 |========================== Xeon Max 9480 .......... 69776.41 |============= Xeon Max 9480 2P ....... 141954.15 |=========================== NAS Parallel Benchmarks 3.4 Test / Class: IS.D Total Mop/s > Higher Is Better Xeon Platinum 8490H .... 2865.72 |================= Xeon Platinum 8490H 2P . 3960.28 |======================== Xeon Platinum 8592+ .... 4059.70 |========================= Xeon Platinum 8592+ 2P . 7437.81 |============================================= Xeon Max 9468 .......... 3050.16 |================== Xeon Max 9468 2P ....... 3816.70 |======================= Xeon Max 9480 .......... 3076.66 |=================== Xeon Max 9480 2P ....... 3819.83 |======================= NAS Parallel Benchmarks 3.4 Test / Class: MG.C Total Mop/s > Higher Is Better Xeon Platinum 8490H .... 83448.70 |================ Xeon Platinum 8490H 2P . 163333.21 |================================ Xeon Platinum 8592+ .... 107321.89 |===================== Xeon Platinum 8592+ 2P . 220893.78 |=========================================== Xeon Max 9468 .......... 85910.95 |================= Xeon Max 9468 2P ....... 172614.10 |================================== Xeon Max 9480 .......... 86407.46 |================= Xeon Max 9480 2P ....... 171436.47 |================================= NAS Parallel Benchmarks 3.4 Test / Class: CG.C Total Mop/s > Higher Is Better Xeon Platinum 8490H .... 33811.63 |=============== Xeon Platinum 8490H 2P . 58128.24 |========================== Xeon Platinum 8592+ .... 63760.45 |============================ Xeon Platinum 8592+ 2P . 98764.93 |============================================ Xeon Max 9468 .......... 35116.55 |================ Xeon Max 9468 2P ....... 65396.22 |============================= Xeon Max 9480 .......... 35234.06 |================ Xeon Max 9480 2P ....... 66492.44 |============================== NWChem 7.0.2 Input: C240 Buckyball Seconds < Lower Is Better Xeon Platinum 8490H .... 2070.3 |====================================== Xeon Platinum 8490H 2P . 1960.9 |==================================== Xeon Platinum 8592+ .... 1878.3 |================================== Xeon Platinum 8592+ 2P . 1809.7 |================================= Xeon Max 9468 .......... 2530.5 |============================================== Xeon Max 9468 2P ....... 1785.0 |================================ Xeon Max 9480 .......... 2245.2 |========================================= Xeon Max 9480 2P ....... 1873.1 |================================== Graph500 3.0 Scale: 26 bfs median_TEPS > Higher Is Better Xeon Platinum 8592+ .... 1244300000 |========================================== Xeon Platinum 8592+ 2P . 1204520000 |========================================= Graph500 3.0 Scale: 26 bfs max_TEPS > Higher Is Better Xeon Platinum 8592+ .... 1299170000 |========================================== Xeon Platinum 8592+ 2P . 1267480000 |========================================= Graph500 3.0 Scale: 26 sssp median_TEPS > Higher Is Better Xeon Platinum 8592+ .... 416523000 |===================================== Xeon Platinum 8592+ 2P . 484977000 |=========================================== Graph500 3.0 Scale: 26 sssp max_TEPS > Higher Is Better Xeon Platinum 8592+ .... 539613000 |=================================== Xeon Platinum 8592+ 2P . 667365000 |=========================================== Xcompact3d Incompact3d 2021-03-11 Input: input.i3d 193 Cells Per Direction Seconds < Lower Is Better Xeon Platinum 8490H .... 12.92934130 |====================================== Xeon Platinum 8490H 2P . 6.39169817 |=================== Xeon Platinum 8592+ .... 10.19670660 |============================== Xeon Platinum 8592+ 2P . 5.39125967 |================ Xeon Max 9468 .......... 13.96923760 |========================================= Xeon Max 9468 2P ....... 7.29349117 |===================== Xeon Max 9480 .......... 12.79975820 |====================================== Xeon Max 9480 2P ....... 6.66387510 |==================== Xcompact3d Incompact3d 2021-03-11 Input: X3D-benchmarking input.i3d Seconds < Lower Is Better Xeon Platinum 8490H .... 357.01 |======================================== Xeon Platinum 8490H 2P . 196.81 |====================== Xeon Platinum 8592+ .... 323.25 |==================================== Xeon Platinum 8592+ 2P . 171.38 |=================== Xeon Max 9468 .......... 407.59 |============================================== Xeon Max 9468 2P ....... 189.69 |===================== Xeon Max 9480 .......... 351.64 |======================================== Xeon Max 9480 2P ....... 187.22 |===================== BRL-CAD 7.38.2 VGR Performance Metric VGR Performance Metric > Higher Is Better Xeon Platinum 8490H .... 833892 |======= Xeon Platinum 8490H 2P . 4136969 |==================================== Xeon Platinum 8592+ .... 916904 |======== Xeon Platinum 8592+ 2P . 5186677 |============================================= Xeon Max 9468 .......... 713937 |====== Xeon Max 9468 2P ....... 3658790 |================================ Xeon Max 9480 .......... 767812 |======= Xeon Max 9480 2P ....... 4075342 |=================================== OpenFOAM 10 Input: drivaerFastback, Small Mesh Size - Mesh Time Seconds < Lower Is Better Xeon Platinum 8490H .... 31.38 |========================================= Xeon Platinum 8490H 2P . 35.60 |=============================================== Xeon Platinum 8592+ .... 31.70 |========================================== Xeon Platinum 8592+ 2P . 29.33 |======================================= Xeon Max 9468 .......... 31.78 |========================================== Xeon Max 9468 2P ....... 32.48 |=========================================== Xeon Max 9480 .......... 32.00 |========================================== Xeon Max 9480 2P ....... 28.84 |====================================== OpenFOAM 10 Input: drivaerFastback, Small Mesh Size - Execution Time Seconds < Lower Is Better Xeon Platinum 8490H .... 42.22 |=========================================== Xeon Platinum 8490H 2P . 28.56 |============================= Xeon Platinum 8592+ .... 33.07 |================================== Xeon Platinum 8592+ 2P . 23.56 |======================== Xeon Max 9468 .......... 45.95 |=============================================== Xeon Max 9468 2P ....... 28.99 |============================== Xeon Max 9480 .......... 41.75 |=========================================== Xeon Max 9480 2P ....... 27.58 |============================ OpenFOAM 10 Input: drivaerFastback, Medium Mesh Size - Mesh Time Seconds < Lower Is Better Xeon Platinum 8490H .... 160.73 |============================================== Xeon Platinum 8490H 2P . 162.03 |============================================== Xeon Platinum 8592+ .... 148.40 |========================================== Xeon Platinum 8592+ 2P . 139.62 |======================================== Xeon Max 9468 .......... 153.12 |=========================================== Xeon Max 9468 2P ....... 134.78 |====================================== Xeon Max 9480 .......... 150.67 |=========================================== Xeon Max 9480 2P ....... 159.31 |============================================= OpenFOAM 10 Input: drivaerFastback, Medium Mesh Size - Execution Time Seconds < Lower Is Better Xeon Platinum 8490H .... 420.65 |============================================ Xeon Platinum 8490H 2P . 196.50 |===================== Xeon Platinum 8592+ .... 302.06 |================================ Xeon Platinum 8592+ 2P . 137.04 |============== Xeon Max 9468 .......... 440.83 |============================================== Xeon Max 9468 2P ....... 201.11 |===================== Xeon Max 9480 .......... 410.29 |=========================================== Xeon Max 9480 2P ....... 186.33 |=================== OpenRadioss 2023.09.15 Model: Bird Strike on Windshield Seconds < Lower Is Better Xeon Platinum 8490H .... 117.41 |=========================================== Xeon Platinum 8490H 2P . 124.44 |============================================= Xeon Platinum 8592+ .... 110.32 |======================================== Xeon Platinum 8592+ 2P . 113.15 |========================================= Xeon Max 9468 .......... 126.89 |============================================== Xeon Max 9468 2P ....... 116.49 |========================================== Xeon Max 9480 .......... 120.76 |============================================ Xeon Max 9480 2P ....... 119.03 |=========================================== OpenRadioss 2023.09.15 Model: Rubber O-Ring Seal Installation Seconds < Lower Is Better Xeon Platinum 8490H .... 59.91 |================================ Xeon Platinum 8490H 2P . 88.39 |=============================================== Xeon Platinum 8592+ .... 54.14 |============================= Xeon Platinum 8592+ 2P . 86.85 |============================================== Xeon Max 9468 .......... 59.58 |================================ Xeon Max 9468 2P ....... 70.73 |====================================== Xeon Max 9480 .......... 59.32 |================================ Xeon Max 9480 2P ....... 81.65 |=========================================== OpenRadioss 2023.09.15 Model: Cell Phone Drop Test Seconds < Lower Is Better Xeon Platinum 8490H .... 31.49 |============================================ Xeon Platinum 8490H 2P . 28.22 |======================================= Xeon Platinum 8592+ .... 27.90 |======================================= Xeon Platinum 8592+ 2P . 26.88 |===================================== Xeon Max 9468 .......... 33.75 |=============================================== Xeon Max 9468 2P ....... 27.51 |====================================== Xeon Max 9480 .......... 31.92 |============================================ Xeon Max 9480 2P ....... 27.63 |====================================== OpenRadioss 2023.09.15 Model: Bumper Beam Seconds < Lower Is Better Xeon Platinum 8490H .... 79.54 |=========================================== Xeon Platinum 8490H 2P . 81.30 |============================================ Xeon Platinum 8592+ .... 78.71 |=========================================== Xeon Platinum 8592+ 2P . 86.11 |=============================================== Xeon Max 9468 .......... 83.44 |============================================== Xeon Max 9468 2P ....... 78.27 |=========================================== Xeon Max 9480 .......... 81.72 |============================================= Xeon Max 9480 2P ....... 80.32 |============================================ OpenRadioss 2023.09.15 Model: INIVOL and Fluid Structure Interaction Drop Container Seconds < Lower Is Better Xeon Platinum 8490H .... 140.43 |======================================== Xeon Platinum 8490H 2P . 107.36 |=============================== Xeon Platinum 8592+ .... 128.74 |===================================== Xeon Platinum 8592+ 2P . 100.00 |============================= Xeon Max 9468 .......... 160.56 |============================================== Xeon Max 9468 2P ....... 114.29 |================================= Xeon Max 9480 .......... 146.03 |========================================== Xeon Max 9480 2P ....... 110.56 |================================ OpenRadioss 2023.09.15 Model: Chrysler Neon 1M Seconds < Lower Is Better Xeon Platinum 8490H .... 207.20 |========================================== Xeon Platinum 8490H 2P . 115.89 |======================= Xeon Platinum 8592+ .... 157.56 |================================ Xeon Platinum 8592+ 2P . 86.93 |================= Xeon Max 9468 .......... 228.74 |============================================== Xeon Max 9468 2P ....... 125.15 |========================= Xeon Max 9480 .......... 212.99 |=========================================== Xeon Max 9480 2P ....... 117.91 |======================== Blender 4.1 Blend File: BMW27 - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8490H .... 25.89 |====================================== Xeon Platinum 8490H 2P . 13.74 |==================== Xeon Platinum 8592+ .... 23.72 |=================================== Xeon Platinum 8592+ 2P . 12.76 |=================== Xeon Max 9468 .......... 31.66 |=============================================== Xeon Max 9468 2P ....... 16.55 |========================= Xeon Max 9480 .......... 28.49 |========================================== Xeon Max 9480 2P ....... 15.29 |======================= Blender 4.1 Blend File: Classroom - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8490H .... 68.61 |===================================== Xeon Platinum 8490H 2P . 35.91 |=================== Xeon Platinum 8592+ .... 63.61 |================================== Xeon Platinum 8592+ 2P . 33.61 |================== Xeon Max 9468 .......... 86.67 |=============================================== Xeon Max 9468 2P ....... 44.71 |======================== Xeon Max 9480 .......... 76.87 |========================================== Xeon Max 9480 2P ....... 40.38 |====================== Blender 4.1 Blend File: Fishy Cat - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8490H .... 34.83 |====================================== Xeon Platinum 8490H 2P . 19.13 |===================== Xeon Platinum 8592+ .... 31.91 |=================================== Xeon Platinum 8592+ 2P . 17.29 |=================== Xeon Max 9468 .......... 42.78 |=============================================== Xeon Max 9468 2P ....... 23.17 |========================= Xeon Max 9480 .......... 38.48 |========================================== Xeon Max 9480 2P ....... 21.45 |======================== Blender 4.1 Blend File: Pabellon Barcelona - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8490H .... 87.92 |====================================== Xeon Platinum 8490H 2P . 46.38 |==================== Xeon Platinum 8592+ .... 80.29 |=================================== Xeon Platinum 8592+ 2P . 41.85 |================== Xeon Max 9468 .......... 106.96 |============================================== Xeon Max 9468 2P ....... 55.26 |======================== Xeon Max 9480 .......... 97.80 |========================================== Xeon Max 9480 2P ....... 51.29 |====================== Blender 4.1 Blend File: Barbershop - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8490H .... 261.97 |====================================== Xeon Platinum 8490H 2P . 141.54 |==================== Xeon Platinum 8592+ .... 236.73 |================================== Xeon Platinum 8592+ 2P . 125.87 |================== Xeon Max 9468 .......... 320.11 |============================================== Xeon Max 9468 2P ....... 169.44 |======================== Xeon Max 9480 .......... 290.56 |========================================== Xeon Max 9480 2P ....... 156.70 |======================= Blender 4.1 Blend File: Junkshop - Compute: CPU-Only Seconds < Lower Is Better Xeon Platinum 8490H .... 35.96 |======================================= Xeon Platinum 8490H 2P . 21.15 |======================= Xeon Platinum 8592+ .... 32.08 |=================================== Xeon Platinum 8592+ 2P . 18.31 |==================== Xeon Max 9468 .......... 42.85 |=============================================== Xeon Max 9468 2P ....... 24.99 |=========================== Xeon Max 9480 .......... 39.17 |=========================================== Xeon Max 9480 2P ....... 23.45 |========================== Appleseed 2.0 Beta Scene: Emily Seconds < Lower Is Better Xeon Platinum 8490H .... 120.75 |======================================== Xeon Platinum 8490H 2P . 130.62 |============================================ Xeon Platinum 8592+ .... 119.80 |======================================== Xeon Platinum 8592+ 2P . 129.96 |=========================================== Xeon Max 9468 .......... 132.13 |============================================ Xeon Max 9468 2P ....... 137.46 |============================================== Xeon Max 9480 .......... 128.60 |=========================================== Xeon Max 9480 2P ....... 137.00 |============================================== Appleseed 2.0 Beta Scene: Disney Material Seconds < Lower Is Better Xeon Platinum 8490H .... 53.49 |=========================================== Xeon Platinum 8490H 2P . 48.56 |======================================= Xeon Platinum 8592+ .... 48.43 |======================================= Xeon Platinum 8592+ 2P . 43.70 |=================================== Xeon Max 9468 .......... 58.38 |=============================================== Xeon Max 9468 2P ....... 51.25 |========================================= Xeon Max 9480 .......... 56.40 |============================================= Xeon Max 9480 2P ....... 49.14 |======================================== Appleseed 2.0 Beta Scene: Material Tester Seconds < Lower Is Better Xeon Platinum 8490H .... 126.15 |======================== Xeon Platinum 8490H 2P . 225.35 |=========================================== Xeon Platinum 8592+ .... 118.78 |====================== Xeon Platinum 8592+ 2P . 210.82 |======================================== Xeon Max 9468 .......... 136.49 |========================== Xeon Max 9468 2P ....... 243.24 |============================================== Xeon Max 9480 .......... 134.39 |========================= Xeon Max 9480 2P ....... 239.73 |============================================= LuxCoreRender 2.6 Scene: DLSC - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8490H .... 8.72 |================================ Xeon Platinum 8490H 2P . 11.12 |========================================= Xeon Platinum 8592+ .... 9.38 |=================================== Xeon Platinum 8592+ 2P . 12.74 |=============================================== Xeon Max 9468 .......... 7.46 |============================ Xeon Max 9468 2P ....... 10.17 |====================================== Xeon Max 9480 .......... 8.00 |============================== Xeon Max 9480 2P ....... 10.44 |======================================= LuxCoreRender 2.6 Scene: Rainbow Colors and Prism - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8490H .... 13.54 |============================================= Xeon Platinum 8490H 2P . 5.96 |==================== Xeon Platinum 8592+ .... 14.28 |=============================================== Xeon Platinum 8592+ 2P . 7.22 |======================== Xeon Max 9468 .......... 12.80 |========================================== Xeon Max 9468 2P ....... 9.64 |================================ Xeon Max 9480 .......... 12.97 |=========================================== Xeon Max 9480 2P ....... 6.51 |===================== LuxCoreRender 2.6 Scene: LuxCore Benchmark - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8490H .... 7.10 |====================================== Xeon Platinum 8490H 2P . 8.82 |================================================ Xeon Platinum 8592+ .... 8.06 |============================================ Xeon Platinum 8592+ 2P . 8.88 |================================================ Xeon Max 9468 .......... 6.30 |================================== Xeon Max 9468 2P ....... 6.81 |===================================== Xeon Max 9480 .......... 6.82 |===================================== Xeon Max 9480 2P ....... 7.41 |======================================== LuxCoreRender 2.6 Scene: Orange Juice - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8490H .... 13.46 |================================ Xeon Platinum 8490H 2P . 18.70 |============================================ Xeon Platinum 8592+ .... 14.74 |=================================== Xeon Platinum 8592+ 2P . 19.91 |=============================================== Xeon Max 9468 .......... 11.86 |============================ Xeon Max 9468 2P ....... 16.91 |======================================== Xeon Max 9480 .......... 12.50 |============================== Xeon Max 9480 2P ....... 16.64 |======================================= LuxCoreRender 2.6 Scene: Danish Mood - Acceleration: CPU M samples/sec > Higher Is Better Xeon Platinum 8490H .... 6.85 |=========================================== Xeon Platinum 8490H 2P . 7.00 |============================================ Xeon Platinum 8592+ .... 7.63 |================================================ Xeon Platinum 8592+ 2P . 7.70 |================================================ Xeon Max 9468 .......... 6.03 |====================================== Xeon Max 9468 2P ....... 6.23 |======================================= Xeon Max 9480 .......... 6.29 |======================================= Xeon Max 9480 2P ....... 5.91 |===================================== OSPRay 3.1 Benchmark: gravity_spheres_volume/dim_512/ao/real_time Items Per Second > Higher Is Better Xeon Platinum 8490H .... 19.85 |====================== Xeon Platinum 8490H 2P . 36.15 |======================================== Xeon Platinum 8592+ .... 23.73 |========================== Xeon Platinum 8592+ 2P . 42.13 |=============================================== Xeon Max 9468 .......... 15.40 |================= Xeon Max 9468 2P ....... 15.98 |================== Xeon Max 9480 .......... 16.32 |================== Xeon Max 9480 2P ....... 15.37 |================= OSPRay 3.1 Benchmark: gravity_spheres_volume/dim_512/scivis/real_time Items Per Second > Higher Is Better Xeon Platinum 8490H .... 19.58 |====================== Xeon Platinum 8490H 2P . 35.60 |======================================== Xeon Platinum 8592+ .... 23.18 |========================== Xeon Platinum 8592+ 2P . 41.91 |=============================================== Xeon Max 9468 .......... 15.50 |================= Xeon Max 9468 2P ....... 15.34 |================= Xeon Max 9480 .......... 16.27 |================== Xeon Max 9480 2P ....... 15.82 |================== OSPRay 3.1 Benchmark: gravity_spheres_volume/dim_512/pathtracer/real_time Items Per Second > Higher Is Better Xeon Platinum 8490H .... 24.64 |======================== Xeon Platinum 8490H 2P . 42.82 |========================================= Xeon Platinum 8592+ .... 27.10 |========================== Xeon Platinum 8592+ 2P . 48.76 |=============================================== Xeon Max 9468 .......... 19.91 |=================== Xeon Max 9468 2P ....... 35.93 |=================================== Xeon Max 9480 .......... 22.36 |====================== Xeon Max 9480 2P ....... 39.34 |====================================== OSPRay 3.1 Benchmark: particle_volume/ao/real_time Items Per Second > Higher Is Better Xeon Platinum 8490H .... 21.93 |=================== Xeon Platinum 8490H 2P . 38.22 |================================= Xeon Platinum 8592+ .... 30.84 |=========================== Xeon Platinum 8592+ 2P . 54.12 |=============================================== Xeon Max 9468 .......... 16.05 |============== Xeon Max 9468 2P ....... 29.50 |========================== Xeon Max 9480 .......... 18.55 |================ Xeon Max 9480 2P ....... 33.11 |============================= OSPRay 3.1 Benchmark: particle_volume/scivis/real_time Items Per Second > Higher Is Better Xeon Platinum 8490H .... 21.89 |=================== Xeon Platinum 8490H 2P . 38.23 |================================= Xeon Platinum 8592+ .... 30.68 |=========================== Xeon Platinum 8592+ 2P . 53.93 |=============================================== Xeon Max 9468 .......... 16.09 |============== Xeon Max 9468 2P ....... 29.35 |========================== Xeon Max 9480 .......... 18.49 |================ Xeon Max 9480 2P ....... 33.13 |============================= OSPRay 3.1 Benchmark: particle_volume/pathtracer/real_time Items Per Second > Higher Is Better Xeon Platinum 8490H .... 160.24 |====================================== Xeon Platinum 8490H 2P . 149.09 |==================================== Xeon Platinum 8592+ .... 193.14 |============================================== Xeon Platinum 8592+ 2P . 176.40 |========================================== Xeon Max 9468 .......... 144.48 |================================== Xeon Max 9468 2P ....... 137.50 |================================= Xeon Max 9480 .......... 143.48 |================================== Xeon Max 9480 2P ....... 135.44 |================================ OSPRay Studio 1.0 Camera: 1 - Resolution: 4K - Samples Per Pixel: 1 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8490H .... 1657 |======================================== Xeon Platinum 8490H 2P . 894 |====================== Xeon Platinum 8592+ .... 1441 |=================================== Xeon Platinum 8592+ 2P . 759 |================== Xeon Max 9468 .......... 1988 |================================================ Xeon Max 9468 2P ....... 1049 |========================= Xeon Max 9480 .......... 1792 |=========================================== Xeon Max 9480 2P ....... 961 |======================= OSPRay Studio 1.0 Camera: 1 - Resolution: 4K - Samples Per Pixel: 16 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8490H .... 31380 |======================================== Xeon Platinum 8490H 2P . 14138 |================== Xeon Platinum 8592+ .... 23125 |============================= Xeon Platinum 8592+ 2P . 12124 |=============== Xeon Max 9468 .......... 37055 |=============================================== Xeon Max 9468 2P ....... 16645 |===================== Xeon Max 9480 .......... 33790 |=========================================== Xeon Max 9480 2P ....... 15357 |=================== OSPRay Studio 1.0 Camera: 1 - Resolution: 4K - Samples Per Pixel: 32 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8490H .... 58026 |======================================== Xeon Platinum 8490H 2P . 33411 |======================= Xeon Platinum 8592+ .... 50798 |=================================== Xeon Platinum 8592+ 2P . 24249 |================= Xeon Max 9468 .......... 68973 |=============================================== Xeon Max 9468 2P ....... 38926 |=========================== Xeon Max 9480 .......... 62540 |=========================================== Xeon Max 9480 2P ....... 36179 |========================= OSPRay Studio 1.0 Camera: 3 - Resolution: 4K - Samples Per Pixel: 1 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8490H .... 1977 |======================================== Xeon Platinum 8490H 2P . 1063 |====================== Xeon Platinum 8592+ .... 1709 |=================================== Xeon Platinum 8592+ 2P . 898 |================== Xeon Max 9468 .......... 2357 |================================================ Xeon Max 9468 2P ....... 1237 |========================= Xeon Max 9480 .......... 2123 |=========================================== Xeon Max 9480 2P ....... 1143 |======================= OSPRay Studio 1.0 Camera: 3 - Resolution: 4K - Samples Per Pixel: 16 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8490H .... 36649 |======================================== Xeon Platinum 8490H 2P . 16837 |================== Xeon Platinum 8592+ .... 31993 |=================================== Xeon Platinum 8592+ 2P . 14358 |================ Xeon Max 9468 .......... 42837 |=============================================== Xeon Max 9468 2P ....... 19701 |====================== Xeon Max 9480 .......... 39238 |=========================================== Xeon Max 9480 2P ....... 18111 |==================== OSPRay Studio 1.0 Camera: 3 - Resolution: 4K - Samples Per Pixel: 32 - Renderer: Path Tracer - Acceleration: CPU ms < Lower Is Better Xeon Platinum 8490H .... 68006 |======================================== Xeon Platinum 8490H 2P . 38813 |======================= Xeon Platinum 8592+ .... 59522 |=================================== Xeon Platinum 8592+ 2P . 33391 |=================== Xeon Max 9468 .......... 80742 |=============================================== Xeon Max 9468 2P ....... 45211 |========================== Xeon Max 9480 .......... 73366 |=========================================== Xeon Max 9480 2P ....... 41971 |======================== Embree 4.3 Binary: Pathtracer ISPC - Model: Asian Dragon Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 91.99 |===================== Xeon Platinum 8490H 2P . 152.75 |=================================== Xeon Platinum 8592+ .... 112.66 |========================== Xeon Platinum 8592+ 2P . 199.61 |============================================== Xeon Max 9468 .......... 75.47 |================= Xeon Max 9468 2P ....... 125.75 |============================= Xeon Max 9480 .......... 83.49 |=================== Xeon Max 9480 2P ....... 129.75 |============================== Embree 4.3 Binary: Pathtracer ISPC - Model: Asian Dragon Obj Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 79.38 |===================== Xeon Platinum 8490H 2P . 132.28 |=================================== Xeon Platinum 8592+ .... 97.19 |========================== Xeon Platinum 8592+ 2P . 173.22 |============================================== Xeon Max 9468 .......... 64.96 |================= Xeon Max 9468 2P ....... 104.84 |============================ Xeon Max 9480 .......... 71.83 |=================== Xeon Max 9480 2P ....... 112.72 |============================== Embree 4.3 Binary: Pathtracer ISPC - Model: Crown Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 70.05 |===================== Xeon Platinum 8490H 2P . 124.71 |===================================== Xeon Platinum 8592+ .... 82.97 |========================= Xeon Platinum 8592+ 2P . 153.16 |============================================== Xeon Max 9468 .......... 58.42 |================== Xeon Max 9468 2P ....... 107.63 |================================ Xeon Max 9480 .......... 65.33 |==================== Xeon Max 9480 2P ....... 116.61 |=================================== Intel Open Image Denoise 2.2 Run: RT.hdr_alb_nrm.3840x2160 - Device: CPU-Only Images / Sec > Higher Is Better Xeon Platinum 8490H .... 2.71 |========================== Xeon Platinum 8490H 2P . 4.41 |========================================== Xeon Platinum 8592+ .... 3.31 |================================ Xeon Platinum 8592+ 2P . 5.03 |================================================ Xeon Max 9468 .......... 2.26 |====================== Xeon Max 9468 2P ....... 3.51 |================================= Xeon Max 9480 .......... 2.38 |======================= Xeon Max 9480 2P ....... 3.65 |=================================== Intel Open Image Denoise 2.2 Run: RT.ldr_alb_nrm.3840x2160 - Device: CPU-Only Images / Sec > Higher Is Better Xeon Platinum 8490H .... 2.71 |========================== Xeon Platinum 8490H 2P . 4.48 |========================================== Xeon Platinum 8592+ .... 3.32 |=============================== Xeon Platinum 8592+ 2P . 5.09 |================================================ Xeon Max 9468 .......... 2.27 |===================== Xeon Max 9468 2P ....... 3.49 |================================= Xeon Max 9480 .......... 2.39 |======================= Xeon Max 9480 2P ....... 3.66 |=================================== Intel Open Image Denoise 2.2 Run: RTLightmap.hdr.4096x4096 - Device: CPU-Only Images / Sec > Higher Is Better Xeon Platinum 8490H .... 1.29 |========================== Xeon Platinum 8490H 2P . 2.18 |============================================ Xeon Platinum 8592+ .... 1.58 |================================ Xeon Platinum 8592+ 2P . 2.40 |================================================ Xeon Max 9468 .......... 1.08 |====================== Xeon Max 9468 2P ....... 1.72 |================================== Xeon Max 9480 .......... 1.14 |======================= Xeon Max 9480 2P ....... 1.74 |=================================== OpenVKL 2.0.0 Benchmark: vklBenchmarkCPU ISPC Items / Sec > Higher Is Better Xeon Platinum 8490H .... 1734 |========================== Xeon Platinum 8490H 2P . 2716 |======================================== Xeon Platinum 8592+ .... 2004 |============================== Xeon Platinum 8592+ 2P . 3222 |================================================ Xeon Max 9468 .......... 1243 |=================== Xeon Max 9468 2P ....... 1776 |========================== Xeon Max 9480 .......... 1356 |==================== Xeon Max 9480 2P ....... 1852 |============================ 7-Zip Compression 22.01 Test: Compression Rating MIPS > Higher Is Better Xeon Platinum 8490H .... 388190 |========================== Xeon Platinum 8490H 2P . 592729 |======================================== Xeon Platinum 8592+ .... 441636 |============================== Xeon Platinum 8592+ 2P . 674239 |============================================== Xeon Max 9468 .......... 314716 |===================== Xeon Max 9468 2P ....... 491729 |================================== Xeon Max 9480 .......... 342363 |======================= Xeon Max 9480 2P ....... 525514 |==================================== 7-Zip Compression 22.01 Test: Decompression Rating MIPS > Higher Is Better Xeon Platinum 8490H .... 287862 |======================= Xeon Platinum 8490H 2P . 557054 |============================================= Xeon Platinum 8592+ .... 338146 |=========================== Xeon Platinum 8592+ 2P . 573410 |============================================== Xeon Max 9468 .......... 207738 |================= Xeon Max 9468 2P ....... 401707 |================================ Xeon Max 9480 .......... 243347 |==================== Xeon Max 9480 2P ....... 469131 |====================================== Parallel BZIP2 Compression 1.1.13 FreeBSD-13.0-RELEASE-amd64-memstick.img Compression Seconds < Lower Is Better Xeon Platinum 8490H .... 2.144857 |==================================== Xeon Platinum 8490H 2P . 1.469210 |========================= Xeon Platinum 8592+ .... 1.847537 |=============================== Xeon Platinum 8592+ 2P . 1.432362 |======================== Xeon Max 9468 .......... 2.632077 |============================================ Xeon Max 9468 2P ....... 1.982932 |================================= Xeon Max 9480 .......... 2.287766 |====================================== Xeon Max 9480 2P ....... 1.711296 |============================= Zstd Compression 1.5.4 Compression Level: 19 - Compression Speed MB/s > Higher Is Better Xeon Platinum 8490H .... 14.6 |======================================= Xeon Platinum 8490H 2P . 15.2 |========================================= Xeon Platinum 8592+ .... 18.0 |================================================ Xeon Platinum 8592+ 2P . 17.8 |=============================================== Xeon Max 9468 .......... 14.4 |====================================== Xeon Max 9468 2P ....... 13.8 |===================================== Xeon Max 9480 .......... 14.5 |======================================= Xeon Max 9480 2P ....... 13.3 |=================================== Zstd Compression 1.5.4 Compression Level: 19 - Decompression Speed MB/s > Higher Is Better Xeon Platinum 8490H .... 1032.0 |======================================= Xeon Platinum 8490H 2P . 963.6 |==================================== Xeon Platinum 8592+ .... 1221.8 |============================================== Xeon Platinum 8592+ 2P . 1165.8 |============================================ Xeon Max 9468 .......... 1126.4 |========================================== Xeon Max 9468 2P ....... 1040.2 |======================================= Xeon Max 9480 .......... 1127.5 |========================================== Xeon Max 9480 2P ....... 1039.2 |======================================= Zstd Compression 1.5.4 Compression Level: 19, Long Mode - Compression Speed MB/s > Higher Is Better Xeon Platinum 8490H .... 7.94 |======================================= Xeon Platinum 8490H 2P . 8.16 |======================================== Xeon Platinum 8592+ .... 9.80 |================================================ Xeon Platinum 8592+ 2P . 9.67 |=============================================== Xeon Max 9468 .......... 7.76 |====================================== Xeon Max 9468 2P ....... 7.62 |===================================== Xeon Max 9480 .......... 7.72 |====================================== Xeon Max 9480 2P ....... 7.46 |===================================== Zstd Compression 1.5.4 Compression Level: 19, Long Mode - Decompression Speed MB/s > Higher Is Better Xeon Platinum 8490H .... 1069.1 |======================================== Xeon Platinum 8490H 2P . 992.1 |===================================== Xeon Platinum 8592+ .... 1242.6 |============================================== Xeon Platinum 8592+ 2P . 1189.7 |============================================ Xeon Max 9468 .......... 1131.1 |========================================== Xeon Max 9468 2P ....... 1041.8 |======================================= Xeon Max 9480 .......... 1133.3 |========================================== Xeon Max 9480 2P ....... 1046.0 |======================================= PyBench 2018-02-16 Total For Average Test Times Milliseconds < Lower Is Better Xeon Platinum 8490H .... 765 |================================================= Xeon Platinum 8490H 2P . 767 |================================================= Xeon Platinum 8592+ .... 691 |============================================ Xeon Platinum 8592+ 2P . 692 |============================================ Xeon Max 9468 .......... 763 |================================================= Xeon Max 9468 2P ....... 763 |================================================= Xeon Max 9480 .......... 762 |================================================= Xeon Max 9480 2P ....... 763 |================================================= Numpy Benchmark Score > Higher Is Better Xeon Platinum 8490H .... 455.57 |======================================== Xeon Platinum 8490H 2P . 456.18 |======================================== Xeon Platinum 8592+ .... 520.22 |============================================== Xeon Platinum 8592+ 2P . 519.89 |============================================== Xeon Max 9468 .......... 461.61 |========================================= Xeon Max 9468 2P ....... 435.21 |====================================== Xeon Max 9480 .......... 464.72 |========================================= Xeon Max 9480 2P ....... 439.84 |======================================= SVT-AV1 2.0 Encoder Mode: Preset 13 - Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 162.47 |=========================================== Xeon Platinum 8490H 2P . 154.50 |========================================= Xeon Platinum 8592+ .... 174.83 |============================================== Xeon Platinum 8592+ 2P . 162.98 |=========================================== Xeon Max 9468 .......... 144.70 |====================================== Xeon Max 9468 2P ....... 122.62 |================================ Xeon Max 9480 .......... 150.00 |======================================= Xeon Max 9480 2P ....... 124.26 |================================= SVT-AV1 2.0 Encoder Mode: Preset 12 - Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 164.25 |========================================== Xeon Platinum 8490H 2P . 156.52 |======================================== Xeon Platinum 8592+ .... 177.86 |============================================== Xeon Platinum 8592+ 2P . 165.50 |=========================================== Xeon Max 9468 .......... 146.10 |====================================== Xeon Max 9468 2P ....... 122.09 |================================ Xeon Max 9480 .......... 151.72 |======================================= Xeon Max 9480 2P ....... 127.55 |================================= SVT-AV1 2.0 Encoder Mode: Preset 8 - Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 70.91 |========================================== Xeon Platinum 8490H 2P . 65.22 |======================================= Xeon Platinum 8592+ .... 79.44 |=============================================== Xeon Platinum 8592+ 2P . 70.43 |========================================== Xeon Max 9468 .......... 62.75 |===================================== Xeon Max 9468 2P ....... 54.82 |================================ Xeon Max 9480 .......... 65.36 |======================================= Xeon Max 9480 2P ....... 55.98 |================================= SVT-AV1 2.0 Encoder Mode: Preset 4 - Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 7.061 |========================================== Xeon Platinum 8490H 2P . 6.698 |======================================== Xeon Platinum 8592+ .... 7.876 |=============================================== Xeon Platinum 8592+ 2P . 7.360 |============================================ Xeon Max 9468 .......... 6.490 |======================================= Xeon Max 9468 2P ....... 5.991 |==================================== Xeon Max 9480 .......... 6.572 |======================================= Xeon Max 9480 2P ....... 6.052 |==================================== x265 3.6 Video Input: Bosphorus 4K Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 37.86 |============================================= Xeon Platinum 8490H 2P . 37.04 |============================================ Xeon Platinum 8592+ .... 38.93 |=============================================== Xeon Platinum 8592+ 2P . 39.31 |=============================================== Xeon Max 9468 .......... 29.05 |=================================== Xeon Max 9468 2P ....... 27.26 |================================= Xeon Max 9480 .......... 31.40 |====================================== Xeon Max 9480 2P ....... 27.90 |================================= Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Slow Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 20.23 |======================= Xeon Platinum 8490H 2P . 31.24 |==================================== Xeon Platinum 8592+ .... 24.23 |============================ Xeon Platinum 8592+ 2P . 40.92 |=============================================== Xeon Max 9468 .......... 17.52 |==================== Xeon Max 9468 2P ....... 26.00 |============================== Xeon Max 9480 .......... 18.24 |===================== Xeon Max 9480 2P ....... 28.96 |================================= Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Medium Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 20.97 |======================== Xeon Platinum 8490H 2P . 32.04 |==================================== Xeon Platinum 8592+ .... 24.80 |============================ Xeon Platinum 8592+ 2P . 41.58 |=============================================== Xeon Max 9468 .......... 18.13 |==================== Xeon Max 9468 2P ....... 26.69 |============================== Xeon Max 9480 .......... 18.84 |===================== Xeon Max 9480 2P ....... 29.62 |================================= Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Very Fast Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 50.03 |=================================== Xeon Platinum 8490H 2P . 67.64 |=============================================== Xeon Platinum 8592+ .... 38.02 |========================== Xeon Platinum 8592+ 2P . 65.38 |============================================= Xeon Max 9468 .......... 40.23 |============================ Xeon Max 9468 2P ....... 51.91 |==================================== Xeon Max 9480 .......... 41.34 |============================= Xeon Max 9480 2P ....... 52.23 |==================================== Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Super Fast Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 66.74 |============================================= Xeon Platinum 8490H 2P . 69.05 |=============================================== Xeon Platinum 8592+ .... 39.20 |=========================== Xeon Platinum 8592+ 2P . 66.78 |============================================= Xeon Max 9468 .......... 53.13 |==================================== Xeon Max 9468 2P ....... 52.63 |==================================== Xeon Max 9480 .......... 54.47 |===================================== Xeon Max 9480 2P ....... 54.19 |===================================== Kvazaar 2.2 Video Input: Bosphorus 4K - Video Preset: Ultra Fast Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 74.57 |=============================================== Xeon Platinum 8490H 2P . 72.01 |============================================= Xeon Platinum 8592+ .... 47.07 |============================== Xeon Platinum 8592+ 2P . 73.81 |=============================================== Xeon Max 9468 .......... 63.10 |======================================== Xeon Max 9468 2P ....... 54.98 |=================================== Xeon Max 9480 .......... 63.99 |======================================== Xeon Max 9480 2P ....... 58.14 |===================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Slow Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 15.71 |=========================== Xeon Platinum 8490H 2P . 24.71 |=========================================== Xeon Platinum 8592+ .... 16.06 |============================ Xeon Platinum 8592+ 2P . 27.11 |=============================================== Xeon Max 9468 .......... 13.36 |======================= Xeon Max 9468 2P ....... 19.75 |================================== Xeon Max 9480 .......... 13.89 |======================== Xeon Max 9480 2P ....... 22.14 |====================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Medium Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 17.85 |============================ Xeon Platinum 8490H 2P . 27.65 |=========================================== Xeon Platinum 8592+ .... 16.64 |========================== Xeon Platinum 8592+ 2P . 30.37 |=============================================== Xeon Max 9468 .......... 15.17 |======================= Xeon Max 9468 2P ....... 22.25 |================================== Xeon Max 9480 .......... 15.68 |======================== Xeon Max 9480 2P ....... 24.65 |====================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Very Fast Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 49.42 |========================================== Xeon Platinum 8490H 2P . 54.88 |=============================================== Xeon Platinum 8592+ .... 35.10 |============================== Xeon Platinum 8592+ 2P . 53.66 |============================================== Xeon Max 9468 .......... 39.56 |================================== Xeon Max 9468 2P ....... 44.75 |====================================== Xeon Max 9480 .......... 40.82 |=================================== Xeon Max 9480 2P ....... 46.25 |======================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Super Fast Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 55.54 |=============================================== Xeon Platinum 8490H 2P . 55.40 |=============================================== Xeon Platinum 8592+ .... 35.56 |============================== Xeon Platinum 8592+ 2P . 54.95 |=============================================== Xeon Max 9468 .......... 44.05 |===================================== Xeon Max 9468 2P ....... 45.09 |====================================== Xeon Max 9480 .......... 45.32 |====================================== Xeon Max 9480 2P ....... 44.40 |====================================== uvg266 0.4.1 Video Input: Bosphorus 4K - Video Preset: Ultra Fast Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 60.87 |=============================================== Xeon Platinum 8490H 2P . 55.26 |=========================================== Xeon Platinum 8592+ .... 39.31 |============================== Xeon Platinum 8592+ 2P . 57.13 |============================================ Xeon Max 9468 .......... 48.91 |====================================== Xeon Max 9468 2P ....... 46.13 |==================================== Xeon Max 9480 .......... 50.09 |======================================= Xeon Max 9480 2P ....... 45.79 |=================================== FFmpeg 7.0 Encoder: libx265 - Scenario: Upload FPS > Higher Is Better Xeon Platinum 8490H .... 24.97 |============================================ Xeon Platinum 8490H 2P . 24.56 |=========================================== Xeon Platinum 8592+ .... 26.93 |=============================================== Xeon Platinum 8592+ 2P . 26.80 |=============================================== Xeon Max 9468 .......... 23.33 |========================================= Xeon Max 9468 2P ....... 22.34 |======================================= Xeon Max 9480 .......... 23.77 |========================================= Xeon Max 9480 2P ....... 23.30 |========================================= FFmpeg 7.0 Encoder: libx265 - Scenario: Platform FPS > Higher Is Better Xeon Platinum 8490H .... 49.79 |=========================================== Xeon Platinum 8490H 2P . 48.76 |=========================================== Xeon Platinum 8592+ .... 53.92 |=============================================== Xeon Platinum 8592+ 2P . 53.22 |============================================== Xeon Max 9468 .......... 47.32 |========================================= Xeon Max 9468 2P ....... 45.95 |======================================== Xeon Max 9480 .......... 48.35 |========================================== Xeon Max 9480 2P ....... 46.59 |========================================= FFmpeg 7.0 Encoder: libx265 - Scenario: Video On Demand FPS > Higher Is Better Xeon Platinum 8490H .... 49.84 |=========================================== Xeon Platinum 8490H 2P . 48.77 |========================================== Xeon Platinum 8592+ .... 53.99 |=============================================== Xeon Platinum 8592+ 2P . 53.29 |============================================== Xeon Max 9468 .......... 47.34 |========================================= Xeon Max 9468 2P ....... 45.29 |======================================= Xeon Max 9480 .......... 48.14 |========================================== Xeon Max 9480 2P ....... 46.79 |========================================= VVenC 1.11 Video Input: Bosphorus 4K - Video Preset: Fast Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 6.719 |=========================================== Xeon Platinum 8490H 2P . 6.480 |========================================= Xeon Platinum 8592+ .... 7.392 |=============================================== Xeon Platinum 8592+ 2P . 6.960 |============================================ Xeon Max 9468 .......... 6.324 |======================================== Xeon Max 9468 2P ....... 6.023 |====================================== Xeon Max 9480 .......... 6.501 |========================================= Xeon Max 9480 2P ....... 6.077 |======================================= VVenC 1.11 Video Input: Bosphorus 4K - Video Preset: Faster Frames Per Second > Higher Is Better Xeon Platinum 8490H .... 15.06 |============================================ Xeon Platinum 8490H 2P . 12.54 |===================================== Xeon Platinum 8592+ .... 15.97 |=============================================== Xeon Platinum 8592+ 2P . 13.26 |======================================= Xeon Max 9468 .......... 14.10 |========================================= Xeon Max 9468 2P ....... 11.90 |=================================== Xeon Max 9480 .......... 14.36 |========================================== Xeon Max 9480 2P ....... 11.97 |=================================== WebP Image Encode 1.2.4 Encode Settings: Quality 100 MP/s > Higher Is Better Xeon Platinum 8490H .... 10.11 |========================================== Xeon Platinum 8490H 2P . 10.05 |========================================== Xeon Platinum 8592+ .... 11.36 |=============================================== Xeon Platinum 8592+ 2P . 11.31 |=============================================== Xeon Max 9468 .......... 10.13 |========================================== Xeon Max 9468 2P ....... 10.01 |========================================= Xeon Max 9480 .......... 10.13 |========================================== Xeon Max 9480 2P ....... 10.03 |========================================= WebP Image Encode 1.2.4 Encode Settings: Quality 100, Highest Compression MP/s > Higher Is Better Xeon Platinum 8490H .... 3.08 |=========================================== Xeon Platinum 8490H 2P . 3.07 |========================================== Xeon Platinum 8592+ .... 3.47 |================================================ Xeon Platinum 8592+ 2P . 3.46 |================================================ Xeon Max 9468 .......... 3.10 |=========================================== Xeon Max 9468 2P ....... 3.09 |=========================================== Xeon Max 9480 .......... 3.10 |=========================================== Xeon Max 9480 2P ....... 3.09 |=========================================== WebP Image Encode 1.2.4 Encode Settings: Quality 100, Lossless MP/s > Higher Is Better Xeon Platinum 8490H .... 1.31 |========================================== Xeon Platinum 8490H 2P . 1.30 |========================================== Xeon Platinum 8592+ .... 1.50 |================================================ Xeon Platinum 8592+ 2P . 1.50 |================================================ Xeon Max 9468 .......... 1.40 |============================================= Xeon Max 9468 2P ....... 1.39 |============================================ Xeon Max 9480 .......... 1.39 |============================================ Xeon Max 9480 2P ....... 1.39 |============================================ WebP Image Encode 1.2.4 Encode Settings: Quality 100, Lossless, Highest Compression MP/s > Higher Is Better Xeon Platinum 8490H .... 0.52 |========================================== Xeon Platinum 8490H 2P . 0.51 |========================================= Xeon Platinum 8592+ .... 0.60 |================================================ Xeon Platinum 8592+ 2P . 0.59 |=============================================== Xeon Max 9468 .......... 0.55 |============================================ Xeon Max 9468 2P ....... 0.54 |=========================================== Xeon Max 9480 .......... 0.55 |============================================ Xeon Max 9480 2P ....... 0.54 |=========================================== libavif avifenc 1.0 Encoder Speed: 0 Seconds < Lower Is Better Xeon Platinum 8490H .... 69.93 |=========================================== Xeon Platinum 8490H 2P . 67.38 |========================================= Xeon Platinum 8592+ .... 64.48 |======================================= Xeon Platinum 8592+ 2P . 60.53 |===================================== Xeon Max 9468 .......... 76.92 |=============================================== Xeon Max 9468 2P ....... 69.65 |=========================================== Xeon Max 9480 .......... 73.06 |============================================= Xeon Max 9480 2P ....... 68.44 |========================================== libavif avifenc 1.0 Encoder Speed: 2 Seconds < Lower Is Better Xeon Platinum 8490H .... 37.75 |=========================================== Xeon Platinum 8490H 2P . 37.31 |=========================================== Xeon Platinum 8592+ .... 34.79 |======================================== Xeon Platinum 8592+ 2P . 33.65 |====================================== Xeon Max 9468 .......... 41.13 |=============================================== Xeon Max 9468 2P ....... 38.65 |============================================ Xeon Max 9480 .......... 39.88 |============================================== Xeon Max 9480 2P ....... 38.14 |============================================ libavif avifenc 1.0 Encoder Speed: 6 Seconds < Lower Is Better Xeon Platinum 8490H .... 3.169 |======================================= Xeon Platinum 8490H 2P . 3.044 |====================================== Xeon Platinum 8592+ .... 2.971 |===================================== Xeon Platinum 8592+ 2P . 2.805 |=================================== Xeon Max 9468 .......... 3.730 |============================================== Xeon Max 9468 2P ....... 3.776 |=============================================== Xeon Max 9480 .......... 3.550 |============================================ Xeon Max 9480 2P ....... 3.738 |=============================================== libavif avifenc 1.0 Encoder Speed: 6, Lossless Seconds < Lower Is Better Xeon Platinum 8490H .... 6.278 |========================================= Xeon Platinum 8490H 2P . 6.172 |========================================= Xeon Platinum 8592+ .... 5.784 |====================================== Xeon Platinum 8592+ 2P . 5.613 |===================================== Xeon Max 9468 .......... 6.836 |============================================= Xeon Max 9468 2P ....... 7.121 |=============================================== Xeon Max 9480 .......... 6.605 |============================================ Xeon Max 9480 2P ....... 7.038 |============================================== libavif avifenc 1.0 Encoder Speed: 10, Lossless Seconds < Lower Is Better Xeon Platinum 8490H .... 4.923 |============================================ Xeon Platinum 8490H 2P . 5.074 |============================================= Xeon Platinum 8592+ .... 4.456 |======================================= Xeon Platinum 8592+ 2P . 4.579 |======================================== Xeon Max 9468 .......... 4.916 |=========================================== Xeon Max 9468 2P ....... 5.317 |=============================================== Xeon Max 9480 .......... 4.867 |=========================================== Xeon Max 9480 2P ....... 5.311 |=============================================== ASTC Encoder 4.7 Preset: Medium MT/s > Higher Is Better Xeon Platinum 8490H .... 333.99 |============================ Xeon Platinum 8490H 2P . 484.55 |========================================= Xeon Platinum 8592+ .... 327.78 |=========================== Xeon Platinum 8592+ 2P . 550.02 |============================================== Xeon Max 9468 .......... 247.30 |===================== Xeon Max 9468 2P ....... 441.65 |===================================== Xeon Max 9480 .......... 284.33 |======================== Xeon Max 9480 2P ....... 483.10 |======================================== ASTC Encoder 4.7 Preset: Thorough MT/s > Higher Is Better Xeon Platinum 8490H .... 51.30 |========================= Xeon Platinum 8490H 2P . 86.98 |========================================== Xeon Platinum 8592+ .... 54.45 |========================== Xeon Platinum 8592+ 2P . 97.94 |=============================================== Xeon Max 9468 .......... 37.01 |================== Xeon Max 9468 2P ....... 72.33 |=================================== Xeon Max 9480 .......... 42.98 |===================== Xeon Max 9480 2P ....... 83.34 |======================================== ASTC Encoder 4.7 Preset: Very Thorough MT/s > Higher Is Better Xeon Platinum 8490H .... 7.0885 |====================== Xeon Platinum 8490H 2P . 13.7518 |========================================== Xeon Platinum 8592+ .... 7.6240 |======================= Xeon Platinum 8592+ 2P . 14.6334 |============================================= Xeon Max 9468 .......... 5.1342 |================ Xeon Max 9468 2P ....... 10.2051 |=============================== Xeon Max 9480 .......... 5.9702 |================== Xeon Max 9480 2P ....... 11.8875 |===================================== ASTC Encoder 4.7 Preset: Exhaustive MT/s > Higher Is Better Xeon Platinum 8490H .... 4.2689 |====================== Xeon Platinum 8490H 2P . 8.3701 |=========================================== Xeon Platinum 8592+ .... 4.6303 |======================== Xeon Platinum 8592+ 2P . 8.9091 |============================================== Xeon Max 9468 .......... 3.1204 |================ Xeon Max 9468 2P ....... 6.2126 |================================ Xeon Max 9480 .......... 3.6276 |=================== Xeon Max 9480 2P ....... 7.2075 |===================================== Google Draco 1.5.6 Model: Church Facade ms < Lower Is Better Xeon Platinum 8490H .... 5670 |======================================== Xeon Platinum 8490H 2P . 5672 |======================================== Xeon Platinum 8592+ .... 4565 |================================ Xeon Platinum 8592+ 2P . 4693 |================================= Xeon Max 9468 .......... 6707 |=============================================== Xeon Max 9468 2P ....... 6821 |================================================ Xeon Max 9480 .......... 6693 |=============================================== Xeon Max 9480 2P ....... 6777 |================================================ Google Draco 1.5.6 Model: Lion ms < Lower Is Better Xeon Platinum 8490H .... 4731 |=========================================== Xeon Platinum 8490H 2P . 4733 |=========================================== Xeon Platinum 8592+ .... 3861 |=================================== Xeon Platinum 8592+ 2P . 3894 |=================================== Xeon Max 9468 .......... 5217 |=============================================== Xeon Max 9468 2P ....... 5342 |================================================ Xeon Max 9480 .......... 5188 |=============================================== Xeon Max 9480 2P ....... 5322 |================================================ GraphicsMagick 1.3.43 Operation: HWB Color Space Iterations Per Minute > Higher Is Better Xeon Platinum 8490H .... 265 |============================================= Xeon Platinum 8490H 2P . 236 |======================================== Xeon Platinum 8592+ .... 285 |================================================= Xeon Platinum 8592+ 2P . 256 |============================================ Xeon Max 9468 .......... 286 |================================================= Xeon Max 9468 2P ....... 193 |================================= Xeon Max 9480 .......... 277 |=============================================== Xeon Max 9480 2P ....... 207 |=================================== GraphicsMagick 1.3.43 Operation: Noise-Gaussian Iterations Per Minute > Higher Is Better Xeon Platinum 8490H .... 158 |======================================== Xeon Platinum 8490H 2P . 182 |============================================== Xeon Platinum 8592+ .... 171 |=========================================== Xeon Platinum 8592+ 2P . 194 |================================================= Xeon Max 9468 .......... 150 |====================================== Xeon Max 9468 2P ....... 150 |====================================== Xeon Max 9480 .......... 158 |======================================== Xeon Max 9480 2P ....... 164 |========================================= GraphicsMagick 1.3.43 Operation: Enhanced Iterations Per Minute > Higher Is Better Xeon Platinum 8490H .... 216 |============================ Xeon Platinum 8490H 2P . 342 |============================================= Xeon Platinum 8592+ .... 228 |============================== Xeon Platinum 8592+ 2P . 374 |================================================= Xeon Max 9468 .......... 160 |===================== Xeon Max 9468 2P ....... 269 |=================================== Xeon Max 9480 .......... 181 |======================== Xeon Max 9480 2P ....... 301 |======================================= GraphicsMagick 1.3.43 Operation: Resizing Iterations Per Minute > Higher Is Better Xeon Platinum 8490H .... 229 |============================================== Xeon Platinum 8490H 2P . 95 |=================== Xeon Platinum 8592+ .... 230 |============================================== Xeon Platinum 8592+ 2P . 96 |=================== Xeon Max 9468 .......... 245 |================================================= Xeon Max 9468 2P ....... 108 |====================== Xeon Max 9480 .......... 213 |=========================================== Xeon Max 9480 2P ....... 97 |=================== GraphicsMagick 1.3.43 Operation: Rotate Iterations Per Minute > Higher Is Better Xeon Platinum 8490H .... 196 |=============================================== Xeon Platinum 8490H 2P . 172 |========================================== Xeon Platinum 8592+ .... 203 |================================================= Xeon Platinum 8592+ 2P . 182 |============================================ Xeon Max 9468 .......... 197 |================================================ Xeon Max 9468 2P ....... 148 |==================================== Xeon Max 9480 .......... 194 |=============================================== Xeon Max 9480 2P ....... 143 |=================================== GraphicsMagick 1.3.43 Operation: Sharpen Iterations Per Minute > Higher Is Better Xeon Platinum 8490H .... 157 |=========================== Xeon Platinum 8490H 2P . 265 |============================================== Xeon Platinum 8592+ .... 167 |============================= Xeon Platinum 8592+ 2P . 284 |================================================= Xeon Max 9468 .......... 114 |==================== Xeon Max 9468 2P ....... 199 |================================== Xeon Max 9480 .......... 130 |====================== Xeon Max 9480 2P ....... 227 |======================================= GraphicsMagick 1.3.43 Operation: Swirl Iterations Per Minute > Higher Is Better Xeon Platinum 8490H .... 502 |==================================== Xeon Platinum 8490H 2P . 617 |============================================ Xeon Platinum 8592+ .... 529 |====================================== Xeon Platinum 8592+ 2P . 689 |================================================= Xeon Max 9468 .......... 394 |============================ Xeon Max 9468 2P ....... 509 |==================================== Xeon Max 9480 .......... 432 |=============================== Xeon Max 9480 2P ....... 558 |======================================== JPEG-XL libjxl 0.10.1 Input: JPEG - Quality: 90 MP/s > Higher Is Better Xeon Platinum 8490H .... 43.20 |========================================== Xeon Platinum 8490H 2P . 42.04 |========================================= Xeon Platinum 8592+ .... 48.36 |=============================================== Xeon Platinum 8592+ 2P . 42.97 |========================================== Xeon Max 9468 .......... 39.10 |====================================== Xeon Max 9468 2P ....... 39.59 |====================================== Xeon Max 9480 .......... 43.63 |========================================== Xeon Max 9480 2P ....... 34.63 |================================== JPEG-XL libjxl 0.10.1 Input: JPEG - Quality: 100 MP/s > Higher Is Better Xeon Platinum 8490H .... 28.75 |========================================== Xeon Platinum 8490H 2P . 28.16 |========================================= Xeon Platinum 8592+ .... 32.24 |=============================================== Xeon Platinum 8592+ 2P . 31.61 |============================================== Xeon Max 9468 .......... 26.86 |======================================= Xeon Max 9468 2P ....... 27.33 |======================================== Xeon Max 9480 .......... 27.75 |======================================== Xeon Max 9480 2P ....... 27.26 |======================================== JPEG-XL libjxl 0.10.1 Input: PNG - Quality: 90 MP/s > Higher Is Better Xeon Platinum 8490H .... 42.91 |============================================ Xeon Platinum 8490H 2P . 40.08 |========================================= Xeon Platinum 8592+ .... 46.32 |=============================================== Xeon Platinum 8592+ 2P . 39.52 |======================================== Xeon Max 9468 .......... 43.36 |============================================ Xeon Max 9468 2P ....... 34.83 |=================================== Xeon Max 9480 .......... 40.35 |========================================= Xeon Max 9480 2P ....... 33.27 |================================== JPEG-XL libjxl 0.10.1 Input: PNG - Quality: 100 MP/s > Higher Is Better Xeon Platinum 8490H .... 28.10 |========================================== Xeon Platinum 8490H 2P . 27.66 |========================================= Xeon Platinum 8592+ .... 31.35 |=============================================== Xeon Platinum 8592+ 2P . 30.97 |============================================== Xeon Max 9468 .......... 26.25 |======================================= Xeon Max 9468 2P ....... 26.84 |======================================== Xeon Max 9480 .......... 27.09 |========================================= Xeon Max 9480 2P ....... 26.99 |======================================== Liquid-DSP 1.6 Threads: 1 - Buffer Length: 256 - Filter Length: 32 samples/s > Higher Is Better Xeon Platinum 8490H .... 36506000 |======================================== Xeon Platinum 8490H 2P . 36461000 |======================================== Xeon Platinum 8592+ .... 40244000 |============================================ Xeon Platinum 8592+ 2P . 38950600 |=========================================== Xeon Max 9468 .......... 36537667 |======================================== Xeon Max 9468 2P ....... 36497667 |======================================== Xeon Max 9480 .......... 36539000 |======================================== Xeon Max 9480 2P ....... 36521333 |======================================== Liquid-DSP 1.6 Threads: 1 - Buffer Length: 256 - Filter Length: 57 samples/s > Higher Is Better Xeon Platinum 8490H .... 67074667 |======================================== Xeon Platinum 8490H 2P . 66991333 |======================================== Xeon Platinum 8592+ .... 73140667 |============================================ Xeon Platinum 8592+ 2P . 70499000 |========================================== Xeon Max 9468 .......... 67130333 |======================================== Xeon Max 9468 2P ....... 67064000 |======================================== Xeon Max 9480 .......... 67127667 |======================================== Xeon Max 9480 2P ....... 66266000 |======================================== Liquid-DSP 1.6 Threads: 1 - Buffer Length: 256 - Filter Length: 512 samples/s > Higher Is Better Xeon Platinum 8490H .... 16882333 |======================================== Xeon Platinum 8490H 2P . 16843333 |======================================= Xeon Platinum 8592+ .... 18774333 |============================================ Xeon Platinum 8592+ 2P . 18200533 |=========================================== Xeon Max 9468 .......... 16906333 |======================================== Xeon Max 9468 2P ....... 16904667 |======================================== Xeon Max 9480 .......... 16885333 |======================================== Xeon Max 9480 2P ....... 16884000 |======================================== Liquid-DSP 1.6 Threads: 64 - Buffer Length: 256 - Filter Length: 32 samples/s > Higher Is Better Xeon Platinum 8490H .... 1890566667 |===================================== Xeon Platinum 8490H 2P . 2025000000 |======================================= Xeon Platinum 8592+ .... 1927766667 |====================================== Xeon Platinum 8592+ 2P . 2154633333 |========================================== Xeon Max 9468 .......... 1640266667 |================================ Xeon Max 9468 2P ....... 1963233333 |====================================== Xeon Max 9480 .......... 1679700000 |================================= Xeon Max 9480 2P ....... 2090466667 |========================================= Liquid-DSP 1.6 Threads: 64 - Buffer Length: 256 - Filter Length: 57 samples/s > Higher Is Better Xeon Platinum 8490H .... 2539200000 |======================================== Xeon Platinum 8490H 2P . 2655500000 |========================================== Xeon Platinum 8592+ .... 2475500000 |======================================= Xeon Platinum 8592+ 2P . 2620066667 |========================================= Xeon Max 9468 .......... 2138766667 |================================== Xeon Max 9468 2P ....... 2494050000 |======================================= Xeon Max 9480 .......... 2308966667 |===================================== Xeon Max 9480 2P ....... 2491340000 |======================================= Liquid-DSP 1.6 Threads: 64 - Buffer Length: 256 - Filter Length: 512 samples/s > Higher Is Better Xeon Platinum 8490H .... 744410000 |==================================== Xeon Platinum 8490H 2P . 799496667 |======================================= Xeon Platinum 8592+ .... 783770000 |====================================== Xeon Platinum 8592+ 2P . 883701250 |=========================================== Xeon Max 9468 .......... 632396667 |=============================== Xeon Max 9468 2P ....... 732560000 |==================================== Xeon Max 9480 .......... 689003333 |================================== Xeon Max 9480 2P ....... 757176667 |===================================== Liquid-DSP 1.6 Threads: 128 - Buffer Length: 256 - Filter Length: 32 samples/s > Higher Is Better Xeon Platinum 8490H .... 3200600000 |====================================== Xeon Platinum 8490H 2P . 3558600000 |========================================== Xeon Platinum 8592+ .... 3148233333 |===================================== Xeon Platinum 8592+ 2P . 3520766667 |========================================== Xeon Max 9468 .......... 2351900000 |============================ Xeon Max 9468 2P ....... 3254033333 |====================================== Xeon Max 9480 .......... 2739633333 |================================ Xeon Max 9480 2P ....... 3337066667 |======================================= Liquid-DSP 1.6 Threads: 128 - Buffer Length: 256 - Filter Length: 57 samples/s > Higher Is Better Xeon Platinum 8490H .... 3181266667 |============================== Xeon Platinum 8490H 2P . 3723666667 |=================================== Xeon Platinum 8592+ .... 3503200000 |================================= Xeon Platinum 8592+ 2P . 4450525000 |========================================== Xeon Max 9468 .......... 2670033333 |========================= Xeon Max 9468 2P ....... 3596400000 |================================== Xeon Max 9480 .......... 2972400000 |============================ Xeon Max 9480 2P ....... 3896500000 |===================================== Liquid-DSP 1.6 Threads: 128 - Buffer Length: 256 - Filter Length: 512 samples/s > Higher Is Better Xeon Platinum 8490H .... 918566667 |========================== Xeon Platinum 8490H 2P . 1126466667 |================================ Xeon Platinum 8592+ .... 1152933333 |================================ Xeon Platinum 8592+ 2P . 1493833333 |========================================== Xeon Max 9468 .......... 800186667 |====================== Xeon Max 9468 2P ....... 1091460000 |=============================== Xeon Max 9480 .......... 882200000 |========================= Xeon Max 9480 2P ....... 1206066667 |================================== Liquid-DSP 1.6 Threads: 256 - Buffer Length: 256 - Filter Length: 32 samples/s > Higher Is Better Xeon Platinum 8490H .... 3243800000 |====================== Xeon Platinum 8490H 2P . 6116566667 |========================================== Xeon Platinum 8592+ .... 3167200000 |====================== Xeon Platinum 8592+ 2P . 6077300000 |========================================== Xeon Max 9468 .......... 2381800000 |================ Xeon Max 9468 2P ....... 4670966667 |================================ Xeon Max 9480 .......... 2769066667 |=================== Xeon Max 9480 2P ....... 5367033333 |===================================== Liquid-DSP 1.6 Threads: 256 - Buffer Length: 256 - Filter Length: 57 samples/s > Higher Is Better Xeon Platinum 8490H .... 3500833333 |======================= Xeon Platinum 8490H 2P . 5361266667 |==================================== Xeon Platinum 8592+ .... 3806833333 |========================= Xeon Platinum 8592+ 2P . 6284300000 |========================================== Xeon Max 9468 .......... 2848933333 |=================== Xeon Max 9468 2P ....... 4825133333 |================================ Xeon Max 9480 .......... 3222533333 |====================== Xeon Max 9480 2P ....... 5036000000 |================================== Liquid-DSP 1.6 Threads: 256 - Buffer Length: 256 - Filter Length: 512 samples/s > Higher Is Better Xeon Platinum 8490H .... 1020833333 |===================== Xeon Platinum 8490H 2P . 1616966667 |================================== Xeon Platinum 8592+ .... 1178766667 |======================== Xeon Platinum 8592+ 2P . 2027000000 |========================================== Xeon Max 9468 .......... 838530000 |================= Xeon Max 9468 2P ....... 1444066667 |============================== Xeon Max 9480 .......... 944550000 |==================== Xeon Max 9480 2P ....... 1518933333 |=============================== srsRAN Project 23.10.1-20240325 Test: PUSCH Processor Benchmark, Throughput Total Mbps > Higher Is Better Xeon Platinum 8490H .... 2616.9 |====================== Xeon Platinum 8490H 2P . 4853.6 |========================================= Xeon Platinum 8592+ .... 3088.7 |========================== Xeon Platinum 8592+ 2P . 5493.4 |============================================== Xeon Max 9468 .......... 2170.7 |================== Xeon Max 9468 2P ....... 3787.0 |================================ Xeon Max 9480 .......... 2514.0 |===================== Xeon Max 9480 2P ....... 4386.6 |===================================== srsRAN Project 23.10.1-20240325 Test: PUSCH Processor Benchmark, Throughput Thread Mbps > Higher Is Better Xeon Platinum 8490H .... 129.7 |=============================================== Xeon Platinum 8490H 2P . 129.7 |=============================================== Xeon Platinum 8592+ .... 129.5 |=============================================== Xeon Platinum 8592+ 2P . 129.5 |=============================================== Xeon Max 9468 .......... 129.7 |=============================================== Xeon Max 9468 2P ....... 129.7 |=============================================== Xeon Max 9480 .......... 129.7 |=============================================== Xeon Max 9480 2P ....... 129.7 |=============================================== srsRAN Project 23.10.1-20240325 Test: PDSCH Processor Benchmark, Throughput Total Mbps > Higher Is Better Xeon Platinum 8490H .... 24688.5 |==================================== Xeon Platinum 8490H 2P . 30108.7 |============================================ Xeon Platinum 8592+ .... 26378.1 |======================================= Xeon Platinum 8592+ 2P . 30547.6 |============================================= Xeon Max 9468 .......... 21286.6 |=============================== Xeon Max 9468 2P ....... 30236.0 |============================================= Xeon Max 9480 .......... 15081.0 |====================== Xeon Max 9480 2P ....... 11866.7 |================= srsRAN Project 23.10.1-20240325 Test: PDSCH Processor Benchmark, Throughput Thread Mbps > Higher Is Better Xeon Platinum 8490H .... 680.2 |========================================== Xeon Platinum 8490H 2P . 675.5 |========================================== Xeon Platinum 8592+ .... 742.9 |============================================== Xeon Platinum 8592+ 2P . 755.5 |=============================================== Xeon Max 9468 .......... 702.6 |============================================ Xeon Max 9468 2P ....... 651.9 |========================================= Xeon Max 9480 .......... 705.5 |============================================ Xeon Max 9480 2P ....... 663.8 |========================================= TensorFlow 2.16.1 Device: CPU - Batch Size: 1 - Model: ResNet-50 images/sec > Higher Is Better Xeon Platinum 8490H .... 10.53 |============================================ Xeon Platinum 8490H 2P . 4.39 |================== Xeon Platinum 8592+ .... 6.43 |=========================== Xeon Platinum 8592+ 2P . 3.85 |================ Xeon Max 9468 .......... 11.29 |=============================================== Xeon Max 9468 2P ....... 5.11 |===================== Xeon Max 9480 .......... 9.99 |========================================== Xeon Max 9480 2P ....... 4.37 |================== TensorFlow 2.16.1 Device: CPU - Batch Size: 1 - Model: AlexNet images/sec > Higher Is Better Xeon Platinum 8490H .... 56.53 |=============================================== Xeon Platinum 8490H 2P . 37.57 |=============================== Xeon Platinum 8592+ .... 35.50 |============================== Xeon Platinum 8592+ 2P . 30.76 |========================== Xeon Max 9468 .......... 48.28 |======================================== Xeon Max 9468 2P ....... 37.76 |=============================== Xeon Max 9480 .......... 43.67 |==================================== Xeon Max 9480 2P ....... 33.21 |============================ TensorFlow 2.16.1 Device: CPU - Batch Size: 1 - Model: GoogLeNet images/sec > Higher Is Better Xeon Platinum 8490H .... 33.56 |============================================ Xeon Platinum 8490H 2P . 13.50 |================== Xeon Platinum 8592+ .... 21.67 |============================ Xeon Platinum 8592+ 2P . 12.69 |================= Xeon Max 9468 .......... 36.13 |=============================================== Xeon Max 9468 2P ....... 18.24 |======================== Xeon Max 9480 .......... 31.47 |========================================= Xeon Max 9480 2P ....... 14.67 |=================== TensorFlow 2.16.1 Device: CPU - Batch Size: 64 - Model: ResNet-50 images/sec > Higher Is Better Xeon Platinum 8490H .... 120.93 |============================================== Xeon Platinum 8490H 2P . 115.47 |============================================ Xeon Platinum 8592+ .... 91.51 |=================================== Xeon Platinum 8592+ 2P . 94.66 |==================================== Xeon Max 9468 .......... 104.23 |======================================== Xeon Max 9468 2P ....... 111.71 |========================================== Xeon Max 9480 .......... 103.56 |======================================= Xeon Max 9480 2P ....... 107.30 |========================================= TensorFlow 2.16.1 Device: CPU - Batch Size: 64 - Model: AlexNet images/sec > Higher Is Better Xeon Platinum 8490H .... 969.62 |============================================= Xeon Platinum 8490H 2P . 996.47 |============================================== Xeon Platinum 8592+ .... 819.89 |====================================== Xeon Platinum 8592+ 2P . 858.84 |======================================== Xeon Max 9468 .......... 841.68 |======================================= Xeon Max 9468 2P ....... 932.59 |=========================================== Xeon Max 9480 .......... 852.36 |======================================= Xeon Max 9480 2P ....... 940.40 |=========================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 64 - Model: GoogLeNet images/sec > Higher Is Better Xeon Platinum 8490H .... 380.14 |============================================== Xeon Platinum 8490H 2P . 331.76 |======================================== Xeon Platinum 8592+ .... 319.76 |======================================= Xeon Platinum 8592+ 2P . 291.37 |=================================== Xeon Max 9468 .......... 333.73 |======================================== Xeon Max 9468 2P ....... 341.51 |========================================= Xeon Max 9480 .......... 335.58 |========================================= Xeon Max 9480 2P ....... 308.95 |===================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 256 - Model: ResNet-50 images/sec > Higher Is Better Xeon Platinum 8490H .... 143.67 |========================================= Xeon Platinum 8490H 2P . 161.06 |============================================== Xeon Platinum 8592+ .... 129.02 |===================================== Xeon Platinum 8592+ 2P . 150.33 |=========================================== Xeon Max 9468 .......... 119.73 |================================== Xeon Max 9468 2P ....... 141.95 |========================================= Xeon Max 9480 .......... 123.69 |=================================== Xeon Max 9480 2P ....... 135.28 |======================================= TensorFlow 2.16.1 Device: CPU - Batch Size: 256 - Model: AlexNet images/sec > Higher Is Better Xeon Platinum 8490H .... 1205.30 |=============================== Xeon Platinum 8490H 2P . 1730.25 |============================================= Xeon Platinum 8592+ .... 1277.46 |================================= Xeon Platinum 8592+ 2P . 1681.44 |============================================ Xeon Max 9468 .......... 986.04 |========================== Xeon Max 9468 2P ....... 1479.53 |====================================== Xeon Max 9480 .......... 1058.99 |============================ Xeon Max 9480 2P ....... 1528.41 |======================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 256 - Model: GoogLeNet images/sec > Higher Is Better Xeon Platinum 8490H .... 448.46 |======================================= Xeon Platinum 8490H 2P . 528.93 |============================================== Xeon Platinum 8592+ .... 423.59 |===================================== Xeon Platinum 8592+ 2P . 501.39 |============================================ Xeon Max 9468 .......... 375.73 |================================= Xeon Max 9468 2P ....... 447.50 |======================================= Xeon Max 9480 .......... 386.00 |================================== Xeon Max 9480 2P ....... 449.91 |======================================= TensorFlow 2.16.1 Device: CPU - Batch Size: 512 - Model: ResNet-50 images/sec > Higher Is Better Xeon Platinum 8490H .... 148.45 |======================================= Xeon Platinum 8490H 2P . 174.95 |============================================== Xeon Platinum 8592+ .... 140.53 |===================================== Xeon Platinum 8592+ 2P . 169.75 |============================================= Xeon Max 9468 .......... 117.53 |=============================== Xeon Max 9468 2P ....... 145.29 |====================================== Xeon Max 9480 .......... 125.14 |================================= Xeon Max 9480 2P ....... 138.39 |==================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 512 - Model: AlexNet images/sec > Higher Is Better Xeon Platinum 8490H .... 1278.45 |============================ Xeon Platinum 8490H 2P . 1899.64 |========================================== Xeon Platinum 8592+ .... 1486.12 |================================= Xeon Platinum 8592+ 2P . 2039.63 |============================================= Xeon Max 9468 .......... 1047.96 |======================= Xeon Max 9468 2P ....... 1604.11 |=================================== Xeon Max 9480 .......... 1108.95 |======================== Xeon Max 9480 2P ....... 1677.62 |===================================== TensorFlow 2.16.1 Device: CPU - Batch Size: 512 - Model: GoogLeNet images/sec > Higher Is Better Xeon Platinum 8490H .... 461.23 |===================================== Xeon Platinum 8490H 2P . 576.08 |============================================== Xeon Platinum 8592+ .... 462.78 |===================================== Xeon Platinum 8592+ 2P . 577.76 |============================================== Xeon Max 9468 .......... 383.57 |=============================== Xeon Max 9468 2P ....... 467.91 |===================================== Xeon Max 9480 .......... 398.40 |================================ Xeon Max 9480 2P ....... 477.33 |====================================== PyTorch 2.2.1 Device: CPU - Batch Size: 1 - Model: ResNet-50 batches/sec > Higher Is Better Xeon Platinum 8490H .... 51.46 |=============================== Xeon Platinum 8490H 2P . 35.53 |====================== Xeon Platinum 8592+ .... 77.52 |=============================================== Xeon Platinum 8592+ 2P . 45.69 |============================ Xeon Max 9468 .......... 50.99 |=============================== Xeon Max 9468 2P ....... 46.49 |============================ Xeon Max 9480 .......... 48.59 |============================= Xeon Max 9480 2P ....... 35.46 |===================== PyTorch 2.2.1 Device: CPU - Batch Size: 1 - Model: ResNet-152 batches/sec > Higher Is Better Xeon Platinum 8490H .... 19.41 |================================== Xeon Platinum 8490H 2P . 15.77 |=========================== Xeon Platinum 8592+ .... 27.21 |=============================================== Xeon Platinum 8592+ 2P . 17.57 |============================== Xeon Max 9468 .......... 19.99 |=================================== Xeon Max 9468 2P ....... 17.91 |=============================== Xeon Max 9480 .......... 18.07 |=============================== Xeon Max 9480 2P ....... 14.86 |========================== PyTorch 2.2.1 Device: CPU - Batch Size: 64 - Model: ResNet-50 batches/sec > Higher Is Better Xeon Platinum 8490H .... 56.01 |========================================== Xeon Platinum 8490H 2P . 37.08 |============================ Xeon Platinum 8592+ .... 63.06 |=============================================== Xeon Platinum 8592+ 2P . 40.77 |============================== Xeon Max 9468 .......... 51.55 |====================================== Xeon Max 9468 2P ....... 42.35 |================================ Xeon Max 9480 .......... 51.35 |====================================== Xeon Max 9480 2P ....... 38.30 |============================= PyTorch 2.2.1 Device: CPU - Batch Size: 64 - Model: ResNet-152 batches/sec > Higher Is Better Xeon Platinum 8490H .... 20.13 |======================================== Xeon Platinum 8490H 2P . 14.03 |============================ Xeon Platinum 8592+ .... 23.49 |=============================================== Xeon Platinum 8592+ 2P . 16.25 |================================= Xeon Max 9468 .......... 19.01 |====================================== Xeon Max 9468 2P ....... 15.84 |================================ Xeon Max 9480 .......... 19.24 |====================================== Xeon Max 9480 2P ....... 14.96 |============================== PyTorch 2.2.1 Device: CPU - Batch Size: 256 - Model: ResNet-50 batches/sec > Higher Is Better Xeon Platinum 8490H .... 54.84 |========================================= Xeon Platinum 8490H 2P . 37.44 |============================ Xeon Platinum 8592+ .... 63.60 |=============================================== Xeon Platinum 8592+ 2P . 41.45 |=============================== Xeon Max 9468 .......... 52.97 |======================================= Xeon Max 9468 2P ....... 41.68 |=============================== Xeon Max 9480 .......... 51.56 |====================================== Xeon Max 9480 2P ....... 37.91 |============================ PyTorch 2.2.1 Device: CPU - Batch Size: 256 - Model: ResNet-152 batches/sec > Higher Is Better Xeon Platinum 8490H .... 20.25 |========================================= Xeon Platinum 8490H 2P . 14.08 |============================ Xeon Platinum 8592+ .... 23.33 |=============================================== Xeon Platinum 8592+ 2P . 16.00 |================================ Xeon Max 9468 .......... 19.20 |======================================= Xeon Max 9468 2P ....... 16.30 |================================= Xeon Max 9480 .......... 19.58 |======================================= Xeon Max 9480 2P ....... 14.92 |============================== PyTorch 2.2.1 Device: CPU - Batch Size: 512 - Model: ResNet-50 batches/sec > Higher Is Better Xeon Platinum 8490H .... 56.44 |========================================== Xeon Platinum 8490H 2P . 37.55 |============================ Xeon Platinum 8592+ .... 63.30 |=============================================== Xeon Platinum 8592+ 2P . 40.83 |============================== Xeon Max 9468 .......... 51.05 |====================================== Xeon Max 9468 2P ....... 41.65 |=============================== Xeon Max 9480 .......... 51.86 |======================================= Xeon Max 9480 2P ....... 37.84 |============================ PyTorch 2.2.1 Device: CPU - Batch Size: 512 - Model: ResNet-152 batches/sec > Higher Is Better Xeon Platinum 8490H .... 20.46 |========================================= Xeon Platinum 8490H 2P . 14.59 |============================= Xeon Platinum 8592+ .... 23.41 |=============================================== Xeon Platinum 8592+ 2P . 16.17 |================================ Xeon Max 9468 .......... 19.47 |======================================= Xeon Max 9468 2P ....... 16.68 |================================= Xeon Max 9480 .......... 19.29 |======================================= Xeon Max 9480 2P ....... 14.74 |============================== OpenVINO 2024.0 Model: Face Detection FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 167.83 |============== Xeon Platinum 8490H 2P . 423.18 |==================================== Xeon Platinum 8592+ .... 284.64 |======================== Xeon Platinum 8592+ 2P . 545.21 |============================================== Xeon Max 9468 .......... 202.59 |================= Xeon Max 9468 2P ....... 373.50 |================================ Xeon Max 9480 .......... 217.11 |================== Xeon Max 9480 2P ....... 401.45 |================================== OpenVINO 2024.0 Model: Face Detection FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 356.38 |============================================== Xeon Platinum 8490H 2P . 283.11 |===================================== Xeon Platinum 8592+ .... 224.64 |============================= Xeon Platinum 8592+ 2P . 234.24 |============================== Xeon Max 9468 .......... 236.52 |=============================== Xeon Max 9468 2P ....... 256.63 |================================= Xeon Max 9480 .......... 257.50 |================================= Xeon Max 9480 2P ....... 278.52 |==================================== OpenVINO 2024.0 Model: Age Gender Recognition Retail 0013 FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 115106.30 |========================== Xeon Platinum 8490H 2P . 189893.31 |=========================================== Xeon Platinum 8592+ .... 81279.79 |================== Xeon Platinum 8592+ 2P . 128566.81 |============================= Xeon Max 9468 .......... 135075.07 |=============================== Xeon Max 9468 2P ....... 174862.56 |======================================== Xeon Max 9480 .......... 140144.01 |================================ Xeon Max 9480 2P ....... 176900.32 |======================================== OpenVINO 2024.0 Model: Age Gender Recognition Retail 0013 FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 0.43 |========================================== Xeon Platinum 8490H 2P . 0.29 |============================ Xeon Platinum 8592+ .... 0.49 |================================================ Xeon Platinum 8592+ 2P . 0.46 |============================================= Xeon Max 9468 .......... 0.33 |================================ Xeon Max 9468 2P ....... 0.28 |=========================== Xeon Max 9480 .......... 0.37 |==================================== Xeon Max 9480 2P ....... 0.30 |============================= OpenVINO 2024.0 Model: Person Detection FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 298.56 |=================== Xeon Platinum 8490H 2P . 654.84 |========================================= Xeon Platinum 8592+ .... 403.20 |========================= Xeon Platinum 8592+ 2P . 736.23 |============================================== Xeon Max 9468 .......... 285.95 |================== Xeon Max 9468 2P ....... 568.81 |==================================== Xeon Max 9480 .......... 301.30 |=================== Xeon Max 9480 2P ....... 569.60 |==================================== OpenVINO 2024.0 Model: Person Detection FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 100.39 |============================================== Xeon Platinum 8490H 2P . 45.78 |===================== Xeon Platinum 8592+ .... 39.62 |================== Xeon Platinum 8592+ 2P . 43.41 |==================== Xeon Max 9468 .......... 41.93 |=================== Xeon Max 9468 2P ....... 42.16 |=================== Xeon Max 9480 .......... 59.69 |=========================== Xeon Max 9480 2P ....... 64.91 |============================== OpenVINO 2024.0 Model: Weld Porosity Detection FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 15943.17 |=============== Xeon Platinum 8490H 2P . 47654.95 |============================================ Xeon Platinum 8592+ .... 26943.42 |========================= Xeon Platinum 8592+ 2P . 48122.16 |============================================ Xeon Max 9468 .......... 19183.83 |================== Xeon Max 9468 2P ....... 37710.60 |================================== Xeon Max 9480 .......... 20910.53 |=================== Xeon Max 9480 2P ....... 40032.81 |===================================== OpenVINO 2024.0 Model: Weld Porosity Detection FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 3.58 |================================================ Xeon Platinum 8490H 2P . 2.50 |================================== Xeon Platinum 8592+ .... 2.36 |================================ Xeon Platinum 8592+ 2P . 2.48 |================================= Xeon Max 9468 .......... 2.50 |================================== Xeon Max 9468 2P ....... 2.53 |================================== Xeon Max 9480 .......... 2.67 |==================================== Xeon Max 9480 2P ....... 2.79 |===================================== OpenVINO 2024.0 Model: Vehicle Detection FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 3325.90 |================= Xeon Platinum 8490H 2P . 5483.81 |============================ Xeon Platinum 8592+ .... 4656.92 |======================== Xeon Platinum 8592+ 2P . 8719.37 |============================================= Xeon Max 9468 .......... 2935.47 |=============== Xeon Max 9468 2P ....... 5576.86 |============================= Xeon Max 9480 .......... 2877.32 |=============== Xeon Max 9480 2P ....... 5525.56 |============================= OpenVINO 2024.0 Model: Vehicle Detection FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 17.84 |======================================= Xeon Platinum 8490H 2P . 21.73 |=============================================== Xeon Platinum 8592+ .... 13.73 |============================== Xeon Platinum 8592+ 2P . 14.67 |================================ Xeon Max 9468 .......... 16.33 |=================================== Xeon Max 9468 2P ....... 17.19 |===================================== Xeon Max 9480 .......... 19.44 |========================================== Xeon Max 9480 2P ....... 20.24 |============================================ OpenVINO 2024.0 Model: Person Vehicle Bike Detection FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 3606.12 |=============== Xeon Platinum 8490H 2P . 7862.58 |================================ Xeon Platinum 8592+ .... 5725.03 |======================= Xeon Platinum 8592+ 2P . 10934.17 |============================================ Xeon Max 9468 .......... 3802.61 |=============== Xeon Max 9468 2P ....... 7127.28 |============================= Xeon Max 9480 .......... 4093.73 |================ Xeon Max 9480 2P ....... 7689.32 |=============================== OpenVINO 2024.0 Model: Person Vehicle Bike Detection FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 16.50 |=============================================== Xeon Platinum 8490H 2P . 15.04 |=========================================== Xeon Platinum 8592+ .... 11.17 |================================ Xeon Platinum 8592+ 2P . 11.69 |================================= Xeon Max 9468 .......... 12.54 |==================================== Xeon Max 9468 2P ....... 13.34 |====================================== Xeon Max 9480 .......... 13.59 |======================================= Xeon Max 9480 2P ....... 14.42 |========================================= OpenVINO 2024.0 Model: Machine Translation EN To DE FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 477.77 |=================== Xeon Platinum 8490H 2P . 793.64 |================================ Xeon Platinum 8592+ .... 592.20 |======================== Xeon Platinum 8592+ 2P . 1128.78 |============================================= Xeon Max 9468 .......... 415.96 |================= Xeon Max 9468 2P ....... 795.63 |================================ Xeon Max 9480 .......... 467.08 |=================== Xeon Max 9480 2P ....... 889.18 |=================================== OpenVINO 2024.0 Model: Machine Translation EN To DE FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 62.46 |=============================================== Xeon Platinum 8490H 2P . 37.58 |============================ Xeon Platinum 8592+ .... 26.85 |==================== Xeon Platinum 8592+ 2P . 28.17 |===================== Xeon Max 9468 .......... 28.73 |====================== Xeon Max 9468 2P ....... 29.98 |======================= Xeon Max 9480 .......... 38.50 |============================= Xeon Max 9480 2P ....... 41.57 |=============================== OpenVINO 2024.0 Model: Face Detection Retail FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 9004.23 |================ Xeon Platinum 8490H 2P . 20937.58 |===================================== Xeon Platinum 8592+ .... 12317.94 |====================== Xeon Platinum 8592+ 2P . 24676.86 |============================================ Xeon Max 9468 .......... 9087.12 |================ Xeon Max 9468 2P ....... 17252.27 |=============================== Xeon Max 9480 .......... 9686.39 |================= Xeon Max 9480 2P ....... 18561.91 |================================= OpenVINO 2024.0 Model: Face Detection Retail FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 6.43 |================================================ Xeon Platinum 8490H 2P . 5.72 |=========================================== Xeon Platinum 8592+ .... 5.19 |======================================= Xeon Platinum 8592+ 2P . 5.18 |======================================= Xeon Max 9468 .......... 5.27 |======================================= Xeon Max 9468 2P ....... 5.55 |========================================= Xeon Max 9480 .......... 5.77 |=========================================== Xeon Max 9480 2P ....... 6.02 |============================================= OpenVINO 2024.0 Model: Handwritten English Recognition FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 1643.43 |============= Xeon Platinum 8490H 2P . 4744.05 |====================================== Xeon Platinum 8592+ .... 2924.66 |======================== Xeon Platinum 8592+ 2P . 5570.63 |============================================= Xeon Max 9468 .......... 2074.30 |================= Xeon Max 9468 2P ....... 3998.02 |================================ Xeon Max 9480 .......... 2243.84 |================== Xeon Max 9480 2P ....... 4351.59 |=================================== OpenVINO 2024.0 Model: Handwritten English Recognition FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 36.20 |=============================================== Xeon Platinum 8490H 2P . 25.12 |================================= Xeon Platinum 8592+ .... 21.87 |============================ Xeon Platinum 8592+ 2P . 22.96 |============================== Xeon Max 9468 .......... 23.12 |============================== Xeon Max 9468 2P ....... 24.00 |=============================== Xeon Max 9480 .......... 24.94 |================================ Xeon Max 9480 2P ....... 25.72 |================================= OpenVINO 2024.0 Model: Road Segmentation ADAS FP16-INT8 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 1068.43 |===================== Xeon Platinum 8490H 2P . 1843.61 |===================================== Xeon Platinum 8592+ .... 1159.66 |======================= Xeon Platinum 8592+ 2P . 2237.69 |============================================= Xeon Max 9468 .......... 860.64 |================= Xeon Max 9468 2P ....... 1691.79 |================================== Xeon Max 9480 .......... 894.87 |================== Xeon Max 9480 2P ....... 1801.89 |==================================== OpenVINO 2024.0 Model: Road Segmentation ADAS FP16-INT8 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 55.99 |======================================== Xeon Platinum 8490H 2P . 65.02 |=============================================== Xeon Platinum 8592+ .... 55.07 |======================================== Xeon Platinum 8592+ 2P . 57.13 |========================================= Xeon Max 9468 .......... 55.74 |======================================== Xeon Max 9468 2P ....... 56.71 |========================================= Xeon Max 9480 .......... 62.53 |============================================= Xeon Max 9480 2P ....... 62.11 |============================================= OpenVINO 2024.0 Model: Person Re-Identification Retail FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 5943.66 |============== Xeon Platinum 8490H 2P . 15519.92 |===================================== Xeon Platinum 8592+ .... 9515.86 |======================= Xeon Platinum 8592+ 2P . 18375.63 |============================================ Xeon Max 9468 .......... 6717.65 |================ Xeon Max 9468 2P ....... 13102.28 |=============================== Xeon Max 9480 .......... 7207.74 |================= Xeon Max 9480 2P ....... 14033.94 |================================== OpenVINO 2024.0 Model: Person Re-Identification Retail FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 9.79 |================================================ Xeon Platinum 8490H 2P . 7.72 |====================================== Xeon Platinum 8592+ .... 6.72 |================================= Xeon Platinum 8592+ 2P . 6.95 |================================== Xeon Max 9468 .......... 7.13 |=================================== Xeon Max 9468 2P ....... 7.32 |==================================== Xeon Max 9480 .......... 7.76 |====================================== Xeon Max 9480 2P ....... 7.97 |======================================= OpenVINO 2024.0 Model: Noise Suppression Poconet-Like FP16 - Device: CPU FPS > Higher Is Better Xeon Platinum 8490H .... 4209.10 |==================== Xeon Platinum 8490H 2P . 7356.63 |=================================== Xeon Platinum 8592+ .... 6757.26 |================================ Xeon Platinum 8592+ 2P . 9360.89 |============================================= Xeon Max 9468 .......... 4208.49 |==================== Xeon Max 9468 2P ....... 5565.23 |=========================== Xeon Max 9480 .......... 4386.48 |===================== Xeon Max 9480 2P ....... 5933.65 |============================= OpenVINO 2024.0 Model: Noise Suppression Poconet-Like FP16 - Device: CPU ms < Lower Is Better Xeon Platinum 8490H .... 13.95 |=================================== Xeon Platinum 8490H 2P . 15.96 |======================================== Xeon Platinum 8592+ .... 9.40 |======================== Xeon Platinum 8592+ 2P . 13.15 |================================= Xeon Max 9468 .......... 11.37 |============================= Xeon Max 9468 2P ....... 17.15 |=========================================== Xeon Max 9480 .......... 12.72 |================================ Xeon Max 9480 2P ....... 18.72 |=============================================== oneDNN 3.4 Harness: Convolution Batch Shapes Auto - Engine: CPU ms < Lower Is Better Xeon Platinum 8490H .... 0.650618 |=== Xeon Platinum 8490H 2P . 0.438154 |== Xeon Platinum 8592+ .... 0.585804 |=== Xeon Platinum 8592+ 2P . 0.306795 |= Xeon Max 9468 .......... 9.194340 |============================================ Xeon Max 9468 2P ....... 7.754310 |===================================== Xeon Max 9480 .......... 8.751050 |========================================== Xeon Max 9480 2P ....... 7.060430 |================================== oneDNN 3.4 Harness: Deconvolution Batch shapes_1d - Engine: CPU ms < Lower Is Better Xeon Platinum 8490H .... 6.15856 |======= Xeon Platinum 8490H 2P . 16.55070 |=================== Xeon Platinum 8592+ .... 6.69692 |======== Xeon Platinum 8592+ 2P . 38.08130 |============================================ Xeon Max 9468 .......... 5.30953 |====== Xeon Max 9468 2P ....... 13.45000 |================ Xeon Max 9480 .......... 6.09747 |======= Xeon Max 9480 2P ....... 16.09010 |=================== oneDNN 3.4 Harness: Deconvolution Batch shapes_3d - Engine: CPU ms < Lower Is Better Xeon Platinum 8490H .... 1.077430 |====================================== Xeon Platinum 8490H 2P . 0.736170 |========================== Xeon Platinum 8592+ .... 0.907161 |================================ Xeon Platinum 8592+ 2P . 0.624250 |====================== Xeon Max 9468 .......... 1.264070 |============================================ Xeon Max 9468 2P ....... 0.945075 |================================= Xeon Max 9480 .......... 1.196430 |========================================== Xeon Max 9480 2P ....... 0.864358 |============================== oneDNN 3.4 Harness: IP Shapes 1D - Engine: CPU ms < Lower Is Better Xeon Platinum 8490H .... 0.539467 |============================== Xeon Platinum 8490H 2P . 0.783180 |============================================ Xeon Platinum 8592+ .... 0.398446 |====================== Xeon Platinum 8592+ 2P . 0.580664 |================================= Xeon Max 9468 .......... 0.725974 |========================================= Xeon Max 9468 2P ....... 0.662387 |===================================== Xeon Max 9480 .......... 0.617190 |=================================== Xeon Max 9480 2P ....... 0.759434 |=========================================== oneDNN 3.4 Harness: IP Shapes 3D - Engine: CPU ms < Lower Is Better Xeon Platinum 8490H .... 0.771506 |======== Xeon Platinum 8490H 2P . 0.714699 |======= Xeon Platinum 8592+ .... 0.841608 |========= Xeon Platinum 8592+ 2P . 0.738442 |======== Xeon Max 9468 .......... 4.324650 |============================================ Xeon Max 9468 2P ....... 4.283990 |============================================ Xeon Max 9480 .......... 4.274810 |=========================================== Xeon Max 9480 2P ....... 4.175530 |========================================== oneDNN 3.4 Harness: Recurrent Neural Network Training - Engine: CPU ms < Lower Is Better Xeon Platinum 8490H .... 623.60 |========== Xeon Platinum 8490H 2P . 635.15 |========== Xeon Platinum 8592+ .... 703.47 |=========== Xeon Platinum 8592+ 2P . 626.14 |========== Xeon Max 9468 .......... 1200.75 |=================== Xeon Max 9468 2P ....... 1966.88 |================================ Xeon Max 9480 .......... 1180.85 |=================== Xeon Max 9480 2P ....... 2776.52 |============================================= oneDNN 3.4 Harness: Recurrent Neural Network Inference - Engine: CPU ms < Lower Is Better Xeon Platinum 8490H .... 409.59 |============ Xeon Platinum 8490H 2P . 633.29 |=================== Xeon Platinum 8592+ .... 488.92 |=============== Xeon Platinum 8592+ 2P . 538.23 |================ Xeon Max 9468 .......... 734.80 |====================== Xeon Max 9468 2P ....... 1498.58 |============================================= Xeon Max 9480 .......... 632.15 |=================== Xeon Max 9480 2P ....... 719.23 |====================== ONNX Runtime 1.17 Model: yolov4 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 19.86 |========================================= Xeon Platinum 8490H 2P . 15.56 |================================ Xeon Platinum 8592+ .... 22.97 |=============================================== Xeon Platinum 8592+ 2P . 16.97 |=================================== Xeon Max 9468 .......... 18.22 |===================================== Xeon Max 9468 2P ....... 14.48 |============================== Xeon Max 9480 .......... 16.92 |=================================== Xeon Max 9480 2P ....... 14.46 |============================== ONNX Runtime 1.17 Model: yolov4 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 50.35 |================================== Xeon Platinum 8490H 2P . 64.29 |============================================ Xeon Platinum 8592+ .... 43.54 |============================= Xeon Platinum 8592+ 2P . 58.94 |======================================== Xeon Max 9468 .......... 54.96 |===================================== Xeon Max 9468 2P ....... 69.45 |=============================================== Xeon Max 9480 .......... 59.18 |======================================== Xeon Max 9480 2P ....... 69.20 |=============================================== ONNX Runtime 1.17 Model: yolov4 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 18.14 |========================================= Xeon Platinum 8490H 2P . 12.75 |============================= Xeon Platinum 8592+ .... 20.88 |=============================================== Xeon Platinum 8592+ 2P . 14.20 |================================ Xeon Max 9468 .......... 16.17 |==================================== Xeon Max 9468 2P ....... 13.09 |============================= Xeon Max 9480 .......... 16.39 |===================================== Xeon Max 9480 2P ....... 12.60 |============================ ONNX Runtime 1.17 Model: yolov4 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 55.12 |================================= Xeon Platinum 8490H 2P . 78.40 |============================================== Xeon Platinum 8592+ .... 47.90 |============================ Xeon Platinum 8592+ 2P . 70.44 |========================================== Xeon Max 9468 .......... 61.83 |===================================== Xeon Max 9468 2P ....... 76.42 |============================================= Xeon Max 9480 .......... 61.01 |==================================== Xeon Max 9480 2P ....... 79.38 |=============================================== ONNX Runtime 1.17 Model: fcn-resnet101-11 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 8.59719 |=================================== Xeon Platinum 8490H 2P . 10.83623 |============================================ Xeon Platinum 8592+ .... 9.11885 |===================================== Xeon Platinum 8592+ 2P . 9.92684 |======================================== Xeon Max 9468 .......... 7.24187 |============================= Xeon Max 9468 2P ....... 8.39962 |================================== Xeon Max 9480 .......... 6.54965 |=========================== Xeon Max 9480 2P ....... 8.26016 |================================== ONNX Runtime 1.17 Model: fcn-resnet101-11 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 116.32 |================================== Xeon Platinum 8490H 2P . 92.35 |=========================== Xeon Platinum 8592+ .... 109.67 |================================ Xeon Platinum 8592+ 2P . 100.74 |============================== Xeon Max 9468 .......... 139.10 |========================================= Xeon Max 9468 2P ....... 121.67 |==================================== Xeon Max 9480 .......... 155.79 |============================================== Xeon Max 9480 2P ....... 121.78 |==================================== ONNX Runtime 1.17 Model: fcn-resnet101-11 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 3.03922 |========================================= Xeon Platinum 8490H 2P . 2.83498 |======================================= Xeon Platinum 8592+ .... 3.30836 |============================================= Xeon Platinum 8592+ 2P . 3.05085 |========================================= Xeon Max 9468 .......... 2.62544 |==================================== Xeon Max 9468 2P ....... 2.17463 |============================== Xeon Max 9480 .......... 2.61721 |==================================== Xeon Max 9480 2P ....... 2.10480 |============================= ONNX Runtime 1.17 Model: fcn-resnet101-11 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 329.04 |================================ Xeon Platinum 8490H 2P . 352.74 |================================== Xeon Platinum 8592+ .... 302.27 |============================= Xeon Platinum 8592+ 2P . 327.88 |================================ Xeon Max 9468 .......... 380.90 |===================================== Xeon Max 9468 2P ....... 460.67 |============================================= Xeon Max 9480 .......... 382.11 |===================================== Xeon Max 9480 2P ....... 475.25 |============================================== ONNX Runtime 1.17 Model: super-resolution-10 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 227.42 |======================================== Xeon Platinum 8490H 2P . 212.92 |====================================== Xeon Platinum 8592+ .... 259.19 |============================================== Xeon Platinum 8592+ 2P . 251.31 |============================================= Xeon Max 9468 .......... 217.88 |======================================= Xeon Max 9468 2P ....... 205.89 |===================================== Xeon Max 9480 .......... 213.99 |====================================== Xeon Max 9480 2P ....... 199.90 |=================================== ONNX Runtime 1.17 Model: super-resolution-10 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 4.39649 |======================================== Xeon Platinum 8490H 2P . 4.72530 |=========================================== Xeon Platinum 8592+ .... 3.85774 |=================================== Xeon Platinum 8592+ 2P . 3.98013 |==================================== Xeon Max 9468 .......... 4.58912 |========================================= Xeon Max 9468 2P ....... 4.85818 |============================================ Xeon Max 9480 .......... 4.67269 |========================================== Xeon Max 9480 2P ....... 5.00222 |============================================= ONNX Runtime 1.17 Model: super-resolution-10 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 205.53 |======================================== Xeon Platinum 8490H 2P . 188.89 |===================================== Xeon Platinum 8592+ .... 234.54 |============================================== Xeon Platinum 8592+ 2P . 214.81 |========================================== Xeon Max 9468 .......... 195.71 |====================================== Xeon Max 9468 2P ....... 173.91 |================================== Xeon Max 9480 .......... 190.06 |===================================== Xeon Max 9480 2P ....... 169.85 |================================= ONNX Runtime 1.17 Model: super-resolution-10 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 4.86604 |===================================== Xeon Platinum 8490H 2P . 5.29287 |======================================== Xeon Platinum 8592+ .... 4.26352 |================================= Xeon Platinum 8592+ 2P . 4.65431 |==================================== Xeon Max 9468 .......... 5.10914 |======================================= Xeon Max 9468 2P ....... 5.74921 |============================================ Xeon Max 9480 .......... 5.26075 |======================================== Xeon Max 9480 2P ....... 5.88628 |============================================= ONNX Runtime 1.17 Model: bertsquad-12 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 20.15 |====================================== Xeon Platinum 8490H 2P . 16.57 |=============================== Xeon Platinum 8592+ .... 25.16 |=============================================== Xeon Platinum 8592+ 2P . 22.43 |========================================== Xeon Max 9468 .......... 21.17 |======================================== Xeon Max 9468 2P ....... 16.64 |=============================== Xeon Max 9480 .......... 20.01 |===================================== Xeon Max 9480 2P ....... 17.99 |================================== ONNX Runtime 1.17 Model: bertsquad-12 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 49.64 |======================================= Xeon Platinum 8490H 2P . 60.36 |=============================================== Xeon Platinum 8592+ .... 39.75 |=============================== Xeon Platinum 8592+ 2P . 44.60 |=================================== Xeon Max 9468 .......... 47.24 |===================================== Xeon Max 9468 2P ....... 60.11 |=============================================== Xeon Max 9480 .......... 49.97 |======================================= Xeon Max 9480 2P ....... 55.90 |============================================ ONNX Runtime 1.17 Model: bertsquad-12 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 16.10 |====================================== Xeon Platinum 8490H 2P . 14.53 |=================================== Xeon Platinum 8592+ .... 19.68 |=============================================== Xeon Platinum 8592+ 2P . 15.43 |===================================== Xeon Max 9468 .......... 16.33 |======================================= Xeon Max 9468 2P ....... 13.74 |================================= Xeon Max 9480 .......... 15.74 |====================================== Xeon Max 9480 2P ....... 13.52 |================================ ONNX Runtime 1.17 Model: bertsquad-12 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 62.13 |======================================= Xeon Platinum 8490H 2P . 68.83 |============================================ Xeon Platinum 8592+ .... 50.83 |================================ Xeon Platinum 8592+ 2P . 64.79 |========================================= Xeon Max 9468 .......... 61.25 |======================================= Xeon Max 9468 2P ....... 72.80 |============================================== Xeon Max 9480 .......... 63.54 |======================================== Xeon Max 9480 2P ....... 73.97 |=============================================== ONNX Runtime 1.17 Model: GPT-2 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 222.03 |====================================== Xeon Platinum 8490H 2P . 180.03 |=============================== Xeon Platinum 8592+ .... 270.33 |============================================== Xeon Platinum 8592+ 2P . 236.65 |======================================== Xeon Max 9468 .......... 176.33 |============================== Xeon Max 9468 2P ....... 141.95 |======================== Xeon Max 9480 .......... 168.86 |============================= Xeon Max 9480 2P ....... 132.71 |======================= ONNX Runtime 1.17 Model: GPT-2 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 4.49976 |=========================== Xeon Platinum 8490H 2P . 5.55101 |================================= Xeon Platinum 8592+ .... 3.69649 |====================== Xeon Platinum 8592+ 2P . 4.29531 |========================== Xeon Max 9468 .......... 5.67700 |================================== Xeon Max 9468 2P ....... 7.04111 |========================================== Xeon Max 9480 .......... 5.91961 |=================================== Xeon Max 9480 2P ....... 7.53259 |============================================= ONNX Runtime 1.17 Model: GPT-2 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 191.56 |=================================== Xeon Platinum 8490H 2P . 144.64 |=========================== Xeon Platinum 8592+ .... 248.68 |============================================== Xeon Platinum 8592+ 2P . 195.45 |==================================== Xeon Max 9468 .......... 191.11 |=================================== Xeon Max 9468 2P ....... 135.98 |========================= Xeon Max 9480 .......... 188.93 |=================================== Xeon Max 9480 2P ....... 136.69 |========================= ONNX Runtime 1.17 Model: GPT-2 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 5.21520 |================================ Xeon Platinum 8490H 2P . 6.90619 |========================================== Xeon Platinum 8592+ .... 4.01687 |========================= Xeon Platinum 8592+ 2P . 5.10948 |=============================== Xeon Max 9468 .......... 5.22781 |================================ Xeon Max 9468 2P ....... 7.34848 |============================================= Xeon Max 9480 .......... 5.29027 |================================ Xeon Max 9480 2P ....... 7.30822 |============================================= ONNX Runtime 1.17 Model: ArcFace ResNet-100 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 52.82 |===================================== Xeon Platinum 8490H 2P . 36.25 |========================== Xeon Platinum 8592+ .... 66.52 |=============================================== Xeon Platinum 8592+ 2P . 38.42 |=========================== Xeon Max 9468 .......... 47.27 |================================= Xeon Max 9468 2P ....... 40.57 |============================= Xeon Max 9480 .......... 42.27 |============================== Xeon Max 9480 2P ....... 33.96 |======================== ONNX Runtime 1.17 Model: ArcFace ResNet-100 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 18.93 |============================== Xeon Platinum 8490H 2P . 27.59 |============================================ Xeon Platinum 8592+ .... 15.04 |======================== Xeon Platinum 8592+ 2P . 26.09 |========================================== Xeon Max 9468 .......... 21.22 |================================== Xeon Max 9468 2P ....... 24.65 |======================================= Xeon Max 9480 .......... 23.66 |====================================== Xeon Max 9480 2P ....... 29.44 |=============================================== ONNX Runtime 1.17 Model: ArcFace ResNet-100 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 46.85 |==================================== Xeon Platinum 8490H 2P . 29.15 |======================= Xeon Platinum 8592+ .... 60.41 |=============================================== Xeon Platinum 8592+ 2P . 31.46 |======================== Xeon Max 9468 .......... 40.73 |================================ Xeon Max 9468 2P ....... 32.81 |========================== Xeon Max 9480 .......... 42.27 |================================= Xeon Max 9480 2P ....... 29.20 |======================= ONNX Runtime 1.17 Model: ArcFace ResNet-100 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 21.34 |============================= Xeon Platinum 8490H 2P . 34.31 |=============================================== Xeon Platinum 8592+ .... 16.55 |======================= Xeon Platinum 8592+ 2P . 31.79 |============================================ Xeon Max 9468 .......... 24.55 |================================== Xeon Max 9468 2P ....... 30.47 |========================================== Xeon Max 9480 .......... 23.66 |================================ Xeon Max 9480 2P ....... 34.25 |=============================================== ONNX Runtime 1.17 Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 315.41 |============================================ Xeon Platinum 8490H 2P . 177.76 |========================= Xeon Platinum 8592+ .... 314.06 |============================================ Xeon Platinum 8592+ 2P . 171.23 |======================== Xeon Max 9468 .......... 330.10 |============================================== Xeon Max 9468 2P ....... 174.68 |======================== Xeon Max 9480 .......... 296.80 |========================================= Xeon Max 9480 2P ....... 161.89 |======================= ONNX Runtime 1.17 Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 3.17002 |======================= Xeon Platinum 8490H 2P . 5.62517 |========================================= Xeon Platinum 8592+ .... 3.18392 |======================= Xeon Platinum 8592+ 2P . 5.83954 |=========================================== Xeon Max 9468 .......... 3.02897 |====================== Xeon Max 9468 2P ....... 5.74491 |========================================== Xeon Max 9480 .......... 3.37034 |========================= Xeon Max 9480 2P ....... 6.17796 |============================================= ONNX Runtime 1.17 Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 313.10 |============================================= Xeon Platinum 8490H 2P . 156.46 |======================= Xeon Platinum 8592+ .... 308.80 |============================================= Xeon Platinum 8592+ 2P . 153.92 |====================== Xeon Max 9468 .......... 319.04 |============================================== Xeon Max 9468 2P ....... 166.49 |======================== Xeon Max 9480 .......... 301.14 |=========================================== Xeon Max 9480 2P ....... 153.41 |====================== ONNX Runtime 1.17 Model: ResNet50 v1-12-int8 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 3.19298 |====================== Xeon Platinum 8490H 2P . 6.39031 |============================================ Xeon Platinum 8592+ .... 3.23780 |====================== Xeon Platinum 8592+ 2P . 6.49693 |============================================= Xeon Max 9468 .......... 3.13366 |====================== Xeon Max 9468 2P ....... 6.00525 |========================================= Xeon Max 9480 .......... 3.32030 |======================= Xeon Max 9480 2P ....... 6.51744 |============================================= ONNX Runtime 1.17 Model: CaffeNet 12-int8 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 852.33 |=========================================== Xeon Platinum 8490H 2P . 696.98 |=================================== Xeon Platinum 8592+ .... 908.19 |============================================== Xeon Platinum 8592+ 2P . 754.81 |====================================== Xeon Max 9468 .......... 728.47 |===================================== Xeon Max 9468 2P ....... 604.76 |=============================== Xeon Max 9480 .......... 705.61 |==================================== Xeon Max 9480 2P ....... 581.77 |============================= ONNX Runtime 1.17 Model: CaffeNet 12-int8 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 1.17292 |=============================== Xeon Platinum 8490H 2P . 1.43573 |====================================== Xeon Platinum 8592+ .... 1.10042 |============================= Xeon Platinum 8592+ 2P . 1.32454 |=================================== Xeon Max 9468 .......... 1.37831 |==================================== Xeon Max 9468 2P ....... 1.65270 |=========================================== Xeon Max 9480 .......... 1.41662 |===================================== Xeon Max 9480 2P ....... 1.71875 |============================================= ONNX Runtime 1.17 Model: CaffeNet 12-int8 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 784.30 |=========================================== Xeon Platinum 8490H 2P . 566.38 |=============================== Xeon Platinum 8592+ .... 830.73 |============================================== Xeon Platinum 8592+ 2P . 605.59 |================================== Xeon Max 9468 .......... 687.67 |====================================== Xeon Max 9468 2P ....... 492.89 |=========================== Xeon Max 9480 .......... 678.48 |====================================== Xeon Max 9480 2P ....... 478.47 |========================== ONNX Runtime 1.17 Model: CaffeNet 12-int8 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 1.27368 |=========================== Xeon Platinum 8490H 2P . 1.76353 |====================================== Xeon Platinum 8592+ .... 1.20298 |========================== Xeon Platinum 8592+ 2P . 1.64919 |==================================== Xeon Max 9468 .......... 1.45280 |=============================== Xeon Max 9468 2P ....... 2.02659 |============================================ Xeon Max 9480 .......... 1.47249 |================================ Xeon Max 9480 2P ....... 2.08780 |============================================= ONNX Runtime 1.17 Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 34.00 |============================================== Xeon Platinum 8490H 2P . 33.61 |============================================== Xeon Platinum 8592+ .... 34.46 |=============================================== Xeon Platinum 8592+ 2P . 34.66 |=============================================== Xeon Max 9468 .......... 30.00 |========================================= Xeon Max 9468 2P ....... 27.61 |===================================== Xeon Max 9480 .......... 29.43 |======================================== Xeon Max 9480 2P ....... 27.78 |====================================== ONNX Runtime 1.17 Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 29.41 |====================================== Xeon Platinum 8490H 2P . 29.75 |======================================= Xeon Platinum 8592+ .... 29.02 |====================================== Xeon Platinum 8592+ 2P . 28.85 |===================================== Xeon Max 9468 .......... 33.33 |=========================================== Xeon Max 9468 2P ....... 36.23 |=============================================== Xeon Max 9480 .......... 33.99 |============================================ Xeon Max 9480 2P ....... 36.00 |=============================================== ONNX Runtime 1.17 Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 32.34 |============================================== Xeon Platinum 8490H 2P . 30.04 |========================================== Xeon Platinum 8592+ .... 33.38 |=============================================== Xeon Platinum 8592+ 2P . 31.71 |============================================= Xeon Max 9468 .......... 28.52 |======================================== Xeon Max 9468 2P ....... 24.73 |=================================== Xeon Max 9480 .......... 28.48 |======================================== Xeon Max 9480 2P ....... 24.68 |=================================== ONNX Runtime 1.17 Model: Faster R-CNN R-50-FPN-int8 - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 30.92 |==================================== Xeon Platinum 8490H 2P . 33.29 |======================================= Xeon Platinum 8592+ .... 29.96 |=================================== Xeon Platinum 8592+ 2P . 31.53 |===================================== Xeon Max 9468 .......... 35.07 |========================================= Xeon Max 9468 2P ....... 40.45 |=============================================== Xeon Max 9480 .......... 35.11 |========================================= Xeon Max 9480 2P ....... 40.52 |=============================================== ONNX Runtime 1.17 Model: T5 Encoder - Device: CPU - Executor: Standard Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 357.36 |==================================== Xeon Platinum 8490H 2P . 288.47 |============================= Xeon Platinum 8592+ .... 460.78 |============================================== Xeon Platinum 8592+ 2P . 356.76 |==================================== Xeon Max 9468 .......... 219.53 |====================== Xeon Max 9468 2P ....... 199.08 |==================== Xeon Max 9480 .......... 215.13 |===================== Xeon Max 9480 2P ....... 185.46 |=================== ONNX Runtime 1.17 Model: T5 Encoder - Device: CPU - Executor: Standard Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 2.79694 |======================= Xeon Platinum 8490H 2P . 3.46571 |============================= Xeon Platinum 8592+ .... 2.16966 |================== Xeon Platinum 8592+ 2P . 2.80263 |======================= Xeon Max 9468 .......... 4.57581 |====================================== Xeon Max 9468 2P ....... 5.02267 |========================================== Xeon Max 9480 .......... 4.64757 |======================================= Xeon Max 9480 2P ....... 5.39123 |============================================= ONNX Runtime 1.17 Model: T5 Encoder - Device: CPU - Executor: Parallel Inferences Per Second > Higher Is Better Xeon Platinum 8490H .... 326.14 |================================ Xeon Platinum 8490H 2P . 246.34 |======================== Xeon Platinum 8592+ .... 462.86 |============================================== Xeon Platinum 8592+ 2P . 354.75 |=================================== Xeon Max 9468 .......... 337.00 |================================= Xeon Max 9468 2P ....... 246.68 |========================= Xeon Max 9480 .......... 346.21 |================================== Xeon Max 9480 2P ....... 252.67 |========================= ONNX Runtime 1.17 Model: T5 Encoder - Device: CPU - Executor: Parallel Inference Time Cost (ms) < Lower Is Better Xeon Platinum 8490H .... 3.06500 |================================== Xeon Platinum 8490H 2P . 4.05881 |============================================= Xeon Platinum 8592+ .... 2.15980 |======================== Xeon Platinum 8592+ 2P . 2.81739 |=============================== Xeon Max 9468 .......... 2.97094 |================================= Xeon Max 9468 2P ....... 4.05270 |============================================= Xeon Max 9480 .......... 2.88734 |================================ Xeon Max 9480 2P ....... 3.95819 |============================================ Llamafile 0.7 Test: llava-v1.5-7b-q4 - Acceleration: CPU Tokens Per Second > Higher Is Better Xeon Platinum 8490H .... 20.95 |=============================================== Xeon Platinum 8490H 2P . 10.44 |======================= Xeon Platinum 8592+ .... 16.61 |===================================== Xeon Platinum 8592+ 2P . 7.49 |================= Xeon Max 9468 .......... 7.67 |================= Xeon Max 9468 2P ....... 7.77 |================= Xeon Max 9480 .......... 8.13 |================== Xeon Max 9480 2P ....... 7.26 |================ Llamafile 0.7 Test: wizardcoder-python-34b-v1.0.Q6_K - Acceleration: CPU Tokens Per Second > Higher Is Better Xeon Platinum 8490H .... 5.85 |================================================ Xeon Platinum 8490H 2P . 3.82 |=============================== Xeon Platinum 8592+ .... 4.08 |================================= Xeon Platinum 8592+ 2P . 3.05 |========================= Xeon Max 9468 .......... 1.47 |============ Xeon Max 9468 2P ....... 1.77 |=============== Xeon Max 9480 .......... 1.54 |============= Xeon Max 9480 2P ....... 1.54 |============= GNU Octave Benchmark 8.4.0 Seconds < Lower Is Better Xeon Platinum 8490H .... 7.532 |=========================== Xeon Platinum 8490H 2P . 8.036 |============================= Xeon Platinum 8592+ .... 6.458 |======================== Xeon Platinum 8592+ 2P . 6.856 |========================= Xeon Max 9468 .......... 7.622 |============================ Xeon Max 9468 2P ....... 12.617 |============================================== Xeon Max 9480 .......... 7.748 |============================ Xeon Max 9480 2P ....... 12.578 |============================================== RawTherapee Total Benchmark Time Seconds < Lower Is Better Xeon Platinum 8490H .... 46.76 |======================================= Xeon Platinum 8490H 2P . 53.76 |============================================= Xeon Platinum 8592+ .... 42.78 |=================================== Xeon Platinum 8592+ 2P . 52.69 |============================================ Xeon Max 9468 .......... 46.96 |======================================= Xeon Max 9468 2P ....... 55.44 |============================================== Xeon Max 9480 .......... 47.09 |======================================= Xeon Max 9480 2P ....... 56.78 |=============================================== Xmrig 6.21 Variant: GhostRider - Hash Count: 1M H/s > Higher Is Better Xeon Platinum 8490H .... 5808.8 |================ Xeon Platinum 8490H 2P . 11263.2 |=============================== Xeon Platinum 8592+ .... 8378.3 |======================= Xeon Platinum 8592+ 2P . 16324.7 |============================================= Xeon Max 9468 .......... 5446.8 |=============== Xeon Max 9468 2P ....... 10975.8 |============================== Xeon Max 9480 .......... 6122.3 |================= Xeon Max 9480 2P ....... 12115.0 |================================= Helsing 1.0-beta Digit Range: 14 digit Seconds < Lower Is Better Xeon Platinum 8490H .... 93.35 |=================================== Xeon Platinum 8490H 2P . 50.83 |=================== Xeon Platinum 8592+ .... 89.07 |================================= Xeon Platinum 8592+ 2P . 48.09 |================== Xeon Max 9468 .......... 123.83 |============================================== Xeon Max 9468 2P ....... 65.03 |======================== Xeon Max 9480 .......... 107.24 |======================================== Xeon Max 9480 2P ....... 58.25 |====================== Stockfish 16.1 Chess Benchmark Nodes Per Second > Higher Is Better Xeon Platinum 8490H .... 96887479 |=================== Xeon Platinum 8490H 2P . 187761769 |==================================== Xeon Platinum 8592+ .... 109766345 |===================== Xeon Platinum 8592+ 2P . 222610378 |=========================================== Xeon Max 9468 .......... 68019088 |============= Xeon Max 9468 2P ....... 137977203 |=========================== Xeon Max 9480 .......... 73592230 |============== Xeon Max 9480 2P ....... 149409082 |============================= Primesieve 12.1 Length: 1e12 Seconds < Lower Is Better Xeon Platinum 8490H .... 4.576 |=================================== Xeon Platinum 8490H 2P . 2.325 |================== Xeon Platinum 8592+ .... 4.250 |================================ Xeon Platinum 8592+ 2P . 2.187 |================= Xeon Max 9468 .......... 6.160 |=============================================== Xeon Max 9468 2P ....... 3.121 |======================== Xeon Max 9480 .......... 5.332 |========================================= Xeon Max 9480 2P ....... 2.691 |===================== Primesieve 12.1 Length: 1e13 Seconds < Lower Is Better Xeon Platinum 8490H .... 51.82 |==================================== Xeon Platinum 8490H 2P . 27.11 |=================== Xeon Platinum 8592+ .... 48.41 |================================== Xeon Platinum 8592+ 2P . 25.02 |================= Xeon Max 9468 .......... 67.32 |=============================================== Xeon Max 9468 2P ....... 33.92 |======================== Xeon Max 9480 .......... 58.16 |========================================= Xeon Max 9480 2P ....... 30.20 |===================== Y-Cruncher 0.8.3 Pi Digits To Calculate: 500M Seconds < Lower Is Better Xeon Platinum 8490H .... 3.267 |========================================= Xeon Platinum 8490H 2P . 2.364 |============================= Xeon Platinum 8592+ .... 3.391 |========================================== Xeon Platinum 8592+ 2P . 2.659 |================================= Xeon Max 9468 .......... 3.781 |=============================================== Xeon Max 9468 2P ....... 3.110 |======================================= Xeon Max 9480 .......... 3.704 |============================================== Xeon Max 9480 2P ....... 2.961 |===================================== Y-Cruncher 0.8.3 Pi Digits To Calculate: 1B Seconds < Lower Is Better Xeon Platinum 8490H .... 7.047 |======================================== Xeon Platinum 8490H 2P . 5.008 |============================ Xeon Platinum 8592+ .... 6.701 |====================================== Xeon Platinum 8592+ 2P . 5.110 |============================= Xeon Max 9468 .......... 8.300 |=============================================== Xeon Max 9468 2P ....... 6.334 |==================================== Xeon Max 9480 .......... 7.959 |============================================= Xeon Max 9480 2P ....... 6.266 |=================================== Aircrack-ng 1.7 k/s > Higher Is Better Xeon Platinum 8490H .... 147469.33 |========================================= Xeon Platinum 8490H 2P . 53914.93 |=============== Xeon Platinum 8592+ .... 153584.20 |=========================================== Xeon Platinum 8592+ 2P . 64181.29 |================== Xeon Max 9468 .......... 117588.99 |================================= Xeon Max 9468 2P ....... 83665.76 |======================= Xeon Max 9480 .......... 134048.96 |====================================== Xeon Max 9480 2P ....... 65663.82 |================== DaCapo Benchmark 23.11 Java Test: Apache Lucene Search Index msec < Lower Is Better Xeon Platinum 8490H .... 3581 |=============================================== Xeon Platinum 8490H 2P . 3689 |================================================ Xeon Platinum 8592+ .... 3242 |========================================== Xeon Platinum 8592+ 2P . 3345 |============================================ Xeon Max 9468 .......... 3378 |============================================ Xeon Max 9468 2P ....... 3643 |=============================================== Xeon Max 9480 .......... 3396 |============================================ Xeon Max 9480 2P ....... 3537 |============================================== DaCapo Benchmark 23.11 Java Test: Jython msec < Lower Is Better Xeon Platinum 8490H .... 3801 |============================================== Xeon Platinum 8490H 2P . 3892 |================================================ Xeon Platinum 8592+ .... 3424 |========================================== Xeon Platinum 8592+ 2P . 3466 |========================================== Xeon Max 9468 .......... 3785 |============================================== Xeon Max 9468 2P ....... 3926 |================================================ Xeon Max 9480 .......... 3707 |============================================= Xeon Max 9480 2P ....... 3921 |================================================ DaCapo Benchmark 23.11 Java Test: Tradebeans msec < Lower Is Better Xeon Platinum 8490H .... 7270 |=========================== Xeon Platinum 8490H 2P . 8050 |============================== Xeon Platinum 8592+ .... 11004 |========================================= Xeon Platinum 8592+ 2P . 12713 |=============================================== Xeon Max 9468 .......... 6130 |======================= Xeon Max 9468 2P ....... 6681 |========================= Xeon Max 9480 .......... 5994 |====================== Xeon Max 9480 2P ....... 6672 |========================= DaCapo Benchmark 23.11 Java Test: Tradesoap msec < Lower Is Better Xeon Platinum 8490H .... 4115 |========================== Xeon Platinum 8490H 2P . 4215 |=========================== Xeon Platinum 8592+ .... 7321 |=============================================== Xeon Platinum 8592+ 2P . 7492 |================================================ Xeon Max 9468 .......... 3887 |========================= Xeon Max 9468 2P ....... 4199 |=========================== Xeon Max 9480 .......... 3884 |========================= Xeon Max 9480 2P ....... 4069 |========================== DaCapo Benchmark 23.11 Java Test: Apache Kafka msec < Lower Is Better Xeon Platinum 8490H .... 5106 |============================================ Xeon Platinum 8490H 2P . 5113 |============================================ Xeon Platinum 8592+ .... 5560 |================================================ Xeon Platinum 8592+ 2P . 5611 |================================================ Xeon Max 9468 .......... 5108 |============================================ Xeon Max 9468 2P ....... 5101 |============================================ Xeon Max 9480 .......... 5102 |============================================ Xeon Max 9480 2P ....... 5088 |============================================ ASKAP 1.0 Test: tConvolve MT - Degridding Million Grid Points Per Second > Higher Is Better Xeon Max 9468 .... 8868.20 |============================== Xeon Max 9468 2P . 14665.00 |================================================== Xeon Max 9480 .... 9204.87 |=============================== Xeon Max 9480 2P . 14463.40 |=================================================