Pre systémy umelej inteligencie predstavujú procesory kritický komponent, ktorý je potrebný na úspešné nasadenie riešení v rôznych scenároch. Podľa nových výsledkov benchmarku konzorcia MLCommons dosahujú procesory Intel Xeon 6 s jadrami Performance (P-cores) približne 1,9‑násobné zlepšenie výkonu umelej inteligencie v porovnaní s procesormi Xeon 5. generácie (počítané ako geometrický priemer).
Konzorcium MLCommons nedávno zverejnilo výsledky svojho štandardného balíka benchmarkov výkonu umelej inteligencie MLPerf Inference v4.1. Spoločnosť Intel odovzdala výsledky šiestich benchmarkoch MLPerf pre procesory Intel® Xeon® Scalable 5. generácie a po prvýkrát aj pre procesory Intel® Xeon® 6 s jadrami Performance (P-cores). Procesory Intel Xeon 6 s jadrami P-cores dosahujú približne 1,9‑násobné zlepšenie výkonu umelej inteligencie v porovnaní s procesormi Xeon 5. generácie (počítané ako geometrický priemer).
Intel Xeon poskytuje skvelé riešenie pre inferencie umelej inteligencie vrátane klasického strojového učenia a prevodu do vektorovej podoby.
Spoločnosť Intel vykonala prostredníctvom MLPerf Inference v4.1 benchmarky procesorov Intel Xeon 5. generácie a procesorov Xeon 6 s jadrami P-cores s použitím modelov ResNet50, RetinaNet, 3DUNet, BERT, DLRM v2 a GPT-J. V porovnaní s procesorom Intel Xeon 5. generácie poskytuje Xeon 6 v týchto šiestich benchmarkoch v priemere približne 1,9‑násobne lepší výkon pri inferenciách umelej inteligencie. Spoločnosť Intel je aj naďalej jediným výrobcom serverových procesorov, ktorý odovzdáva výsledky CPU do databázy MLPerf.
Za posledné štyri roky, odkedy spoločnosť Intel prvýkrát odovzdala výsledky do databázy MLPerf, dosiahla výrazný nárast výkonu umelej inteligencie na procesoroch. V porovnaní s procesormi Intel® Xeon® Scalable 3. generácie z roku 2021 dosahuje Xeon 6 až 17-násobne lepší výkon pri spracovaní prirodzeného jazyka (BERT) a až 15-násobne lepší výkon pri záťažiach počítačového videnia (ResNet50). Spoločnosť Intel pokračuje vo svojom pláne vývoja procesorov v investíciách do umelej inteligencie. Ako príklad možno uviesť pokračovanie inovácií s rozšírením inštrukčnej sady Intel® Advanced Matrix Extensions (AMX) o nové dátové typy a zvýšenie efektivity.
Na základe najnovších benchmarkov MLCommons je dobre vidieť, ako procesory Xeon poskytujú výrobcom originálnych zariadení (OEM) silné serverové riešenia zamerané na umelú inteligenciu a založené na CPU. Keďže potreby výpočtov v oblasti umelej inteligencie neustále rastú a mnohí zákazníci prevádzkujú okrem podnikových pracovných záťaží aj pracovné záťaže AI, výrobcovia OEM uprednostňujú odovzdávanie údajov MLPerf, aby zabezpečili, že zákazníkom dodajú vysoko výkonné systémy Xeon optimalizované pre pracovné záťaže AI.
Spoločnosť Intel v tomto kole podporila piatich partnerov OEM – Cisco, Dell Technologies, HPE, Quanta a Supermicro – ktorí odovzdali výsledky MLPerf. Každý zákazník odovzdal výsledky MLPerf pre procesory Xeon Scalable 5. generácie, ktoré preukazujú podporu ich systémov pre rôzne pracovné záťaže a nasadenia v oblasti AI.
