amd e xilinx annunciano un nuovo record mondiale per l'inferenza ai TechPowerUp

AMD e Xilinx annunciano un nuovo record mondiale per l'inferenza AI

At today's Xilinx Developer Forum in San Jose, Calif., our CEO, Victor Peng was joined by the AMD CTO Mark Papermaster for a Guinness. But not the kind that comes in a pint - the kind that comes in a record book. The companies revealed the AMD and Xilinx have been jointly working to connect AMD EPYC CPUs and the new Xilinx Alveo line of acceleration cards for high-performance, real-time AI inference processing. To back it up, they revealed a world-record 30,000 images per-second inference throughput!

L'impressionante sistema, che sarà presentato oggi nella zona dell'ecosistema Alveo di XDF, sfrutta due CPU server AMD EPYC 7551 con la sua connettività PCIe leader del settore, insieme a otto delle nuove schede di accelerazione Xilinx Alveo U250. Le prestazioni di inferenza sono basate su Xilinx ML Suite, che consente agli sviluppatori di ottimizzare e implementare inferenze accelerate e supporta numerosi framework di machine learning come TensorFlow. Il benchmark è stato eseguito su GoogLeNet, una rete neurale convoluzionale ampiamente utilizzata. AMD e Xilinx hanno condiviso una visione comune sull'evoluzione dell'informatica in un'architettura di sistema eterogenea e hanno una lunga storia di collaborazione tecnica. Entrambe le società hanno ottimizzato i driver e ottimizzato le prestazioni per l'interoperabilità tra le CPU AMD EPYC con FPGA Xilinx. Stiamo anche collaborando con altri operatori del settore sull'interconnessione coerente della cache per gli acceleratori (il consorzio CCIX - pronunciato 'vedi-sei'), incentrato sull'abilitazione della coerenza della cache e della memoria condivisa su più processori.

AMD EPYC è la piattaforma CPU perfetta per accelerare l'intelligenza artificiale e i carichi di lavoro di elaborazione ad alte prestazioni. Con 32 core, 64 thread, 8 canali di memoria con un massimo di 2 TB di memoria per socket e 128 corsie PCIe abbinate alla prima soluzione di sicurezza del server x86 integrata nell'hardware del settore, EPYC è progettata per offrire capacità di memoria, larghezza di banda e processore core per eseguire in modo efficiente carichi di lavoro ad alta intensità di memoria comunemente visti con AI e HPC. Con EPYC, i clienti possono raccogliere e analizzare set di dati più grandi molto più velocemente, aiutandoli ad accelerare in modo significativo problemi complessi.

Xilinx e AMD vedono un futuro brillante nella loro collaborazione tecnologica. C'è un forte allineamento nelle nostre tabelle di marcia che allineano il server AMD EPYC e i processori grafici ad alte prestazioni con le piattaforme di accelerazione Xilinx attraverso le sue schede acceleratore Alveo, così come il suo prossimo portafoglio Versal.

So, raise a pint to the future of AI inference and innovation for heterogeneous computing platforms. And don't forget to stop by and see the system in action in the Alveo ecosystem zone at the Fairmont hotel.