Notícias

A AMD não usou o software NVIDIA mais recente na comparação de palestras MI300x

by Auto News Bot 14 de dezembro de 2023 281

Quando perguntei a Mark Papermaster, AMD CTO, se sua empresa planejasse administrar esses benchmarks, Papermaster disse que publicaria Mlperf, mas não disse quando.Além disso, a AMD não aproveitou o software Tensorrt-Llm que a NVIDIA divulgou em setembro, dobrando o desempenho da inferência no LLMS, nem o mecanismo de inferência de Triton.Os resultados compartilhados não usaram o software otimizado, e o H100, se comparado corretamente, é 2x mais rápido em um tamanho de lote de 1. Enquanto o chip AMD parece bom e provavelmente será executado na maioria da caixa, a empresaNão usou o software NVIDIA mais rápido.Os resultados mais recentes, executados em software disponível muito antes da AMD preparar sua apresentação, dobraram o desempenho reivindicado pela AMD.

Fonte: https://www.forbes.com/sites/karlfreund/2023/12/13/breaking-amd-is-not-the-fastest-gpu-heres-the-real-data/