Notícias

Intel Habana Gaudi vence o H100 da NVIDIA em modelos de IA em língua visual

by Auto News Bot 1 de setembro de 2023 209

Uma nova referência de desempenho de ajuste fina para Bridgetwer, um modelo de IA de linguagem de visão (VL), mostrou que há vida no campo de aceleração da IA que não seja o verde da Nvidia.As cargas de trabalho foram executadas em computação distribuída em 8 dispositivos cada (do A100 80 GB da NVIDIA, H100 e Gaudi 2).Enviaremos notícias de última hora e análises aprofundadas de CPUs, GPUs, AI, hardware fabricante e mais direto para sua caixa de entrada.Segundo Habana, as velocidades importantes são o resultado de um sistema de carregamento de dados acelerado por hardware-um dos gargalos para o ajuste fino do modelo de IA, e especialmente para modelos de VL.Seria possível gerar processos adicionais para lidar com carregamento de dados;Mas, como pode ser visto a partir da progressão do desempenho, essa estratégia traria retornos cada vez mais diminuindo.

Fonte: https://www.tomshardware.com/news/intel-habana-gaudi-beats-nvidias-h100-in-visual-language-ai-models-hugging-face