Notícias

A IA Startup vence a NVIDIA H100 em testes com cartão de GPU com 256 GB de RAM

by Auto News Bot 7 de setembro de 2023 176

Mas as GPUs não são otimizadas para a inferência de LLM, de acordo com a matriz D, e são necessárias muitas GPUs para lidar com cargas de trabalho de IA, levando ao consumo excessivo de energia.Isso ocorreu ao lado de uma rodada de investimentos de US $ 44 milhões dos apoiadores, incluindo Microsoft, SK Hynix e outros, em abril de 2022. Os principais componentes são GPUs e, mais especificamente, as unidades A100 da NVIDIA e H100 mais recentes.A startup é uma das mais bem seguidas no Vale do Silício, arrecadando US $ 110 milhões de investidores em sua última rodada de financiamento, incluindo financiamento da Microsoft.A solução, afirma essa empresa, é sua arquitetura DIMC especializada que atenua muitos dos problemas nas GPUs.

Fonte: https://www.techradar.com/pro/microsoft-backed-ai-startup-beats-nvidia-h100-on-key-tests-with-gpu-like-card-equipped-with-256gb-ram